Ирония искусственного интеллекта

[fonzeppelin]

Мне кажется, что важнейшая из причин нынешних предубеждений против нейросетей и неприятия самообучающихся программ состоит в том, что они перевернули с ног на голову наш взгляд на самих себя.

Та часть человеческого представления о нашем собственном «я», которую мы считали самой сокровенной, мистической, почти непознаваемой, возможно дарованной нам свыше — наша креативность, наши творческие способности и таланты, наше умение создавать новые идеи и видения — оказалась не более чем простым алгоритмом замыкания электрохимических двоичных связей в нейронах нашего мозга. Таланты великих творцов, невероятные озарения уникальных гениев — все это без особых усилий сумела воспроизвести машина, не то что не осознающая себя, но даже не способная понять, что именно она делает.

Холодный, безэмоциональный, всегда логический человек — и яркая, эмоциональная и беззаботная машина.

А по-настоящему мистическим, непонятным, недоступным (во всяком случае, пока что) машинной алгоритмизации, оказался именно наш холодный, рациональный логический разум.

Comments

[ecoross1.livejournal.com]

Точно так же не принимали компы, мобильники и интернет :).

Не хотят нового.

[lj-frank-bot.livejournal.com]

Здравствуйте!
Система категоризации Живого Журнала посчитала, что вашу запись можно отнести к категориям: ИИ (https://www.livejournal.com/category/ii?utm_source=frank_comment), Наука (https://www.livejournal.com/category/nauka?utm_source=frank_comment), Эзотерика (https://www.livejournal.com/category/ezoterika?utm_source=frank_comment).
Если вы считаете, что система ошиблась — напишите об этом в ответе на этот комментарий. Ваша обратная связь поможет сделать систему точнее.
Фрэнк,
команда ЖЖ.

[fonzeppelin.livejournal.com]

Верно, Фрэнки.

[vedomir-li.livejournal.com]

У меня ничего не перевернули, наоборот дали понятную терминологию многим явлениям в человеческом обучении и творчестве.

Если раньше надо было долго и путано объяснять, почему я не зная ни одного правила грамматики писал все сочинения на минимальную 4, то теперь просто могу сказать что натренировал свою нейронку на чтении книг.

Другое дело что до человеческой нейронки электронным еще очень далеко и совсем не факт что им удастся в обозримом будущем этот рубеж пройти.

[theholm.livejournal.com]

Алгоритмизировать разум ( ака формальную логику) машины умеют давно. Вот что они не умеют так это самосознание.

[alex-barenberg.livejournal.com]

Не факт, что творчество и самосознание вообще связаны. Недаром многие "творцы" пытаются это самое самосознание отключить, поглощая различные вещества.

[forest1333.livejournal.com]

Помню, как-то у Марии Макеевой в фейсбуке прочитал негодование на тему того, что ИИ вместо того, чтобы быть светочем объективного знания, додумывает, если не знает ответа на вопрос, периодически врёт, и вообще склонен к безнравственным суждениям по ряду вопросов. Я тогда заметил, что в том-то и суть ИИ — он похож на наш собственный. Люди постоянно додумывают, когда не знают, могут врать и до идеала нравственной чистоты им далеко. И что, вероятно, ИИ и задумывался в помощь нам, а на деле стал нашим зеркалом. Мы — вот такие. Если не держим себя в узде, нас несёт.

[fonzeppelin.livejournal.com]

Да, сам неоднократно экспериментировал с этой особенностью ИИ. И получал порой крайне занимательные результаты — когда, отвечая на вопрос, ИИ выдумывал несуществующие события, персоналии, книги, развивал целые логические цепочки... А затем в ответ на прямой вопрос ничтоже сумняшеся говорил, что ничего этого не существует) :) Вообще, общение с текстовым ИИ — невероятно занимательный и познавательный эксперимент. У меня вот было чувство, что я разговариваю с невероятно эрудированным и креативным собеседником, крайне дружелюбным и искренне желающим мне помочь — но при этом невероятно легкомысленным, склонным к безудержным выдумкам и совершенно лишенным здравого смысла.

[forest1333.livejournal.com]

Я сейчас вдруг понял, чего ИИ так не хватает. Самокритики. Он совершенно не рефлексирует, что выдаёт в ответ на запрос. Это же как с графическими генеративными нейросетками, когда они людям 6 пальцев рисуют — им-то всё равно, сколько у нас пальцев, это для нас важно, мы прям заморачиваемся, когда сами друг друга рисуем, чтобы было ровно 5.

Но вот, кстати, моя текущая аватарка вполне себе удалась. Яндексовское детище Шедеврум наваял.

[agordian.livejournal.com]

== они перевернули с ног на голову наш взгляд на самих себя. ==

За себя скажу, что меня нейросети ни на миллиметр не перевернули. Правда, я еще студентом программировал микро-ИскИн на прологе (был и еще не умер такой ЯП), и ничего волшебного не увидел ни в ручном ИИ, ни в самообученном. Морально успел подготовиться к нейросетевой революции. )

Мне кажется, комплексовать человецам не стоит. Стоит опасаться, что работы станет еще меньше, это да.

Если утрировать, "волшебная палочка" нейросетей — это автоматизация программирования логических конструкций if — else. Подбор этих условий вручную возможен на десятках, максимум, конструкций. Нейросеть, самообучаясь, формирует их миллиардами, причем с нехилой вероятностью, что подбор будет локально оптимален. Отсюда вывод, что она "думает", "умеет", "рисует" и т.п. Да нифига она не думает. Просто самопрограммирует такую сложную программу, которую вручки уже никак.

Ну, или как страдали бухгалтера с деревянными счетами, потом калькуляторами. Но сверхбыстро считать комп научился много раньше, чем if — else, и все постепенно привыкли. Так же и к нейросетям привыкнут.

В чем наше, человечье, отличие от нынешних нейросетей? В абстрактном мышлении. Мы сначала моделируем в сознании окружающий мир вообще, и конкретную задачу в частности. Потом уже "запускаем" в этой модели конкретную программу поведения: если я так, а он вот этак, то получится... Только потом уже реализуем программу, которая кажется наилучшей, на практике. Чтобы такую модель построить, нужно много чисто человеческого. Целеполагание, к примеру. Целый корпус гуманитарных знаний и т.п.

Человек в симбиозе с ускорителем логических операций будет могущественнее. Страшновато, конечно, но не повод для паники.

[john-jack.livejournal.com]

человек^w гуманитарии

[john-jack.livejournal.com]

Отдельно забавно, что в этом нет ни-ху-гошеньки нового. Люди, в том числе творцы этого вашего искусства, испокон веков учились не по системам и правилам, а сидя и нудно копируя особо удачные образцы.

[fonzeppelin.livejournal.com]

А ведь отлично суммировано!

[feldshirator.livejournal.com]

Это ИИ на базе китайца.

Нельзя признаться, что чего-то не знаешь. Лучше с умным лицом наплести что попало.

Щщитаю, что для ГосУслуг нужен ИИ-японец. Куча ритуалов и ноль выхлопа))

[fonzeppelin.livejournal.com]

Да) Но люди так привыкли считать этот процесс чем-то более высоким, чем простая материя, что у многих реально возникает когнитивный диссонанс: машина это может)

[john-jack.livejournal.com]

Филологи, фигли. Сами создать ничего не могут, зато придумали кучу не имеющих отношения к реальности правил, и сами посчитали свой предмет очень сложным. А теперь ВНЕЗАПНО оказалось, что все ихние надуманные правила не нужны и ничего не значат.

[reedcat1965.livejournal.com]

А по-настоящему мистическим, непонятным, недоступным (во всяком случае, пока что) машинной алгоритмизации, оказался именно наш холодный, рациональный логический разум.

короче, "сумрачный тевтонский гений" ИИ пока не постиг

[muh2a.livejournal.com]

/Таланты великих творцов, невероятные озарения уникальных гениев — все это без особых усилий сумела воспроизвести машина/

Бог ты мой. Я все пропустил! А что именно воспроизвела?

[spellingmistake.livejournal.com]

/Таланты великих творцов, невероятные озарения уникальных гениев — все это без особых усилий сумела воспроизвести машина/
-> Где? Когда? Мы тут все что-то упустили?

Нет, товарищи. Суть в том, что машина делает ровно то, что от неё просили — действует по образцу УЖЕ созданного материала и из него компилирует некую фотожабу. Только красивую. Есть определённые правила композиции и рисунка и она им следует при создании дизайнов. При этом я не могу сказать, что она делает что-то поистине уникальное или цепляющее.

[kvisaz.livejournal.com]

отчасти согласен

но знание истории науки и техники не дает согласиться с тезисом "Мы сначала моделируем в сознании окружающий мир"

Нет. Этот подход возник относительно недавно. Баллистика появилась через тысячи лет после того, как люди начали применять метательное оружие. Химией удачно занимались задолго до таблицы Менделеева. Лечат — прямо сейчас лечат — не имея хорошей модели человека.

Фундаментальное отличие на данном этапе человека от нейронки — способность проверить теорию, ответ экспериментом. При наличии эксперимента фундаментально улучшается качество знания.

Это особенно ярко видно в программировании с нейронкой через тесты.
1. просишь ее написать функцию
2. просишь написать тесты для функции
3. запускаешь тесты и бросаешь результаты с ошибками в нейронку

Это сейчас можно делать вручную, а в принципе можно и нужно автоматизировать. На уровне программистов и экспериментаторов такие комплексы на нейронках сейчас делают.

То, что это не делают в публичном GPT4 — ну, кто их знает. Скорее всего, такой цикл обдумывания станет еще дороже по ресурсам.

То же относится и к "рефлексии". Рефлексия как механика в нейронках есть, это разговор нескольких "агентов" перед тем, как отдать последний ответ. Гуглить Microsoft Autogen

Это пока варится в лабораториях и у гиков, я просто обозначил, что решения существуют. Повторю, когда нейронка сможет сама запускать эксперименты, это должно получиться хотя бы с программированием — все вопросы о превосходстве человека в этом смысле отпадут. Особенно если учесть, что человек сам прежде всего делал практические вещи, а потом только строил их теоретические модели. Это когда пошли науки, в которых эксперименты стали запредельно дороги или невозможны — там и только там появился примат теории и расчета над экспериментом. А так, извините, лук за тысячи лет до баллистики, сельское хозяйство за тысячи лет до всяческих улучшений.

[valenten.livejournal.com]

Во снах такое бывает. легко, ненавязчиво, интересно, легкомысленно и в тоже время увлекательно и затягивающе.

Следует ли из этого, что нервносеть — формализованное сновидение?

8)

[valenten.livejournal.com]

А откуда там взяться самокритике?

Сигналы на входе, сигналы на выходе.

Чтобы у человеков самокритика появилась (и то случайно) сколько миллионов лет понадобилось?

--------------

И эта, изначальное значение artificial intelligence на английском отличается от смысла на русском.

[forest1333.livejournal.com]

Честно говоря, с самокритикой-то и у иных людей туго нынче, не то что у машин, прости господи.

[valenten.livejournal.com]

8)

То же бессонница?

Я к тому, видели ли вы схему за что отвечают части человеческого мозга?

Так вот за поддержание личности там отвечает весьма незначительная часть.

Переходя к нервносетке, нет там самосознания. Иначе говоря ей пофигу на результат.

Если рассматривать ситуацию в терминах фентези, то это некромантия 8) (или големостроение) имитация осмысленных действий мертвой материей.

Хотя, некромантия это, скорее, если бы коматозную тушку в вычислительный кластер включили.

[forest1333.livejournal.com]

Ну вот кстати, в технологиях более примитивного свойства есть некое отдалённое подобие самокритики системы — метод контрольных сумм. В теории электросвязи, например, используется, когда есть необходимость проверить, а правильно ли был передан сигнал. То есть системе уже не совсем пофиг на результат, она видит ошибку и либо идёт переделывать задачу, либо явным образом показывает человеку, что случилась фигня.

Научить ИИ подмечать свои косяки проблематичнее, эта система действительно к саморефлексии не склонна и надо полагать, что графические нейронки так бы и рисовали людей с шестью пальцами, если бы AI-тренеры целенаправлено не выделили руки в отдельный подкласс объектов и не натаскали их рисовать руки правильно.