Ирония искусственного интеллекта

[fonzeppelin]

Мне кажется, что важнейшая из причин нынешних предубеждений против нейросетей и неприятия самообучающихся программ состоит в том, что они перевернули с ног на голову наш взгляд на самих себя.

Та часть человеческого представления о нашем собственном «я», которую мы считали самой сокровенной, мистической, почти непознаваемой, возможно дарованной нам свыше — наша креативность, наши творческие способности и таланты, наше умение создавать новые идеи и видения — оказалась не более чем простым алгоритмом замыкания электрохимических двоичных связей в нейронах нашего мозга. Таланты великих творцов, невероятные озарения уникальных гениев — все это без особых усилий сумела воспроизвести машина, не то что не осознающая себя, но даже не способная понять, что именно она делает.

Холодный, безэмоциональный, всегда логический человек — и яркая, эмоциональная и беззаботная машина.

А по-настоящему мистическим, непонятным, недоступным (во всяком случае, пока что) машинной алгоритмизации, оказался именно наш холодный, рациональный логический разум.

Comments

[ecoross1.livejournal.com]

Точно так же не принимали компы, мобильники и интернет :).

Не хотят нового.

[lj-frank-bot.livejournal.com]

Здравствуйте!
Система категоризации Живого Журнала посчитала, что вашу запись можно отнести к категориям: ИИ (https://www.livejournal.com/category/ii?utm_source=frank_comment), Наука (https://www.livejournal.com/category/nauka?utm_source=frank_comment), Эзотерика (https://www.livejournal.com/category/ezoterika?utm_source=frank_comment).
Если вы считаете, что система ошиблась — напишите об этом в ответе на этот комментарий. Ваша обратная связь поможет сделать систему точнее.
Фрэнк,
команда ЖЖ.

[fonzeppelin.livejournal.com]

Верно, Фрэнки.

[vedomir-li.livejournal.com]

У меня ничего не перевернули, наоборот дали понятную терминологию многим явлениям в человеческом обучении и творчестве.

Если раньше надо было долго и путано объяснять, почему я не зная ни одного правила грамматики писал все сочинения на минимальную 4, то теперь просто могу сказать что натренировал свою нейронку на чтении книг.

Другое дело что до человеческой нейронки электронным еще очень далеко и совсем не факт что им удастся в обозримом будущем этот рубеж пройти.

[john-jack.livejournal.com]

Отдельно забавно, что в этом нет ни-ху-гошеньки нового. Люди, в том числе творцы этого вашего искусства, испокон веков учились не по системам и правилам, а сидя и нудно копируя особо удачные образцы.

[theholm.livejournal.com]

Алгоритмизировать разум ( ака формальную логику) машины умеют давно. Вот что они не умеют так это самосознание.

[vladicusmagnus.livejournal.com]

*в сторону* Не то что бы это большая потеря...

[alex-barenberg.livejournal.com]

Не факт, что творчество и самосознание вообще связаны. Недаром многие "творцы" пытаются это самое самосознание отключить, поглощая различные вещества.

[forest1333.livejournal.com]

Помню, как-то у Марии Макеевой в фейсбуке прочитал негодование на тему того, что ИИ вместо того, чтобы быть светочем объективного знания, додумывает, если не знает ответа на вопрос, периодически врёт, и вообще склонен к безнравственным суждениям по ряду вопросов. Я тогда заметил, что в том-то и суть ИИ — он похож на наш собственный. Люди постоянно додумывают, когда не знают, могут врать и до идеала нравственной чистоты им далеко. И что, вероятно, ИИ и задумывался в помощь нам, а на деле стал нашим зеркалом. Мы — вот такие. Если не держим себя в узде, нас несёт.

[fonzeppelin.livejournal.com]

Да, сам неоднократно экспериментировал с этой особенностью ИИ. И получал порой крайне занимательные результаты — когда, отвечая на вопрос, ИИ выдумывал несуществующие события, персоналии, книги, развивал целые логические цепочки... А затем в ответ на прямой вопрос ничтоже сумняшеся говорил, что ничего этого не существует) :) Вообще, общение с текстовым ИИ — невероятно занимательный и познавательный эксперимент. У меня вот было чувство, что я разговариваю с невероятно эрудированным и креативным собеседником, крайне дружелюбным и искренне желающим мне помочь — но при этом невероятно легкомысленным, склонным к безудержным выдумкам и совершенно лишенным здравого смысла.

[agordian.livejournal.com]

== они перевернули с ног на голову наш взгляд на самих себя. ==

За себя скажу, что меня нейросети ни на миллиметр не перевернули. Правда, я еще студентом программировал микро-ИскИн на прологе (был и еще не умер такой ЯП), и ничего волшебного не увидел ни в ручном ИИ, ни в самообученном. Морально успел подготовиться к нейросетевой революции. )

Мне кажется, комплексовать человецам не стоит. Стоит опасаться, что работы станет еще меньше, это да.

Если утрировать, "волшебная палочка" нейросетей — это автоматизация программирования логических конструкций if — else. Подбор этих условий вручную возможен на десятках, максимум, конструкций. Нейросеть, самообучаясь, формирует их миллиардами, причем с нехилой вероятностью, что подбор будет локально оптимален. Отсюда вывод, что она "думает", "умеет", "рисует" и т.п. Да нифига она не думает. Просто самопрограммирует такую сложную программу, которую вручки уже никак.

Ну, или как страдали бухгалтера с деревянными счетами, потом калькуляторами. Но сверхбыстро считать комп научился много раньше, чем if — else, и все постепенно привыкли. Так же и к нейросетям привыкнут.

В чем наше, человечье, отличие от нынешних нейросетей? В абстрактном мышлении. Мы сначала моделируем в сознании окружающий мир вообще, и конкретную задачу в частности. Потом уже "запускаем" в этой модели конкретную программу поведения: если я так, а он вот этак, то получится... Только потом уже реализуем программу, которая кажется наилучшей, на практике. Чтобы такую модель построить, нужно много чисто человеческого. Целеполагание, к примеру. Целый корпус гуманитарных знаний и т.п.

Человек в симбиозе с ускорителем логических операций будет могущественнее. Страшновато, конечно, но не повод для паники.

[kvisaz.livejournal.com]

отчасти согласен

но знание истории науки и техники не дает согласиться с тезисом "Мы сначала моделируем в сознании окружающий мир"

Нет. Этот подход возник относительно недавно. Баллистика появилась через тысячи лет после того, как люди начали применять метательное оружие. Химией удачно занимались задолго до таблицы Менделеева. Лечат — прямо сейчас лечат — не имея хорошей модели человека.

Фундаментальное отличие на данном этапе человека от нейронки — способность проверить теорию, ответ экспериментом. При наличии эксперимента фундаментально улучшается качество знания.

Это особенно ярко видно в программировании с нейронкой через тесты.
1. просишь ее написать функцию
2. просишь написать тесты для функции
3. запускаешь тесты и бросаешь результаты с ошибками в нейронку

Это сейчас можно делать вручную, а в принципе можно и нужно автоматизировать. На уровне программистов и экспериментаторов такие комплексы на нейронках сейчас делают.

То, что это не делают в публичном GPT4 — ну, кто их знает. Скорее всего, такой цикл обдумывания станет еще дороже по ресурсам.

То же относится и к "рефлексии". Рефлексия как механика в нейронках есть, это разговор нескольких "агентов" перед тем, как отдать последний ответ. Гуглить Microsoft Autogen

Это пока варится в лабораториях и у гиков, я просто обозначил, что решения существуют. Повторю, когда нейронка сможет сама запускать эксперименты, это должно получиться хотя бы с программированием — все вопросы о превосходстве человека в этом смысле отпадут. Особенно если учесть, что человек сам прежде всего делал практические вещи, а потом только строил их теоретические модели. Это когда пошли науки, в которых эксперименты стали запредельно дороги или невозможны — там и только там появился примат теории и расчета над экспериментом. А так, извините, лук за тысячи лет до баллистики, сельское хозяйство за тысячи лет до всяческих улучшений.

[john-jack.livejournal.com]

человек^w гуманитарии

[reedcat1965.livejournal.com]

А по-настоящему мистическим, непонятным, недоступным (во всяком случае, пока что) машинной алгоритмизации, оказался именно наш холодный, рациональный логический разум.

короче, "сумрачный тевтонский гений" ИИ пока не постиг

[vladicusmagnus.livejournal.com]

И радуйся. Ибо первая мысля будет "а нахер вы такие нужны?" )))

[muh2a.livejournal.com]

/Таланты великих творцов, невероятные озарения уникальных гениев — все это без особых усилий сумела воспроизвести машина/

Бог ты мой. Я все пропустил! А что именно воспроизвела?

[spellingmistake.livejournal.com]

/Таланты великих творцов, невероятные озарения уникальных гениев — все это без особых усилий сумела воспроизвести машина/
-> Где? Когда? Мы тут все что-то упустили?

Нет, товарищи. Суть в том, что машина делает ровно то, что от неё просили — действует по образцу УЖЕ созданного материала и из него компилирует некую фотожабу. Только красивую. Есть определённые правила композиции и рисунка и она им следует при создании дизайнов. При этом я не могу сказать, что она делает что-то поистине уникальное или цепляющее.

[brazo-largo.livejournal.com]

Большая часть творцов делает тоже — повторяет уже созданное искажая призмой своего восприятия.

[vapetrov-vodkin.livejournal.com]

Всё идёт к тому что всевозможных белых воротничков и манагеров системы так называемого Искусственного интеллекта заменят куда быстрее чем синих воротников и банальных работяг. Будет забавное время когда так называемый верхний 1% обнаружит себя на улице раньше чем своих подчинённых.

[reedcat1965.livejournal.com]

ну да, менять смесители и тянуть кабели ИИ научится значительно позже (если вообще научится), чем выдавать ЦУ персоналу

[antonkachinskiy.livejournal.com]

Я бы сказал что больше всего возбухают те кто ИЗОБРАЖАЕТ творчество ;)

[am210.livejournal.com]

Можно узнать, какие "новые идеи и видения" создал AI?

[thagastan.livejournal.com]

Ну, жду попробовать Q*.
По слухам он должен решать математические задачи, пока школьного курса.
Приготовил бумажные задачники Киселева (дореволюционного) и Моденова.
Если справится — это шаг именно к логике и числам.

[freedom_of_sea.livejournal.com]

школьные задачки решает уже полгода

[lazy-flyer.livejournal.com]

все это без особых усилий сумела воспроизвести

Именно — воспроизвести. Не создать, а повторить. Скомпилировать из уже созданного.

Что бы говорить о разуме, нужно сначала определить — что это такое?

[vladicusmagnus.livejournal.com]

Оу, встречный вопрос, а что создали конкретно ВЫ? Ничего. Максимум скомпилировали парочку-тройку удачных примеров. И всё. Вот такая вот фигня. И нет, со мной — та же хисторь.

[v-otaku.livejournal.com]

Нет там творчества, и фиг знает, когда еще будет.

[lx-photos.livejournal.com]

Сиськи - этапять.

[john-jack.livejournal.com]

…иногда шесть-семь.

[shwed.livejournal.com]

[karpion.livejournal.com]

То, что машина смогла воспроизвести уже сделанные достижения людей, как бы не очень круто.

[y-a-noname.livejournal.com]

Не надо страдать синдромом поиска глубинного смысла. Причина "нынешних предубеждений против нейросетей и неприятия самообучающихся программ" заключается всего лишь в том, что из-за них многие потеряют работу.

[john-jack.livejournal.com]

Не "всего лишь". Гораздо более многие из-за нейросетей потеряют другую сторону: возможность получить хороший результат работы, даже оплаченной. Прямо сейчас ты идёшь в гугл и вместо информации (или честного её отсутствия) получаешь забитый туда мусор. Даже не токсичный, а совершенно пресный.

[antontsau.livejournal.com]

Думать машина так и не научилась. А вот срать потоками в разные стороны всяким желтеньким в цветочек по образцам, не запариваясь мелкой фигней типа количества пальцев, рук, ног и буков, это вполне получилось. Не приходя в сознание, напрочь у этой машины отсутствующее. Отчего всем слизнегадоидным тваааааарцам, до того гордо клепавшим подобное такими же потоками, обидно до прогорания стула, им же четко и безоговорочно показали их место на этой планете, примерно между процессором и радиатором, навроде жиденького говна термопасты.

А ведь когда еще про "портрет художника" писалось. Нет, все фигня, мы Тваааарцы! Человеки! СоздаемЪ! Не то что какие-то там автоматические рисовальщики, тьфу, бездушная железяка, и не какие-то масложопые анженеры-механики со своими унылыми математиками, физиками и гайками, вот же гадость-то какая, зачем меня только в школе всей этой хренью мучили.

[strannik1.livejournal.com]

И чо там с пальцами?
Четыре?
Три?
Или шесть, как ног у паука? ;)

НИЧЕГО НОВОГО ЧатГопоты пока не создали. Нарезали из имеющегося — да. Показали что "гуманитаризм" с компиляциями из Маркса-Энгельса , Библии, трудов Греты или Моей Борьбы — нарезать могут. Ну пускай Марс терроформируют тогда.