Искусственный интеллект против ухмыляющейся елки

[fonzeppelin]

Предыдущий пост об искусственном интеллекте вызвал бурную реакцию в стиле «да это все программисты налажали, задачи ставить не умеют». Ну что же, давайте посмотрим, как это делают профессионалы. Я надеюсь, все понимают, что в DARPA дилетантов не держат?

Цитата из анонсированной книги ««Four Battlegrounds: Power in the Age of Artificial Intelligence» (спасибо коллеге YouROKer за нее!) Приводятся цитаты одного из участников.

Чтобы улучшить свой алгоритм (идентификации людей — прим. переводчика) команда DARPA провела неделю на полигоне с группой морских пехотинцев. Шесть дней морпехи ходили вокруг робота, а инженеры оттачивали алгоритм узнавания людей. На седьмой день Фил сказал: «мы готовы.»

Теперь морпехи должны были попробовать победить искусственный интеллект. Робота поставили в центре кругового перекрестка, и задачей морпехов было подобраться к нему незамеченными, начиная со значительной дистанции. «Если любой морпех сумел бы пройти все это расстояние и дотронуться до робота, не будучи обнаруженным, то они побеждали. Я хотел посмотреть, что у них получится».

Морпехи выиграли со счетом восемь-ноль: ни один из них не был обнаружен роботом. Они победили искусственный интеллект не за счет традиционного камуфляжа, а при помощи хитроумных уловок — которые оказались вне компетенции ИскИна. Двое кувыркались все триста метров пути; система их не заметила. Двое спрятались под большой картонной коробкой; можно было слышать их хихиканье. Как Багз Банни в млуьтиках «Looney Tunes», прокрадывается мимо Элмера Фудда под картонной коробкой.

 «Один парень, мой фаворит», рассказал Фил, «ободрал росшую на полигоне елку, и ходил в ветках, как ель. Все, что можно было различить, так это его улыбку».

Искусственный интеллект был обучен различать идущих людей — но не людей кувыркающихся, прячущихся в картонных коробках, и уж точно не ходячие елки. Так что этих простых трюков, которые мгновенно бы распознал живой охранник, вполне хватило, чтобы сломать алгоритм.

Оригинал текста)

Comments

[antonkachinskiy.livejournal.com]

Научат и жульничать ;) Или сами научаться !

[john-jack.livejournal.com]

Для этого нужны датчики, манипуляторы, и калибровка тонкой грани между жульничаньем и хамством. С робота станется перевернуть доску и записать себе победу по положению упавших фигур.

[antonkachinskiy.livejournal.com]

А есть причины что этого нельзя сделать ? Нет — и ладно ;)

[john-jack.livejournal.com]

Есть причина: не по правилам. Есть причина: игрока за такое побьют и с турнира выгонят. Есть причина: желаемый результат не выполнен.

[antonkachinskiy.livejournal.com]

Ну вот представим вы привели своего ребенка на поле. И сказали — мы будем играть в интересную игру! Твоя задача чтобы солдаты к тебе не подкрались.

Хорошо сказал ребенок — папа, а кто такие солдаты? Вы показали солдат. Он спросил а что значит подкрались? Вы показали.

После чего начали играть. Солдат в коробке подошел к ребенку. И кувыркающийся солдат подошел к ребенку.

Вы сказали что он проиграл. А ребенок говорит, что нет. Ведь эти дяди играли в совсем другую игру , а не ту что вы показывали.

Они кувыркались и бегали в коробках, а значит играли в другую игру!

Вы заплакали и поняли что у вашего ребенка интелекту нет :( Или не заплакали ? ;)

[john-jack.livejournal.com]

Ребёнок с интеллектом уровня "мама, фто это было?!" (спойлер: море). Одно из свойств интеллекта — воображение. Способность представить то, чего нет, но что могло бы быть. Вдруг солдат начнёт двигаться иначе? Ещё свойство — рефлексия. Постоянные вопросы "а не дурак ли я" и "не солдат ли та странная коробка".

[antonkachinskiy.livejournal.com]

Ну так — это же не проявляется сразу? А даже у человека требует развития и обучения.

Ну вот и создание ИИ сейчас находиться на довольно раннем этапе. Но уже и сейчас достижения довольно велики.

[john-jack.livejournal.com]

Любопытство у человека как раз встроенное. Даже младенец лезет совать пальцы в розетку, не зная ещё что такое "розетка", "пальцы" и "током ёбнет". Машина же тупа и ленива, она делает лишь по приказу. Для имитации разума ей нужен как минимум генератор случайностей. Который есть у несчастного пылесоса, оттого тот больше похож на живое, чем типа умные роботы.

[antonkachinskiy.livejournal.com]

Далеко не у всех :) Но и это можно запрограммировать !

[john-jack.livejournal.com]

Без этого люди даже ходить-говорить не учатся. Это потом многим семья и школа всё любопытство отбивают.
Вот когда запрограммируют, тогда поговорим.

[antonkachinskiy.livejournal.com]

Так уже много чего программируют :)

[waryag72.livejournal.com]

Только не факт, что ИИ начнет жульничать именно там, где нам хочется )

[antonkachinskiy.livejournal.com]

Потому что он интеллект — и кто знает что ему в голову придет :)