Искусственный интеллект против ухмыляющейся елки

[fonzeppelin]

Предыдущий пост об искусственном интеллекте вызвал бурную реакцию в стиле «да это все программисты налажали, задачи ставить не умеют». Ну что же, давайте посмотрим, как это делают профессионалы. Я надеюсь, все понимают, что в DARPA дилетантов не держат?

Цитата из анонсированной книги ««Four Battlegrounds: Power in the Age of Artificial Intelligence» (спасибо коллеге YouROKer за нее!) Приводятся цитаты одного из участников.

Чтобы улучшить свой алгоритм (идентификации людей — прим. переводчика) команда DARPA провела неделю на полигоне с группой морских пехотинцев. Шесть дней морпехи ходили вокруг робота, а инженеры оттачивали алгоритм узнавания людей. На седьмой день Фил сказал: «мы готовы.»

Теперь морпехи должны были попробовать победить искусственный интеллект. Робота поставили в центре кругового перекрестка, и задачей морпехов было подобраться к нему незамеченными, начиная со значительной дистанции. «Если любой морпех сумел бы пройти все это расстояние и дотронуться до робота, не будучи обнаруженным, то они побеждали. Я хотел посмотреть, что у них получится».

Морпехи выиграли со счетом восемь-ноль: ни один из них не был обнаружен роботом. Они победили искусственный интеллект не за счет традиционного камуфляжа, а при помощи хитроумных уловок — которые оказались вне компетенции ИскИна. Двое кувыркались все триста метров пути; система их не заметила. Двое спрятались под большой картонной коробкой; можно было слышать их хихиканье. Как Багз Банни в млуьтиках «Looney Tunes», прокрадывается мимо Элмера Фудда под картонной коробкой.

 «Один парень, мой фаворит», рассказал Фил, «ободрал росшую на полигоне елку, и ходил в ветках, как ель. Все, что можно было различить, так это его улыбку».

Искусственный интеллект был обучен различать идущих людей — но не людей кувыркающихся, прячущихся в картонных коробках, и уж точно не ходячие елки. Так что этих простых трюков, которые мгновенно бы распознал живой охранник, вполне хватило, чтобы сломать алгоритм.

Оригинал текста)

Comments

[unklemike.livejournal.com]

То что сделал Термен, скорее всего работало на ёмкостном принципе.

[georg-pik.livejournal.com]

Конечно. Но и извещатели 1922 года, и современные работают по принципу "запоминания" нормальной обстановки и реагирования на изменения. А вовсе не запоминания параметров человека. Если бы искусственный интелект точно так же изучал окружающую обстановку — его движущая елка не обманула бы.

[unklemike.livejournal.com]

Разница в том, что обмануть законы физики невозможно, а вот робота, который пытается вести себя как человек — как два пальца.

[georg-pik.livejournal.com]

На инфракрасные извещатели надевают бумажные пакетики, акустические заклеивают жвачкой. Извещателям с электрическим полем мешают рядом расположенные кабели.

[john-jack.livejournal.com]

Это способы испортить датчик, а не обмануть его. Также маленький нюанс: чтобы датчик испортить, к нему надо сначала подобраться.

[georg-pik.livejournal.com]

Извещатель остается абсолютно исправен. Эти примеры — из практики успешных краж.