Искусственный интеллект против ухмыляющейся елки

[fonzeppelin]

Предыдущий пост об искусственном интеллекте вызвал бурную реакцию в стиле «да это все программисты налажали, задачи ставить не умеют». Ну что же, давайте посмотрим, как это делают профессионалы. Я надеюсь, все понимают, что в DARPA дилетантов не держат?

Цитата из анонсированной книги ««Four Battlegrounds: Power in the Age of Artificial Intelligence» (спасибо коллеге YouROKer за нее!) Приводятся цитаты одного из участников.

Чтобы улучшить свой алгоритм (идентификации людей — прим. переводчика) команда DARPA провела неделю на полигоне с группой морских пехотинцев. Шесть дней морпехи ходили вокруг робота, а инженеры оттачивали алгоритм узнавания людей. На седьмой день Фил сказал: «мы готовы.»

Теперь морпехи должны были попробовать победить искусственный интеллект. Робота поставили в центре кругового перекрестка, и задачей морпехов было подобраться к нему незамеченными, начиная со значительной дистанции. «Если любой морпех сумел бы пройти все это расстояние и дотронуться до робота, не будучи обнаруженным, то они побеждали. Я хотел посмотреть, что у них получится».

Морпехи выиграли со счетом восемь-ноль: ни один из них не был обнаружен роботом. Они победили искусственный интеллект не за счет традиционного камуфляжа, а при помощи хитроумных уловок — которые оказались вне компетенции ИскИна. Двое кувыркались все триста метров пути; система их не заметила. Двое спрятались под большой картонной коробкой; можно было слышать их хихиканье. Как Багз Банни в млуьтиках «Looney Tunes», прокрадывается мимо Элмера Фудда под картонной коробкой.

 «Один парень, мой фаворит», рассказал Фил, «ободрал росшую на полигоне елку, и ходил в ветках, как ель. Все, что можно было различить, так это его улыбку».

Искусственный интеллект был обучен различать идущих людей — но не людей кувыркающихся, прячущихся в картонных коробках, и уж точно не ходячие елки. Так что этих простых трюков, которые мгновенно бы распознал живой охранник, вполне хватило, чтобы сломать алгоритм.

Оригинал текста)

Comments

[ladycat65.livejournal.com]

Обычный средний человек (взрослый, не кретин) ЗНАЕТ, что ни картонные коробки, ни ёлки сами по себе перемещаться не могут. Поэтому такое вот чудо, появившееся в поле зрения, сразу же вызовет подозрения, а то и предупредительную автоматную очередь. У ИИ НЕТ БЭКГРАУНДА. ИИ не научили, что в конкретной ситуации может появиться случайно, а что свидетельствует о какой-то подставе. Именно поэтому ИИ ничтоже сумняшеся распознает пятнистый диван в гостиной как леопарда, а человек, даже если на диване будет на самом деле лежать леопард, сначала как следует присмотрится, и только потом выдвинет предположение о крупном хищнике. Именно потому что леопард — крайне необычный для средней гостиной предмет, и мозг не верит глазам, требует дополнительной информации. Чаще всего это на самом деле оказывается всего лишь пятнистый диван.