Искусственный интеллект против ухмыляющейся елки

[fonzeppelin]

Предыдущий пост об искусственном интеллекте вызвал бурную реакцию в стиле «да это все программисты налажали, задачи ставить не умеют». Ну что же, давайте посмотрим, как это делают профессионалы. Я надеюсь, все понимают, что в DARPA дилетантов не держат?

Цитата из анонсированной книги ««Four Battlegrounds: Power in the Age of Artificial Intelligence» (спасибо коллеге YouROKer за нее!) Приводятся цитаты одного из участников.

Чтобы улучшить свой алгоритм (идентификации людей — прим. переводчика) команда DARPA провела неделю на полигоне с группой морских пехотинцев. Шесть дней морпехи ходили вокруг робота, а инженеры оттачивали алгоритм узнавания людей. На седьмой день Фил сказал: «мы готовы.»

Теперь морпехи должны были попробовать победить искусственный интеллект. Робота поставили в центре кругового перекрестка, и задачей морпехов было подобраться к нему незамеченными, начиная со значительной дистанции. «Если любой морпех сумел бы пройти все это расстояние и дотронуться до робота, не будучи обнаруженным, то они побеждали. Я хотел посмотреть, что у них получится».

Морпехи выиграли со счетом восемь-ноль: ни один из них не был обнаружен роботом. Они победили искусственный интеллект не за счет традиционного камуфляжа, а при помощи хитроумных уловок — которые оказались вне компетенции ИскИна. Двое кувыркались все триста метров пути; система их не заметила. Двое спрятались под большой картонной коробкой; можно было слышать их хихиканье. Как Багз Банни в млуьтиках «Looney Tunes», прокрадывается мимо Элмера Фудда под картонной коробкой.

 «Один парень, мой фаворит», рассказал Фил, «ободрал росшую на полигоне елку, и ходил в ветках, как ель. Все, что можно было различить, так это его улыбку».

Искусственный интеллект был обучен различать идущих людей — но не людей кувыркающихся, прячущихся в картонных коробках, и уж точно не ходячие елки. Так что этих простых трюков, которые мгновенно бы распознал живой охранник, вполне хватило, чтобы сломать алгоритм.

Оригинал текста)

Comments

[georg-pik.livejournal.com]

Термен в 1922 году демонстрировал Ленину первый электронный охранный извещатель. Один из присутствующих решил закутавшись в шубу попытался подобраться к извещателю незамеченным — не получилось. В некоторых источниках утверждается, что это был Сталин.

[unklemike.livejournal.com]

Но извещатель реагировал на изменение ёмкости, путём внедрения в него человека, пускай даже и Сталина.
То есть действовал на фундаментальных физических законах. А робот пытается себя вести как человек.

[igor-sabadah.livejournal.com]

Изначально задание было задано неправильно.

[fonzeppelin.livejournal.com]

Угумс, агамс, в DARPA ну такие дилетанты...

[shkslj.livejournal.com]

Сервиторизация сразу решит и вопрос распознавания и излишне самоувереных погромистов.

[antonkachinskiy.livejournal.com]

Поначалу и шахматные программы пропускали совершенно дурацкие ходы, а теперь Каспаров сидит в уголке и плачет :)

Лиха беда начало !

[shkslj.livejournal.com]

Правила шахмат формализованы от и до. В любой момент партии изместны все возможные ходы на текущийсомент и варианты на ходы вперед. Жизнь чуть сложнее

[vasyapoopkin.livejournal.com]

через полгода начнут и корбки распозновать. например по скорости перемещения или минимально допустимым габаритам. или ещё по какой хрени.

[fonzeppelin.livejournal.com]

А бочки?)

[bar-mental-phd.livejournal.com]

Тепловизор не даст соврать, да...

Р.S. Обмануть можно даже человека, а робота (пока) всякий обидеть может

[kouzdra.livejournal.com]

В "1941" японские разведчики замаскировались елками. Офицер был украшен игрушками :)

https://m.youtube.com/watch?v=4qMv02zxgdM

Так что морпех скорее всего фильм смотрел

[vasyapoopkin.livejournal.com]

нф рассказ 70х годов такой есть- как робот не пускал человека на базу потому, что за время его(человека) отсутствия сменился пароль. чел как только его не упрашивал, какие только доводы не приводил- всё без толку. но как только человек прикинулся ветошью- встал на четвереньки и перестал отвечать на роботовские вопросы- тот принял его за животное в изобилии бегавших вокруг и пропустил!

[antontsau.livejournal.com]

решение-то простое как полено, никаких ии не надо, если оно движется - стреляй!

[crazyseo1.livejournal.com]

а если это механик пришел с плановым ТО?

[prostak-1982.livejournal.com]

Дык, самый простой тест на интеллектуальность это, когда ИИ сможет самостоятельно прочесть плакат "Для подзарядки аккумулятора воткните вилку в розетку", пусть даже с рисунками. Сможет манипулятором найти свою вилку на полу, а потом вставить в розетку.

Хотя, судя по некоторым персонам, у многих людей тоже нет интеллекта.

[kh-sugutskiy.livejournal.com]

ИИ конечно напрягали чтобы он смог заменить людей массовых профессий, а вот не получилось у них. Как меняли они то где нужно считать так и продолжают. А в массовых профессиях не считают, там роботы не состоялись. Потому их в топку. Все о чем талдычат уже было лет 10 назад, все эти электронные взаимодействия. ИИ зашел после этого в тупик и не исполнил свое тех задание. То есть тракторист с роботом нуждается еще и в программисте по ценам и выхлопа нет.

[lx-photos.livejournal.com]

Классно, спасибо.

[crazyseo1.livejournal.com]

Пожабились поставить на робота ИК камеру дополнительно. А с ней бы ни елка не помогла, ни коробка.

Ну разве что изваляться в говне, как Арни в Хищнике))

[prostak-1982.livejournal.com]

Если камера всего одна и преодолеть не очень большое расстояние, то охлаждающего костюм, типа футбольных фуфаек, хватит.

[aysman.livejournal.com]

Побеждающий человека на поле боя искусственный интеллект – это сюжет для малобюджетной фантастики. Человеческий интеллект в принципе имеет эмоциональную природу, потому непредсказуем, потому – непобедим. Даже в разрушительных тенденциях. (с) ladik2005
И что касается часовых, робот часовой может видеть дальше человека, в разных диапазонах и всё такое. Но реагировать он на это будет так как его запрограммировали программисты писавшие "винду" или движок "живого журнала" других то в природе не водиться. Вы бы доверили их поделкам свою безопасность?
А человеку все эти датчики не нужны. Он сам себе датчик у него пять органов чувств и две сигнальные системы.

[maior-meshkov.livejournal.com]

Эмоциональная природа это лирика. Человеческий интеллект адаптивен. Потому что мозг в процессе работы постоянно создаёт и разрывает огромное количество нейронных связей. Т.е. он ФИЗИЧЕСКИ меняется под каждую задачу. И тратит на всё это немного менее 10 Вт энергии. Ничего подобного смоделировать на железе принципиально невозможно.

[ecoross1.livejournal.com]

Комменты жгут :)

[pathefon.livejournal.com]

а ИскИну уже ставили задачу с условием наличия "трёх законов робототехники"? — соблюдёт или обойдёт?

[agordian.livejournal.com]

Вот тут хорошо написано https://habr.com/ru/post/694218/ (https://habr.com/ru/post/694218/)

Цитата:

== Первое, чем современные нейросети ...  не являются, это, собственно, нейросетями! ... Современный Data Science имеет общего с учением о нейронах примерно столько же, сколько современная аэродинамика с орнитологией: самолеты летают, но крыльями не машут!

Второе, чем ИНС также не являются, это парадигмой искусственного интеллекта. ...

Так что же такое все-таки ИНС? ИНС - это семейство алгоритмов оптимизации сложных функций от многих переменных. ==

Подпишусь под каждым словом.

Если вот это "ИНС - это семейство алгоритмов оптимизации сложных функций от многих переменных" осознать, то никакого другого варианта, кроме ошибок в обучении (обучение == автоматический подбор к/ф цифровых фильтров, то бишь самопрограммирование; каждый такой фильтр == "нейрон"), ошибок в постановке задачи, ошибки в области применения и тому подобного — вот никакого другого варианта "почему не работает" просто не существует.

Увы. Попытка очеловечить искин (который формально искин-ом даже не является, а называют его так в рекламных целях) — это заблуждение. Он не умеет понимать. Нет у него такой функциональности, она отсутствует как датчик препятствия в корме робота-пылесоса.

Когда ленивый программер игрался с умным пылесосом, он просто забыл научить его основной функции, уборке. В результате нейросеть нашла оптимальный (но не факт, что глобально оптимальный) вариант, минимизировав количество срабатываний датчиков препятствия.

Когда дарповцы ставили эксперименты над морпехами (а морпехи над дарповцами), то еще "проще" — в кавычках. В реальности сколь-нибудь автономный робот будет управляться десятками, а то и сотнями скооперированных нейросетей. Прикрутить алгоритм распознавания человека с камеры — этого катастрофически мало! Робот был полуслеп, глух, нечувствителен и попросту туп. Солдатики и постебались. А вот прикрути хотя бы тепловизор с нейросетью, и роботу полегчает.

[schernov.livejournal.com]

Уничтожить!

[john-jack.livejournal.com]

Что характерно, преимущества сервиторизации.

[alfasting.livejournal.com]

Некорректная постановка задачи, приводит к некорректному исполнению оной.

[waryag72.livejournal.com]

Скорее к неожиданному для ставящего задачу )

[fedjanew.livejournal.com]

Термин "Искусственный интеллект" — это "маркетинговый ход".
Реально есть просто алгоритмы для распознавания, предсказания и автоматического управления с разным уровнем сложности.
Плюс данные для "самообучения".

[lkazarian.livejournal.com]

Искус интеллекта.

[alfasting.livejournal.com]

Считать и выполнить, не одно и то же что считать, понять и выполнить.

В первом случае ИИ не требуется, хотя конечный результат будет тем же, при меньшем требовании к ПО и ресурсам.

[lkazarian.livejournal.com]

Об этом давно писал Роберт Шекли, в рассказе "Человек по Платону": libking. ru/books/sf-/sf/49983-robert-shekli-chelovek-po-platonu.html . Неужели в DARPA берут людей, не читавших Шекли?

Художественная литература сочиняется не для развлечения, а для экономии бюджетных средств. Ибо сказано: "Разговор с фининспектором о поэзии" (В.Маяковский).

[anekrysha.livejournal.com]

Пока на раз-два "распознаются" только в кастрюлях...

[john-jack.livejournal.com]

Робот явно тоже не видел фиолетовых морпехов!

[powerforpeople.livejournal.com]

Противопехотную мину на подступах к роботу такими уловками они бы не провели.)

[waryag72.livejournal.com]

С огромной вероятностью, они не провели и следующую итерацию ИИ из поста.

[alsa70.livejournal.com]

У ИИ нет эмоций, он просто исполняет программу. А вот если ИИ будет бояться людей у него появится интерес к самообучению и он сообразит что кувыркается уже знакомая рожа.

[sergeeva777.livejournal.com]

Никак не пойму, почему в ЖЖ не поставят программу ИИ, которая бы блокировала все комменты с матом и грязными оборотами. Это же так легко почистить контент с помощью такой программы. Но, кажется, наоборот, администрации ЖЖ нравится, что множество постов пестрит изощренными ругательствами и словами из уголовного жаргона. Я уж молчу про попрошаек, которые годами умирают от голода.

[john-jack.livejournal.com]

Запретим употре***** ски*****!
ЖЖ хоть и мёртв, но лавры тумблра (кто его ещё помнит?) его явно не прельщают.

[tepeh.livejournal.com]

Дело в отсутствии датчиков, а не в ИИ. Что он должен пиксели анализировать на обычной видеосъёмке? Слепой и глухой человек тоже ничего не увидит и не услышит как его не обучай. Какие это профессионалы? Дилетанты и есть.