Философское

[fonzeppelin]

Представьте солдата в окопе на поле боя. Он напуган. Он истощен бессонными ночами, отсутствием самого минимального комфорта и непрерывной опасностью. Его чувства притуплены постоянным страхом за свою жизнь, и жизни товарищей. Вполне вероятно, он ранен и мучается от боли. Он ненавидит врага постоянной, слепой и нерассуждающей ненавистью. Он, вполне возможно, не слишком хорошо образован, и видит конфликт только как его показывает пропаганда: «мы — хорошие, а они — плохие». Он усвоил на собственном опыте, что война, это очень во многом «убей или тебя убьют». Он, скорее всего, молод — вчерашний подросток с нестабильной, разбалансированной гормональными бурями психикой. На него постоянно давят приказы и распоряжения командиров, смысл которых ему далеко не всегда очевиден — очень часто ему кажется, что эти приказы не имеют никакого отношения к реальности. И иногда он в этом прав.

И каким же образом этот солдат сумеет принимать более беспристрастные, точные и моральные решения на поле боя, чем робот?

Справа - бездушная, аморальная машина смерти, слева - высокоинтеллектуальный, душевный индивидуум, всегда принимающий исключительно правильные, морально безупречные решения в любой обстановке. Не перепутайте.

Мое личное ИМХО — все эти идеи, что «решение о применении оружия должно обязательно оставаться за людьми» и «машины не должны сами принимать смертельное решение», строятся на совершенно абсурдной идеализации человека, и демонизации машины. Сформированной замшелой фантастикой 50-ых, когда представление о роботах и компьютерах было самым наивным и сводилось к «железный человек с блестящими интеллектуальными способностями но априори аморальный». Даже если опустить сомнительный вопрос о моральности войны как таковой, эти взгляды явно исходят из совершенно анахроничных представлений о роботе как непременно самоосознающей, способной к формированию собственного представления о мире машине. 

Такая позиция имела определенный смысл в 1950-1960-ых — когда ввиду чисто технических ограничений, полностью автоматизированными могли быть лишь системы стратегического значения. То есть те, для которых «цена ошибки» была априори неприемлемо велика — и которые, как правило, управлялись высококвалифицированным персоналом, находящимся в существенно более безопасной позиции. Однако, к 2020-ым ситуация переменилась и изрядно. Вопрос «о праве робота на убийство» сейчас уже сводится не к «запуску атомных ракет по ложной тревоге» а к «выстрелу с дрона по подозрительной цели».

Суммируя плюсы и минусы:

+ Робот озабочен собственной безопасностью лишь в той мере, в которой это практично для выполнения боевого задания. Робот не испытывает никаких принципиальных проблем с тем, чтобы высунуться из укрытия для точной идентификации цели или сознательно подставиться под первый выстрел возможного противника. Для живого солдата, это неприемлемо. Для робота — это лишь вопрос «будет ли это эффективно решать проблему».

+ Робот не испытывает эмоциональной нагрузки, не беспокоится за товарищей, не устает и не испытывает ненависти к противнику. Робот совершенно точно не будет принимать решение в стиле «расстрелять в отместку».

+ Робот всегда будет скрупулезен в следовании всем протоколам и алгоритмам применения оружия. Он не начнет стрелять по неудачно высунувшимся гражданским потому, что «да ясно же, что с той стороны только враг!»

— Робот может «тупить» необъяснимо для человека. Имеется в виду, что самообучающиеся программы в ходе, собственно, самообучения, могут временами приходить к совершенно парадоксальным (с человеческой точки зрения) выводам и решениям, слабо коррелирующим с реальностью.

— Робот может быть более уязвим в том плане, что его скрупулезное следование протоколам позволяет противнику — предполагая, что тот знает об этих протоколах — найти способы эффективно обмануть робота на «формальностях». Живые солдаты менее восприимчивы к такого рода обманам ввиду наличия эмоциональных реакций (т.е. подозрительности). 

Comments

[john-jack.livejournal.com]

Тоже заявлю, что вопрос моральности роботов "стоит" лишь пока робот много дороже человека. Сейчас просто нет выбора, послать ли в бой человека или машину, вот и можно рассуждать "а что если" без проверки практикой. Когда роботы станут дешевле, он сам собой отпадёт под тяжестью положенных на него болтов. У кого есть роботы, те их используют, а у кого нет — ноют апеллируют к философии.

[fonzeppelin.livejournal.com]

Строго говоря, тот же Spot Mini от Бостон Динамикс в общем-то вполне может работать пехотинцем на минималках. Он обладает достаточной проходимостью, автономностью, способностью находить дорогу и может манипулировать предметами.

[john-jack.livejournal.com]

Это всё же ОЧЕНЬ минималки. Наземный дрон, замена собаки, но никак не человека. Полноценный пехотинец, к тому же не требующий человека для регулярного обслуживания, будет минимум на порядок сложнее и дороже. Типовая задача например: взять со склада патроны и дозарядить собственное оружие. Как её решит Спот без серьёзной доработки?

[fonzeppelin.livejournal.com]

В идеале, он этого не делает - боеприпасы ему приносит другой Спот или логистический квадрокоптер. Причем возможно сразу в стиле "снять разряженное оружие - поставить заряженное оружие - унести разряженное на перезарядку".

Но даже если Споту приходится это делать самому - у него есть рука) Он может получить от сервера информацию о нахождении склада, и найти там коробку. Снять ее с полки, открыть - уже вполне решаемо. Как и "снять оружие - извлечь обойму - вставить новую обойму - установить оружие на место".

[john-jack.livejournal.com]

Это целая логистическая система получается же. С уязвимыми промежуточными звеньями и снова запасом сменных частей.

Доработка как раз нужна чтобы оружие можно было снять и перезарядить одной рукой, потом установить обратно на робота и куда-то из него попадать же. И орудийную установку сделать, и к роботу её закрепить, и само оружие допилить. Так чтобы оно всё работало автономно, а не как бабайские заугольные турели.

[y-a-noname.livejournal.com]

> Это целая логистическая система получается же.

На живого солдата тоже работает целая логистическая система. Просто в случае Спота завершающее звено у нее другое.

[john-jack.livejournal.com]

Существующая, пересекающаяся с гражданской и состоящая из более взаимозаменяемых компонентов. Роботы эффективнее людей, но ценой гибкости, а значит надёжности.

[y-a-noname.livejournal.com]

Логистическая система (условно говоря, доставка боеприпасов с завода на передний край), работающая на робота, ровно та же, что работает на живого солдата. А солдаты-роботы, наверное, менее гибки, чем люди.

[john-jack.livejournal.com]

Живому солдату достаточно сбросить со старшипа любым способом притащить ящик с патронами. Откроет, распакует и разложит по подсумкам он его сам без лишних вопросов.

[igor-sabadah.livejournal.com]

Не нужно это. Будет как у современных рсзо сменный контейнер, и или, тот же бункер для пулемета с безленточной подачей. Это раньше зацикливались на человекоподобии чтобы иметь возможность использовать людские средства управления техникой, сейчас оказалось что это не нужно совсем, а нужен всего лишь разъём для подключения и то лишь по причине что беспроводную связь можно или перехватить или обнаружить. Кстати не удивлюсь если роботы на поле боя будут мигать друг дружке ратьерами и семафорить семафорами для соблюдения радиомолчания.

[fonzeppelin.livejournal.com]

Проще, я думаю: лазерный инфракрасный канал связи на поле боя.

[igor-sabadah.livejournal.com]

Его наличие не помешает наличию всего остального, принципиально то что семафор не излучает:), его нельзя засечь если он не в прямой видимости, да и ратьер если его не видно то тоже не просто.

[john-jack.livejournal.com]

Это тоже надо разработать, отладить и производить. Что и с давно изученным огнестрельным оружием взлетает с ба-альшим трудом затратами. Вопрос же не в том, что люди лучше, он в том что роботы дороже.

[igor-sabadah.livejournal.com]

Машинке Ракова уже черт знает сколько лет. Просто засыпаются насыпью патроны. Ленту тупо закольцовываем вуаля. Это если не возиться с рукавом. Просто очень часто работает стереотип и пытаются сделать аналог действиям человека, а без этого очень часто можно обойтись. Просто надо включить голову и сделать по другому. Например можно сделать аналог ручной заправки манипулятор с "пистолетом", а можно вставлять в гнездо одноразовую канистру. И не надо говорить про сложности с её изготовлением сейчас такое оборудование не проблема вообще. Нет конечно если хочется, попилить можно эксклюзив заказать. А можно взять стандартную бутыль от воды её и робот загрузит и человек потянет.

[john-jack.livejournal.com]

Машинка Ракова прикручена к дубовому столу и управляется обученным устранять задержки красноармейцем. От гравитационной подачи патронов же отказались вместе с приводом пулемётов ручкой, ибо требует именно человека с пальцами.
Так-то заряжать оружие сразу коробкой патронов идея прекрасная и прогрессивная. Чтобы в пулемёте специальный гномик брал из патрон из ведра и совал в ствол. А ещё лучше брал пулю и отмерял порох на весах. Но это требует наоборот усложнения конечной машины и совсем не то, чего мы здесь ищем.

[vakhnenko.livejournal.com]

> взять со склада патроны и дозарядить собственное оружие. Как её решит Спот без серьёзной доработки?

У Спота есть вполне неплохой манипулятор. Доковыляет до склада, достанет одну коробку с лентой, вставит другую, и подзарядится до кучи. Делов-то

[misha-makferson.livejournal.com]

Но батареи у него хватает на 6 часов, а скорее на три. При описании роботов Бостон Дайнемикс об этом обычно упомянуть забывают. Основная проблема всей этой роботизации это источник питания. Над этим бьются и деньги вкачивают огромные (смартофон который может работать на одной зарядке месяц ворвется в топы). Но крепок орешек и кардинального прорыва что-то не видно.

[john-jack.livejournal.com]

Справедливости ради, робот может сам раз в три часа на зарядку ходить, а на позицию кабель протянуть. Получать энергию прекрасно получается от генератора с ДВС на жидком топливе. Человек тоже не круглосуточно работает же.

[misha-makferson.livejournal.com]

ну зашибись. Зарядную станцию накрыли и что, через три часа бой прекращается? :-) Нет, без кардинального решения проблемы источника питания роботы в поле будут играть вспомогательную роль за исключением возможно крупных форм (роботизированных танков если угодно).

[john-jack.livejournal.com]

Человек без склада боеприпасов, связи, медицины и тёплого сортира полевой кухни тоже много не навоюет. Решается как всегда: обороной и резервами.
Можно на робота и персональный генератор поставить (на подножном твёрдом), но таки да, это уже более крупные формы. То есть хотя бы человек, а не собака.

[misha-makferson.livejournal.com]

Три часа. Три часа, Карл.

[john-jack.livejournal.com]

А кто хочет работать (ходить! с грузом! по земле!) дольше трёх часов подряд без перекура? Ну и всегда есть дополнительные батареи.

[fonzeppelin.livejournal.com]

За три часа грузовой дрон подтащит новую.

[misha-makferson.livejournal.com]

Нет, погода нелетная, ветер встречный и грузовой дрон прибудет только через восемь часов.

[fonzeppelin.livejournal.com]

Скажите, а если такое же произойдет с патронами и живыми солдатами - они как выкрутятся? :)