Философское

[fonzeppelin]

Представьте солдата в окопе на поле боя. Он напуган. Он истощен бессонными ночами, отсутствием самого минимального комфорта и непрерывной опасностью. Его чувства притуплены постоянным страхом за свою жизнь, и жизни товарищей. Вполне вероятно, он ранен и мучается от боли. Он ненавидит врага постоянной, слепой и нерассуждающей ненавистью. Он, вполне возможно, не слишком хорошо образован, и видит конфликт только как его показывает пропаганда: «мы — хорошие, а они — плохие». Он усвоил на собственном опыте, что война, это очень во многом «убей или тебя убьют». Он, скорее всего, молод — вчерашний подросток с нестабильной, разбалансированной гормональными бурями психикой. На него постоянно давят приказы и распоряжения командиров, смысл которых ему далеко не всегда очевиден — очень часто ему кажется, что эти приказы не имеют никакого отношения к реальности. И иногда он в этом прав.

И каким же образом этот солдат сумеет принимать более беспристрастные, точные и моральные решения на поле боя, чем робот?

Справа - бездушная, аморальная машина смерти, слева - высокоинтеллектуальный, душевный индивидуум, всегда принимающий исключительно правильные, морально безупречные решения в любой обстановке. Не перепутайте.

Мое личное ИМХО — все эти идеи, что «решение о применении оружия должно обязательно оставаться за людьми» и «машины не должны сами принимать смертельное решение», строятся на совершенно абсурдной идеализации человека, и демонизации машины. Сформированной замшелой фантастикой 50-ых, когда представление о роботах и компьютерах было самым наивным и сводилось к «железный человек с блестящими интеллектуальными способностями но априори аморальный». Даже если опустить сомнительный вопрос о моральности войны как таковой, эти взгляды явно исходят из совершенно анахроничных представлений о роботе как непременно самоосознающей, способной к формированию собственного представления о мире машине. 

Такая позиция имела определенный смысл в 1950-1960-ых — когда ввиду чисто технических ограничений, полностью автоматизированными могли быть лишь системы стратегического значения. То есть те, для которых «цена ошибки» была априори неприемлемо велика — и которые, как правило, управлялись высококвалифицированным персоналом, находящимся в существенно более безопасной позиции. Однако, к 2020-ым ситуация переменилась и изрядно. Вопрос «о праве робота на убийство» сейчас уже сводится не к «запуску атомных ракет по ложной тревоге» а к «выстрелу с дрона по подозрительной цели».

Суммируя плюсы и минусы:

+ Робот озабочен собственной безопасностью лишь в той мере, в которой это практично для выполнения боевого задания. Робот не испытывает никаких принципиальных проблем с тем, чтобы высунуться из укрытия для точной идентификации цели или сознательно подставиться под первый выстрел возможного противника. Для живого солдата, это неприемлемо. Для робота — это лишь вопрос «будет ли это эффективно решать проблему».

+ Робот не испытывает эмоциональной нагрузки, не беспокоится за товарищей, не устает и не испытывает ненависти к противнику. Робот совершенно точно не будет принимать решение в стиле «расстрелять в отместку».

+ Робот всегда будет скрупулезен в следовании всем протоколам и алгоритмам применения оружия. Он не начнет стрелять по неудачно высунувшимся гражданским потому, что «да ясно же, что с той стороны только враг!»

— Робот может «тупить» необъяснимо для человека. Имеется в виду, что самообучающиеся программы в ходе, собственно, самообучения, могут временами приходить к совершенно парадоксальным (с человеческой точки зрения) выводам и решениям, слабо коррелирующим с реальностью.

— Робот может быть более уязвим в том плане, что его скрупулезное следование протоколам позволяет противнику — предполагая, что тот знает об этих протоколах — найти способы эффективно обмануть робота на «формальностях». Живые солдаты менее восприимчивы к такого рода обманам ввиду наличия эмоциональных реакций (т.е. подозрительности). 

Comments

[y-a-noname.livejournal.com]

> Спот не пойдёт и не подавит никакого пулемёта, если у него сломана лапка [...]

Да, конечно. И что? Человек со сломанной ногой тоже никуда не пойдет.

> Оружием можно назвать и человека выполняющего приказы, и отделение, и армию в целом

Можно, в художественных целях. Но обычно оружием называют неодушевленный предмет.

> Я бы поспорил, что оно наоборот сложнее, но надёжнее.

Я с этим согласен.

> Но робот с автоматом решает те же задачи, что и солдат с автоматом, потому как его оружие в вашем смысле не сложнее.

Вы упорно отказываетесь называть вооруженного робота оружием. Как вы его тогда назовете?

> Что вызывается у специальных людей по моральным вопросам — не имеет значения.

Почему?

> Имеет значение мнение самих идущих в бой и их начальников.

Окей. И каково это мнение?

[john-jack.livejournal.com]

Избирательное цитирование, ня. Человек не пойдёт со сломанной ногой, но пойдёт в рваном ботинке. Грязь или задержка для человека же не проблема вовсе, он их если не устранит сам, то хотя бы заметит и отреагирует. Робот с ТАКИМИ запасом надёжности и самодиагностикой уже стоит (будет стоить) совсем других денег. Да, надёжность с диагностикой гораздо дешевле вынести в отдельного человека рядом, но тогда человек всё равно будет сидеть в окопах, с чего и начался пост.

>Но обычно оружием называют неодушевленный предмет.

Противоречие же. Предмет самостоятельный, а тем более разумный, уже слегка неверно называть неодушевлённым. Мелочи типа обладания душой и признаков жизни нам здесь не важны, а следующие смыслы "неодушевлённого" именно несамостоятельность и неразумность же. Чем робот отличается от хорошо тренированной слепоглухотупой собаки, кроме этих самых мелочей?

Робот это [самоходная, автономная] платформа, носитель, для оружия или нет. А функционально — боец, боевая единица, пользователь оружия. Робот останется (боевым) роботом и без стреляла. Равно как солдата солдатом делает звание, а не автомат.

Потому что у специальных людей всегда есть мнение и нет средств его воплотить. А идущие в бой берут машины, применяют, радуются, и требуют только получше-побольше.

[y-a-noname.livejournal.com]

> Избирательное цитирование, ня

Цитирование сути.

> Человек не пойдёт со сломанной ногой, но пойдёт в рваном ботинке. Грязь или задержка для человека же не проблема вовсе, он их если не устранит сам, то хотя бы заметит и отреагирует. Робот с ТАКИМИ запасом надёжности и самодиагностикой уже стоит (будет стоить) совсем других денег.

Или будет стоить примерно столько же. Какое это вообще имеет значение? Такого робота сделают, и скорее рано, чем поздно.

> тогда человек всё равно будет сидеть в окопах, с чего и начался пост.

Никто и не отрицает, что человек всё равно будет сидеть в окопе - по крайней мере, пока не существует разумных роботов (и тут можно уже задавать философские вопросы). Только вот высовываться человеку с роботами в подчинении нужно будет гораздо реже.

> Противоречие же. Предмет самостоятельный, а тем более разумный, уже слегка неверно называть неодушевлённым.

Противоречие было бы, если бы роботы были разумными. Но разумных роботов не существует и есть сомнения в том, что вобще возможно создать разумного робота.

> Робот это [самоходная, автономная] платформа, носитель, для оружия или нет. А функционально — боец, боевая единица, пользователь оружия. Робот останется (боевым) роботом и без стреляла.

(пожимая плечами) Да не вопрос, назовите робота "самоходной платформой". Для логистики качественной разницы нет. Разве что роботу нужны другие запчасти.

[john-jack.livejournal.com]

Суть в том, что современный робот утрачивает боеспособность от таких проблем, которые для человека не проблемы вовсе. Робот рядом с человеком сильно облегчает человеку жизнь. Но робот вообще без людей рядом — очень далеко не то, что пока у нас получается. Возможно, но дорого, дорого и дорого. Наглядный пример: космические аппараты. Вот когда сделают, тогда, и поговорим®. Глядя на ценник сделанного.

>Только вот высовываться человеку с роботами в подчинении нужно будет гораздо реже.

Высовываться реже, но есть и другой конец палки: засовываться к нему в окоп будут чаще. Это ещё в Первую Мировую проходили. Можно закопаться под землю и кидать во врага снаряды не глядя, но и обратно тебе будет прилетать.

>Противоречие было бы, если бы роботы были разумными.

Вы сами чуть выше ругались словом "разумный" в сторону робота, нет? Также, боец, способный выполнить задачу вида "подави пулемёт", от разумного технически не отличается.
Оружие в обычном смысле есть один из сменных рабочих органов робота. Можно назвать оружием целиком робота с оружием, но это ведёт лишь к путанице.

>Для логистики качественной разницы нет.

Но ещё раз. Роботу нужны другие расходники. Человек может достать патроны хоть из мятой и грязной коробки, роботу необходим специально сделанный магазин с маркировками. Или должен быть неоправданно сложный робот, способный не просто вставить палку в дырку, а отделить патроны от окружающей природы и вставить их в магазин сам. Это тоже возможно, но только если "избыточно умные" роботы станут такой же частью повседневной жизни как сейчас микроконтроллеры.