Философское
Jan. 6th, 2021 12:54 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
fonzeppelinПредставьте солдата в окопе на поле боя. Он напуган. Он истощен бессонными ночами, отсутствием самого минимального комфорта и непрерывной опасностью. Его чувства притуплены постоянным страхом за свою жизнь, и жизни товарищей. Вполне вероятно, он ранен и мучается от боли. Он ненавидит врага постоянной, слепой и нерассуждающей ненавистью. Он, вполне возможно, не слишком хорошо образован, и видит конфликт только как его показывает пропаганда: «мы — хорошие, а они — плохие». Он усвоил на собственном опыте, что война, это очень во многом «убей или тебя убьют». Он, скорее всего, молод — вчерашний подросток с нестабильной, разбалансированной гормональными бурями психикой. На него постоянно давят приказы и распоряжения командиров, смысл которых ему далеко не всегда очевиден — очень часто ему кажется, что эти приказы не имеют никакого отношения к реальности. И иногда он в этом прав.
И каким же образом этот солдат сумеет принимать более беспристрастные, точные и моральные решения на поле боя, чем робот?
Мое личное ИМХО — все эти идеи, что «решение о применении оружия должно обязательно оставаться за людьми» и «машины не должны сами принимать смертельное решение», строятся на совершенно абсурдной идеализации человека, и демонизации машины. Сформированной замшелой фантастикой 50-ых, когда представление о роботах и компьютерах было самым наивным и сводилось к «железный человек с блестящими интеллектуальными способностями но априори аморальный». Даже если опустить сомнительный вопрос о моральности войны как таковой, эти взгляды явно исходят из совершенно анахроничных представлений о роботе как непременно самоосознающей, способной к формированию собственного представления о мире машине.
Такая позиция имела определенный смысл в 1950-1960-ых — когда ввиду чисто технических ограничений, полностью автоматизированными могли быть лишь системы стратегического значения. То есть те, для которых «цена ошибки» была априори неприемлемо велика — и которые, как правило, управлялись высококвалифицированным персоналом, находящимся в существенно более безопасной позиции. Однако, к 2020-ым ситуация переменилась и изрядно. Вопрос «о праве робота на убийство» сейчас уже сводится не к «запуску атомных ракет по ложной тревоге» а к «выстрелу с дрона по подозрительной цели».
Суммируя плюсы и минусы:
+ Робот озабочен собственной безопасностью лишь в той мере, в которой это практично для выполнения боевого задания. Робот не испытывает никаких принципиальных проблем с тем, чтобы высунуться из укрытия для точной идентификации цели или сознательно подставиться под первый выстрел возможного противника. Для живого солдата, это неприемлемо. Для робота — это лишь вопрос «будет ли это эффективно решать проблему».
+ Робот не испытывает эмоциональной нагрузки, не беспокоится за товарищей, не устает и не испытывает ненависти к противнику. Робот совершенно точно не будет принимать решение в стиле «расстрелять в отместку».
+ Робот всегда будет скрупулезен в следовании всем протоколам и алгоритмам применения оружия. Он не начнет стрелять по неудачно высунувшимся гражданским потому, что «да ясно же, что с той стороны только враг!»
— Робот может «тупить» необъяснимо для человека. Имеется в виду, что самообучающиеся программы в ходе, собственно, самообучения, могут временами приходить к совершенно парадоксальным (с человеческой точки зрения) выводам и решениям, слабо коррелирующим с реальностью.
— Робот может быть более уязвим в том плане, что его скрупулезное следование протоколам позволяет противнику — предполагая, что тот знает об этих протоколах — найти способы эффективно обмануть робота на «формальностях». Живые солдаты менее восприимчивы к такого рода обманам ввиду наличия эмоциональных реакций (т.е. подозрительности).
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2021-01-06 01:23 pm (UTC)Дроны на море же, как и дроны в "большой" авиации, это будущий мейнстрим без моральных проблем вовсе, вопрос чисто техники и постановки задачи. Там убийство и так безличное, даже если кнопку формально нажал человек, посмотрев на информацию из машины. А с дронами тот же человек просто нажмёт кнопку чуть раньше.
no subject
Date: 2021-01-06 01:34 pm (UTC)no subject
Date: 2021-01-06 01:42 pm (UTC)Ещё забавно, что такой терроризм мог бы окупить систему анальной "безопасности" с досмотрами и запретами чего попало. Террористам же выгоднее когда эта система вредит исключительно своим.
no subject
Date: 2021-01-06 08:27 pm (UTC)Говорят, что беня ладен лично наложил вето на план атаки АЭС с помощью угнанных самолетов.
no subject
Date: 2021-01-06 06:14 pm (UTC)совершит на одну непростительную ошибку меньшекого сумеет перехитрить (см. битва в Тевтобургском лесу).Ну а понятие "чести" вообще было введено для большей мотивации биороботов на самопожертвование во имя интересов начальства.
no subject
Date: 2021-01-06 07:17 pm (UTC)no subject
Date: 2021-01-06 07:59 pm (UTC)Потому, что парфяне неоднократно устраивали Риму анальные кары (ну и получали тоже, не без того). Парфия, а затем сасанидский Иран в принципе сопоставимые державы которые нельзя как варваров раскатать в одном сражении. С Ираном бились веками от Красса до уже византийских историй 7 века. В принципе можно это считать одним из самых продолжительных противобороств истории.
no subject
Date: 2021-01-06 08:09 pm (UTC)no subject
Date: 2021-01-06 08:12 pm (UTC)no subject
Date: 2021-01-06 08:33 pm (UTC)no subject
Date: 2021-01-06 08:45 pm (UTC)no subject
Date: 2021-01-10 04:45 pm (UTC)no subject
Date: 2021-01-10 06:40 pm (UTC)Впрочем, мой тезис, пожалуй, действительно чересчур категоричен.
no subject
Date: 2021-01-06 08:26 pm (UTC)Теоретически -- неприемлимые финансовые потери. Насчет стоимости войны в Ираке очень многие ныли и до сих пор ноют, это значительная политическая тема.
Ну и ОМП. Даже если МБР научатся перехватывать, всегда остается ядерный терроризм. Биологический террор опять же, молекулярная (в т.ч. и синтетическая) биология идет всё дальше в массы
no subject
Date: 2021-01-06 08:54 pm (UTC)За ОМП точно будут больно бить. Смысл дронов в терроризме как раз в причинении серьёзного ущерба небольшим количеством конвенциональных средств путём высокоточного применения. Затраты невелики, эффект потенциально громадный. Но сложно и не очень нужно.
no subject
Date: 2021-01-06 08:58 pm (UTC)Именно! И в представительской демократии те кому не хватило бабла на любимые социальные программы или еще чего будут постоянно зудеть, мол мы уже на войну потратили стопицот олимпиардов, а могли бы пенсионерам раздать! И это работает.
> За ОМП точно будут больно бить.
За применение да. За создание нет, яиц не хватает, пример КНДР намекает.
no subject
Date: 2021-01-06 09:11 pm (UTC)Так создание достаточно хорошего ОМП есть следствие наличия яиц и всего прочего к ним прикрученного. Северная Корея и без ракеты с бомбой крупная индустриальная страна, способная дать сдачи.
no subject
Date: 2021-01-08 11:09 am (UTC)Это так не работает.
no subject
Date: 2021-01-08 01:38 pm (UTC)no subject
Date: 2021-01-08 02:25 pm (UTC)Так, как вы написали - не работает. А как-то по-другому - может и работать.
> Материальных ресурсов в цене робота очень мало
Цена вообще определяется рынком, причем здесь она. Если вы говорите о себестоимости, то в случае массового производства она будет состоять в основном из стоимости материальных ресурсов.