Философское
Jan. 6th, 2021 12:54 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
fonzeppelinПредставьте солдата в окопе на поле боя. Он напуган. Он истощен бессонными ночами, отсутствием самого минимального комфорта и непрерывной опасностью. Его чувства притуплены постоянным страхом за свою жизнь, и жизни товарищей. Вполне вероятно, он ранен и мучается от боли. Он ненавидит врага постоянной, слепой и нерассуждающей ненавистью. Он, вполне возможно, не слишком хорошо образован, и видит конфликт только как его показывает пропаганда: «мы — хорошие, а они — плохие». Он усвоил на собственном опыте, что война, это очень во многом «убей или тебя убьют». Он, скорее всего, молод — вчерашний подросток с нестабильной, разбалансированной гормональными бурями психикой. На него постоянно давят приказы и распоряжения командиров, смысл которых ему далеко не всегда очевиден — очень часто ему кажется, что эти приказы не имеют никакого отношения к реальности. И иногда он в этом прав.
И каким же образом этот солдат сумеет принимать более беспристрастные, точные и моральные решения на поле боя, чем робот?
Мое личное ИМХО — все эти идеи, что «решение о применении оружия должно обязательно оставаться за людьми» и «машины не должны сами принимать смертельное решение», строятся на совершенно абсурдной идеализации человека, и демонизации машины. Сформированной замшелой фантастикой 50-ых, когда представление о роботах и компьютерах было самым наивным и сводилось к «железный человек с блестящими интеллектуальными способностями но априори аморальный». Даже если опустить сомнительный вопрос о моральности войны как таковой, эти взгляды явно исходят из совершенно анахроничных представлений о роботе как непременно самоосознающей, способной к формированию собственного представления о мире машине.
Такая позиция имела определенный смысл в 1950-1960-ых — когда ввиду чисто технических ограничений, полностью автоматизированными могли быть лишь системы стратегического значения. То есть те, для которых «цена ошибки» была априори неприемлемо велика — и которые, как правило, управлялись высококвалифицированным персоналом, находящимся в существенно более безопасной позиции. Однако, к 2020-ым ситуация переменилась и изрядно. Вопрос «о праве робота на убийство» сейчас уже сводится не к «запуску атомных ракет по ложной тревоге» а к «выстрелу с дрона по подозрительной цели».
Суммируя плюсы и минусы:
+ Робот озабочен собственной безопасностью лишь в той мере, в которой это практично для выполнения боевого задания. Робот не испытывает никаких принципиальных проблем с тем, чтобы высунуться из укрытия для точной идентификации цели или сознательно подставиться под первый выстрел возможного противника. Для живого солдата, это неприемлемо. Для робота — это лишь вопрос «будет ли это эффективно решать проблему».
+ Робот не испытывает эмоциональной нагрузки, не беспокоится за товарищей, не устает и не испытывает ненависти к противнику. Робот совершенно точно не будет принимать решение в стиле «расстрелять в отместку».
+ Робот всегда будет скрупулезен в следовании всем протоколам и алгоритмам применения оружия. Он не начнет стрелять по неудачно высунувшимся гражданским потому, что «да ясно же, что с той стороны только враг!»
— Робот может «тупить» необъяснимо для человека. Имеется в виду, что самообучающиеся программы в ходе, собственно, самообучения, могут временами приходить к совершенно парадоксальным (с человеческой точки зрения) выводам и решениям, слабо коррелирующим с реальностью.
— Робот может быть более уязвим в том плане, что его скрупулезное следование протоколам позволяет противнику — предполагая, что тот знает об этих протоколах — найти способы эффективно обмануть робота на «формальностях». Живые солдаты менее восприимчивы к такого рода обманам ввиду наличия эмоциональных реакций (т.е. подозрительности).
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2021-01-06 09:59 am (UTC)no subject
Date: 2021-01-06 10:03 am (UTC)Поэтому хорошо бы человека отдалить от стрессовых факторов. Это и будет самой лучшей ему помощью.
no subject
Date: 2021-01-06 10:06 am (UTC)no subject
Date: 2021-01-06 10:11 am (UTC)Тут скорее монополия на насилие, одна из слагающих власти. Последнее слово человек желает оставить за собой.
no subject
Date: 2021-01-06 10:12 am (UTC)Возникает проблема предсказуемости поступков.
no subject
Date: 2021-01-06 10:22 am (UTC)no subject
Date: 2021-01-06 10:22 am (UTC)no subject
Date: 2021-01-06 10:28 am (UTC)В этом случае воевать можно сколько угодно, получая при этом удовольствие. Любой школьник сможет вечером подключиться к управлению и набить фрагов (получив за это бесплатную булочку в школе)
no subject
Date: 2021-01-06 10:39 am (UTC)no subject
Date: 2021-01-06 10:46 am (UTC)Да и сторожевые собаки, в принципе, туда же.
no subject
Date: 2021-01-06 10:52 am (UTC)no subject
Date: 2021-01-06 10:55 am (UTC)no subject
Date: 2021-01-06 10:57 am (UTC)no subject
Date: 2021-01-06 10:59 am (UTC)no subject
Date: 2021-01-06 11:23 am (UTC)Полагаю, с боевыми роботами та же проблема. Люди не очень умны, и больший риск, за который понятно, кого наказать, для них субъективно более приемлем, чем меньший риск, за который непонятно, кого наказывать. Концепция оператора как "страхующего водителя", к сожалению, не позволяет использовать преимущество робота в скорости реакции.
no subject
Date: 2021-01-06 11:29 am (UTC)За других говорить, естественно, не буду, но лично у меня недоверчивое отношение к боевым роботам по строго противоположной причине: на мой скромный взгляд, даже до весьма посредственных интеллектуальных способностей им пока ещё как до Китая пешком.
Да, робот будет строго исполнять все «протоколы применения». Но проблема в качестве этих самых протоколов. Напомню: когда люди делают всё строго по инструкции — это называется «итальянская забастовка». Можно ли ожидать, что с роботами будет лучше?
no subject
Date: 2021-01-06 11:30 am (UTC)no subject
Date: 2021-01-06 11:31 am (UTC)Вообще, нет.
Спутниковые сети высокой пропускной способности достаточно уязвимы для существующих и перспективных средств РЭБ (банальный передатчик с мощностью 10+ватт на высотном беспилотнике делает ОЧЕНЬ больно любой системе спутниковой связи). Более того, собственные спутниковые сети высокой пропускной способности будут у крайне малого числа государств, а для всех остальных каналы придется арендовать у кого-то другого, с риском оказаться без канала в нужный момент времени.
Ну и вишенка на торте: то, что работает для 10+ воздушных беспилотников, будет крайне нехорошо работать для наземных средств (там условия организации канала связи качественно хуже).
no subject
Date: 2021-01-06 11:32 am (UTC)no subject
Date: 2021-01-06 11:34 am (UTC)no subject
Date: 2021-01-06 11:34 am (UTC)С этим согласен)
no subject
Date: 2021-01-06 11:53 am (UTC)Вы слово пропустили, я поправил.
no subject
Date: 2021-01-06 11:53 am (UTC)у нас в целом до хрена моментов, когда есть уже готовые более высокоэффективные решения - но их принятие нереально по социальным причинам. кстати, это хорошо - что случается в обратном случае мы уже проходили.
no subject
Date: 2021-01-06 11:54 am (UTC)Вспомнилась "Страж-птица"
no subject
Date: 2021-01-06 11:57 am (UTC)В стиле "мы построим человекообразного робота а-ля железный дровосек, заложим в него способность к абстрактному мышлению и решению сложных логических задач, и отправим его киркой камни дробить". 30-ые - 50-ые, все дела.