О роботах-убийцах

Личный блог: Вантала
Дискуссия про автоматический транспорт напомнила мне одну вещь…

В двух (или больше, но я не помню) моих сеттингах был один и тот же ответ на вопрос «почему на войне не используются роботы-убийцы». Первым была «Солнечная война», вторым — полусекретная «Галактика Света, Галактика Тьмы».

Так вот…
Проблема, вставшая перед программистами пси-киберпанка и фэнтези-космооперы, была одной и той же.
Если программа робота предельно проста: «стреляй во всё, что не отвечает на сигнал FoF», то он не будет различать врагов и мирных жителей. В том числе мирных жителей собственной страны. А если её сколько-либо усложнить, в ней появятся баги, которые будут эксплойтить. Робот стреляет во всё, что не попадает под определение «своего» и вооружено? Враги будут прятать или маскировать оружие. Робот стреляет во всё, что не попадает под определение «своего» и держит предмет, похожий на оружие? Он будет стрелять и по безоружным в том числе. Ну и так далее. Если же у робота есть полноценный ИИ, но он ограничен Первым законом Азимова, применяемым только к «своим», то тут возникает простор для rules-lawyering'а (и logic bombing'а). А если у робота есть ИИ, и нет никаких ограничений, он, с высокой вероятностью, рано или поздно возомнит себя сайлоном.

То есть на самом деле в этих сеттингах боевых роботов используют. Но с максимально простой программой и только тогда, когда либо мирного населения в зоне использования нет, либо потери среди мирного населения абсолютно не волнуют использующего.

11 комментариев

avatar
Ну, если не планируется использовать роботов для полицейских функций, то можно себе позволить достаточно широкий спектр вариантов. От громогласного объявления «мы сейчас пошлём роботов, кто не спрятался — тот не гражданский», до роботов, стреляющих по тем, кто держит в руках оружие, поддержанных людьми или тру-ИИ, которые сражаются с хуже вооружёнными носителями замаскированного оружия.
avatar
Я вспомнил смешной пример, приведенный противником использования роботов на войне: «если два ребенка играют с игрушечными автоматами вблизи с расположением отряда миротворцев, а мать несется к ним чтобы их увести — робот пометит их всех как потенциальных противников О_О»
Мне всегда хочется спросить: по-вашему солдаты не стреляют в гражданских, оказавшихся в зоне боевых действий/делающих что-то непонятное, но явно угрожающее? Если не стреляют — то долго не проживут, потому что у солдат-то «система распознавания свой-чужой» — это его гребаные глаза. А гражданские — не всегда такие уж гражданские.
avatar
Ну и да, может я и циник, но мне кажется те, кто ведет бои в населенной местности(а точней те, кто этими боевыми действиями командует) очень редко когда волнуются о том, чтоб сохранить мирное население.
avatar
Угу. Особенно когда боевые действия ведутся на своей территории. Особенно когда война гражданская. Особенно когда каждый труп мирного жителя (особенно женщины или, не дай бог, ребёнка), убитого войсками любой из сторон, показывают по всем каналам.
avatar
Как показывает практика — похер. Гражданские войны ощем-то обычно ведуться при, чтобы вы думали, активном участии гражданских. И трупов детей и женщин показывают немерено по каналам более развитых стран. Гражданская война говорит обычно о том, что кто-то либо пытается взять власть силовыми методами, либо ее удержать. Редко кто-то заботится об имидже — о нем можно позаботиться потом. Тем более: «А, кто убил гражданского? Мы убили гражданского? Да нет, это они!» работает прекрасно. На трупах редко ставят росписи.
Просто же случай когда боевые действия ведутся на своей территории — тоже нормальная ситуация. Войны между государствами ведуться не за людей, а за государственные интересы. Накрыть огнем свой город занятый противником — за это конечно можно потом поплатиться. Но для этого сначала нужно выиграть войну, а то «потом» не будет.
avatar
Понимаешь, если кто-то узнает о том, что ты правительство так запрограммировало роботов, то до войны оно(правительство) может не дожить. А роботов перепрограммируют или отправят на переплавку.
avatar
Мне кажется в развитых странах роботов-убийц без контроля живого человека не будет не потому, что они опасней обезьяны с гранатой живого солдата, а потому что в развитых странах очень боятся роботов-убийц и всякого рода псевдогуманисты будут настаивать чтобы в мясорубку посылали живых людей (войну в целом они запретить государству не могут, что характерно).
avatar
ЧСХ, офигенно развитые Соединённые Штаты не испытывают никаких неудобств при применении беспилотников.
avatar
Насколько я понимаю, «беспилотники» — это самолёты на дистанционном управлении, их собственные мозги весьма слабые.
avatar
Насколько я понимаю, «беспилотники» — это самолёты на дистанционном управлении, их собственные мозги весьма слабые.
Вообще, да. у них другая проблема — при использовании средств радиоэлектронной борьбы они превращаются в бесполезный хлам. Поэтому применяют их пока только против стран, у которых этих средств нет.
avatar
Беспилотники нынче таки контролируются операторами, насколько я помню.
Кроме того у офигенно развитых Соединенных Штатов как раз с гуманизмом все очень неоднозначно. Когда кто-то из чинов бывает публично уличен в военном преступлении или нарушении свобод, свое место он обычно сохраняет, а того кто уличил обвиняют в разглашении гос. тайны и гоняют по всему земному шару.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.