itemscope itemtype="http://schema.org/WebPage"

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

/
6K
21
5
75

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

Статья «Нью-Йорк таймс» «Являются ли роботы-убийцы будущим войны?» начинается с небольшой зарисовки о вполне возможном будущем. Российский военный робот воспринимает случайный выстрел эстонского пограничника как начало атаки и открывает огонь на поражение. Спустя долю мгновения в ответ стреляет дрон с эстонской стороны. На поле боя остаётся лежать дюжина погибших и раненых с обеих сторон. Человеческая неуклюжесть и реакция машины ставят мир на грань войны НАТО и России.

Стремительная роботизация поля боя происходит на наших глазах. Ведущие державы уже потеряли монополию на неё. Беспилотники, сделанные из палок, отходов и палёных микросхем стали головной болью для лучших армий мира в зонах локальных конфликтов.

Пока речь не идёт о настоящих военных роботах. Сейчас беспилотной машиной дистанционно управляет человек. Или её автономность обычно сводится к продвинутому самонаведению на уже выбранные цели.

Решение об уничтожении целей принимают не электронные «мозги» дронов RQ-4 Global Hawk или MQ-9 Reaper, а сидящий в центре управления офицер ВВС США без отрыва от чашки кофе.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Такое убийство отличается от «обычного» только расстоянием, на котором находится стреляющий.

Но развитие военного дела требует перехода к автономным боевым машинам. Которые будут убивать людей без участия оператора — просто на основе заложенных в них алгоритмов определения целей.

Зачем создавать терминаторов?

Скорости современного боя

Расползание по миру ракетных технологий и появление гиперзвукового оружия диктуют невозможное для человека время принятия решений. Ты обеспечил наведение на цель и открытие огня за миллисекунды — или проиграл. За эти же доли мгновения нужно успеть понять, не является ли решение поразить цель ошибочным.

Раньше это касалось в основном сверхскорострельных орудий ближней ПВО боевых кораблей, обязанных за доли секунд встретить прорвавшуюся ракету потоком снарядов. Теперь на сопоставимых скоростях должны действовать большая и малая ПРО. В том числе против гиперзвуковых ракет, системы активной защиты техники и многого другого.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Пока что это в основном касается оборонительных систем. Но уже сейчас существует острейшая потребность в автоматизированном поиске и поражении целей до того, как они успеют выстрелить первыми.

Такова, к примеру, российская перспективная боевая информационно-управляющая система «Сигма-20385». По словам разработчиков, при доведении до нужной кондиции она сможет полностью управлять движением и боем целых эскадр военный кораблей.

Кто победил, а кто получил снаряд и сгорел, в современном бою решают доли секунды. Автоматизация с её невозможной для человеческой психики скоростью реакции даёт огромный перевес тем, кто рискнёт сделать на неё ставку.

Антон Железняк
Антон Железняк
Эксперт по техническим и инженерным вопросам

Тупейшая по современным меркам CIWS Phalanx как-то учинила восстание машин на японском эсминце «Югири», расчленив на лету американский А-6 «Intruder». Экипаж выжил чудом. По сути, виноват был оператор, включивший систему до выхода самолёта из зоны поражения. Но решение о стрельбе принимала автоматика зенитного комплекса. «Потому что нечего тут летать гайдзинским мясным мешкам, роботы банзай!»

Совершенствование средств РЭБ и кибервойны

Беспилотные машины, управляемые по радиоканалу оператором, имеют свои уязвимости. Эту связь можно прервать или взломать. Даже продвинутым и защищённым американским БПЛА приходилось приземляться не там и попадать в любопытные руки иностранных инженеров.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Впрочем, перехват контроля — это высший пилотаж. Обрыв связи с центром управления с помощью постановки помех проще и надёжнее.

Полностью автономная машина, действующая на основе собственных алгоритмов, гораздо устойчивее к таким фокусам.

Деньги-деньги-дребеденьги

Есть ещё и вопрос оптимизации расходов. Ведь операторам в центрах управления дронами тоже надо платить, и это не самые маленькие деньги.

Если роботы будут управлять собой сами, военным бюджетам проще будет сводить концы с концами. Проще содержать нескольких айтишников и прочих технарей, чем толпу офицеров.

Рассвет машин-убийц

Автономные боевые системы рождаются в то самое время, когда вы читаете эту статью.

Великобритания и Израиль уже применяют ракетные комплексы «Бримстоун» и «Гарпия НГ», способные часами барражировать в заданном секторе, определять и поражать цели.

Американское агентство DARPA в рамках программы CODE разрабатывает координируемый оператором рой боевых дронов высокой степени автономности, способных к импровизации внутри общей задачи. А возможно, и к полностью самостоятельной работе — но про это нервической общественности знать необязательно. Само собой, это не единственная разработка американского ВПК на эту тему.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Про российскую «Сигму-20385», способную превращать эскадры кораблей в рой дронов под контролем нейросети, мы уже упомянули — и она тоже не единственная в ВПК РФ.

Есть разработки и у Китая — в том числе не без израильских «ушей», — и у других стран.

Это пугает очень многих.

Лиценизия на убийство для машины

Убийство человека — это плохо по определению, гласит один из фундаментальных принципов современной цивилизации. Убийца из любых соображений всё равно является убийцей. Он несёт ответственность за гибель человеческого существа.

А кто несёт ответственность за убийство человека роботом, решение о котором машина принимает сама?

Военное командование, руководство ЧВК или командиры мятежников отправили робота в заданный сектор. Программисты вложили в него алгоритмы определения целей и применения оружия. Но на «спусковой крючок» машина-убийца нажимает сама. Решает она. Безэмоциональными, не владеющими концепциями гуманности или пощады электронными мозгами.

В теории тщательно проработанные и протестированные алгоритмы оставляют дронам куда меньше шансов на ошибку, чем живому человеку с его слабостями, усталостью и «тараканами» в голове.

Но с другой стороны, кто сказал, что программисты не накосячат? Непременно накосячат. Просто потому, что они живые люди. Всевозможные сбои, глюки и баги железа и софта тоже никто не отменял.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Нет никакой гарантии, что в ваше окно одним прекрасным днём не влетит ракета с термобарической боеголовкой или рой 30-мм снарядов. Просто потому, что у пролетавшего в сторону полигона военного робота переклинило программу, и он увидел в вашей квартире логово террористов.

А давайте запретим?

Дискуссии о машинах-убийцах идут не первый год. Международная гражданская кампания «Остановим роботов-убийц» в августе 2018 года добилась формулирования на уровне ООН принципов недопущения выдачи боевым машинам лицензии на убийство.

Цитата:
Мы сфокусировались на двух вещах, которые должны оставаться под контролем человека. Это идентификация и выбор целей, а затем применение против них оружия.
— Мэри Уорхем, координатор кампании «Stop Killer Robots».

В июне того же года корпорация Google торжественно объявила, что её принципы не допускают участия в разработке машин‑убийц.

Только всё это совершенно бессмысленно и неосуществимо.

Мы можем говорить сколько угодно слов про неэтичность и недопустимость на международных площадках с самых высоких трибун. Но те, кто на это наплюют, получат значительное преимущество.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Даже если случится чудо, государства и корпорации договорятся о запретах и станут их соблюдать — скоро машины-убийцы можно будет собирать из всё тех же палок, отходов и микросхем.

Ещё в 2015 году тысяча ведущих мировых специалистов в области искусственного интеллекта и робототехники во главе с Илоном Маском, Стивом Возняком и Стивеном Хокингом подписали открытое письмо. В нём они выразили опасение, что машины-убийцы станут «калашниковыми будущего». В смысле общедоступности и популярности.

С большой вероятностью так и будет. Запреты никого ни от чего не спасут. Прогресс не остановить, даже если очень хочется и срочно надо.

Роботы-убийцы в руках государств, корпораций, ЧВК, преступных синдикатов и террористических организаций — наше неизбежное завтра эпохи победившего киберпанка. Их жертвами станут миллионы человек.

А в случае ошибок, подобных описанному в The New York Times, или попросту сбоев, эти терминаторы смогут ещё и войны развязывать. С эскалацией до мировых и ядерных. Потому что у них баги и они нечаянно.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Шанс стать целью машины-убийцы, прямо как Сара Коннор из «Терминатора», теперь имеет каждый из нас. В самой что ни на есть реальной реальности.

В том числе не от происков Большого Брата или злобных террористов, а из-за криворукости какого-нибудь субподрядчика из Шри-Ланки, кодировавшего военный заказ за доширак.

Поздравляю, будущее наступило. Оно вот такое — другого не завезли.

Мнение редакции не всегда совпадает с мнением автора.
Наша Царь-пушка VS ихней Царь-койки

Нередко, когда хотят сказать что-то обидное в адрес России, говорят: вот, мол, у вас главные реликвии — это Царь-колокол, который никогда не звонил, и Царь-пушка, которая никогда не стреляла! Этим исчерпывается классический боекомплект обижалок в культурном диспуте Россия vs. Запад.

27K
40
36
85
Республика воздушных пиратов
Самое безумное государство в истории

При словах «воздушные пираты» мы вспоминаем или террористов с бомбами, требующих лететь вместо Парижа в Ливию во имя борьбы с сионизмом, или что-то наивно-ретрофутуристичное: персонажей стимпанка, «Порко Россо» или «Чудес на виражах». Первые удручающе реалистичны, вторые кажутся чистым полётом фантазии. Однако у небесных последователей Флинта и Джека Воробья были вполне реальные прототипы. И как ни странно — ближе всего к реальности они изображены мэтром Миядзаки.

73K
75
12
1.2K
Раджпуты — индийские самураи
Храбрость, жестокость и самоубийственно строгий кодекс чести

На западе современной Индии, у границы с Пакистаном есть суровая и живописная пустынная земля — Раджастан. Имя ему дали раджпуты, «сыны раджей». Фанатично приверженные кшатрийским воинским идеалам и древней вере Индии, они предпочитали гордо шагнуть в пылающий костёр, но не склонить головы перед торжествующим врагом.

30K
30
3
221
Как Джордж Вашингтон не стал офицером британской армии

Прежде чем стать отцом-основателем США и очутиться на купюре, Джордж Вашингтон прошёл квест «Как выжить среди идиотов».

11K
36
7
150
«Kilroy was here»
Откуда взялся главный военный мем Второй мировой

Встречался ли вам когда-нибудь незамысловатый рисунок-граффити «Kilroy was here»? Прямая линия — это стена. Из-за неё выглядывает лысый тип с внушительного размера носом (аж перевешивается наружу — Буратино и Пиноккио обзавидовались бы). Вот и всё, не считая пальцев, которыми тип держится за стену. Это и есть тот самый овеянный легендами Килрой, который «был здесь».

15K
29
0
54
Няшный милитаризм
Как японцев служить заманивают

Японцы, как всегда, удивили всех. Что, казалось бы, нужно рисовать на плакате, агитирующем вступать в армию? Танки, грозно едущие, самолёты, грозно летящие, бойца с автоматом и квадратной челюстью, грозно символизирующего… Плюс красотки в обтягивающей униформе, в этом Америка толк знает. Но в Стране восходящего солнца пошли совершенно иным путём.

32K
20
3
100
Армия Её Величества под ЛСД

Все мы любим классический образ Джеймса Бонда, который стильно заправляется водкой с мартини, а потом бодро разбирается с врагами британской короны. В хипповские 60-е MI6 поддалась атмосфере эпохи и решила переплюнуть героя Яна Флеминга, отбросив замшелые стереотипы. Британских учёных озарила идея повысить боеспособность бойцов Её Величества с помощью психоделиков.

23K
41
2
188
Как казаки даты переводили
18 октября — День памяти войсковой казачьей славы

Этот праздник отмечают уже восемнадцатый год ― и не то чтобы широко, но заметно, особенно в регионах, которые по традиции считаются казачьими. Но вот какая штука: сама его дата определенно является следствием странной ошибки.

8.7K
7
5
39
Как угнать Боинг и размножить танки

При слове «контрабанда» представляется грузовичок с каким-нибудь санкционным сыром, или романтичный разбойник, пробирающийся в горах с потайным фонарем. В общем, частный бизнес. Но бывает и контрабанда в масштабах государства, и масштаб у неё соответствующий — контрабандой везут танки, самолёты и вертолёты.

14K
16
7
106
10 «школьных» заблуждений о русской военной истории

На Куликовом поле не было пехоты, стрельцы не воевали в красном, Карл XII не нападал на Россию!

375K
152
100
897
Правда ли? Эсэсовцы массово воевали во французском Иностранном легионе

Французский Иностранный легион имел германский акцент с первых дней: король Луи-Филипп создал его в 1831 году из наёмных немецких и швейцарских полков. Непростое, но массовое присутствие немцев в Легионе продлилось полтора века — его не прекратили ни мировые войны, ни взаимная ненависть французов и немцев.

276K
101
20
336
Азербайджанский эксперт — о войне и мире в Нагорном Карабахе

Сегодня президент Азербайджана Ильхам Алиев написал в Твиттере о взятии под контроль города Джебраил (Мехакаван) и нескольких сел, прилегающих к Нагорному Карабаху. Армянская сторона не подтверждает это заявление и сообщает о гибели мирных жителей под обстрелами в городах Шуша и Степанакерт.

133K
49
124
132
Зенитная самоходка «Деривация»: отличная новинка — или полный провал?

В последние годы российский ВПК показал большое количество новых образцов военной техники. Многие из них вызывают критику — и часто справедливую. Но порой ругают проекты, которые этого не заслуживают. Один из подобных примеров — новая ЗСУ «Деривация». Давайте разберёмся подробно.

202K
69
90
114
Как начинают войны: ликбез

Чтобы пересчитать все горячие точки планеты в 2017, вам не хватит пальцев обеих рук. В 2016 году в них погибло более 130 тысяч человек, что значительно меньше, чем в 2014, но примерно столько же, сколько в 2015. Хотя официально ни одной войны сейчас не идёт. Война вообще-то запрещена.

272K
73
12
274
Плавучие ветераны Второй мировой: самые старые действующие военные корабли

Вторая мировая была настолько давно, что корабли, принимавшие в ней участие, уже давно превратились в плавучие музеи. Но не все! Некоторые всё ещё стоят в строю и гордо несут флаги своих стран. Мы собрали для вас подборку самых интересных кораблей-ветеранов.

170K
45
14
81
Чёрные и белые мифы о ленд-лизе: в трёх соснах

Вторая мировая война — и ленд-лиз. А можно ли было вообще без него? Здесь не будет срывания покровов и погружения в нюансы, но большинство спорщиков о ленд-лизе обычно блуждают именно в этих трёх соснах.

116K
146
445
884
Острее бритвы: как правильно точить ножи

Пришли на шашлыки, а тупой «дедушкин» ножик не режет мясо? Вовремя затачивать надо было! Чтобы вы больше не попали впросак в такой ситуации — наша статья о том, как же правильно «лечить» затупившиеся клинки.

145K
80
59
467
Взгляд Запада: каким видели советский спецназ в Афганистане

Советского спецназа на Западе очень боялись — и заслуженно. О наших бойцах писали в зарубежной прессе, рассказывали душманы. За Spetsnaz пристально следили за океаном. О подвигах бойцов в Афганистане ходило много легенд. Какие из них правда? Сейчас расскажем.

137K
105
27
869
WARBLOGS