Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

/
3.7K
21
5
75

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

Статья «Нью-Йорк таймс» «Являются ли роботы-убийцы будущим войны?» начинается с небольшой зарисовки о вполне возможном будущем. Российский военный робот воспринимает случайный выстрел эстонского пограничника как начало атаки и открывает огонь на поражение. Спустя долю мгновения в ответ стреляет дрон с эстонской стороны. На поле боя остаётся лежать дюжина погибших и раненых с обеих сторон. Человеческая неуклюжесть и реакция машины ставят мир на грань войны НАТО и России.

Стремительная роботизация поля боя происходит на наших глазах. Ведущие державы уже потеряли монополию на неё. Беспилотники, сделанные из палок, отходов и палёных микросхем стали головной болью для лучших армий мира в зонах локальных конфликтов.

Пока речь не идёт о настоящих военных роботах. Сейчас беспилотной машиной дистанционно управляет человек. Или её автономность обычно сводится к продвинутому самонаведению на уже выбранные цели.

Решение об уничтожении целей принимают не электронные «мозги» дронов RQ-4 Global Hawk или MQ-9 Reaper, а сидящий в центре управления офицер ВВС США без отрыва от чашки кофе.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Такое убийство отличается от «обычного» только расстоянием, на котором находится стреляющий.

Но развитие военного дела требует перехода к автономным боевым машинам. Которые будут убивать людей без участия оператора — просто на основе заложенных в них алгоритмов определения целей.

Зачем создавать терминаторов?

Скорости современного боя

Расползание по миру ракетных технологий и появление гиперзвукового оружия диктуют невозможное для человека время принятия решений. Ты обеспечил наведение на цель и открытие огня за миллисекунды — или проиграл. За эти же доли мгновения нужно успеть понять, не является ли решение поразить цель ошибочным.

Раньше это касалось в основном сверхскорострельных орудий ближней ПВО боевых кораблей, обязанных за доли секунд встретить прорвавшуюся ракету потоком снарядов. Теперь на сопоставимых скоростях должны действовать большая и малая ПРО. В том числе против гиперзвуковых ракет, системы активной защиты техники и многого другого.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Пока что это в основном касается оборонительных систем. Но уже сейчас существует острейшая потребность в автоматизированном поиске и поражении целей до того, как они успеют выстрелить первыми.

Такова, к примеру, российская перспективная боевая информационно-управляющая система «Сигма-20385». По словам разработчиков, при доведении до нужной кондиции она сможет полностью управлять движением и боем целых эскадр военный кораблей.

Кто победил, а кто получил снаряд и сгорел, в современном бою решают доли секунды. Автоматизация с её невозможной для человеческой психики скоростью реакции даёт огромный перевес тем, кто рискнёт сделать на неё ставку.

Антон Железняк
Антон Железняк
Эксперт по техническим и инженерным вопросам

Тупейшая по современным меркам CIWS Phalanx как-то учинила восстание машин на японском эсминце «Югири», расчленив на лету американский А-6 «Intruder». Экипаж выжил чудом. По сути, виноват был оператор, включивший систему до выхода самолёта из зоны поражения. Но решение о стрельбе принимала автоматика зенитного комплекса. «Потому что нечего тут летать гайдзинским мясным мешкам, роботы банзай!»

Совершенствование средств РЭБ и кибервойны

Беспилотные машины, управляемые по радиоканалу оператором, имеют свои уязвимости. Эту связь можно прервать или взломать. Даже продвинутым и защищённым американским БПЛА приходилось приземляться не там и попадать в любопытные руки иностранных инженеров.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Впрочем, перехват контроля — это высший пилотаж. Обрыв связи с центром управления с помощью постановки помех проще и надёжнее.

Полностью автономная машина, действующая на основе собственных алгоритмов, гораздо устойчивее к таким фокусам.

Деньги-деньги-дребеденьги

Есть ещё и вопрос оптимизации расходов. Ведь операторам в центрах управления дронами тоже надо платить, и это не самые маленькие деньги.

Если роботы будут управлять собой сами, военным бюджетам проще будет сводить концы с концами. Проще содержать нескольких айтишников и прочих технарей, чем толпу офицеров.

Рассвет машин-убийц

Автономные боевые системы рождаются в то самое время, когда вы читаете эту статью.

Великобритания и Израиль уже применяют ракетные комплексы «Бримстоун» и «Гарпия НГ», способные часами барражировать в заданном секторе, определять и поражать цели.

Американское агентство DARPA в рамках программы CODE разрабатывает координируемый оператором рой боевых дронов высокой степени автономности, способных к импровизации внутри общей задачи. А возможно, и к полностью самостоятельной работе — но про это нервической общественности знать необязательно. Само собой, это не единственная разработка американского ВПК на эту тему.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Про российскую «Сигму-20385», способную превращать эскадры кораблей в рой дронов под контролем нейросети, мы уже упомянули — и она тоже не единственная в ВПК РФ.

Есть разработки и у Китая — в том числе не без израильских «ушей», — и у других стран.

Это пугает очень многих.

Лиценизия на убийство для машины

Убийство человека — это плохо по определению, гласит один из фундаментальных принципов современной цивилизации. Убийца из любых соображений всё равно является убийцей. Он несёт ответственность за гибель человеческого существа.

А кто несёт ответственность за убийство человека роботом, решение о котором машина принимает сама?

Военное командование, руководство ЧВК или командиры мятежников отправили робота в заданный сектор. Программисты вложили в него алгоритмы определения целей и применения оружия. Но на «спусковой крючок» машина-убийца нажимает сама. Решает она. Безэмоциональными, не владеющими концепциями гуманности или пощады электронными мозгами.

В теории тщательно проработанные и протестированные алгоритмы оставляют дронам куда меньше шансов на ошибку, чем живому человеку с его слабостями, усталостью и «тараканами» в голове.

Но с другой стороны, кто сказал, что программисты не накосячат? Непременно накосячат. Просто потому, что они живые люди. Всевозможные сбои, глюки и баги железа и софта тоже никто не отменял.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Нет никакой гарантии, что в ваше окно одним прекрасным днём не влетит ракета с термобарической боеголовкой или рой 30-мм снарядов. Просто потому, что у пролетавшего в сторону полигона военного робота переклинило программу, и он увидел в вашей квартире логово террористов.

А давайте запретим?

Дискуссии о машинах-убийцах идут не первый год. Международная гражданская кампания «Остановим роботов-убийц» в августе 2018 года добилась формулирования на уровне ООН принципов недопущения выдачи боевым машинам лицензии на убийство.

Цитата:
Мы сфокусировались на двух вещах, которые должны оставаться под контролем человека. Это идентификация и выбор целей, а затем применение против них оружия.
— Мэри Уорхем, координатор кампании «Stop Killer Robots».

В июне того же года корпорация Google торжественно объявила, что её принципы не допускают участия в разработке машин‑убийц.

Только всё это совершенно бессмысленно и неосуществимо.

Мы можем говорить сколько угодно слов про неэтичность и недопустимость на международных площадках с самых высоких трибун. Но те, кто на это наплюют, получат значительное преимущество.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Даже если случится чудо, государства и корпорации договорятся о запретах и станут их соблюдать — скоро машины-убийцы можно будет собирать из всё тех же палок, отходов и микросхем.

Ещё в 2015 году тысяча ведущих мировых специалистов в области искусственного интеллекта и робототехники во главе с Илоном Маском, Стивом Возняком и Стивеном Хокингом подписали открытое письмо. В нём они выразили опасение, что машины-убийцы станут «калашниковыми будущего». В смысле общедоступности и популярности.

С большой вероятностью так и будет. Запреты никого ни от чего не спасут. Прогресс не остановить, даже если очень хочется и срочно надо.

Роботы-убийцы в руках государств, корпораций, ЧВК, преступных синдикатов и террористических организаций — наше неизбежное завтра эпохи победившего киберпанка. Их жертвами станут миллионы человек.

А в случае ошибок, подобных описанному в The New York Times, или попросту сбоев, эти терминаторы смогут ещё и войны развязывать. С эскалацией до мировых и ядерных. Потому что у них баги и они нечаянно.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Шанс стать целью машины-убийцы, прямо как Сара Коннор из «Терминатора», теперь имеет каждый из нас. В самой что ни на есть реальной реальности.

В том числе не от происков Большого Брата или злобных террористов, а из-за криворукости какого-нибудь субподрядчика из Шри-Ланки, кодировавшего военный заказ за доширак.

Поздравляю, будущее наступило. Оно вот такое — другого не завезли.

Hoвости СМИ2
«‡„ÛÁ͇...
Наша Царь-пушка VS ихней Царь-койки

Нередко, когда хотят сказать что-то обидное в адрес России, говорят: вот, мол, у вас главные реликвии — это Царь-колокол, который никогда не звонил, и Царь-пушка, которая никогда не стреляла! Этим исчерпывается классический боекомплект обижалок в культурном диспуте Россия vs. Запад.

22K
32
25
85
Республика воздушных пиратов
Самое безумное государство в истории

При словах «воздушные пираты» мы вспоминаем или террористов с бомбами, требующих лететь вместо Парижа в Ливию во имя борьбы с сионизмом, или что-то наивно-ретрофутуристичное: персонажей стимпанка, «Порко Россо» или «Чудес на виражах». Первые удручающе реалистичны, вторые кажутся чистым полётом фантазии. Однако у небесных последователей Флинта и Джека Воробья были вполне реальные прототипы. И как ни странно — ближе всего к реальности они изображены мэтром Миядзаки.

63K
50
12
1.2K
Раджпуты — индийские самураи
Храбрость, жестокость и самоубийственно строгий кодекс чести

На западе современной Индии, у границы с Пакистаном есть суровая и живописная пустынная земля — Раджастан. Имя ему дали раджпуты, «сыны раджей». Фанатично приверженные кшатрийским воинским идеалам и древней вере Индии, они предпочитали гордо шагнуть в пылающий костёр, но не склонить головы перед торжествующим врагом.

24K
27
3
221
Как Джордж Вашингтон не стал офицером британской армии

Прежде чем стать отцом-основателем США и очутиться на купюре, Джордж Вашингтон прошёл квест «Как выжить среди идиотов».

8.9K
28
6
150
«Kilroy was here»
Откуда взялся главный военный мем Второй мировой

Встречался ли вам когда-нибудь незамысловатый рисунок-граффити «Kilroy was here»? Прямая линия — это стена. Из-за неё выглядывает лысый тип с внушительного размера носом (аж перевешивается наружу — Буратино и Пиноккио обзавидовались бы). Вот и всё, не считая пальцев, которыми тип держится за стену. Это и есть тот самый овеянный легендами Килрой, который «был здесь».

13K
27
0
54
Няшный милитаризм
Как японцев служить заманивают

Японцы, как всегда, удивили всех. Что, казалось бы, нужно рисовать на плакате, агитирующем вступать в армию? Танки, грозно едущие, самолёты, грозно летящие, бойца с автоматом и квадратной челюстью, грозно символизирующего… Плюс красотки в обтягивающей униформе, в этом Америка толк знает. Но в Стране восходящего солнца пошли совершенно иным путём.

24K
18
3
100
Армия Её Величества под ЛСД

Все мы любим классический образ Джеймса Бонда, который стильно заправляется водкой с мартини, а потом бодро разбирается с врагами британской короны. В хипповские 60-е MI6 поддалась атмосфере эпохи и решила переплюнуть героя Яна Флеминга, отбросив замшелые стереотипы. Британских учёных озарила идея повысить боеспособность бойцов Её Величества с помощью психоделиков.

19K
35
2
188
Как казаки даты переводили
18 октября — День памяти войсковой казачьей славы

Этот праздник отмечают уже восемнадцатый год ― и не то чтобы широко, но заметно, особенно в регионах, которые по традиции считаются казачьими. Но вот какая штука: сама его дата определенно является следствием странной ошибки.

7.3K
7
5
39
Как угнать Боинг и размножить танки

При слове «контрабанда» представляется грузовичок с каким-нибудь санкционным сыром, или романтичный разбойник, пробирающийся в горах с потайным фонарем. В общем, частный бизнес. Но бывает и контрабанда в масштабах государства, и масштаб у неё соответствующий — контрабандой везут танки, самолёты и вертолёты.

11K
11
7
106
Самый тёмный час: штурм Грозного

Штурм Грозного зимой 1994-95 годов стал крупнейшей катастрофой современной российской армии. Операция, которую планировали провести быстро и красиво, обернулась оглушительной трагедией. Как же так вышло?

26K
111
101
1.4K
Революция вампиров: как свергали Чаушеску

30 лет назад в Румынии пал режим Николае Чаушеску. Споры о румынской революции не утихают по сей день. Кому был нужен переворот? На чьей совести сотни погибших? Причастны ли к свержению диктатора русские? В мифах и реальных фактах разбирался WARHEAD.SU.

18K
45
24
188
Играй, гармонь: советские разведчики против гармонистов вермахта

Каждый офицер вермахта на Восточном фронте должен был знать — никаких концертов на передовой. А иначе на звуки музыки придут русские разведчики и «поаплодируют» музыкантам гранатами и автоматными очередями. Именно так нашёл свою смерть гауптман Краум — большой любитель балалаек и гармошек.

19K
50
16
258
Кто кого? Сталин против Сталина

Когда Сталин умер, люди тут же стали рассказывать небылицы про «управление войной по глобусу». Сейчас Иосифа Виссарионовича часто представляют непогрешимым и несгибаемым. Истина же в том, что в военном отношении Сталин был неплохой стратег, но никудышный тактик.

18K
67
644
522
Операция «Козлёнок»: как спецназ ЮЗА встречал Рождество

Что делать, если Рождество встретить хочется за накрытым столом, а всех припасов — сухой паёк? Правильно — проявить недюжинную смекалку. Как южноафриканские полицейские в разгар войны в Анголе отметили новогодние праздники — в нашем материале.

16K
56
15
97
Карлсоны против сталинских соколов: шведский авиаполк Зимней войны

Формально Швеция не воевала с 1814 года. Империя Густава II Адольфа и Карла XII ещё в XIX веке предпочла сосредоточиться на самосовершенствовании. Но, когда Сталин решил исправить границу с Финляндией, а заодно принести финнам счастье коммунизма, девять тысяч шведов пошли помогать соседям. Треть всей шведской авиации отправилась оборонять небо Лапландии.

15K
45
138
243
Тест: знаете ли вы биографию маршала Победы Георгия Жукова?

Георгий Константинович Жуков — полководец, сыгравший ключевую роль в победе над нацизмом. Давайте посмотрим, знаете ли вы биографию великого маршала.

15K
7
16
283
Самолёты-«невидимки» и русский вклад: 7 мифов о «стелс»

«Стелс» придумали в СССР. Технологии снижения заметности делают самолёт полностью невидимым. Самолёт-«невидимка» должен быть из фанеры. WARHEAD.SU — против заблуждений. Поэтому мы собрали популярные мифы — и готовы дать им бой.

13K
59
44
32
Воздушный дредноут: как СССР чуть не построил стометровый самолёт

В начале 30-х в СССР пестовали идею создания самолётов-гигантов. Военные, впечатлённые идеями генерала Дуэ, рисовали в воображении ряды огромных бомбовозов, стройными рядами плывущих к неприятельским индустриальным центрам. ТБ-6 со своим 95-метровым размахом крыла должен был стать крупнейшим, но так и не увидел свет. О судьбе воздушного колосса — в нашей статье.

12K
38
56
111
Острее бритвы: как правильно точить ножи

Пришли на шашлыки, а тупой «дедушкин» ножик не режет мясо? Вовремя затачивать надо было! Чтобы вы больше не попали впросак в такой ситуации — наша статья о том, как же правильно «лечить» затупившиеся клинки.

96K
54
41
467
Плавучие ветераны Второй мировой: самые старые действующие военные корабли

Вторая мировая была настолько давно, что корабли, принимавшие в ней участие, уже давно превратились в плавучие музеи. Но не все! Некоторые всё ещё стоят в строю и гордо несут флаги своих стран. Мы собрали для вас подборку самых интересных кораблей-ветеранов.

93K
29
13
81
Советская пехота держит удар: как растерялись «тигры»

«Разгромить!» — такой безапелляционный приказ получил свежий 507-й тяжёлый танковый батальон «тигров». Его машины 21 марта 1944 года выгрузились с платформ в районе Львова прямо к началу нового наступления Красной армии. Ожидания немецкого командования по поводу чудесной силы «тигров» оказались обмануты самым подлым образом.

89K
80
27
742
Средневековые убийцы, или О чём на самом деле сказка про Красную Шапочку?

Все мы в детстве слышали историю про девочку и волка. Но вряд ли догадывались, какая тьма, какой ужас стоят за ней. О событиях, ставших основой всеми любимой сказки, — в материале WARHEAD.SU.

61K
94
57
979
Ликбез: численность средневековых армий

Ничто не вызывает столько споров у историков, как вопрос о численности средневековых армий. По страницам серьёзных монографий и научно-популярных книг ходят цифры, порой очень плохо сопоставимые с реальностью. Так сколько же воинов могло выставить средневековое государство? WARHEAD.SU разобрался.

58K
51
57
591
Партизанские реалии: насколько точными были полевые сводки?

«Чем дальше в лес, тем толще партизаны», гласит известная шутка. В начале 1944 года, когда Красная армия освободила значительную часть Украины, штаб партизанского движения захотел проверить — а так ли были точны сводки?

55K
68
67
862
Битва за Радзехов: анти-Расейняй Великой Отечественной

«Советские КВ и Т-34 были неуязвимы для немецкой артиллерии летом 1941 года!» — такие утверждения можно встретить и сегодня. Обычно дальше вспоминают прибалтийский Расейняй и одинокий КВ против 4-й танковой группы. Но ход боевых действий подсказывает, что была и полная его противоположность. Имя ей — Радзехов.

55K
76
35
719
Стройка века по-немецки: Атлантический вал

«Мы построим свою линию укреплений, с пушками и адским пламенем!» — решили немцы в 30-е годы, обиженно наблюдая, как тем же самым вовсю уже занимается весь остальной мир. Немецкая пропаганда утверждала, что Атлантический вал неприступен и любая попытка высадки обречена. Но союзники решили, что этот вал не так страшен, как его малевал доктор Геббельс.

55K
51
11
432
Монгольские нукеры против рыцарей: битва при Легнице

Сравнивать крестоносцев и монголов, казалось бы, заведомо бесполезное занятие. Ведь где рыцарство, а где хитрые азиаты? Однако 9 апреля 1241 года под Легницей, что в Силезии, произошла великая битва, которая поможет ответить на вопрос: какая же военная культура прошлого превосходит остальные?

54K
53
42
1.1K
10 «школьных» заблуждений о русской военной истории

На Куликовом поле не было пехоты, стрельцы не воевали в красном, Карл XII не нападал на Россию!

215K
94
57
897
Взгляд Запада: каким видели советский спецназ в Афганистане

Советского спецназа на Западе очень боялись — и заслуженно. О наших бойцах писали в зарубежной прессе, рассказывали душманы. За Spetsnaz пристально следили за океаном. О подвигах бойцов в Афганистане ходило много легенд. Какие из них правда? Сейчас расскажем.

116K
74
19
869
Острее бритвы: как правильно точить ножи

Пришли на шашлыки, а тупой «дедушкин» ножик не режет мясо? Вовремя затачивать надо было! Чтобы вы больше не попали впросак в такой ситуации — наша статья о том, как же правильно «лечить» затупившиеся клинки.

96K
54
41
467
Плавучие ветераны Второй мировой: самые старые действующие военные корабли

Вторая мировая была настолько давно, что корабли, принимавшие в ней участие, уже давно превратились в плавучие музеи. Но не все! Некоторые всё ещё стоят в строю и гордо несут флаги своих стран. Мы собрали для вас подборку самых интересных кораблей-ветеранов.

93K
29
13
81
Ликбез: зачем танку бревно

Танк — это вам не шуточки, а грозная боевая машина, обвешанная орудиями смерти! Но кроме привычных всем пушек, пулемётов и гусениц на нём частенько можно увидеть самые странные навороты. И по степени непонятности одно из первых мест занимает обычное бревно. Казалось бы, зачем оно на танке? Мы разобрались.

90K
42
29
457
Советская пехота держит удар: как растерялись «тигры»

«Разгромить!» — такой безапелляционный приказ получил свежий 507-й тяжёлый танковый батальон «тигров». Его машины 21 марта 1944 года выгрузились с платформ в районе Львова прямо к началу нового наступления Красной армии. Ожидания немецкого командования по поводу чудесной силы «тигров» оказались обмануты самым подлым образом.

89K
80
27
742
Тест: Какой вы военачальник?

Всегда мечтали стать Верховным Главнокомандующим, но что-то мешало? Опыт знаменитых военачальников прошлого поможет подготовиться как следует и избежать ошибок. Пройдите тест WARHEAD.SU и узнайте, какой стиль командования войсками ближе именно вам.

86K
7
3
276
Гиганты в тупике
Мы не увидим их в небе

Бомбардировщики — самые большие, сложные и дорогие боевые самолёты своего времени. Ведь доставлять на территорию противника смертельный груз — это задача, на которую сил и средств не жалеют. Однако, попытка внедрения даже самых амбициозных идей часто даёт осечку. Взглянем на чудовищ, которых породил временный сон разума некоторых конструкторов.

76K
34
14
172
Рожок, бубен и мясорубка: что поможет перезарядить быстрее?

Запас патронов бывает двух видов: «мало» и «всё равно мало». Однако просто забить рюкзак патронами — тоже не выход. Процесс перезарядки для противника вовсе не повод по-джентльменски прекратить стрельбу. Перезаряжаться желательно как можно быстрее и реже, а патроны таскать уже «готовыми к употреблению». Что же для этого придумали?

75K
28
17
346