itemscope itemtype="http://schema.org/WebPage"

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

/
4.6K
21
5
75

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

Статья «Нью-Йорк таймс» «Являются ли роботы-убийцы будущим войны?» начинается с небольшой зарисовки о вполне возможном будущем. Российский военный робот воспринимает случайный выстрел эстонского пограничника как начало атаки и открывает огонь на поражение. Спустя долю мгновения в ответ стреляет дрон с эстонской стороны. На поле боя остаётся лежать дюжина погибших и раненых с обеих сторон. Человеческая неуклюжесть и реакция машины ставят мир на грань войны НАТО и России.

Стремительная роботизация поля боя происходит на наших глазах. Ведущие державы уже потеряли монополию на неё. Беспилотники, сделанные из палок, отходов и палёных микросхем стали головной болью для лучших армий мира в зонах локальных конфликтов.

Пока речь не идёт о настоящих военных роботах. Сейчас беспилотной машиной дистанционно управляет человек. Или её автономность обычно сводится к продвинутому самонаведению на уже выбранные цели.

Решение об уничтожении целей принимают не электронные «мозги» дронов RQ-4 Global Hawk или MQ-9 Reaper, а сидящий в центре управления офицер ВВС США без отрыва от чашки кофе.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Такое убийство отличается от «обычного» только расстоянием, на котором находится стреляющий.

Но развитие военного дела требует перехода к автономным боевым машинам. Которые будут убивать людей без участия оператора — просто на основе заложенных в них алгоритмов определения целей.

Зачем создавать терминаторов?

Скорости современного боя

Расползание по миру ракетных технологий и появление гиперзвукового оружия диктуют невозможное для человека время принятия решений. Ты обеспечил наведение на цель и открытие огня за миллисекунды — или проиграл. За эти же доли мгновения нужно успеть понять, не является ли решение поразить цель ошибочным.

Раньше это касалось в основном сверхскорострельных орудий ближней ПВО боевых кораблей, обязанных за доли секунд встретить прорвавшуюся ракету потоком снарядов. Теперь на сопоставимых скоростях должны действовать большая и малая ПРО. В том числе против гиперзвуковых ракет, системы активной защиты техники и многого другого.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Пока что это в основном касается оборонительных систем. Но уже сейчас существует острейшая потребность в автоматизированном поиске и поражении целей до того, как они успеют выстрелить первыми.

Такова, к примеру, российская перспективная боевая информационно-управляющая система «Сигма-20385». По словам разработчиков, при доведении до нужной кондиции она сможет полностью управлять движением и боем целых эскадр военный кораблей.

Кто победил, а кто получил снаряд и сгорел, в современном бою решают доли секунды. Автоматизация с её невозможной для человеческой психики скоростью реакции даёт огромный перевес тем, кто рискнёт сделать на неё ставку.

Антон Железняк
Антон Железняк
Эксперт по техническим и инженерным вопросам

Тупейшая по современным меркам CIWS Phalanx как-то учинила восстание машин на японском эсминце «Югири», расчленив на лету американский А-6 «Intruder». Экипаж выжил чудом. По сути, виноват был оператор, включивший систему до выхода самолёта из зоны поражения. Но решение о стрельбе принимала автоматика зенитного комплекса. «Потому что нечего тут летать гайдзинским мясным мешкам, роботы банзай!»

Совершенствование средств РЭБ и кибервойны

Беспилотные машины, управляемые по радиоканалу оператором, имеют свои уязвимости. Эту связь можно прервать или взломать. Даже продвинутым и защищённым американским БПЛА приходилось приземляться не там и попадать в любопытные руки иностранных инженеров.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Впрочем, перехват контроля — это высший пилотаж. Обрыв связи с центром управления с помощью постановки помех проще и надёжнее.

Полностью автономная машина, действующая на основе собственных алгоритмов, гораздо устойчивее к таким фокусам.

Деньги-деньги-дребеденьги

Есть ещё и вопрос оптимизации расходов. Ведь операторам в центрах управления дронами тоже надо платить, и это не самые маленькие деньги.

Если роботы будут управлять собой сами, военным бюджетам проще будет сводить концы с концами. Проще содержать нескольких айтишников и прочих технарей, чем толпу офицеров.

Рассвет машин-убийц

Автономные боевые системы рождаются в то самое время, когда вы читаете эту статью.

Великобритания и Израиль уже применяют ракетные комплексы «Бримстоун» и «Гарпия НГ», способные часами барражировать в заданном секторе, определять и поражать цели.

Американское агентство DARPA в рамках программы CODE разрабатывает координируемый оператором рой боевых дронов высокой степени автономности, способных к импровизации внутри общей задачи. А возможно, и к полностью самостоятельной работе — но про это нервической общественности знать необязательно. Само собой, это не единственная разработка американского ВПК на эту тему.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Про российскую «Сигму-20385», способную превращать эскадры кораблей в рой дронов под контролем нейросети, мы уже упомянули — и она тоже не единственная в ВПК РФ.

Есть разработки и у Китая — в том числе не без израильских «ушей», — и у других стран.

Это пугает очень многих.

Лиценизия на убийство для машины

Убийство человека — это плохо по определению, гласит один из фундаментальных принципов современной цивилизации. Убийца из любых соображений всё равно является убийцей. Он несёт ответственность за гибель человеческого существа.

А кто несёт ответственность за убийство человека роботом, решение о котором машина принимает сама?

Военное командование, руководство ЧВК или командиры мятежников отправили робота в заданный сектор. Программисты вложили в него алгоритмы определения целей и применения оружия. Но на «спусковой крючок» машина-убийца нажимает сама. Решает она. Безэмоциональными, не владеющими концепциями гуманности или пощады электронными мозгами.

В теории тщательно проработанные и протестированные алгоритмы оставляют дронам куда меньше шансов на ошибку, чем живому человеку с его слабостями, усталостью и «тараканами» в голове.

Но с другой стороны, кто сказал, что программисты не накосячат? Непременно накосячат. Просто потому, что они живые люди. Всевозможные сбои, глюки и баги железа и софта тоже никто не отменял.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Нет никакой гарантии, что в ваше окно одним прекрасным днём не влетит ракета с термобарической боеголовкой или рой 30-мм снарядов. Просто потому, что у пролетавшего в сторону полигона военного робота переклинило программу, и он увидел в вашей квартире логово террористов.

А давайте запретим?

Дискуссии о машинах-убийцах идут не первый год. Международная гражданская кампания «Остановим роботов-убийц» в августе 2018 года добилась формулирования на уровне ООН принципов недопущения выдачи боевым машинам лицензии на убийство.

Цитата:
Мы сфокусировались на двух вещах, которые должны оставаться под контролем человека. Это идентификация и выбор целей, а затем применение против них оружия.
— Мэри Уорхем, координатор кампании «Stop Killer Robots».

В июне того же года корпорация Google торжественно объявила, что её принципы не допускают участия в разработке машин‑убийц.

Только всё это совершенно бессмысленно и неосуществимо.

Мы можем говорить сколько угодно слов про неэтичность и недопустимость на международных площадках с самых высоких трибун. Но те, кто на это наплюют, получат значительное преимущество.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Даже если случится чудо, государства и корпорации договорятся о запретах и станут их соблюдать — скоро машины-убийцы можно будет собирать из всё тех же палок, отходов и микросхем.

Ещё в 2015 году тысяча ведущих мировых специалистов в области искусственного интеллекта и робототехники во главе с Илоном Маском, Стивом Возняком и Стивеном Хокингом подписали открытое письмо. В нём они выразили опасение, что машины-убийцы станут «калашниковыми будущего». В смысле общедоступности и популярности.

С большой вероятностью так и будет. Запреты никого ни от чего не спасут. Прогресс не остановить, даже если очень хочется и срочно надо.

Роботы-убийцы в руках государств, корпораций, ЧВК, преступных синдикатов и террористических организаций — наше неизбежное завтра эпохи победившего киберпанка. Их жертвами станут миллионы человек.

А в случае ошибок, подобных описанному в The New York Times, или попросту сбоев, эти терминаторы смогут ещё и войны развязывать. С эскалацией до мировых и ядерных. Потому что у них баги и они нечаянно.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Шанс стать целью машины-убийцы, прямо как Сара Коннор из «Терминатора», теперь имеет каждый из нас. В самой что ни на есть реальной реальности.

В том числе не от происков Большого Брата или злобных террористов, а из-за криворукости какого-нибудь субподрядчика из Шри-Ланки, кодировавшего военный заказ за доширак.

Поздравляю, будущее наступило. Оно вот такое — другого не завезли.

Мнение редакции не всегда совпадает с мнением автора.
Hoвости СМИ2
Наша Царь-пушка VS ихней Царь-койки

Нередко, когда хотят сказать что-то обидное в адрес России, говорят: вот, мол, у вас главные реликвии — это Царь-колокол, который никогда не звонил, и Царь-пушка, которая никогда не стреляла! Этим исчерпывается классический боекомплект обижалок в культурном диспуте Россия vs. Запад.

25K
37
34
85
Республика воздушных пиратов
Самое безумное государство в истории

При словах «воздушные пираты» мы вспоминаем или террористов с бомбами, требующих лететь вместо Парижа в Ливию во имя борьбы с сионизмом, или что-то наивно-ретрофутуристичное: персонажей стимпанка, «Порко Россо» или «Чудес на виражах». Первые удручающе реалистичны, вторые кажутся чистым полётом фантазии. Однако у небесных последователей Флинта и Джека Воробья были вполне реальные прототипы. И как ни странно — ближе всего к реальности они изображены мэтром Миядзаки.

69K
70
12
1.2K
Раджпуты — индийские самураи
Храбрость, жестокость и самоубийственно строгий кодекс чести

На западе современной Индии, у границы с Пакистаном есть суровая и живописная пустынная земля — Раджастан. Имя ему дали раджпуты, «сыны раджей». Фанатично приверженные кшатрийским воинским идеалам и древней вере Индии, они предпочитали гордо шагнуть в пылающий костёр, но не склонить головы перед торжествующим врагом.

28K
29
3
221
Как Джордж Вашингтон не стал офицером британской армии

Прежде чем стать отцом-основателем США и очутиться на купюре, Джордж Вашингтон прошёл квест «Как выжить среди идиотов».

11K
36
7
150
«Kilroy was here»
Откуда взялся главный военный мем Второй мировой

Встречался ли вам когда-нибудь незамысловатый рисунок-граффити «Kilroy was here»? Прямая линия — это стена. Из-за неё выглядывает лысый тип с внушительного размера носом (аж перевешивается наружу — Буратино и Пиноккио обзавидовались бы). Вот и всё, не считая пальцев, которыми тип держится за стену. Это и есть тот самый овеянный легендами Килрой, который «был здесь».

14K
29
0
54
Няшный милитаризм
Как японцев служить заманивают

Японцы, как всегда, удивили всех. Что, казалось бы, нужно рисовать на плакате, агитирующем вступать в армию? Танки, грозно едущие, самолёты, грозно летящие, бойца с автоматом и квадратной челюстью, грозно символизирующего… Плюс красотки в обтягивающей униформе, в этом Америка толк знает. Но в Стране восходящего солнца пошли совершенно иным путём.

28K
20
3
100
Армия Её Величества под ЛСД

Все мы любим классический образ Джеймса Бонда, который стильно заправляется водкой с мартини, а потом бодро разбирается с врагами британской короны. В хипповские 60-е MI6 поддалась атмосфере эпохи и решила переплюнуть героя Яна Флеминга, отбросив замшелые стереотипы. Британских учёных озарила идея повысить боеспособность бойцов Её Величества с помощью психоделиков.

21K
38
2
188
Как казаки даты переводили
18 октября — День памяти войсковой казачьей славы

Этот праздник отмечают уже восемнадцатый год ― и не то чтобы широко, но заметно, особенно в регионах, которые по традиции считаются казачьими. Но вот какая штука: сама его дата определенно является следствием странной ошибки.

8.2K
7
5
39
Как угнать Боинг и размножить танки

При слове «контрабанда» представляется грузовичок с каким-нибудь санкционным сыром, или романтичный разбойник, пробирающийся в горах с потайным фонарем. В общем, частный бизнес. Но бывает и контрабанда в масштабах государства, и масштаб у неё соответствующий — контрабандой везут танки, самолёты и вертолёты.

12K
15
7
106
Час презрения: террористическая катастрофа в Будённовске

Теракт лета 1995 года в Будённовске стал одной из самых страшных катастроф в истории современной России. Его последствия ушли далеко за рамки простого злодеяния с массовыми жертвами. Произошёл перелом всей войны в Чечне, а эпоха массового террора только открывалась…

28K
182
166
1.9K
Белый спецназ: почему в рядах американских коммандос так мало нацменьшинств?

Спасибо голливудским боевикам, про американский спецназ сегодня знают даже дети. На земле, в небесах и на море крутые парни наводят ужас на врагов, защищая свободу и демократию. И конечно, в духе политкорректности, как минимум треть этих бойцов — из нацменьшинств. Что совершенно противоречит реальности. Почему в рядах коммандос так мало чёрных?

26K
138
111
1.6K
Советские БМП: не первые и не лучшие?

Советские БМП — один из поводов для гордости за наше танкостроение. Они и первые в своём классе, и всегда превосходили западные аналоги, как часто можно услышать. Вот только при более внимательном изучении вопроса всё выглядит уже не так однозначно…

25K
63
157
476
Спецназ мира: чьи нормативы жёстче?

Хотите попасть в ряды мирового спецназа? Легче лёгкого! Если, конечно, вы готовы к самым жёстким физическим испытаниям. Каким именно — рассказываем в этой статье.

24K
53
32
379
Мастерами кунг-фу не рождаются: китайских пограничников научат боевым искусствам

Мастерами кунг-фу становятся! После кровопролитной драки с индийцами китайское командование озаботилось рукопашной подготовкой бойцов. Для подготовки пограничников Тибета сформирован специальный отряд из инструкторов боевых искусств.

24K
28
22
56
Силовое задержание: взгляд российского полицейского на задержание Флойда и беспорядки в США

Смерть Джорджа Флойда и последовавшие за ней события в США по-прежнему в центре внимания СМИ. Ситуацию с задержанием афроамериканца и массовыми беспорядками в интервью Андрею Уланову прокомментировал действующий офицер российской полиции.

21K
114
390
1.5K
Супернадёжность, дешевизна и старость: 5 мифов об автомате Калашникова

70 лет в строю, десятки миллионов выпущенных автоматов по всему миру — воистину легендарное оружие! А от легенд, как известно, и до мифов недалеко. Мы собрали пять самых популярных из них.

18K
124
103
864
Тест: какой вы бомбардировщик Второй мировой?

Вторая мировая отметилась массовым применением бомбардировщиков — как стратегических, так и «самолётов поля боя». Каким из них могли бы оказаться вы?

18K
37
23
410
Закон Мёрфи и немецкое вундерваффе: как финны пытались остановить советские танки

Летом 1944 года Красная армия прорвала финскую оборону на Карельском перешейке. Советские танки стремительно продвигались к Выборгу по узким дорогам среди дремучих лесов, где их ожидали горячие финские парни, вооружённые немецкими фаустпатронами. Это был первый для финнов опыт применения «панцерфаустов» — и всё, что могло пойти не так, пошло не так…

17K
91
88
679
Средневековые убийцы, или О чём на самом деле сказка про Красную Шапочку?

Все мы в детстве слышали историю про девочку и волка. Но вряд ли догадывались, какая тьма, какой ужас стоят за ней. О событиях, ставших основой всеми любимой сказки, — в материале WARHEAD.SU.

78K
122
61
979
Ликбез: численность средневековых армий

Ничто не вызывает столько споров у историков, как вопрос о численности средневековых армий. По страницам серьёзных монографий и научно-популярных книг ходят цифры, порой очень плохо сопоставимые с реальностью. Так сколько же воинов могло выставить средневековое государство? WARHEAD.SU разобрался.

70K
66
72
591
Монгольские нукеры против рыцарей: битва при Легнице

Сравнивать крестоносцев и монголов, казалось бы, заведомо бесполезное занятие. Ведь где рыцарство, а где хитрые азиаты? Однако 9 апреля 1241 года под Легницей, что в Силезии, произошла великая битва, которая поможет ответить на вопрос: какая же военная культура прошлого превосходит остальные?

66K
71
51
1.1K
Партизанские реалии: насколько точными были полевые сводки?

«Чем дальше в лес, тем толще партизаны», — гласит известная шутка. В начале 1944 года, когда Красная армия освободила значительную часть Украины, штаб партизанского движения захотел проверить — а так ли были точны сводки?

63K
73
76
862
Битва за Радзехов: анти-Расейняй Великой Отечественной

«Советские КВ и Т-34 были неуязвимы для немецкой артиллерии летом 1941 года!» — такие утверждения можно встретить и сегодня. Обычно дальше вспоминают прибалтийский Расейняй и одинокий КВ против 4-й танковой группы. Но ход боевых действий подсказывает, что была и полная его противоположность. Имя ей — Радзехов.

62K
83
37
719
Если бы Союз проиграл: 5 альтернативно-исторических мифов о будущем Третьего рейха

Что было бы, если бы СССР проиграл Великую Отечественную? Как заявляют фанатичные любители немецкого орднунга, в этом случае Германия стала бы непобедима, завоевала бы весь мир, вышла бы первой в космос… Вот только такая оценка не выдерживает критики. WARHEAD.SU подробно разобрал пять излюбленных тезисов рейхофилов.

54K
73
406
703
10 «школьных» заблуждений о предвоенных репрессиях в Красной армии

Красную армию обезглавили перед войной. 1941 года не было бы, если бы не 1937-й. А может быть, наоборот, репрессии — это очищение? Так как же всё было на самом деле?

50K
106
378
786
«Месть за муки»: как сражались освобождённые из плена красноармейцы

Те, кто прошёл ужасы немецкого плена, рвались в бой, едва лишь выйдя на свободу. Ими двигала жажда мести, желание расплатиться с мучителями. Вновь оказавшись в строю, они показывали себя отличными, дисциплинированными солдатами. Пример тому — участие бывших пленных в форсировании Одера в составе 47-й гвардейской танковой бригады.

47K
68
83
1.7K
Норвежцы в Карелии: разгром эсэсовских добровольцев

Норвегию оккупировали в самом начале Второй мировой. Дальнейшее участие страны в войне ограничилось подпольной войной или боевыми действиями добровольцев. Многие попали в армии союзников, но некоторые служили в СС. Именно им и не повезло оказаться в Карелии в июне 1944 года.

45K
43
71
933
10 «школьных» заблуждений о русской военной истории

На Куликовом поле не было пехоты, стрельцы не воевали в красном, Карл XII не нападал на Россию!

270K
123
83
897
Плавучие ветераны Второй мировой: самые старые действующие военные корабли

Вторая мировая была настолько давно, что корабли, принимавшие в ней участие, уже давно превратились в плавучие музеи. Но не все! Некоторые всё ещё стоят в строю и гордо несут флаги своих стран. Мы собрали для вас подборку самых интересных кораблей-ветеранов.

144K
37
13
81
Острее бритвы: как правильно точить ножи

Пришли на шашлыки, а тупой «дедушкин» ножик не режет мясо? Вовремя затачивать надо было! Чтобы вы больше не попали впросак в такой ситуации — наша статья о том, как же правильно «лечить» затупившиеся клинки.

136K
75
55
467
Взгляд Запада: каким видели советский спецназ в Афганистане

Советского спецназа на Западе очень боялись — и заслуженно. О наших бойцах писали в зарубежной прессе, рассказывали душманы. За Spetsnaz пристально следили за океаном. О подвигах бойцов в Афганистане ходило много легенд. Какие из них правда? Сейчас расскажем.

132K
96
24
869
Ликбез: зачем танку бревно

Танк — это вам не шуточки, а грозная боевая машина, обвешанная орудиями смерти! Но кроме привычных всем пушек, пулемётов и гусениц на нём частенько можно увидеть самые странные навороты. И по степени непонятности одно из первых мест занимает обычное бревно. Казалось бы, зачем оно на танке? Мы разобрались.

102K
56
33
457
Советская пехота держит удар: как растерялись «тигры»

«Разгромить!» — такой безапелляционный приказ получил свежий 507-й тяжёлый танковый батальон «тигров». Его машины 21 марта 1944 года выгрузились с платформ в районе Львова прямо к началу нового наступления Красной армии. Ожидания немецкого командования по поводу чудесной силы «тигров» оказались обмануты самым подлым образом.

102K
100
29
742
Тест: Какой вы военачальник?

Всегда мечтали стать Верховным Главнокомандующим, но что-то мешало? Опыт знаменитых военачальников прошлого поможет подготовиться как следует и избежать ошибок. Пройдите тест WARHEAD.SU и узнайте, какой стиль командования войсками ближе именно вам.

98K
10
4
276
Как начинают войны: ликбез

Чтобы пересчитать все горячие точки планеты в 2017, вам не хватит пальцев обеих рук. В 2016 году в них погибло более 130 тысяч человек, что значительно меньше, чем в 2014, но примерно столько же, сколько в 2015. Хотя официально ни одной войны сейчас не идёт. Война вообще-то запрещена.

85K
44
8
274
Кто такие гренадеры: могучие великаны военной истории

Многие почему-то зовут их гренадёрами. Это ошибка, но возможно, в таком наименовании подсознательно отразилась сама суть этого рода войск. Ведь гренадеры всегда были не прочь надрать пятую точку любому противнику.

80K
46
8
358