itemscope itemtype="http://schema.org/WebPage"

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

/
4.9K
21
5
75

Мы не первый год живём в мире заслуженного нами киберпанка. Теперь погружённая в виртуальность планета столкнулась ещё и с ползучим нашествием роботов. Оно резко изменит её облик на глазах поколений, читающих эти строки.

Статья «Нью-Йорк таймс» «Являются ли роботы-убийцы будущим войны?» начинается с небольшой зарисовки о вполне возможном будущем. Российский военный робот воспринимает случайный выстрел эстонского пограничника как начало атаки и открывает огонь на поражение. Спустя долю мгновения в ответ стреляет дрон с эстонской стороны. На поле боя остаётся лежать дюжина погибших и раненых с обеих сторон. Человеческая неуклюжесть и реакция машины ставят мир на грань войны НАТО и России.

Стремительная роботизация поля боя происходит на наших глазах. Ведущие державы уже потеряли монополию на неё. Беспилотники, сделанные из палок, отходов и палёных микросхем стали головной болью для лучших армий мира в зонах локальных конфликтов.

Пока речь не идёт о настоящих военных роботах. Сейчас беспилотной машиной дистанционно управляет человек. Или её автономность обычно сводится к продвинутому самонаведению на уже выбранные цели.

Решение об уничтожении целей принимают не электронные «мозги» дронов RQ-4 Global Hawk или MQ-9 Reaper, а сидящий в центре управления офицер ВВС США без отрыва от чашки кофе.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Такое убийство отличается от «обычного» только расстоянием, на котором находится стреляющий.

Но развитие военного дела требует перехода к автономным боевым машинам. Которые будут убивать людей без участия оператора — просто на основе заложенных в них алгоритмов определения целей.

Зачем создавать терминаторов?

Скорости современного боя

Расползание по миру ракетных технологий и появление гиперзвукового оружия диктуют невозможное для человека время принятия решений. Ты обеспечил наведение на цель и открытие огня за миллисекунды — или проиграл. За эти же доли мгновения нужно успеть понять, не является ли решение поразить цель ошибочным.

Раньше это касалось в основном сверхскорострельных орудий ближней ПВО боевых кораблей, обязанных за доли секунд встретить прорвавшуюся ракету потоком снарядов. Теперь на сопоставимых скоростях должны действовать большая и малая ПРО. В том числе против гиперзвуковых ракет, системы активной защиты техники и многого другого.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Пока что это в основном касается оборонительных систем. Но уже сейчас существует острейшая потребность в автоматизированном поиске и поражении целей до того, как они успеют выстрелить первыми.

Такова, к примеру, российская перспективная боевая информационно-управляющая система «Сигма-20385». По словам разработчиков, при доведении до нужной кондиции она сможет полностью управлять движением и боем целых эскадр военный кораблей.

Кто победил, а кто получил снаряд и сгорел, в современном бою решают доли секунды. Автоматизация с её невозможной для человеческой психики скоростью реакции даёт огромный перевес тем, кто рискнёт сделать на неё ставку.

Антон Железняк
Антон Железняк
Эксперт по техническим и инженерным вопросам

Тупейшая по современным меркам CIWS Phalanx как-то учинила восстание машин на японском эсминце «Югири», расчленив на лету американский А-6 «Intruder». Экипаж выжил чудом. По сути, виноват был оператор, включивший систему до выхода самолёта из зоны поражения. Но решение о стрельбе принимала автоматика зенитного комплекса. «Потому что нечего тут летать гайдзинским мясным мешкам, роботы банзай!»

Совершенствование средств РЭБ и кибервойны

Беспилотные машины, управляемые по радиоканалу оператором, имеют свои уязвимости. Эту связь можно прервать или взломать. Даже продвинутым и защищённым американским БПЛА приходилось приземляться не там и попадать в любопытные руки иностранных инженеров.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Впрочем, перехват контроля — это высший пилотаж. Обрыв связи с центром управления с помощью постановки помех проще и надёжнее.

Полностью автономная машина, действующая на основе собственных алгоритмов, гораздо устойчивее к таким фокусам.

Деньги-деньги-дребеденьги

Есть ещё и вопрос оптимизации расходов. Ведь операторам в центрах управления дронами тоже надо платить, и это не самые маленькие деньги.

Если роботы будут управлять собой сами, военным бюджетам проще будет сводить концы с концами. Проще содержать нескольких айтишников и прочих технарей, чем толпу офицеров.

Рассвет машин-убийц

Автономные боевые системы рождаются в то самое время, когда вы читаете эту статью.

Великобритания и Израиль уже применяют ракетные комплексы «Бримстоун» и «Гарпия НГ», способные часами барражировать в заданном секторе, определять и поражать цели.

Американское агентство DARPA в рамках программы CODE разрабатывает координируемый оператором рой боевых дронов высокой степени автономности, способных к импровизации внутри общей задачи. А возможно, и к полностью самостоятельной работе — но про это нервической общественности знать необязательно. Само собой, это не единственная разработка американского ВПК на эту тему.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Про российскую «Сигму-20385», способную превращать эскадры кораблей в рой дронов под контролем нейросети, мы уже упомянули — и она тоже не единственная в ВПК РФ.

Есть разработки и у Китая — в том числе не без израильских «ушей», — и у других стран.

Это пугает очень многих.

Лиценизия на убийство для машины

Убийство человека — это плохо по определению, гласит один из фундаментальных принципов современной цивилизации. Убийца из любых соображений всё равно является убийцей. Он несёт ответственность за гибель человеческого существа.

А кто несёт ответственность за убийство человека роботом, решение о котором машина принимает сама?

Военное командование, руководство ЧВК или командиры мятежников отправили робота в заданный сектор. Программисты вложили в него алгоритмы определения целей и применения оружия. Но на «спусковой крючок» машина-убийца нажимает сама. Решает она. Безэмоциональными, не владеющими концепциями гуманности или пощады электронными мозгами.

В теории тщательно проработанные и протестированные алгоритмы оставляют дронам куда меньше шансов на ошибку, чем живому человеку с его слабостями, усталостью и «тараканами» в голове.

Но с другой стороны, кто сказал, что программисты не накосячат? Непременно накосячат. Просто потому, что они живые люди. Всевозможные сбои, глюки и баги железа и софта тоже никто не отменял.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Нет никакой гарантии, что в ваше окно одним прекрасным днём не влетит ракета с термобарической боеголовкой или рой 30-мм снарядов. Просто потому, что у пролетавшего в сторону полигона военного робота переклинило программу, и он увидел в вашей квартире логово террористов.

А давайте запретим?

Дискуссии о машинах-убийцах идут не первый год. Международная гражданская кампания «Остановим роботов-убийц» в августе 2018 года добилась формулирования на уровне ООН принципов недопущения выдачи боевым машинам лицензии на убийство.

Цитата:
Мы сфокусировались на двух вещах, которые должны оставаться под контролем человека. Это идентификация и выбор целей, а затем применение против них оружия.
— Мэри Уорхем, координатор кампании «Stop Killer Robots».

В июне того же года корпорация Google торжественно объявила, что её принципы не допускают участия в разработке машин‑убийц.

Только всё это совершенно бессмысленно и неосуществимо.

Мы можем говорить сколько угодно слов про неэтичность и недопустимость на международных площадках с самых высоких трибун. Но те, кто на это наплюют, получат значительное преимущество.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Даже если случится чудо, государства и корпорации договорятся о запретах и станут их соблюдать — скоро машины-убийцы можно будет собирать из всё тех же палок, отходов и микросхем.

Ещё в 2015 году тысяча ведущих мировых специалистов в области искусственного интеллекта и робототехники во главе с Илоном Маском, Стивом Возняком и Стивеном Хокингом подписали открытое письмо. В нём они выразили опасение, что машины-убийцы станут «калашниковыми будущего». В смысле общедоступности и популярности.

С большой вероятностью так и будет. Запреты никого ни от чего не спасут. Прогресс не остановить, даже если очень хочется и срочно надо.

Роботы-убийцы в руках государств, корпораций, ЧВК, преступных синдикатов и террористических организаций — наше неизбежное завтра эпохи победившего киберпанка. Их жертвами станут миллионы человек.

А в случае ошибок, подобных описанному в The New York Times, или попросту сбоев, эти терминаторы смогут ещё и войны развязывать. С эскалацией до мировых и ядерных. Потому что у них баги и они нечаянно.

Каким будет завтра, или Мечтают ли роботы о массовых убийствах?

Шанс стать целью машины-убийцы, прямо как Сара Коннор из «Терминатора», теперь имеет каждый из нас. В самой что ни на есть реальной реальности.

В том числе не от происков Большого Брата или злобных террористов, а из-за криворукости какого-нибудь субподрядчика из Шри-Ланки, кодировавшего военный заказ за доширак.

Поздравляю, будущее наступило. Оно вот такое — другого не завезли.

Мнение редакции не всегда совпадает с мнением автора.
Hoвости СМИ2
Наша Царь-пушка VS ихней Царь-койки

Нередко, когда хотят сказать что-то обидное в адрес России, говорят: вот, мол, у вас главные реликвии — это Царь-колокол, который никогда не звонил, и Царь-пушка, которая никогда не стреляла! Этим исчерпывается классический боекомплект обижалок в культурном диспуте Россия vs. Запад.

26K
39
36
85
Республика воздушных пиратов
Самое безумное государство в истории

При словах «воздушные пираты» мы вспоминаем или террористов с бомбами, требующих лететь вместо Парижа в Ливию во имя борьбы с сионизмом, или что-то наивно-ретрофутуристичное: персонажей стимпанка, «Порко Россо» или «Чудес на виражах». Первые удручающе реалистичны, вторые кажутся чистым полётом фантазии. Однако у небесных последователей Флинта и Джека Воробья были вполне реальные прототипы. И как ни странно — ближе всего к реальности они изображены мэтром Миядзаки.

72K
73
12
1.2K
Раджпуты — индийские самураи
Храбрость, жестокость и самоубийственно строгий кодекс чести

На западе современной Индии, у границы с Пакистаном есть суровая и живописная пустынная земля — Раджастан. Имя ему дали раджпуты, «сыны раджей». Фанатично приверженные кшатрийским воинским идеалам и древней вере Индии, они предпочитали гордо шагнуть в пылающий костёр, но не склонить головы перед торжествующим врагом.

30K
30
3
221
Как Джордж Вашингтон не стал офицером британской армии

Прежде чем стать отцом-основателем США и очутиться на купюре, Джордж Вашингтон прошёл квест «Как выжить среди идиотов».

11K
36
7
150
«Kilroy was here»
Откуда взялся главный военный мем Второй мировой

Встречался ли вам когда-нибудь незамысловатый рисунок-граффити «Kilroy was here»? Прямая линия — это стена. Из-за неё выглядывает лысый тип с внушительного размера носом (аж перевешивается наружу — Буратино и Пиноккио обзавидовались бы). Вот и всё, не считая пальцев, которыми тип держится за стену. Это и есть тот самый овеянный легендами Килрой, который «был здесь».

15K
29
0
54
Няшный милитаризм
Как японцев служить заманивают

Японцы, как всегда, удивили всех. Что, казалось бы, нужно рисовать на плакате, агитирующем вступать в армию? Танки, грозно едущие, самолёты, грозно летящие, бойца с автоматом и квадратной челюстью, грозно символизирующего… Плюс красотки в обтягивающей униформе, в этом Америка толк знает. Но в Стране восходящего солнца пошли совершенно иным путём.

31K
20
3
100
Армия Её Величества под ЛСД

Все мы любим классический образ Джеймса Бонда, который стильно заправляется водкой с мартини, а потом бодро разбирается с врагами британской короны. В хипповские 60-е MI6 поддалась атмосфере эпохи и решила переплюнуть героя Яна Флеминга, отбросив замшелые стереотипы. Британских учёных озарила идея повысить боеспособность бойцов Её Величества с помощью психоделиков.

23K
40
2
188
Как казаки даты переводили
18 октября — День памяти войсковой казачьей славы

Этот праздник отмечают уже восемнадцатый год ― и не то чтобы широко, но заметно, особенно в регионах, которые по традиции считаются казачьими. Но вот какая штука: сама его дата определенно является следствием странной ошибки.

8.6K
7
5
39
Как угнать Боинг и размножить танки

При слове «контрабанда» представляется грузовичок с каким-нибудь санкционным сыром, или романтичный разбойник, пробирающийся в горах с потайным фонарем. В общем, частный бизнес. Но бывает и контрабанда в масштабах государства, и масштаб у неё соответствующий — контрабандой везут танки, самолёты и вертолёты.

13K
15
7
106
Вагенбург против рыцарской конницы: рождение и гибель тактики

Все знают, что такое вагенбург. Все знают, что эта тактика сложилась в ходе Гуситских войн. Однако мало кто скажет, какие у этого явления были предпосылки, как развивалась тактика, кто её перенял и как же побеждали противника, засевшего в импровизированной крепости. Об этом мы и расскажем.

45K
78
69
513
Тяжёлый и тупой: 5 «школьных» заблуждений о европейских средневековых мечах

Мало какое оружие овеяно таким количеством мифов, как меч. Оружие рыцаря, оружие кары, оружие короля… превратилось в оружие дезинформаторов и лжецов в наше время. Обнажим же наши мечи в борьбе с заблуждениями!

38K
109
234
664
Как очки-авиаторы спасли лётчиков от небесного сияния и покорили весь мир
История самых культовых военных очков от пионеров авиации

Американские лётчики Второй мировой оказали сильное влияние не только на ход самой войны, но и на мировую моду. Им мы обязаны куртками-пилотами и кожаными косухами, а также очками-авиаторами. О том, как аксессуар для лётчиков покорил военных и модников по всему миру, — в нашей статье.

37K
78
24
295
Пират Жан Лафит: панк на корабле

Жан Лафит — последний крупный представитель эпохи пиратства в Карибском море. И, как ни странно, один из самых удачливых — причём в то время, когда пиратство было фактически побеждено, а корсары массово шли либо на виселицу, либо на государственную службу. Как и почему так получилось?

35K
65
13
287
Дым над водой, огонь в небесах: как Красная армия брала Кюстрин

В январе 1945 года наступающие советские части переправились через Одер и захватили плацдарм в районе города Кюстрин. Немцы отлично понимали значимость «первых ворот Берлина» — город был объявлен «фестунгом» и серьёзно укреплён. Чтобы плацдарм на Одере стал для фронта Жукова настоящими «воротами на Берлин», с них требовалось сбить замок.

34K
87
18
273
Что, если? Советские войска в 1945-м высадились на острове Хоккайдо

Вторая мировая война закончилась без вторжения в Японию. Атомные бомбардировки и советское наступление в Маньчжурии сломили волю самураев к сопротивлению. Но что, если бы верх всё же взяли фанатичные сторонники продолжения войны «до последнего японского солдата»?

34K
70
161
249
«Мы получим то, что требуем»: интервью с турецким адмиралом

Швейцарская Neue Zürcher Zeitung 2 сентября 2020 года опубликовала интервью с адмиралом-геополитиком, создавшим стратегию морской экспансии Турции. О том, что рассказал контр-адмирал в отставке Джем Гюрдениз о роли доктрины «Голубой Родины» в конфликте с Афинами, — читайте в переводе Алексея Костенкова.

33K
33
53
99
Реактивные снаряды родом из СССР: не идеально, но перспективно

Как появились реактивные снаряды — РС-82? Мы проследили историю создания и испытаний.

32K
58
94
128
В венесуэльском флоте обнаружилась секретная подлодка

От вездесущего ока интернет-экспертов не спрятаться никому — даже подводникам далёкой Венесуэлы. Пополнение флота южноамериканской страны секретной мини-субмариной не прошло незамеченным.

32K
24
3
18
Спецслужбы и яды ХХ века: как КГБ и ЦРУ травили врагов

Политические отравления в обыденном сознании связаны с древностью. Борджиа и их современники по Ренессансу вовсю травили окружающих — но со временем это вышло из моды и приличий. Однако ХХ век с его научными открытиями, тайными играми разведок и жёсткими политическими противостояниями стал временем возрождения искусства отравления.

125K
69
58
530
Средневековые убийцы, или О чём на самом деле сказка про Красную Шапочку?

Все мы в детстве слышали историю про девочку и волка. Но вряд ли догадывались, какая тьма, какой ужас стоят за ней. О событиях, ставших основой всеми любимой сказки, — в материале WARHEAD.SU.

90K
138
68
979
Партизанские реалии: насколько точными были полевые сводки?

«Чем дальше в лес, тем толще партизаны», — гласит известная шутка. В начале 1944 года, когда Красная армия освободила значительную часть Украины, штаб партизанского движения захотел проверить — а так ли были точны сводки?

68K
83
78
862
10 «школьных» заблуждений о предвоенных репрессиях в Красной армии

Красную армию обезглавили перед войной. 1941 года не было бы, если бы не 1937-й. А может быть, наоборот, репрессии — это очищение? Так как же всё было на самом деле?

57K
116
380
786
В лучах чужой славы: липовые ветераны

Эти люди появляются практически на каждом крупном мероприятии, посвящённом Великой Отечественной войне. Они получают свою толику славы, почёта и уважения, зачастую проникая туда, куда «простым смертным» путь оказывается заказан. Они попадают на страницы печатных изданий, в статьи, телепередачи, открытки, картины. Это — липовые ветераны.

48K
131
134
6.1K
Самый тёмный час: штурм Грозного

Штурм Грозного зимой 1994-95 годов стал крупнейшей катастрофой современной российской армии. Операция, которую планировали провести быстро и красиво, обернулась оглушительной трагедией. Как же так вышло?

45K
139
110
1.4K
Вагенбург против рыцарской конницы: рождение и гибель тактики

Все знают, что такое вагенбург. Все знают, что эта тактика сложилась в ходе Гуситских войн. Однако мало кто скажет, какие у этого явления были предпосылки, как развивалась тактика, кто её перенял и как же побеждали противника, засевшего в импровизированной крепости. Об этом мы и расскажем.

45K
78
69
513
Маниакальный ужас: топ-7 серийных убийц древности и Средневековья

Жиль де Ре, граф Дракула, кровавая графиня Батори — их вы и так прекрасно знаете. Но были и другие — те, кому не довелось попасть в учебники, хотя деяния их были едва ли не более омерзительными. Семёрка забытых убийц далёкого прошлого — в нашем сегодняшнем материале.

43K
46
14
238
Невозможная эвакуация Ханко: как пулемёты-призраки прикрывали отход советского гарнизона

У советских войск, оборонявшихся на полуострове Ханко, не было сложной электроники. Однако они сумели превратить пулемёты в дотах и дзотах в автоматические, чтобы обмануть финнов и получить шанс на эвакуацию. Она была почти невозможной, но стала первым успехом советского флота в годы войны.

43K
154
46
1.2K
10 «школьных» заблуждений о русской военной истории

На Куликовом поле не было пехоты, стрельцы не воевали в красном, Карл XII не нападал на Россию!

308K
144
99
897
Плавучие ветераны Второй мировой: самые старые действующие военные корабли

Вторая мировая была настолько давно, что корабли, принимавшие в ней участие, уже давно превратились в плавучие музеи. Но не все! Некоторые всё ещё стоят в строю и гордо несут флаги своих стран. Мы собрали для вас подборку самых интересных кораблей-ветеранов.

168K
45
14
81
Как начинают войны: ликбез

Чтобы пересчитать все горячие точки планеты в 2017, вам не хватит пальцев обеих рук. В 2016 году в них погибло более 130 тысяч человек, что значительно меньше, чем в 2014, но примерно столько же, сколько в 2015. Хотя официально ни одной войны сейчас не идёт. Война вообще-то запрещена.

150K
63
12
274
Острее бритвы: как правильно точить ножи

Пришли на шашлыки, а тупой «дедушкин» ножик не режет мясо? Вовремя затачивать надо было! Чтобы вы больше не попали впросак в такой ситуации — наша статья о том, как же правильно «лечить» затупившиеся клинки.

144K
79
59
467
Взгляд Запада: каким видели советский спецназ в Афганистане

Советского спецназа на Западе очень боялись — и заслуженно. О наших бойцах писали в зарубежной прессе, рассказывали душманы. За Spetsnaz пристально следили за океаном. О подвигах бойцов в Афганистане ходило много легенд. Какие из них правда? Сейчас расскажем.

136K
104
26
869
Спецслужбы и яды ХХ века: как КГБ и ЦРУ травили врагов

Политические отравления в обыденном сознании связаны с древностью. Борджиа и их современники по Ренессансу вовсю травили окружающих — но со временем это вышло из моды и приличий. Однако ХХ век с его научными открытиями, тайными играми разведок и жёсткими политическими противостояниями стал временем возрождения искусства отравления.

125K
69
58
530
Ликбез: зачем танку бревно

Танк — это вам не шуточки, а грозная боевая машина, обвешанная орудиями смерти! Но кроме привычных всем пушек, пулемётов и гусениц на нём частенько можно увидеть самые странные навороты. И по степени непонятности одно из первых мест занимает обычное бревно. Казалось бы, зачем оно на танке? Мы разобрались.

110K
61
34
457
Советская пехота держит удар: как растерялись «тигры»

«Разгромить!» — такой безапелляционный приказ получил свежий 507-й тяжёлый танковый батальон «тигров». Его машины 21 марта 1944 года выгрузились с платформ в районе Львова прямо к началу нового наступления Красной армии. Ожидания немецкого командования по поводу чудесной силы «тигров» оказались обмануты самым подлым образом.

105K
105
29
742
Тест: Какой вы военачальник?

Всегда мечтали стать Верховным Главнокомандующим, но что-то мешало? Опыт знаменитых военачальников прошлого поможет подготовиться как следует и избежать ошибок. Пройдите тест WARHEAD.SU и узнайте, какой стиль командования войсками ближе именно вам.

105K
13
5
276
WARBLOGS
О чем песня. Ария — 1100

Статья о смысле и содержании песни «1100» группы Ария. О том, что эта цифра не просто фигура речи, а непосредственно связана с техническими характеристиками Пе-2. И написан текст на основе реального применения Пе-2.

8.1K
19
9
0
Нешкольные заблуждения о Бородинском сражении. Часть первая

За последние тридцать лет отечественной исторической наукой в области изучения Отечественной войны 1812 года и участия России в наполеоновских войнах сделано немало открытий. Часть из них существенно меняет сложившиеся представления о Бородинском сражении. В данной статье рассмотрены типичные заблуждения, связанные с этим событием.__

4.4K
15
10
0
Лытдыбр флотофоба

Fleet in being. Тухачевский и Морозов. Прослушал выступление Мирослава Морозова про становление советского флота. И, почти, как Шариков, не согласен.

3.6K
5
14
0
Про флотскую смекалку

Море ошибок не прощает. Поэтому в моряках особенно ценятся такие качества как быстрота реакции, находчивость и сноровка.

3K
17
2
0
История и мифы песни «Serbia Strong»

Разбираемся что такое REMOVE KEBAB и Dat Face Soldier

2.7K
12
1
0
Убийца советских дроздов

Проект перспективного гиперзвукового американского перехватчика начала семидесятых годов.

2.5K
5
0
0
Пиксельный музей. Объект 775

Пиксельные истории известных проектов и вундервафель от Юрия Кужелева

2.4K
5
0
0
Эффект кумулятивного действия: Саяно-Шушенская ГЭС

Сегодня рассмотрим вопрос: как угробить ГЭС? Умные люди скажут, что надо повредить плотину. Это, конечно, самый очевидный вариант, но мы ведь не ищем лёгких путей? Итак, пошаговая инструкция «Авария на ГЭС для чайников» без смс и регистрации.

2.3K
24
2
0
Эффект кумулятивного действия: Бхопал

У нас есть адово вредное производство, куча дешевого низкоквалифицированного персонала, жадное руководство, устаревшее оборудование и город-миллионник под боком. Что может пойти не так?

2.3K
23
9
0