Боевые роботы: нечеловеческие перспективы

18 июня, британская The Telegraph сообщила с ссылкой замминистра иностранных дел страны Алистера Берта о том, что Великобритания готова к реализации программы по развитию нового поколения «роботов-убийц» для защиты войск на поле боя.

По словам Алистера Берта, новые технологии в этой сфере являются следующим шагом после использования беспилотников в Афганистане, потому что роботы, о которых идет речь, способны сами, автоматически, выбирать и цель для убийства. При этом замминистра посетовал, что во время дебатов в палате общин ему пришлось столкнуться с озабоченностью ряда депутатов относительно того, что данная технология может иметь «потенциально страшные» последствия.

Тем не менее, Алистер Берт убеждён, что у Британии есть определенные обязательства перед «людьми, которые защищают нас», и потому страна «оставляет за собой право для разработки подобных технологий». Берт заявил также, что не поддерживает призыв ООН к прямому запрету подобных технологий. Политик заверил, что эти роботы все равно всегда будут находиться под контролем человека.

«Мы не можем предсказать будущее, мы не можем знать сейчас, как эта технология будет развиваться, это обусловлено непредсказуемой ситуацией, которую сложно прогнозировать. Но было бы неправильно лишать наших военнослужащих законной и эффективной помощи, связанной с возможностями техники», — отметил дипломат.

Использование роботов при ведении боевых действий уже достаточно давно не является чем-то сверхординарным. Дроны, ранее использовавшиеся в разведывательных целях, получили статус «ударных аппаратов». Правда, существует ряд оговорок — речь о полностью автоматизированном, независимом от человека способе ведения боевых действий вести нельзя. По состоянию на данный момент, дрон — это не более чем «длинная рука» оператора, средство, которое позволяет человеку нанести ракетный удар по цели в условиях абсолютной безопасности для собственной жизни. Условия, в которых до сих пор применялось это средство, также достаточно специфичны — они, безусловно, далеки от мира, но и классической войной их назвать сложно.

Ударные БПЛА запускают ракеты по целям в условиях, когда организованное противодействие не наблюдается, а зачастую отсутствует противодействие всякое, даже потенциальное. В том числе и по дипломатическим каналам — многочисленные атаки дронов против мирного населения Афганистана и Пакистана приводили лишь ко вспышкам народного негодования, так и не переросшего в последовательную, действенную реакцию со стороны властей государства. У которых, должно быть, имелись веские резоны не реагировать уж очень активно на то, что в воздушном пространстве Пакистана и Афганистана бесконтрольно барражируют дроны чужой армии, регулярно нанося удары по подозрительным целям — от группы людей на ишаках до деревенской свадьбы. Хотя некие действия декларативного характера производятся — 9 мая Верховный суд пакистанского города Пешавар постановил, что атаки американских беспилотных летательных аппаратов (БПЛА) в стране «бесчеловечны» и «нарушают устав ООН», и предписал пакистанскому МИД вынести на рассмотрение всемирной организации резолюцию против ударов беспилотников. Пока что заметных итогов не воспоследовало.

6 июня этого года телеканал NBC со ссылкой на секретные доклады разведки сообщил, что каждый четвертый из тех, кто был убит в результате атак ударных беспилотников с 3 сентября 2010 года по 30 октября 2011 года, был обозначен в документах в графе «прочие боевики». То есть, по меньшей мере 25% убитых в результате атак дронов — неизвестные, которых благообразия ради причислили к боевикам. Хотя это могли быть и удерживаемые против своей воли люди, или вовсе безобидные граждане, попавшие под удар из-за недостоверной информации разведки или своего подозрительного вида. Вместе с людьми, которые были уничтожены как террористы, регулярно погибают и члены их семей. Которых вряд ли стоит бомбить на том основании, что они родственники врага американского народа.

К главным следствиям применения дронов можно отнести как практическую составляющую — возможность длительно, в абсолютной безопасности, наблюдать за расположенным за тысячи километров объектом, чтобы в нужный момент нанести удар — так и психологическую. Пожалуй, никогда раньше в истории человечества война не была настолько удобной, комфортной и «не личной», не связанной с персональными переживаниями и ощущением ответственности. Оператор БПЛА не сидит в окопе под дождём, враг при всём желании не нанесёт ему ущерба, не надо видеть, как умирает убитый тобой человек — сам процесс войны вызывает эмоций немногим больше, чем компьютерная игра. А то и меньше, поскольку это работа, а не развлечение. Ты сидишь в удобном кресле, видишь на мониторе цифровую фигурку врага, нажимаешь кнопку, фигурка врага падает. Иногда — в сопровождении взрыва, пусть и не такого красочного, как в компьютерной игре.

Ещё в 2010 году, в посвящённом применению беспилотников докладе ООН, упоминалась угроза возникновения «ментальности игроков в PlayStation». Автор документа, специалист по вопросу внесудебных расправ Филип Элстон подверг серьезной критике США, Израиль и Россию — причём Россия явно была упомянута исходя из неписанных законов составления критических докладов, поскольку была упомянута единственно операция 2002 года, в результате которой был убит один из лидеров экстремистов Хоттаб. На фоне измеряемых сотнями жертв американских дронов, одинокий российский БПЛА выглядел крайне блекло — что не помешало автору критиковать Россию не меньше, чем США. Элстон обратил внимание на то, что в 2006 году российская Дума приняла закон, позволяющий спецслужбам устранять террористов за рубежом.

При этом, как пишет докладчик, в общественном доступе нет информации о том, каким образом будет соблюдаться законность подобных операций, а также по каким критериям человек становится из подозреваемого мишенью. Правда, в законах Российской Федерации использование дронов для целей устранения террористов на территории третьих государств (как и собственного) присутствует в гомеопатических дозах, в то время как в США сформирована солидная законодательная база. Которая, впрочем, сводится к допустимости и даже необходимости уничтожения террористов с беспилотников в любой точке планеты, если это укрепляет национальную безопасность США. Не делается исключений для граждан самих США, которые в результате ракетного удара с парящего на большой высоте дрона автоматически лишаются гарантированных прав на суд и защиту доброго имени.

Элстон подверг особой критике организованные ЦРУ налеты, которые уже привели к гибели «сотен мирных жителей». «Разведывательные службы, которые по определению неподотчетны кому бы то ни было, кроме тем, кто им платит, не должны заниматься операциями, в которых убивают людей в других странах», — говорится в документе. Эксперт также отмечает, что такие удары, с большой степенью вероятности, могут стать военными преступлениями.

В 2013 году было объявлено о мерах, которые должны сократить уровень беззакония до условно-приемлемого уровня. 24 мая президент США Барак Обама выступил с речью, в которой рассказал о новой политике использования дронов. Обама предложил создать некий независимый орган (суд или комиссию), который будет определять целесообразность уничтожения подозреваемых в терроризме при помощи БПЛА. Сейчас приказ на ликвидацию выдает лично президент. Также изменится подход к выбору целей. Если ранее речь шла о людях, представляющих «значительную угрозу для США», то теперь уничтожению подлежат люди, представляющие собой «постоянную и непосредственную угрозу гражданам США». Кроме того, армия США и ЦРУ откажутся от ударов по группам людей, подозреваемых в причастности к террористическим организациям.

Как уже говорилось, особое опасение Элстона вызывает то, что военные операторы беспилотников будут относиться к убийству «нестандартно». Так как операторы находятся в тысячи миль от поля боя, и осуществляют управление при помощи компьютерных мониторов и удаленных звуковых каналов, существуют риск развития ментальности игроков Playstation«, — резюмировал автор.

Правда, при этом сохранялась всё же исчезающая личная компонента войны. Дроном управляет человек, и он же нажимает на кнопку. Однако, чиновник из МИД Великобритании впервые озвучил то, что выглядит закономерной эволюцией — но переходит в новое качество. Война и процесс убийства становятся независимы от человека.

Эволюция искусственного интеллекта рано или поздно приведёт к тому, что он будет использован в военных целях. Это было ожидаемо, и, наверное, безальтернативно. Что будет потом — анализы расходятся. Если судить по произведениям фантастов и футурологов, то хорошего ожидать не приходится. У Роберта Шекли, очень похожие на современные дроны полицейские «страж-птицы», превентивно нейтрализующее всякое убийство, в процессе обучения начали считать подлежащим пресечению деянием убийство курицы в ресторане, выключение двигателя машины или компьютера. Гениальный Айзек Азимов, сформулировавший три эталонных и внешне безупречных закона робототехники, которые должны были сделать процесс сосуществования людей и роботов абсолютно безопасным, со временем создал не менее гениальный цикл произведений, в котором три закона получалось обойти.

Вообще, мотив чрезмерно умного робота, боевого или даже «гражданского», так или иначе приходящего к выводу о противоречии собственных интересов и человека — один из любимых в фантастике, книгах и фильмах, от «Космической одиссеи 2001» Стенли Кубрика и «Дознания» Станислава Лема до «Терминатора» Джеймса Камерона. Пожалуй, о безупречно функционирующем боевом роботе писал лишь Кейт Лаумер в цикле о боевых супертанках «Боло». Тем не менее, несмотря на все разнообразные апокалиптические сценарии, морально человечество вполне готово к появлению действительно автономных боевых механических единиц.

Автономный, с собственным мозгом, боевой дрон вряд ли останется фантастикой даже в среднесрочной перспективе. В ближайшие 30 лет министерство обороны США намерено увеличить количество беспилотных летательных аппаратов на вооружении страны в четыре раза ─ до 26 тысяч единиц. Это будет сделано не только за счет производства самих дронов, но и посредством конвертации уже имеющихся самолетов в беспилотные варианты (например, лишиться пилотов могут штурмовики A-10 Thunderbolt II), а также разработки опционально пилотируемых боевых летательных аппаратов, с последующим переходам к полной автономности и независимости боевых единиц.

Шагающий робот BigDog, разработанный компанией Boston Dynamics, привлёк к себе внимание сразу же, едва в Сети появились первые видеосъёмки его испытаний. Новая версия, Alpha Dog (или LS3), уже способен в буквальном смысле следовать за человеком как настоящая собака или вьючный мул — это была первая машина, которая не только сама анализировала обстановку в достаточной для передвижения степени, но и восстанавливала равновесие даже после неожиданного ускорения, например — мощного пинка. Alpha Dog изначально разрабатывался для переноса тяжестей (более 150 кг) в течение 24 часов без перезарядки, а также для подзарядки армейской электроники. В дальнейшем планируется оснастить робота ещё и «ушами», чтобы он мог слышать и выполнять устные команды людей: «стой», «садись» или «иди сюда».

Известно, что компания Google намерена создать до 2029 г. искусственный интеллект, который бы позволил улучшить сортировку поисковых запросов, имея аналитический аппарат, близкий по своим способностям к человеческому. Самоуправляемые автомобили Google — фактически, машины-роботы — анонсированы к запуску в широкое производство через 3-5 лет. Совместно с NASA, Google начинает исследования в области искусственного интеллекта, для чего ею был приобретен квантовый суперкомпьютер D-Wave Two, оперирующий 512 кубитами (квантовыми битами). Его производительность при выполнении сложных вычислений с более чем 500 параметрами в тысячи раз превосходит производительность обычных суперкомпьютеров. Проект Quantum Artificial Intelligence Lab, основанный Google, NASA и несколькими ведущими университетами планеты, сосредоточится на исследованиях в области машинного самообучения. Примерами его использования могут служить персонализированный поиск по Интернету и предсказание мест и времени образования дорожных пробок на основе GPS-данных.

Прогресс, как и всегда, не остановить. Правда, у сказанного Алистером Бертом есть ещё одно измерение. Создавшееся положение удивительно согласуется с тезисом, который был озвучен Патриархом 6 июня во время встречи с монахами монастыря Зограф, о том, что «мир сегодня потерял понятие греха». Заповедь «не убий», при введении в уравнение морали переменной в виде автономного — действительно автономного! — робота теряет смысл: ведь убивает не человек человека, а набор металла, композитов и кремния нейтрализует некоего противника. И если никто дроном, по сути, не управляет — то кто, в конечном счёте, совершает убийство? Техник, проверивший системы гидравлики, заряд аккумулятора и пополнивший боекомплект? Командующий, отдавший цифровой приказ к переходу в активное состояние? Политик, поставивший командующему такую задачу? «Нечеловеческая» война будущего может, среди прочих, стать смертью многих принципов, которые казались незыблемыми.

Удивительно, но именно мораль оказалась наиболее ощутимой. В начале июня стало известно, что руководство ООН собирается наложить регулирующие ограничения на разработку и использование всех видов оружия, управляемых роботами без участия человека либо с ограниченным вмешательством операторов. Комиссия по правам человека ООН выступила с заявлением о том, что на данный момент уже пять стран мира располагают «роботами-убийцами» — США, Великобритания, Япония, Южная Корея и Израиль. В заявлении чётко прописано намерение ограничить испытания, производство, сборку, перевозку, приобретение, внедрение и использование робототехнических устройств, управляющих оружием смертельного поражения. Кроме этого, ограничения должны коснуться и беспилотных летательных аппаратов, интенсивно используемых в боевых операциях со времён последнего афганского конфликта. Проблему эксперты ООН видят в возможности лично дистанцироваться от принятия решений о смертельном поражении противника и решение лишить человека жизни в такого рода технических средствах принимает не человек, а машина, что, по мнению ООН, «безнравственно».

Андрей Полевой