От беспилотников – к роботам-убийцам

Слушать /

Когда-то роботов, убивающих людей, можно было увидеть только в фантастических фильмах. Сегодня такие роботы – практически реальность: разработки и тестирование боевых автономных роботизированных систем ведутся в целом ряде стран. Появление роботов-убийц тревожит Специального докладчика ООН по вопросу о внесудебных казнях Кристофера Хейнса – настолько, что он посвятил этой теме доклад Совету по правам человека. Продолжает Елена Вапничная.

*****

Кристофер Хейнс считает, что робототехническую революцию в военной сфере можно сравнить по значению с изобретением пороха и созданием ядерного оружия. По его мнению, появление боевых роботов сотрёт различия между воинами и вооружениями. Ведь роботы сами смогут решать вопросы «жизни и смерти»:

«Боевые автономные роботизированные системы определяются как системы вооружения, которые при приведении их в действие способны выбирать и поражать цели без участия человека. Мы не ведём речь о беспилотниках, где задействован человек, который принимает решения о применении огня на поражение. В случае с БАРС подобные решения самостоятельно принимает встроенный в них компьютер».

Сторонники боевых роботизированных систем утверждают, что они способны спасать жизни – как солдат воюющей стороны, которым не нужно идти под огонь, так и гражданского населения противоположной стороны. Ведь роботы более точно распознают цели и, стало быть, жертв среди мирных жителей будет меньше. Кроме того, их создатели уверяют, что их можно запрограммировать так, что они будут соблюдать стандарты международного права. Есть и другие доводы:

«Для государств технология, исключающая участие человека, привлекательна тем, что люди принимают решения медленнее, чем роботы. Иногда они совершают ошибки, действуют, руководствуясь страхом, а порой движимы жестокостью и жаждой мести. Но в то же время, люди, в отличие от роботов, способны к сочувствию и, учитывая контекст ситуации, могут проявить более гибкий подход, например, если солдат сдаётся».

Кристофер Хейнс не исключает сбоев в работе роботов-солдат, возможности хакерской атаки или попадания их в руки преступников. Кроме того, БАРС вполне могут использовать репрессивные правительства против оппозиции в своей собственной стране. Так что у Спецдокладчика много вопросов о целесообразности применения таких систем:

«Например, не приведёт ли использование роботов к тому, что государства с большей готовностью смогут начинать войны? Насколько они могут быть запрограммированы на соблюдение международного гуманитарного права, особенно в том, что касается пропорциональности применения силы, а также стандартов в области прав человека?».

Эксперта ООН волнует и то, является ли существующая нормативно-правовая база достаточной для того, чтобы регулировать разные сценарии использования БАРС:

«Я хочу привлечь особое внимание к тому, что использование БАРС может оказаться неприемлемым из-за отсутствия системы юридической ответственности. В своём докладе я останавливаюсь на правовых последствиях применения таких систем и подчёркиваю необходимость создания системы подотчётности в случае, когда их действие выходит за рамки международного права».

И хотя пока ни одна страна не приняла на вооружение БАРС, Кристофа Хейнса тревожит моральный аспект, связанный с возможностью их использования:

«Можно ли допустить, с точки зрения защиты права на жизнь и достоинство, чтобы оружие, предназначенное для убийства людей в военной или мирной обстановке автономно контролировалось роботом? Речь идёт не о природе этого вида оружия, а о том, кто за ним стоит, и о том, какими могут быть последствия его применения для осуществления права на жизнь и достоинство».

Эксперт ООН призвал членов Совета ООН по правам человека не оставаться в стороне от этой проблемы:

«Я считаю, что Совет по правам человека не имеет права молчать, когда речь идёт о таком судьбоносном вопросе, и должен высказать своё мнение об аспектах, связанных с правами человека».

Господин Хейнс призвал Верховного комиссара ООН по правам человека созвать группу высокого уровня по вопросам БАРС в составе экспертов в области робототехники, компьютерного дела, военных операций, дипломатии, урегулирования конфликтов, этики и философии.

Loading the player ...