ПРЕСС-РЕЛИЗ: Процесс над роботами-убийцами не имеет целенаправленности и цели: определить, как сохранить значимый человеческий контроль

13 ноября 2017
Женева

ПРЕСС-РЕЛИЗ:
Процессу роботов-убийц не хватает фокуса и цели: определить, как сохранить значимый человеческий контроль над системами оружия

Кампания по борьбе с роботами-убийцами призывает государства быстро определить, как и где провести границы будущей автономии в системах оружия, взяв на себя обязательство вести переговоры о запрете летальных автономных систем оружия. Более 70 стран участвуют в заседании Конвенции об обычных вооружениях (КНО) по этой теме, которое открывается сегодня в Организации Объединенных Наций (ООН) в Женеве.

«Чтобы избежать будущего, в котором машины выбирают и атакуют цели без дальнейшего вмешательства человека, страны должны провести черту против неконтролируемой автономии в системах оружия», - сказал Джоди Уильямс, лауреат Нобелевской премии мира 1997 года и соучредитель кампании «Остановить роботов-убийц». «При наличии достаточной политической воли правительства могут заключить международный договор и запретить роботов-убийц - полностью автономное оружие - в течение двух лет».

Кампания «Остановить роботов-убийц» - это глобальная коалиция, основанная неправительственными организациями в октябре 2012 года. Она работает над упреждающим запретом полностью автономного оружия, также известного как летальные автономные системы оружия.

Конвенция об обычных вооружениях - это рамочный договор, который запрещает или ограничивает определенные виды оружия, а ее протокол 1995 года об ослепляющих лазерах является примером упреждающего запрета на оружие до того, как оно было приобретено или использовано.

Уильямс входит в состав делегации кампании на недельном совещании Группы правительственных экспертов КНО по автономным системам смертоносного оружия под председательством посла Индии Амандипа Сингха Гилла. Страны примут решение о будущей работе по этому вопросу на ежегодном Совещании Высоких Договаривающихся Сторон КНО 24 ноября.

«Государства должны отреагировать на растущую озабоченность по поводу того, что хрупкий дипломатический процесс обсуждения опасений по поводу летальных автономных систем вооружений дает сбой в финансовом отношении, теряет фокус и не имеет четкой цели, к которой нужно стремиться», - сказала Мэри Уэрхэм из Human Rights Watch, координатор Кампании. Остановите роботов-убийц. «Тем временем мы призываем государства, которые согласны с необходимостью сохранения человеческого контроля над системами оружия, быстро принять национальную политику и законы в этом отношении».

Это первое в истории совещание Группы правительственных экспертов КНО, но оно знаменует собой четвертый раз с 2014 года, когда государства встречаются на КНО для рассмотрения летальных автономных систем оружия. Группа правительственных экспертов должна была встретиться дважды в 2017 году, но первая неделя переговоров в начале этого года была отложена, а затем отменена из-за внедрения сложной системы финансового учета ООН и неуплаты некоторыми государствами своих начисленных взносов в КНО. .

Документ «пища для размышлений», подготовленный председателем для заседания КНО, содержит несколько технологических и юридических / этических вопросов, которые не имеют прямого отношения к проблеме летальных автономных систем оружия. Кампания считает, что следует использовать другие механизмы для рассмотрения более широких вопросов об искусственном интеллекте и его потенциальном влиянии на общество. В предварительной программе работы отсутствуют соображения прав человека, и, как представляется, не хватает времени для рассмотрения проблем распространения и безопасности, а также контроля со стороны человека, необходимого в будущих системах вооружений.

«Вместо того, чтобы расширять эту дискуссию и терять фокус, государствам следует сосредоточиться на содействии общему политическому пониманию того, как и где проводить необходимые границы автономии в системах вооружений», - сказал Ричард Мойес о статье 36.

Десятки стран подтвердили необходимость сохранения человеческого контроля над выбором целей и применением силы. В рабочем документе, выпущенном к встрече GGE, Россия заявляет: «Подавляющее большинство государств согласны с недопустимостью потери человеком значимого контроля над такими системами вооружений».

Несколько автономных систем оружия с различной степенью контроля со стороны человека в настоящее время используются высокотехнологичными вооруженными силами, включая государства КОО США, Китая, Израиля, Южной Кореи, России и Великобритании. Беспокойство вызывает то, что недорогие датчики и достижения в области искусственного интеллекта делают все более практичным создание систем вооружений, которые будут нацеливаться и атаковать без какого-либо значимого человеческого контроля. Если тенденция к автономии продолжится, люди начнут исчезать из цикла принятия решений, сначала сохраняя лишь ограниченную надзорную роль, а затем не выполняя никакой роли вообще.

Кампания по борьбе с роботами-убийцами принципиально возражает против того, чтобы машины могли уносить человеческую жизнь на поле битвы или в полиции, пограничном контроле и других обстоятельствах. В общей сложности 19 стран теперь поддерживают призыв запретить летальные автономные системы оружия, включая Святой Престол, и более двух десятков лауреатов Нобелевской премии мира. На прошлой неделе Уильямс подчеркнул настоятельную необходимость предотвращения разработки роботов-убийц на конференции в Ватикане по разоружению, на которой присутствовал Папа Франциск.

Многие члены сообщества искусственного интеллекта (ИИ) и робототехники поддержали призыв запретить летальные автономные системы оружия. В августе 137 года более 28 основателей и директоров компаний в области искусственного интеллекта и робототехники из 2017 стран подписали открытое письмо с требованием более решительных действий ООН для «защиты всех нас» от опасностей, создаваемых летальными автономными системами оружия. В этом месяце более 120 австралийских экспертов по искусственному интеллекту и робототехнике призвали премьер-министра Малькольма Тернбулла занять решительную позицию против смертоносных автономных систем оружия, а более 135 канадских экспертов по искусственному интеллекту и робототехнике обратились к премьер-министру Джастину Трюдо с просьбой запретить системы вооружений, которые удаляют значимые человеческие ресурсы. контроль за развертыванием смертоносной силы.

«Кампания по борьбе с роботами-убийцами не пытается подавить инновации в области искусственного интеллекта и робототехники, и она не хочет запрещать автономные системы в гражданском или военном мире», - сказал Ноэль Шарки из Международного комитета по контролю над вооружением роботов (ICRAC). «Скорее, мы видим острую необходимость предотвратить автоматизацию критически важных функций для выбора целей и применения насильственной силы без участия человека и обеспечить значимый человеческий контроль над каждой атакой».

Делегаты КНО и средства массовой информации, аккредитованные ООН в Женеве, приглашаются принять участие в брифингах, посвященных дополнительным мероприятиям Кампании по остановке роботов-убийц:

• Понедельник, 13 ноября, в 13:00 в конференц-зале XXII, где участники кампании представят новые исследования и инициативы, включая новый фильм.
• Среда, 22 ноября, в 13:00 в зале заседаний XXIV, где участники кампании дадут оценку первой встрече Группы правительственных экспертов по летальным автономным системам оружия и прокомментируют будущие планы работы по КНО.