изображение главного меню

Растущий консенсус в отношении политики на дискуссиях ООН по AWS, но скептицизм в отношении необязательных принципов и практик

Обсуждения в Организации Объединенных Наций по автономным системам вооружения (АСО) продолжились 1 и 3 июня 2022 года неформальными встречами, организованными в режиме онлайн послом Бразилии Дамико, председателем Группы правительственных экспертов (ГПЭ) Конвенции об обычном оружии (КОО).

Несмотря на то, что согласие по существу рамок продолжает развиваться, государства выразили скептицизм в отношении предложений о необязательных методах и принципах и продолжают призывать к юридически обязательным правилам разработки и использования автономных систем вооружения (АСВ). 

Эти обсуждения были вторыми в серии из 2 межсессионных совещаний между собранием ГПЭ 3-7 марта 11 года и предстоящим собранием ГПЭ, которое состоится 2022-25 июля 29 года, и основное внимание уделялось человеческому контролю, взаимодействию человека и машины, этическим соображениям. ; а также ответственность и подотчетность при разработке и использовании AWS. 

После 6-й Обзорной конференции в декабре 2021 года, на которой государства не смогли договориться о начале переговоров, было представлено несколько письменных предложений по нормативной и оперативной основе. Среди предложений наблюдается широкое согласие по ключевым вопросам, таким как характеристика AWS как систем, которые полагаются на автономные функции для выбора и поражения целей, необходимость человеческого контроля, суждений или надзора за такими системами, признание того, что системы, которые не могут соответствовать с международным гуманитарным правом должны быть запрещены, и необходимы правила, обеспечивающие соответствие AWS правовым требованиям и этическим принципам. Однако остаются разногласия по поводу того, достаточно ли необязательных принципов и практики или же необходимы юридически обязательные правила. 

В ходе этих обсуждений государства Группы шести (G6), которые предложили необязательные принципы и практику (Австралия, Канада, Корея, Япония, Великобритания и США), выступили в поддержку своего предложения, предполагая, что оно единственное предложение, способное достичь консенсуса в рамках КНО. Однако несколько государств, включая Аргентину, Австрию, Чили, Ирландию, Мексику, Новую Зеландию, Палестину, Швейцарию и Уругвай, выразили сомнения относительно того, будет ли это предложение достаточным для защиты от юридических, этических и гуманитарных рисков, связанных с AWS, и для обеспечить значимый человеческий контроль над применением силы. 

По теме человеческого контроля, суждений и взаимодействия человека с машиной был достигнут широкий консенсус в отношении центральной роли человеческого фактора в обеспечении того, чтобы разработка и использование AWS соответствовали существующим правовым требованиям и этическим принципам. Однако были высказаны опасения, что в предложении G6 не указано, что AWS, которые не могут использоваться при достаточном контроле со стороны человека, должны быть запрещены, что подразумевает, что недостаточный контроль со стороны человека будет приемлемым. Дополнительные опасения были высказаны в связи с использованием в предложении G6 слова «конструкция» в отношении систем, которые должны быть запрещены, при этом государства отметили, что системы вооружений редко разрабатываются специально для нарушения международного права, а скорее то, что их использование на практике может привести к несоблюдению. . 

Что касается этики, государства отметили, что недостаточно просто заявить, что этика применима, без указания того, как этические принципы применяются к согласованной основе. Несколько государств, включая Ирландию, Чили, Германию, Мексику и Швейцарию, предложили, чтобы этика определяла границы между приемлемыми и неприемлемыми системами оружия, при этом системы, используемые без достаточной степени человеческого контроля, должны быть запрещены, а позитивные обязательства по обеспечению ограничений вокруг широкий спектр систем, которые включают автономию для выбора и поражения целей. Другие штаты также отметили, что системы, основанные на предвзятых наборах данных, вызывают этические проблемы и должны быть запрещены. Кампания Stop Killer Robots и МККК утверждали, что AWS, предназначенные специально для людей, были бы неэтичными и должны быть запрещены. 

Что касается ответственности и подотчетности, все государства согласились с тем, что именно люди, а не машины, несут моральную и юридическую ответственность за использование и развитие AWS. Китай заявил, что ответственность и подотчетность также должны распространяться на людей, которые исследуют, разрабатывают, производят, развертывают и используют AWS. Италия заявила, что ответственность и подотчетность необходимы на всех уровнях командования, включая стратегический уровень. Кампания Stop Killer Robots добавила, что AWS еще больше подорвет ответственность виновных в незаконном насилии и еще больше затруднит обеспечение карательного правосудия в отношении жертв.

Хотя разногласия по вопросам человеческого контроля, этики, ответственности и подотчетности продолжают сужаться, ключевое расхождение остается в том, что делать дальше. Хотя государства признали потенциальную ценность предложения G6 в отношении практик и принципов, многие государства продолжают утверждать, что необходимы правовые ограничения для установления границ приемлемости разработки и использования AWS. Внедрение необязательных принципов и практик чревато созданием экосистемы, в которой разрабатываются и используются AWS без предварительного установления четких ограничений, что создает явные юридические, этические и гуманитарные риски и угрожает международной безопасности. 

3-я из серии межсессионных встреч в ООН состоится 27–28 июня 2022 г., после чего состоится CCW GGE во Дворце Наций в Женеве с 25–29 июля 2022 г. Кампания «Остановить роботов-убийц» будет присутствовать на обеих и продолжать выступать за начало переговоров по новому международному праву, отказу от автоматических убийств и обеспечению значимого человеческого контроля над применением силы. 

Усман Нур

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам