Конференция Chatham House

Первый Chatham House конференция «Автономные военные технологии» в Лондоне 24-25 февраля собрали вместе людей из разных округов, чтобы обсудить автономное оружие и перспективу делегирования контроля человека над целями и решениями об атаках машинам. Компания Campaign to Stop Killer Robots была рада возможности посетить эту хорошо организованную и своевременную конференцию, проводимую в соответствии с правилом Chatham House, которое позволяет участникам использовать полученную информацию, но не раскрывать личность или принадлежность докладчика или участников. Конференция была полезной возможностью обсудить наши проблемы с полностью автономным оружием, дать разъяснения и ответить на вопросы о направленности и целях нашей коалиции.

Некоторые участники с тех пор публично высказали свое мнение о конференции, в том числе Чарльз Бланшар о Мнение Юриса (4 марта) и Пол Шарр на lawfare Блог (3 марта).

Несколько представителей Кампании по остановке роботов-убийц, которые присутствовали на конференции Chatham House, предоставили информацию для этого веб-сообщения, в том числе по размышлениям, опубликованным Бланшаром и Шарром. Главные представители кампании, лауреат Нобелевской премии мира Джоди Уильямс, робототехник профессор Ноэль Шарки и Смотреть по правам человека Директор по вооружениям Стив Гуз выступил на конференции, в то время как участники кампании присутствовали из неправительственных организаций. Действия против вооруженного насилия, Amnesty International, Статья 36, Хьюман Райтс Вотч, Международный комитет по контролю над роботизированным оружиемкачества PAX (ранее IKV Pax Christi).

Перспектива Кампании по остановке роботов-убийц и ее призыв к запрету на полностью автономное оружие были услышаны на протяжении всей конференции, но чтобы гарантировать, что ключевые проблемы не преуменьшаются и в духе содействия общему пониманию по этой возникающей проблеме, вызывающей озабоченность международного сообщества, у нас есть следующие комментарии к размышлениям Бланшара и Шарра.

Бланшар, бывший генеральный советник ВВС США, дал публичный разговор на тему «Автономные технологии: сила добра?» в Chatham House вместе с представителем нашей кампании Джоди Уильямс, которая получила лауреат Нобелевской премии мира 1997 года вместе с Международной кампанией по запрещению наземных мин (ICBL). В настоящее время он является партнером Arnold & Porter LLP, юридической фирмы в Вашингтоне, округ Колумбия, которая активно поддерживала переговоры по Договору о правах инвалидов 2006 года, а также усилия по включению положений о помощи жертвам в Договор о запрещении мин 1997 года.

Бланшар рассматривает «глубокие философские точки зрения» в своей статье, в которой рассматриваются некоторые «споры» на конференции в Чатем-хаусе по поводу призыва к запрету на полностью автономное оружие, чтобы закрепить принцип, согласно которому только люди должны принимать решение об убийстве других людей. Бланшар обеспокоен тем, что запрет может вызвать «больше смертей», потому что автономное оружие может быть «более способным, чем люди» соответствовать законам войны.

Хотя мы не согласны со скептической позицией Бланшара относительно преимуществ, которые может дать запрет на полностью автономное оружие, мы приветствуем его признание контраргумента о том, что разрешение машине решать, кого убить, нарушит представления о человеческом достоинстве. Оценка Бланшаром жизнеспособности запрета показывает, как далеко продвинулись дебаты в последние месяцы до такой степени, что вопрос о запрете серьезно рассматривается.

Пол Шарр возглавляет инициативу 20YY Warfare Initiative в Центре новой американской безопасности в Вашингтоне, округ Колумбия, и ранее работал в Министерстве обороны США, где он возглавлял рабочую группу, которая разработала проект директивы 2012 3000.09 года об автономности в системах вооружений. Его всесторонние презентации на конференции Chatham House были хорошо приняты, а его рациональные, взвешенные и хорошо написанные размышления о конференции содержат много полезных наблюдений.

Тем не менее, «ключевые выводы» Шарра излишне упрощают «области согласия» и создают впечатление, будто участники соглашались чаще, чем на самом деле. В его комментариях делается попытка отразить взгляды докладчиков конференции и области совпадения мнений, но этого нельзя сделать в отношении аудитории, состоящей примерно из 150 представителей правительства, вооруженных сил, промышленности, аналитических центров, академических кругов, гражданского общества и средств массовой информации.

Что касается объема того, что обсуждалось в Chatham House, изображение Шарре конференции, сфокусированной только на «антиматериальных» автономных системах вооружений, сбивает с толку, поскольку на конференции рассматривались все типы автономных систем оружия, включая «противопехотные». . » Конференция также не была конкретно ограничена «летальным» автономным оружием в отличие от «нелетального» или «менее смертоносного». При этом мы приветствуем комментарии Шарра о том, что он не поддерживает полностью автономные системы противопехотного оружия.

Технологи действительно пришли к единому мнению о возможностях современных автономных технологий и о том, что их предшественники указывают на грядущее нечто более опасное.

На протяжении всей конференции казалось, что существует «всеобщее согласие с тем, что люди должны сохранять контроль над решениями по применению смертоносной силы». Однако консенсус по этому вопросу был подтвержден рядом ораторов, которые предположили, что системы без значимого человеческого контроля могут быть законными и иметь военное применение. Такие взгляды иллюстрируют, почему ограничений на политическом уровне недостаточно для решения проблем, создаваемых полностью автономным оружием, и их следует дополнить новым законом.

На самом деле, эти дебаты происходят потому, что многие думают о будущем без человеческого контроля. И все же Шарр уделял минимальное внимание проблемам распространения - разработке, производству, передаче, накоплению - в разделе «возражения» в своем размышлении. Обеспокоенность по поводу гонки вооружений поднималась несколько раз в ходе конференции в Чатем-Хаусе, которая была спонсируется BAE Systems, производитель автономного самолета Taranis, яркого примера британского предшественника технологии автономного оружия. Как показывает опыт с ядерным оружием, проблемы распространения не могут быть решены на постоянной основе посредством регулирования и существующего международного гуманитарного права.

Шарр утверждает, что «основным фактором, определяющим, является ли автономное оружие привлекательным или даже необходимым в военном отношении, может быть просто то, разрабатывают ли его другие страны», но он, похоже, неправильно понимает суть стигматизации в «финальном» разделе своих размышлений. Предлагая, что ответом на опасения по поводу «мошенничества» является «равное игровое поле», где каждый может иметь их (и, предположительно, все могут быть «мошенниками»), Шарр отвергает силу международного юридически обязательного запрета на клеймение оружия. и обеспечить соблюдение закона. Глобальный запрет может успешно заклеймить автономное оружие до такой степени, что ни одна крупная военная держава не использует его, как это было в случае с Договором о запрещении мин, где крупные державы не использовали противопехотные мины годами.

Шарр рассматривает коммерческий сектор как движущую силу «технологии, лежащей в основе автономии», но игнорирует тот факт, что промышленность регулируется государством. Правительства не будут препятствовать промышленному развитию базовой технологии и, как отмечает Бланшар, кампании, стремящейся сделать это, потому что та же самая технология, которая будет использоваться в автономной робототехнике и системах искусственного интеллекта, имеет множество невооруженных и невоенных целей. Но следует запретить научно-исследовательские и опытно-конструкторские работы, если они направлены на технологии, которые могут использоваться только для полностью автономного оружия или которые явно предназначены для использования в таких системах.

Шарр преуменьшает правовые вопросы в нескольких разделах своих размышлений. Отчасти это связано с тем, что на конференции по международному праву доминировали сторонники закона об автономном оружии. Некоторые участники дискуссии могли согласиться друг с другом в том, что автономное оружие «не является незаконным оружием, запрещенным законами вооруженных конфликтов», но это мнение разделяли не все участники конференции. В частности, была выражена серьезная озабоченность по поводу природы полностью автономных вооружений и их вероятной неспособности при принятии решений об атаке различать некомбатантов и оценивать соразмерность ожидаемого ущерба гражданскому населению ожидаемым военным успехам. Хотя никто не может точно знать, как будут выглядеть технологии будущего, возможность того, что полностью автономное оружие не сможет соответствовать законам войны, не может быть отклонена на данном этапе.

Один оратор утверждал, что, если полностью автономное оружие может быть законно использовано при любых обстоятельствах, его нельзя считать сам по себе незаконный. Этот момент может быть правильным с юридической точки зрения, но можно утверждать, что любое оружие может быть использовано на законных основаниях в каком-то тщательно продуманном сценарии. Возможность такого ограниченного использования не должна использоваться для легитимации полностью автономного оружия. История убедительно продемонстрировала, что после того, как оружие будет разработано и развернуто, оно будет использоваться не только ограниченным, заранее определенным образом. Возможность причинения вреда настолько велика, что сводит на нет аргументы в пользу законности.

Шарр заявляет о соглашении о «законном ограниченном использовании», приводя три собственных примера. Мы, конечно, не согласны.

Подотчетность - еще одна область, в которой было меньше согласия, чем это изображено в размышлениях Шарра. Как он заявляет, машины, как это предполагалось в настоящее время, не могут нести ответственность по законам войны, и логично, что программисты или операторы не несут ответственности за военные преступления, если только они не предназначались для их совершения роботом.

Понятие ответственности операторов было затронуто во время конференции Chatham House, но оно не рассматривалось всесторонне, и важно отметить сохраняющиеся опасения некоторых членов аудитории. Например, «исправления», которые Шарр цитирует из директивы Министерства обороны США, не оправдывают ожиданий. Согласно директиве, люди, принимающие решения, несут ответственность за соблюдение законов войны, когда машины, которые они приводят в движение, не могут этого гарантировать. Однако маловероятно, что командиры будут привлечены к ответственности за военные преступления, если можно обвинить в непреднамеренных технических сбоях, в то время как программисты, инженеры и производители вряд ли будут привлечены к ответственности, если они действовали добросовестно.

Очевидный ответ Шарра на вопрос об ответственности - это «полностью предсказуемая и надежная система», но как это возможно? Даже при строгих процедурах тестирования и оценки автономность значительно затруднит обеспечение предсказуемости и надежности. Фактически, одно из определений автономии состоит в том, что система, даже если она функционирует правильно, не является полностью предсказуемой (из-за ее сложности и сложности среды, с которой она взаимодействует).

Кроме того, возникает вопрос, следует ли удерживать операторов непосредственно несет ответственность за последствия действий полностью автономного оружия. Можно ли с этими операторами обращаться так же, как с операторами «обычного» оружия, когда полностью автономное оружие может делать выбор самостоятельно?

Похоже, Шарр отвергает оговорку Мартенса как чисто этическую проблему, но это также и юридический вопрос. Хотя его точное значение обсуждается, это положение является неотъемлемой частью международного гуманитарного права, которое фигурирует в нескольких договорах. Это означает, что при отсутствии конкретного закона по данному вопросу оружие, «шокирующее человеческую совесть», может рассматриваться как незаконное в ожидании прямого запрета. Он также поддерживает принятие прямого запрета на оружие, которое нарушает «принципы гуманности и веления общественного сознания».

Сообщение Шарра вызывает «практическое» возражение против полностью автономного оружия, которое не было рассмотрено на конференции: «Неконтролируемое или уязвимое для взлома оружие не очень ценно для военного командования. Фактически, такое оружие могло быть весьма опасным, если бы привело к систематическому братоубийству ». Это беспокойство по поводу «крупномасштабных» случайных убийств справедливо, но тот же практический аргумент применим к жертвам среди гражданского населения, а не только к военным.

Как отмечает Шарр, есть много проблем с полностью автономным оружием, которые существуют на нескольких принципиально разных уровнях. Мы согласны с тем, что дискуссии о том, в каком направлении будет развиваться технология, имеют решающее значение, но поиск постоянного решения еще более актуален.

Мероприятие в Chatham House было первым из нескольких важных встреч, которые должны были состояться по роботам-убийцам в 2014. 26-28 марта Международный комитет Красного Креста (МККК) проведет свое первое совещание экспертов по автономным системам вооружений. Первое совещание по Конвенции об обычных вооружениях (КНО) по автономным системам оружия смертельного действия состоится в ООН в Женеве XNUMX декабря. 13-16 мая. Специальный докладчик ООН Кристоф Хейнс должен доложить о смертоносных автономных роботах и ​​других вопросах Совету по правам человека в Женеве во время неделя 10 июня.

Тот факт, что проводятся конференции, подобные конференции, проводимой Chatham House, показывает, как проблема роботов-убийц достигла высшей ступени традиционного многостороннего контроля над вооружениями и гуманитарного разоружения, подтверждая важность и безотлагательность проблемы и опровергая аргументы, что полностью автономное оружие «неизбежны» и «не о чем беспокоиться». Сильная и разнообразная явка означает, что это вряд ли будет последняя конференция Chatham House по этой теме.

Сразу после конференции Chatham House Кампания по остановке роботов-убийц провела стратегическое совещание, на котором присутствовали 50 представителей НПО. Встреча была сосредоточена на планировании стратегии кампании на год вперед в CCW и Совете по правам человека, а также на том, как инициировать общенациональную кампанию, чтобы повлиять на разработку политики и заручиться поддержкой запрета.

Для получения дополнительной информации см .:

• Размышления о конференции по автономии Chatham House»Пол Шарр, Lawfare (3 марта 2014 г.)
• Автономное оружие в Chatham House: это Бентам против Канта»Чарльза Бланшара, Opinio Juris (4 марта 2014 г.)
• Конференция Chatham House повестка дня и список выступающих
• Кампания, чтобы остановить роботов-убийц YouTube плейлист видеозаписей вечернего мероприятия с Джоди Уильямс и Чарльз Бланшар и интервью с Amb. Симон-Мишель Франции, Стив Гусь Хьюман Райтс Вотч, бывший генеральный советник ВВС США Чарльз Бланшаркачества Пол Шарре Центра новой американской безопасности

На фото: Патрисия Льюис, директор по исследованиям международной безопасности в Chatham House (в центре), представила первую панель конференции Chatham House по автономным военным технологиям. (c) Кампания по борьбе с роботами-убийцами, 24 февраля 2014 г.