Мюнхенская конференция по безопасности

Обеспокоенность перспективой полностью автономного оружия была особенно заметна на Мюнхенской конференции по безопасности на высоком уровне в Германии в этом месяце. Более 600 политиков, бизнес-лидеров и официальных лиц посетили ежегодную конференцию, которая прошла в отеле Bayerischer Hof в центре города 15-18 февраля.

A публичное мероприятие по искусственному интеллекту и в современном конфликте, организованном конференцией, возникли общие взгляды с разных точек зрения на оружие, которое после активации могло идентифицировать, выбирать и атаковать цели без дальнейшего вмешательства человека. Мероприятие началось с выступления «робота», на нем присутствовали президент, генерал, бывший глава НАТО и представитель коалиции неправительственных организаций Кампания по остановке роботов-убийц.

СМИ широко освещали выступления на мероприятии главы киберкомандования Германии генерал-лейтенанта Людвига Лейнхоса, который сказал: «У нас очень четкая позиция. Мы не собираемся закупать «полностью автономное оружие».

Некоторые описали этот комментарий является новой официальной позицией Германии в поддержку запрета такого полностью автономного оружия. Другие утверждают что Австралия, Канада и Великобритания также искренне поддерживают призыв к запрету.

Однако Кампания по остановке роботов-убийц не собирается добавлять эти состояния в свой текущий список 22 страны, поддержавшие призыв запретить полностью автономное оружие. Отчасти это связано с тем, что заявления о намерении не приобретать такое оружие - это не то же самое, что обязательство и активная работа над юридически обязательным превентивным запретом. И отчасти потому, что неясно, что Германия, Великобритания или некоторые другие подразумевают под полностью автономными системами вооружений, в частности, какой уровень человеческого контроля требуется.

Любые заявления об отказе от этих систем вооружений приветствуются и показывают, как ведутся дискуссии и дебаты в вооруженных силах различных стран. все больше внимания не только вопросы, касающиеся законности полностью автономного оружия, но и гораздо более серьезные проблемы. Однако одних заявлений недостаточно для решения всех проблем, поднятых в связи с этим далеко идущим шагом к большей автономии в системах вооружений.

Обязательное законодательство требуется в форме нового международного договора и национального законодательства, чтобы сохранить значимый человеческий контроль над будущими системами оружия и отдельными нападениями. Для этого от государств потребуется провести черту для упреждающего запрета на разработку, производство и использование полностью автономного оружия.

Координатор кампании "Остановить роботов-убийц" Мэри Уэрхэм выступила перед мюнхенской группой экспертов по искусственному интеллекту, подчеркивая многочисленные этические, правовые, эксплуатационные, моральные, связанные с распространением, технические и другие проблемы, возникающие из-за того, что машины могут уносить человеческую жизнь на поле боя или в полицейских, пограничных и других обстоятельствах.

Другой участник дискуссии, бывший генеральный секретарь НАТО Андерс Фог Расмуссен, красноречиво говорил в пользу запрета производства и использования того, что правительства стали называть «летальными автономными системами оружия». Он предсказал, что без юридического запрета это оружие может создать нестабильность, и предупредил: «Скоро вы можете увидеть стаи роботов, атакующих страну… Роботов можно легко развернуть, они не устают, им не надоедает».

Последний участник дискуссии, президент Эстонии Керсти Кальюла, прямо не затронул проблемы, вызванные полностью автономным оружием, но сказал последующей Мюнхенской панели что Генеральная Ассамблея Организации Объединенных Наций должна проголосовать за «запрет искусственного интеллекта в военных целях».

Такие предложения следует рассматривать, так как они могут способствовать более неотложным и конкретным действиям. Необходимо сосредоточить больше внимания на продолжающемся дипломатическом процессе в рамках Конвенции об обычных вооружениях (КОО) в Женеве, где около 90 стран рассматривают, что делать с летальными автономными системами оружия. Кампания критиковала переговоры по КНО за то, что они слишком занижены и замедляются, но при наличии политической воли быстрый прогресс возможен.

Во время другой дискуссии в Мюнхене на Эрика Шмидта из Google Alphabet настаивали на его взглядах на призыв запретить полностью автономное оружие. Шмидт не выразил поддержки юридически обязывающих мер, но обнаружили, что «В этих технологиях есть серьезные ошибки, и их не следует использовать при принятии жизненных решений». Он сказал, что существует «слишком много ошибок», и их не следует «возлагать на управление и контроль».

Как директор почитаемого Стокгольмского международного института исследования проблем мира (SIPRI) в мысли Мюнхен отмечает, что «переговоры об автономии в системах вооружений можно ускорить, а развитие технологий замедлить». Это может быть так, но время уходит.

«София-робот» открыл мероприятие AI в Мюнхене и представил участников дискуссии. Его создатель Дэвид Хансен, который широко известен робототехническим сообществом как «поддельный робот для шоу», ранее работал на аниматроников Disney. В прошлом году София выходил на саммит ООН на «AI для добра» и вызвал споры после того, как получил гражданство Саудовской Аравии.

София дала председателю Мюнхенской конференции по безопасности Вольфгангу Ишингеру и модератору Дэвиду Сангеру подготовленные ответы на заранее определенные вопросы. Некоторые из ответов были пограничными расистскими (спрашивали, почему аудитория, состоящая в основном из молодежи), не носили «ледерхозены» и сексистскими (отругал модератор за «флирт» после того, как сказал генералу «красивую униформу»).

Большинство из них были бессмысленными: «причинять кому-то вред - это не нормально, если только вам не нужно защищаться» и «роботы потенциально могут защитить людей друг от друга». Или вводит в заблуждение. Пригласив на сцену координатора кампании «Остановить роботов-убийц», София заметила: «Пожалуйста, позвольте мне заверить вас, что я не робот-убийца». Мы никогда не утверждали, что это так.

Несколько СМИ освещали проблему роботов-убийц во время Мюнхенской конференции по безопасности, в том числе ПОЛИТИКО Европа, Reuters, Футуризмкачества Euro News, и немецкие магазины Сетевая политика, Süddeutsche Zeitungкачества Heise.

Смотреть видео публичного мероприятия.

Фото: Мюнхенская конференция по безопасности / Kuhlmann15 февраля 2018 г.