Требование будущего, которого мы хотим: взгляд на глобальную встречу кампании 2021 года

По мере того, как мы начинаем выходить из трудного и разрушительного года, мы стремимся восстановить связь и выработать стратегию на год вперед, потому что борьба за запрет роботов-убийц еще не окончена. 

«Мы все едины в нашем видении создания новых законов для решения проблемы автономии в оружии», - объяснила Изабель Джонс (менеджер по работе с кампаниями, Кампания по остановке роботов-убийц) в начале Глобальное собрание кампании 24 марта. «Мы знаем, что юридический договор необходим, чтобы запретить системы, выходящие за рамки морали, и убедиться, что все системы оружия работают под осмысленным контролем человека», - заключила она.

Воодушевленные вступительным посланием заместителя министра по многосторонним отношениям Коста-Рики Кристиана Гильермета-Фернандеса, более 180 активистов со всего мира начали Глобальную встречу, попрощавшись с Мэри Уэрхэм после почти девяти лет руководства. «Мэри, вы заставили нас поверить в то, что юридический договор об автономном оружии возможен, - сказал Ричард Мойес (управляющий директор и соучредитель, статья 36), - [далее], что договор, запрещающий роботов-убийц, возможен». С самого начала кампании в 2012 году Мэри вспоминала: «Мы прошли путь от нуля до героя». Кампания не только подняла глобальную тревогу относительно летального автономного оружия, но и вызвала юридические дебаты и сделала слова «человек» и «человеческий контроль» неотъемлемой частью любого обсуждения этих систем. 

Красная линия: нацеливание на людей

2021 год - это год новых начинаний и возможностей, нашедших отражение в новом Заявление о видении и ценностях что сигнализирует об эволюции того, как Кампания формирует свое мышление в отношении роботов-убийц. «Наша решимость остановить роботов-убийц является частью более широкого социального и технологического момента», - пояснила Клэр Конбой (менеджер по СМИ и коммуникациям, Кампания по остановке роботов-убийц). В продуманная работа участников кампании, особенно цветных, за последний год стало неотъемлемой частью нашего понимания того, что социальный контекст, в котором эти системы создаются, создаются и развертываются, нельзя игнорировать. «Желание некоторых создать роботов-убийц неотделимо от желания автоматизировать то, что не должно быть автоматизировано, или начать обработку и сокращение количества людей во всех наших сложностях до единиц и нулей», - пояснила Клэр. Другими словами, цифровая дегуманизация - это растущий риск, который мы должны устранить, пока не стало слишком поздно. Чтобы эффективно предотвратить цифровую дегуманизацию, мы должны признать социальные структуры, которые вызывают многие из наших социальных болезней, и понять, как они неразрывно связаны с проблемой роботов-убийц. «Работа над одним требует постоянной работы над другим», - утверждала Клэр.

Следующая панельная дискуссия «Проведение красной черты: нацеливание на людей» было сосредоточено на одном ключевом политическом элементе международного договора: запрете систем, нацеленных на людей. «Мы действительно хотим сконцентрироваться на проведении моральной линии против систем, которые чувствуют и сводят людей к объектам», - объяснила Элизабет Майнор (советник, статья 36). Эксперты предложили взглянуть с высоты птичьего полета на то, почему эти системы переступают черту морали. «Фундаментальный уровень того, как компьютер понимает мир… он не видит человека. Он не понимает ценности человеческой жизни. Он не рассматривает нас как людей », - объяснил Питер Асаро (соучредитель Международного комитета по контролю над роботами).« Таким образом, дать этим системам возможность забирать человеческую жизнь - значит сказать, что нам комфортно с автоматизированными системами, которые делают такой выбор. когда он действительно не понимает, что он делает или кто мы… »

Алена Попова (основатель, Ethics & Tech) проиллюстрировала, как менее интеллектуальные и развитые системы уже поддерживают цифровые диктатуры, но люди не отступают. В России, пояснила она, «собрали более 100 подписей в поддержку запрета на распознавание лиц». «Многие люди, подписавшие эту петицию, молоды, - продолжила она, - это основная аудитория, которая поддерживает нашу борьбу против нацеливания на людей с помощью алгоритмов». Томпсон Ченгета (член исполнительного совета Фонда ответственной робототехники) подчеркнул, как эти системы будут непропорционально влиять на определенные группы людей. «Отсутствие ответственности за нарушения прав какие люди? » он спросил. Он предложил активистам интегрировать критические теории, такие как критическая теория расы, в свои исследования и разработку международного договора, чтобы устранить и предотвратить вред, с которым определенные группы столкнутся со стороны этих систем. Он закрыл панель, задав острый вопрос: если бы офицер, убивший Джорджа Флойда, был машиной, а не белым человеком, мы бы говорили о расе? «Скорее всего, нет, - ответил он, - но это не значит, что расовых аспектов убийства не существует». 

Требуя будущего, которого мы хотим

Пришло время углубить наши аргументы и сформулировать договор, который мы хотим, и мир, который мы хотим. Мы должны быть готовы действовать быстро и уверенно, чтобы убедить правительства начать переговоры по новому закону, запрещающему роботов-убийц. К счастью, импульс кампании не замедлился. «Несмотря на неудачи из-за COVID, наше видение нового международного договора живо и абсолютно достижимо», - заявил Усман Нур (менеджер по связям с правительством, Кампания по остановке роботов-убийц). Мы рады грядущему году и снова будем работать с являетесь: сотни участников кампании по всему миру, которые делают эту борьбу возможной. Давай приступим к работе!

Смотрите всю Глобальную встречу 2021 года здесь!