Остановить роботов-убийц на RightsCon Costa Rica

С 5 по 8 июня 2023 года кампания «Остановить роботов-убийц» приняла участие в RightsCon Коста-Рика, конференция, на которую собрались тысячи людей, активистов, представителей гражданского общества и представителей отрасли для обсуждения ключевых вопросов в цифровом пространстве и пространстве прав человека, как онлайн, так и лично в Сан-Хосе. В 2023 году Stop Killer Robots в четвертый раз принимает участие в RightsCon. 

Stop Killer Robots присутствовали как лично, так и онлайн на RightsCon, чтобы рассказать о том, насколько сложная автономия в системах вооружений и цифровая дегуманизация являются неотъемлемой частью построения справедливого и инклюзивного цифрового будущего для всех. Цифровая дегуманизация — это процесс, при котором люди сводятся к данным, которые затем используются для принятия решений и/или действий, негативно влияющих на их жизнь. Автоматизированный вред возникает, когда эти решения негативно влияют на нас. - Автономное оружие находится на крайнем конце спектра вреда. 

Четырехдневная конференция, проходившая в конференц-центре Коста-Рики в Сан-Хосе, собрала более тысячи участников из Гражданам 129 стран, причем 57% идентифицируют себя как женщины. К сожалению, бесчисленное количество людей пострадали от систематической дискриминации пограничного контроля после того, как более 300 человек из 64 стран были исключены из личного участия после их запланированного визы по прибытии не были удостоены чести. Голоса этих людей были заглушены в важных разговорах о правах человека и цифровых технологиях, а их перспективы и жизненно важные точки зрения были очень упущены. Это известный что все более милитаризирующиеся границы используются в качестве испытательного полигона для новых технологий наблюдения, где мигранты и люди в движении подвергаются расовому профилированию и цифровой дегуманизации с помощью распознавания лиц, биометрии и так называемого «нацеливания на основе риска». Технологии с различной степенью автономии уже развертываются на границе, и автономные системы вооружения, нацеленные на человека, могут стать следующим шагом в пограничном контроле. В то время, когда в заголовках доминируют будущие последствия технологий генеративного искусственного интеллекта (ИИ), таких как ChatGPT, важно признать нынешний вред цифровой дегуманизации, который в настоящее время совершается против расовых и других маргинализированных сообществ. 

Несмотря на ограничения, связанные с исключением некоторых коллег по цифровым правам, RightsCon все же удалось собрать тысячи активистов, журналистов, правозащитников, осведомителей, государственных чиновников и заинтересованных сторон для участия в семинарах, панелях, круглых столах и диалогах о том, как мы можем построить уважающее права цифровое будущее. От сессий по управлению ИИ до гендерного насилия, вызванного технологиями, отключения интернета и цензуры — насущная потребность в регулировании, прозрачности, подотчетности и дизайне, ориентированном на права человека, были повторяющимися темами в этих разнообразных темах цифровых прав.

В среду, 7 июня, Автоматизированное исследование решений команда Stop Killer Robots, Сай Буроту, Кэтрин Коннолли и Гугу Дубе провела онлайн-семинар под названием: «Две стороны медали? ИИ и автоматизированные решения в гражданской и военной сферах»,. На часовой сессии под ловким руководством исследователя Саи Буроту были рассмотрены проблемы и уроки, извлеченные из разработки правил для ИИ и автоматизированных технологий принятия решений в гражданской сфере, а также рассмотрены способы применения этих вопросов в военной сфере. сфера. Участники обсудили, какие меры могут принять директивные органы для обеспечения защиты прав человека и международного гуманитарного права при решении вопроса об автономии в системах вооружений, а также способы обеспечения подотчетности в ключевых областях, в которых развертываются технологии искусственного интеллекта и автоматизированного принятия решений, в том числе в сфере национальной безопасности. и защита.   

После этой сессии организация Stop Killer Robots постоянно поднимала вопрос об автономных системах вооружения перед участниками RightsCon и с интересом выслушивала их точки зрения на то, почему роботы-убийцы представляют собой серьезные юридические, моральные и этические вызовы цифровым правам и правам человека. Некоторые участники RightsCon выразили обеспокоенность по поводу затянувшийся тупик для регулирования в Конвенции Организации Объединенных Наций (ООН) по обычному оружию (КОО), в то время как некоторые были шокированы, узнав, что роботы-убийцы вообще разрабатываются. Тем не менее участников RightsCon успокоило известие о том, что 90 государств в настоящее время призывают к переговорам по юридически обязывающему документу об автономных системах вооружений, позицию, поддержанную Генеральным секретарем ООН, Международным комитетом Красного Креста, тысячами технологий и искусственным интеллектом. эксперты и организации гражданского общества со всего мира. 

В различных контекстах гражданское общество требует четких и конкретных ограничений, правил и запретов в цифровом пространстве. Многие из опасений, высказанных участниками RightsCon, разделяют роботы-убийцы Stop Killer в нашем движении за сохранение человеческого контроля над применением силы — опасения по поводу слежки, предвзятости алгоритмов, конфиденциальности данных, прав человека и многого другого. Поскольку ИИ и другие новые технологии быстро развиваются и развиваются без регулирования, особенно в военная сфера, необходимо понимать их далеко идущие последствия и нашу роль как гражданского общества, чтобы сосредоточить внимание на правах человека в этих дискуссиях и добиваться интеграции аспектов прав человека. 

Мы продолжаем привлекать национальные, региональные и глобальные заинтересованные стороны, чтобы продвигать важность правовых рамок для регулирования ИИ и технологий автоматизированного принятия решений для национальной безопасности и военных целей на национальном, региональном и международном уровнях. Как стало очевидно на сайте RightsCon, гражданское общество лидирует в обеспечении того, чтобы создаваемые нами технологии использовались для продвижения прав человека, мира, справедливости и подотчетности. 

Технологии следует использовать на благо человечества, а не автоматизировать убийства. Несмотря на то, что предстоит проделать огромный объем работы, чтобы решить проблему пересечения прав человека и цифровых технологий, RightsCon предоставил нам в сообществе цифровых прав возможность подвести итоги наших достижений и сотрудничать в будущей работе по мере того, как мы строим уважающую права цифровое будущее для всех.