изображение главного меню
Женщина-программист смотрит прямо в камеру с проецируемым на нее красочным кодом.

Цифровая дегуманизация - когда решают машины, а не люди

Изабель Джонс - менеджер по связям с общественностью кампании «Остановить роботов-убийц». Она возглавляет усилия по расширению и укреплению сети кампании и оказывает поддержку участникам кампании посредством финансирования, ресурсов и координации, чтобы создать импульс и активизировать движение.

Мы не ожидали, что кампания «Остановить роботов-убийц»e нужно в мире - но это так. Во всем мире мы наблюдаем растущее влияние компьютерной обработки и алгоритмического мышления: «Для этого есть приложение!» на совершенно новый уровень. От «умных домов» и Интернета вещей к распознавания лиц и интеллектуальная полицейская деятельность - мы все больше склоняемся к так называемым технологическим «решениям». Технологии, ставящие во главу угла точность, эффективность и скорость, представлены как серебряная пуля. Но какой ценой? Этот техно-решенияционизм продвигается без учета предвзятости данных, присущей дизайну технологий, или последствий отказа от человеческого понимания контекста и нюансов структур, в которых мы живем, и проблем, с которыми мы сталкиваемся.

Когда решают машины, а не люди

На дальнем конце спектра растущей автоматизации находятся системы вооружения, которые все чаще могут использовать компьютерное программирование и датчики для идентификации и выбора целей на более широких территориях и в более длительные периоды времени. Это означает меньшее непосредственное участие человека и понимание того, что происходит при атаке - это означает приближение к машинам, принимающим решения о том, кого убить.

Подобные системы вооружений представляют собой ряд этических, моральных, юридических, технических аспектов и требований безопасности. проблемы.

Нам нужно провести линию. Наша человечность, наша сложная идентичность не должны сводиться к физическим характеристикам или образцам поведения, которые должны анализироваться и согласовываться с системами, неспособными понимать концепции жизни, прав человека или свободы. Людей бы не было видел роботами-убийцами - они были бы обрабатываемых. Эта цифровая дегуманизация лишит людей достоинства, унизит человечество и устранит или заменит человеческое участие или ответственность посредством автономного принятия решений в технологиях.

Мы хотим построить будущее, которое отвергает системы, сводящие живых людей к точкам данных, которые должны автоматически профилироваться, обрабатываться и подвергаться силовым воздействиям.

Камеры видеонаблюдения заполняют кирпичную стену, указывающую на тропинку, в то время как черный человек в белой одежде с накидкой на голову со смайликом и глазами «X» проходит мимо.

Фото Арвина Кейнса.

Что мы делаем для противодействия цифровой дегуманизации в 2021 году

Представители правительства пытались понять, что это означает для международного гуманитарного права («законы войны»). С 2013, но в прошлом году мы видели дипломатический прогресс остановился в разгар пандемии COVID-19 и отсутствия политической воли для продвижения вперед. Обсуждения еще не возобновились. Несмотря на неудачи, мы знаем, что 2021 и 2022 годы могут быть преобразовательными. Это будут годы перехода, эволюции и возможностей.

Мы поощряем новое руководство и представительство внутри команды сотрудников кампании и наших более широких членов. Мы прилагаем все усилия, чтобы отразить разнообразие людей, организаций, навыков, опыта и взглядов, которые объединяет наша глобальная коалиция. Мы собираемся максимально использовать потенциал 2021 года - усиление политического давления, обеспечение согласованности политики, расширение нашего сообщества, привлечение активных заинтересованных сторон и партнеров, а также создание прочной основы для переговоров по договор, в который мы верим. Договор, который отвергает автоматизацию убийства и вместо этого опирается на основы человечества, оценивая друг друга не через расчет, а через понимание, продвигая принцип человеческого контроля над применением силы и новейшими технологиями.

Мы не ожидали, что в мире понадобится кампания «Остановить роботов-убийц», но это так.

Чтобы предотвратить реализацию автономных убийств, штатам необходимо запретить все системы, в которых используются датчики для нацеливания на людей. Это один из трех столпов что кампания "Остановить роботов-убийц", по мнению международный договор о сохранении реального человеческого контроля над применением силы. И по мере того, как мы приближаемся к 2021 году, он нужен больше, чем когда-либо прежде.

Так что давайте максимально использовать возможность, которая у нас есть, чтобы предотвратить окончательное проявление цифровой дегуманизации. Давайте воспользуемся этой возможностью, чтобы предотвратить гибель людей и людей, которые мы наблюдали в результате применения другого оружия неизбирательного действия. Давайте работать вместе, чтобы не допустить, чтобы постепенная автоматизация подменяла процесс принятия решений человеком там, где она должна присутствовать больше всего.

Международное сообщество все больше признает, что системы вооружений, лишенные реального контроля со стороны человека, преодолевают критический порог и должны быть запрещены, и общественное сопротивление полностью автономному оружию остается сильным. Так что мы не одни. Наши участники кампании работают над созданием поддержки договора, взаимодействуя с заинтересованными государствами, поддерживая усилия по созыву встреч по «цифровой дипломатии» и уделяя приоритетное внимание политической работе и невероятно инновационным национальным кампаниям в условиях пандемии. И мы хотим, чтобы вы к ним присоединились.

Мы не ожидали, что в мире понадобится кампания «Остановить роботов-убийц», но это так.

Кампания по остановке роботов-убийц. Робот стоит у здания ООН в Нью-Йорке, пока солнце светит над зданием. Вдали развевается флаг ООН.

Кампания по остановке роботов-убийц у здания ООН в Нью-Йорке. Фото Ари Безера


Оригинальная статья на Medium.com.

Изабель Джонс

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам