изображение главного меню

Новые технологии и ИИ

Мы не ожидали, что в мире потребуется Кампания по остановке роботов-убийц, но это так.

Технологии искусственного интеллекта и автоматизированное принятие решений теперь играют важную роль в нашей жизни - от умных домов и целевой рекламы до использования собак-роботов в полиции. Технологии могут быть потрясающими. Но только потому, что мы может строить что-нибудь, это не значит, что мы должен. Многие технологии с разной степенью автономности уже широко внедряются, не останавливаясь на рассмотрении последствий нормализации их использования. Зачем нам об этом говорить?

Потому что машины не воспринимают нас как людей, а просто еще один фрагмент кода, который нужно обработать и отсортировать.

 

Альтернативный текст изображения

Цифровая дегуманизация: когда решают машины, а не люди.

Полностью автономное оружие решило бы, кто будет жить, а кто умрет, без дальнейшего вмешательства человека, что превышает моральный порог. Как машинам, им не хватало бы присущих им человеческих качеств, таких как сострадание, которые необходимы для принятия сложных этических решений.

Цифровая дегуманизация: когда решают машины, а не люди.

Технологии, которые нас беспокоят, сводят живых людей к точкам данных. Наша сложная личность, наши физические особенности и наши модели поведения анализируются, сопоставляются с образцами и сортируются по профилям, а решения о нас принимаются машинами в соответствии с заранее запрограммированным профилем, в который мы вписываемся.

Это имеет вполне реальные последствия для исторически маргинализированных или уязвимых сообществ. Это потому, что технологии часто закрепляют - а не создают проблемы - уже существующие предубеждения относительно того, кто такие люди. Стереотипы закрепляются за счет автоматизированного принятия решений.

 

При чем тут роботы-убийцы?

На самом крайнем конце спектра растущей автоматизации лежат роботы-убийцы.

Достижения в области технологий теперь позволяют системам оружия выбирать и атаковать цели автономно. Это означает, что при использовании силы у нас меньше человеческого контроля над тем, что происходит и почему. Это означает, что мы ближе к машинам, принимающим решения о том, кого убить или что уничтожить. А для машин нет разницы между «кто» и «что».

 

Альтернативный текст изображения

Технологии, которые будут использоваться в автономном оружии, сократят людей до данных и подвергнут их атакам - высшей форме цифровой дегуманизации.

Полностью автономное оружие решило бы, кто будет жить, а кто умрет, без дальнейшего вмешательства человека, что превышает моральный порог. Как машинам, им не хватало бы присущих им человеческих качеств, таких как сострадание, которые необходимы для принятия сложных этических решений.

Роботы-убийцы в настоящее время разрабатываются для использования в вооруженных конфликтах, которые будут иметь разрушительные последствия. Но с ростом автоматизации нашего общества роботы-убийцы не будут ограничиваться только полем битвы. Нет сомнений в том, что они также будут использоваться при пограничном контроле, охране правопорядка и в других сферах общества, где должен быть наиболее значимый человеческий контроль.

Мы можем действовать сейчас, чтобы подвести юридическую и моральную черту. Мы все должны нести ответственность за развитие и использование технологий, а также за ту роль, которую они играют в нашей жизни. Роботы-убийцы не просто появляются - мы их создаем. И у нас есть возможность действовать сейчас, чтобы остановить роботов-убийц, пока технологические разработки не зашли слишком далеко.

Меньше автономности. Больше человечности.

Итак, когда дело доходит до цифровой дегуманизации - систем оружия, нацеленных на людей, - нам нужно меньше автономии и больше человечности.

Узнать больше

 

Проиграть видео Альтернативный текст изображения

Роботы-убийцы, права человека и цифровая дегуманизация

Доктор Мэтт Махмуди, исследователь и консультант по вопросам искусственного интеллекта и прав человека в программе Amnesty International по технологиям и правам человека, говорит об искусственном интеллекте, новых технологиях, правах человека и автономном оружии.

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам