изображение главного меню

Гонки и роботы-убийцы

Цифровая дегуманизация и алгоритмическая предвзятость

Технологии искусственного интеллекта и автоматизированное принятие решений теперь играют важную роль в нашей жизни: от социальных сетей до использования собак-роботов в полиции. Предрассудки в нашем обществе живут в алгоритмах, которые мы разрабатываем, в наборах данных, которые мы собираем и в которых ярлыки мы прописываем друг другу.

Новые технологии, такие как распознавание лиц и голоса, опираются на уже предвзятые наборы данных обучения и часто не могут распознать цветных людей, людей с ограниченными возможностями и женщин, отдавая предпочтение светлокожим и внешне мужским лицам темнокожим и внешне женственным лицам.

И хотя будут предприняты усилия по диверсификации наборов данных, это не просто проблема нерепрезентативных данных.

Альтернативный текст изображения
«Распознавание лиц рискует стать оружием правоохранительных органов против маргинализированных сообществ по всему миру. От Нью-Дели до Нью-Йорка эта агрессивная технология обращает нашу идентичность против нас и подрывает права человека ».
Доктор Мэтт Махмуди, исследователь искусственного интеллекта и прав человека в Amnesty International.

Усугубление вреда для расовых сообществ

Оружие - это инструмент колониальной и имперской власти, разжигающий конфликты и войны, которые непропорционально сильно сказываются на видимых меньшинствах и уязвимых сообществах. Распознавание лиц и другие формы технологии искусственного интеллекта усиливают существующие институциональные модели дискриминации, что приводит к непропорциональным последствиям для исторически маргинализированных сообществ.

Многие технологии с разной степенью автономности уже широко внедряются, не останавливаясь на рассмотрении последствий нормализации их использования. На самом крайнем конце спектра растущей автоматизации лежат роботы-убийцы.

Технологии, обеспечивающие автономное оружие, будут автоматически профилировать, сопоставить модели и обрабатывать людей как данные.

Альтернативный текст изображения

Системный расизм и превосходство белых неразрывно связаны с разработкой и применением оружия. Проблемные новые технологии также часто сначала тестируются на маргинализированных сообществах.

Мы должны бросать вызов структурам неравенства, а не превращать их в оружие.

Присоединяйтесь к #TeamHuman

Мы призываем к новому международному праву, потому что законы, запрещающие и регулирующие оружие, устанавливают границы для правительств и компаний между приемлемым и неприемлемым. Мы можем продвигать это вперед с возрастающей скоростью, используя наш коллективный голос и публично требуя перемен.

Будьте в курсе

 

1

Взаимосвязанность, расизм и роботы-убийцы

Что такое интерсекциональность? И почему это важно, когда мы обсуждаем роботов-убийц и расизм? Имея исторические и теоретические корни в черном феминизме и женщинах цветного активизма, интерсекциональность - это концепция, которая признает все формы угнетения, такие как эйлизм, классизм, женоненавистничество и расизм; и исследует, как эти угнетения действуют в сочетании.

Проиграть видео Альтернативный текст изображения

Как Джой Буоламвини борется с предвзятостью в алгоритмах

Аспирантка Массачусетского технологического института Джой Буоламвини работала с программным обеспечением для анализа лица, когда заметила проблему: программа не распознала ее лицо, потому что люди, которые кодировали алгоритм, не научили его определять широкий спектр оттенков кожи и структур лица. Теперь перед ней стоит миссия по борьбе с предвзятостью в машинном обучении, явление, которое она называет «закодированным взглядом». Открывающий глаза разговор о необходимости ответственности при кодировании ... поскольку алгоритмы захватывают все больше и больше аспектов нашей жизни.

Проиграть видео Альтернативный текст изображения

Роботы-убийцы и Африка

С наступлением четвертой промышленной революции множество технологических инноваций изменило наш образ жизни и работы. Это нововведение также открывает новые способы ведения войн. Солдаты будут не людьми, а роботами. Новое поколение автономного оружия или «роботов-убийц» может кардинально изменить технологию военных дронов. Доктор Томпсон Ченгета, эксперт по праву прав человека, говорит с Южноафриканской радиовещательной корпорацией о роботах-убийцах и о том, почему живущие в Африке и их политические лидеры должны беспокоиться об автономии в системах оружия.

Проиграть видео Альтернативный текст изображения

Роботы-убийцы и права человека

Какие последствия будут иметь роботы-убийцы для прав человека? Раша Абдул Рахим из Amnesty International подробно рассказывает о некоторых последствиях автономных систем оружия для прав человека.

Альтернативный текст изображения
Значок точек SKR

Остановите роботов-убийц

Присоединяйтесь к нам

Следите за последними достижениями в движении по борьбе с роботами-убийцами.

Присоединяйтесь к нам