Гонки и роботы-убийцы

Цифровая дегуманизация и алгоритмическая предвзятость

Технологии искусственного интеллекта и автоматизированное принятие решений теперь играют важную роль в нашей жизни: от социальных сетей до использования собак-роботов в полиции. Предрассудки в нашем обществе живут в алгоритмах, которые мы разрабатываем, в наборах данных, которые мы собираем и в которых ярлыки мы прописываем друг другу.

Новые технологии, такие как распознавание лиц и голоса, опираются на уже предвзятые наборы данных обучения и часто не могут распознать цветных людей, людей с ограниченными возможностями и женщин, отдавая предпочтение светлокожим и внешне мужским лицам темнокожим и внешне женственным лицам.

И хотя будут предприняты усилия по диверсификации наборов данных, это не просто проблема нерепрезентативных данных.

«Распознавание лиц рискует стать оружием правоохранительных органов против маргинализированных сообществ по всему миру. От Нью-Дели до Нью-Йорка эта агрессивная технология обращает нашу идентичность против нас и подрывает права человека ».

Доктор Мэтт Махмуди, исследователь искусственного интеллекта и прав человека в Amnesty International.

Усугубление вреда для расовых сообществ

Оружие - это инструмент колониальной и имперской власти, разжигающий конфликты и войны, которые непропорционально сильно сказываются на видимых меньшинствах и уязвимых сообществах. Распознавание лиц и другие формы технологии искусственного интеллекта усиливают существующие институциональные модели дискриминации, что приводит к непропорциональным последствиям для исторически маргинализированных сообществ.

Многие технологии с разной степенью автономности уже широко внедряются, не останавливаясь на рассмотрении последствий нормализации их использования. На самом крайнем конце спектра растущей автоматизации лежат роботы-убийцы.

Технологии, обеспечивающие автономное оружие, будут автоматически профилировать, сопоставить модели и обрабатывать людей как данные.

Системный расизм и превосходство белых неразрывно связаны с разработкой и применением оружия. Проблемные новые технологии также часто сначала тестируются на маргинализированных сообществах.

Мы должны бросать вызов структурам неравенства, а не превращать их в оружие.

Присоединяйтесь к #TeamHuman

Мы призываем к новому международному праву, потому что законы, запрещающие и регулирующие оружие, устанавливают границы для правительств и компаний между приемлемым и неприемлемым. Мы можем продвигать это вперед с возрастающей скоростью, используя наш коллективный голос и публично требуя перемен.

Будьте в курсе

Взаимосвязанность, расизм и роботы-убийцы

Что такое интерсекциональность? И почему это важно, когда мы обсуждаем роботов-убийц и расизм? Имея исторические и теоретические корни в черном феминизме и женщинах цветного активизма, интерсекциональность - это концепция, которая признает все формы угнетения, такие как эйлизм, классизм, женоненавистничество и расизм; и исследует, как эти угнетения действуют в сочетании.

Как Джой Буоламвини борется с предвзятостью в алгоритмах

Аспирантка Массачусетского технологического института Джой Буоламвини работала с программным обеспечением для анализа лица, когда заметила проблему: программа не распознала ее лицо, потому что люди, которые кодировали алгоритм, не научили его определять широкий спектр оттенков кожи и структур лица. Теперь перед ней стоит миссия по борьбе с предвзятостью в машинном обучении, явление, которое она называет «закодированным взглядом». Открывающий глаза разговор о необходимости ответственности при кодировании ... поскольку алгоритмы захватывают все больше и больше аспектов нашей жизни.

Роботы-убийцы и Африка

С наступлением четвертой промышленной революции множество технологических инноваций изменило наш образ жизни и работы. Это нововведение также открывает новые способы ведения войн. Солдаты будут не людьми, а роботами. Новое поколение автономного оружия или «роботов-убийц» может кардинально изменить технологию военных дронов. Доктор Томпсон Ченгета, эксперт по праву прав человека, говорит с Южноафриканской радиовещательной корпорацией о роботах-убийцах и о том, почему живущие в Африке и их политические лидеры должны беспокоиться об автономии в системах оружия.

Роботы-убийцы и права человека

Какие последствия будут иметь роботы-убийцы для прав человека? Раша Абдул Рахим из Amnesty International подробно рассказывает о некоторых последствиях автономных систем оружия для прав человека.