Технологии искусственного интеллекта и автоматизированное принятие решений теперь играют важную роль в нашей жизни: от социальных сетей до использования собак-роботов в полиции. Предрассудки в нашем обществе живут в алгоритмах, которые мы разрабатываем, в наборах данных, которые мы собираем и в которых ярлыки мы прописываем друг другу.
Новые технологии, такие как распознавание лиц и голоса, опираются на уже предвзятые наборы данных обучения и часто не могут распознать цветных людей, людей с ограниченными возможностями и женщин, отдавая предпочтение светлокожим и внешне мужским лицам темнокожим и внешне женственным лицам.
И хотя будут предприняты усилия по диверсификации наборов данных, это не просто проблема нерепрезентативных данных.
«Распознавание лиц рискует стать оружием правоохранительных органов против маргинализированных сообществ по всему миру. От Нью-Дели до Нью-Йорка эта агрессивная технология обращает нашу идентичность против нас и подрывает права человека ».
Усугубление вреда для расовых сообществ
Оружие - это инструмент колониальной и имперской власти, разжигающий конфликты и войны, которые непропорционально сильно сказываются на видимых меньшинствах и уязвимых сообществах. Распознавание лиц и другие формы технологии искусственного интеллекта усиливают существующие институциональные модели дискриминации, что приводит к непропорциональным последствиям для исторически маргинализированных сообществ.
Многие технологии с разной степенью автономности уже широко внедряются, не останавливаясь на рассмотрении последствий нормализации их использования. На самом крайнем конце спектра растущей автоматизации лежат роботы-убийцы.
Технологии, обеспечивающие автономное оружие, будут автоматически профилировать, сопоставить модели и обрабатывать людей как данные.
Системный расизм и превосходство белых неразрывно связаны с разработкой и применением оружия. Проблемные новые технологии также часто сначала тестируются на маргинализированных сообществах.
Мы должны бросать вызов структурам неравенства, а не превращать их в оружие.
Присоединяйтесь к #TeamHuman
Мы призываем к новому международному праву, потому что законы, запрещающие и регулирующие оружие, устанавливают границы для правительств и компаний между приемлемым и неприемлемым. Мы можем продвигать это вперед с возрастающей скоростью, используя наш коллективный голос и публично требуя перемен.
Будьте в курсе