RightsCon: Предотвращение цифровой дегуманизации

10 июня Кампания «Остановить роботов-убийц» провела панельную сессию «Предотвращение цифровой дегуманизации» в рамках ежегодного мероприятия Access Now по правам человека. Отмечая свое 10-летие, RightsCon проходил с 7 по 11 июня 2021 года и проводится практически второй год. Конференция собрала людей, заинтересованные стороны и активистов со всего мира, чтобы обсудить ключевые проблемы в сфере технологий и прав человека. Это второй раз, когда компания Campaign участвует в RightsCon.

Часовая сессия была в прямом эфире твитнул и сосредоточены на изучении того, как новые технологии, такие как машины с автоматизированными или автономными возможностями принятия решений, могут воспроизводить или усугублять социальный вред, неравенство и угнетение. В мероприятии приняли участие Люси Сачман, почетный профессор антропологии науки и технологий Ланкастерского университета; Доктор Сара Шокер, научный сотрудник Университета Ватерлоо и основатель Glassbox; Лаура Нолан, инженер-программист и член Международного комитета по контролю над роботами-вооружениями (ICRAC); и Мутале Нконде Нконде, исполнительный директор AI for the People. Менеджер по работе с кампанией Изабель Джонс провела модерацию, собрав более 85 участников.

Сессия открылась дискуссией о том, что означает цифровая дегуманизация, о чем говорилось ранее в блоге пользователя Nolan. Цифровая дегуманизация описывалась как явление, при котором использование программного обеспечения машин и систем для анализа, оценки и принятия решений в отношении людей сводит человека к «чему-то, на что нужно воздействовать [как] объект, а не к человеку с правами человека и агентство." Нконде выделил расовую дискриминацию как один из аспектов дегуманизации цифровых технологий. Использование предвзятых обучающих наборов данных для систем подчиняется тем же структурам «старого расизма с использованием новых машин», который продолжает подпитывать рост насилия против чернокожих и усугублять неравенство.

Такие системы - от прогнозирующей работы полиции до социальной оценки - могут иметь благие намерения, но на самом деле могут приводить к пагубным последствиям, поскольку они продолжают увековечивать циклы угнетения и насилия. Спикеры указали на собаку-робота развернуть в Нью-Йорке или Багсплат программа в качестве примеров того, как эти технологии уже используются. Сучман продолжил разговор об «обучении», которое необходимо для разработки систем, которые по сути являются нацеленными. Тренировка машин для различения наборов данных яблок и апельсинов или собак и кошек - это не то же самое, что обучение системы различать гражданских лиц и комбатантов, которые обладают различными человеческими идентичностями и отношениями. Вместо этого мы получаем «очень грубое стереотипное представление… а затем утверждаем, что это позволяет более точно и точно определять цель».  

Шокер также подчеркнул, что «используя любое программное обеспечение для машинного обучения, вы, по сути, проверяете человеческую жизнь, выбирая определенные атрибуты с целью вмешательства человека». Из-за непрозрачности машинного обучения это вызывает серьезные опасения, что приписываемые нам личности в конечном итоге ограничивают свободу действий человека и нарушают права. Шокер приводит пример использования патриархальных и гендерных предположений при нацеливании на выявление мужчин военного возраста, из-за чего мальчики в возрасте 15 лет попадают в категорию комбатантов.

Сессия завершилась размышлениями каждого участника о том, что мы можем сделать, чтобы принять меры и внести изменения в политику, чтобы предотвратить будущий ущерб. Размышления включали призыв к совершенствованию регулирования данных посредством аудитов и оценок воздействия на права человека, руководство по соблюдению требований, переосмысление существующих нарративов для изменения политики, разглашение мистификации технологий и коллективные действия.