Реальные истории

Привет! Я Лаура, инженер-программист. Я живу в Дублине, Ирландия, с моим партнером и двумя совершенно избалованными кошками (хотя в настоящее время мы пытаемся купить 170-летний дом в часе езды от города, потому что теперь мы оба большую часть времени работаем удаленно). Помимо работы и документов по ипотеке, в настоящее время я провожу много времени за чтением и обучением, потому что я пишу магистерскую диссертацию на полставки.

Таргетированная реклама, одобрение банковских кредитов, упреждающая работа полиции… автономия в оружии, автоматизация все чаще становятся частью нашей жизни. Какие типы цифровой дегуманизации вас больше всего беспокоят и почему?

Меня беспокоит совокупный эффект всего этого! Наиболее явно вызывающие беспокойство системы - это те, которые оказывают драматическое воздействие на людей - такие вещи, как оружие, а также все, что связано с полицейской деятельностью или правосудием.

Я думаю, что недавний скандал с почтовым отделением Великобритании является хорошим примером этого - компьютерная система Horizon часто показывала нехватку денег в местных офисах, что приводило к судебным искам против местных почтмейстеров и сотрудников. Все это дело назвали одним из "самые серьезные судебные ошибки в новейшей истории Англии.

Со стороны почтового отделения и Fujitsu определенно были этические недостатки, но ключом ко всей неразберихе является тот факт, что система Horizons, похоже, не была разработана для того, чтобы дать людям, использующим ее, способ понять транзакции в систему и исправить проблемы. Это в корне подорвало автономию местных почтальонов и их способность понимать свой мир на своих собственных условиях. Это плохой дизайн программного обеспечения. Должно быть, они чувствовали себя так, как будто попали в одну из историй Кафки.

Каждый день люди попадают в ловушку какого-то подобного мини-кафкианского технологического кошмара, будь то запуск их виртуального программного обеспечения для проверки экзаменов, прохождение их заявки на работу через чащу автоматических фильтров или получение льгот, на которые они могут иметь право. Мы не должны создавать подобное программное обеспечение.

Вы верите, что отдельные люди могут изменить ситуацию к лучшему?

Безусловно - история полна людей, которые действительно имели значение - Мартина Лютера (из 95 тезисов), Роза Паркс, Нельсона Манделы. Сегодня у нас есть такие люди, как Грета Тунберг, которая вложила так много энергии в экологическое движение; и как Макс Шремс, который продолжает нарушать международные законы о защите данных. В Ирландии, где я живу, мы недавно изменили наши очень строгие законы об абортах, и это во многом было связано с Савитой Халаппанавар, которая, к сожалению, скончалась в ирландской больнице, потому что ирландские законы были препятствием для оказания ей необходимой помощи. Муж и семья Савиты были невероятно смелыми людьми, которые высказывались публично, и это изменило ход ирландской истории.

Все люди, которые делают пожертвования на кампанию, ходят на марши, организуют, стучат в двери или пишут письма нашим политикам - все мы тоже важны. У нас есть сила!

Когда вы впервые узнали о роботах-убийцах и что подумали?

Роботы-убийцы для меня - очень личная проблема. В 2017 году, когда я работал в Google в составе команды, которая управляет облачной инфраструктурой Google, меня попросили выполнить некоторую работу по поддержке Проект Maven, проект Министерства обороны США по автоматизации анализа видеозаписей с дронов. Меня попросили поработать над проектом по получению более высокого сертификата безопасности для его облачной платформы, чтобы запускать Maven внутри компании, а не на собственных машинах Министерства обороны.

Maven, без сомнения, был «цепочкой убийств»: он анализировал отснятый материал для генерации данных, которые будут использоваться для идентификации и выбора цели. Это была не просто морально нейтральная работа по компьютерному зрению. К 2020 году армия США была установка Maven на дроны Grey Eagle для автономного обнаружения угроз. Maven не ищет однозначно военные объекты вроде танков. Ищет людей и автомобили, в том числе и гражданские.

Нацеливание на людей в конфликте - это не то, что мы должны автоматизировать: это слишком важная, слишком сложная и зависящая от контекста проблема и слишком высокорисковая.

2020-е годы пока были немного тяжелыми. Что вселяет надежду?

2020-е годы, безусловно, были интересными! Но на самом деле это дает мне надежду. Мы живем во время перемен. Может быть, мы сможем заменить старое «нормальное» на лучшее «нормальное».

Почему вы участвуете в движении Stop Killer Robots?

Я являюсь частью этого движения, потому что на мне как на технологе лежит профессиональная ответственность высказаться. Программное обеспечение хорошо справляется с рутинной работой и очень плохо справляется с работой, связанной с какой-либо двусмысленностью или серыми зонами. К сожалению, большие технологии часто переоценивают возможности технологий, что приводит к вреду. Tesla, назвавшая свое автомобильное программное обеспечение «Автопилот», является отличным примером этого - это очень сложный круиз-контроль, но он назван так, как будто это полностью автономное вождение. Germany и Калифорния оба попросили Tesla использовать другое название для продукта.

Программное обеспечение необходимо использовать с особой осторожностью в любой работе с высокими ставками, которая, безусловно, включает решение о применении военной силы. Значимый человеческий контроль должен постоянно оставаться на переднем крае.