Реальные истории

Я Ричард Мойес - белый парень средних лет из среднего класса, работающий на Article 36, неправительственную организацию, специализирующуюся на разработке стратегий защиты гражданских лиц от оружия.

Таргетированная реклама, одобрение банковских кредитов, упреждающая работа полиции… автономия в оружии, автоматизация все чаще становятся частью нашей жизни. Какие типы цифровой дегуманизации вас больше всего беспокоят и почему?

Я чувствую эту проблему с точки зрения бюрократизации. Во всех этих областях автоматизация и искусственный интеллект могут расширить и ускорить бюрократию. Я не имею в виду больше бюрократизма. Я имею в виду больше уместить мир в маленькие коробочки. Через эти коробки мы можем потерять контроль над нашими отношениями с миром и друг с другом. Контроль над структурами навешивания ярлыков и категоризацией общества - это способ проявления власти.

Расскажите нам о случае, когда вы видели или испытали дискриминацию, риск или угнетение в результате использования технологии, программы или алгоритма.

Мой опыт работы с воздействием оружия. Однажды ребенок из лагеря беженцев в Эритрее подошел к нам с неразорвавшейся кассетной бомбой, изготовленной в Великобритании. Я был в офисах компании, которая их сделала, и это заставляет задуматься о расстоянии, которое может существовать между людьми, которые проектируют, создают и извлекают выгоду из технологий, и людьми, которые несут риск.

Технологии по своей сути не хороши и не плохи. Как мы отстаиваем технологии, которые приносят пользу человечеству, предотвращая вред или непредвиденные последствия?

Хммм, но технологии тоже не нейтральны - они всегда встроены в социальные и экономические условия. Часто мы просто склоняемся к определенным отношениям с технологиями.

Как вы думаете, как будут выглядеть наши отношения с технологиями через 5/10/20 лет и насколько мы можем повлиять на это?

Я думаю, что у нас есть возможность влиять на эти отношения - но у нас много разных отношений в этом пространстве, верно? У разных людей в обществе, вероятно, всегда были разные уровни доступа и выгоды от технологий, поэтому я полагаю, что эти отношения будут и дальше оспариваться. Но оспаривание - это хорошо - общество, вероятно, никогда не будет сидеть на месте достаточно долго, чтобы «решить» подобные проблемы. А может мы этого не хотим?

Вы верите, что отдельные люди могут изменить ситуацию к лучшему?

100%. Но я считаю своей привилегией то, что я знаю, что это правда.

Когда вы впервые узнали о роботах-убийцах и что подумали?

Меня процитировали по этому поводу в New Scientist еще в 2008 году, когда я говорил, что решения о нацеливании должны принимать люди, а не сенсоры. Эта цитата хорошо зарекомендовала себя, но от нее я чувствую себя немного старым! Я работал над новым сенсорным оружием, и мне казалось, что нужно провести линии, чтобы человеческий контроль не ускользнул.

2020-е годы пока были немного тяжелыми. Что вселяет надежду?

Ответ на этот вопрос всегда люди, не так ли ?! Я верю в людей.

Почему вы участвуете в движении Stop Killer Robots?

Все вышеперечисленное!