Технологии искусственного интеллекта и автоматизированное принятие решений теперь играют важную роль в нашей жизни - от умных домов и целевой рекламы до использования собак-роботов в полиции. Технологии могут быть потрясающими. Но только потому, что мы может строить что-нибудь, это не значит, что мы должен. Многие технологии с разной степенью автономности уже широко внедряются, не останавливаясь на рассмотрении последствий нормализации их использования. Зачем нам об этом говорить?
Потому что машины не воспринимают нас как людей, а просто еще один фрагмент кода, который нужно обработать и отсортировать.

Цифровая дегуманизация: когда решают машины, а не люди.
Цифровая дегуманизация: когда решают машины, а не люди.
Технологии, которые нас беспокоят, сводят живых людей к точкам данных. Наша сложная личность, наши физические особенности и наши модели поведения анализируются, сопоставляются с образцами и сортируются по профилям, а решения о нас принимаются машинами в соответствии с заранее запрограммированным профилем, в который мы вписываемся.
Это имеет вполне реальные последствия для исторически маргинализированных или уязвимых сообществ. Это потому, что технологии часто закрепляют - а не создают проблемы - уже существующие предубеждения относительно того, кто такие люди. Стереотипы закрепляются за счет автоматизированного принятия решений.
При чем тут роботы-убийцы?
На самом крайнем конце спектра растущей автоматизации лежат роботы-убийцы.
Достижения в области технологий теперь позволяют системам оружия выбирать и атаковать цели автономно. Это означает, что при использовании силы у нас меньше человеческого контроля над тем, что происходит и почему. Это означает, что мы ближе к машинам, принимающим решения о том, кого убить или что уничтожить. А для машин нет разницы между «кто» и «что».

Технологии, которые будут использоваться в автономном оружии, сократят людей до данных и подвергнут их атакам - высшей форме цифровой дегуманизации.
Роботы-убийцы в настоящее время разрабатываются для использования в вооруженных конфликтах, которые будут иметь разрушительные последствия. Но с ростом автоматизации нашего общества роботы-убийцы не будут ограничиваться только полем битвы. Нет сомнений в том, что они также будут использоваться при пограничном контроле, охране правопорядка и в других сферах общества, где должен быть наиболее значимый человеческий контроль.
Мы можем действовать сейчас, чтобы подвести юридическую и моральную черту. Мы все должны нести ответственность за развитие и использование технологий, а также за ту роль, которую они играют в нашей жизни. Роботы-убийцы не просто появляются - мы их создаем. И у нас есть возможность действовать сейчас, чтобы остановить роботов-убийц, пока технологические разработки не зашли слишком далеко.
Меньше автономности. Больше человечности.
Итак, когда дело доходит до цифровой дегуманизации - систем оружия, нацеленных на людей, - нам нужно меньше автономии и больше человечности.
