Новые технологии и ИИ

Цифровая дегуманизация: когда решают машины, а не люди.

Технологии, которые нас беспокоят, сводят живых людей к точкам данных. Наша сложная личность, наши физические особенности и наши модели поведения анализируются, сопоставляются с образцами и сортируются по профилям, а решения о нас принимаются машинами в соответствии с заранее запрограммированным профилем, в который мы вписываемся.

Это имеет вполне реальные последствия для исторически маргинализированных или уязвимых сообществ. Это потому, что технологии часто закрепляют - а не создают проблемы - уже существующие предубеждения относительно того, кто такие люди. Стереотипы закрепляются за счет автоматизированного принятия решений.

При чем тут роботы-убийцы?

На самом крайнем конце спектра растущей автоматизации лежат роботы-убийцы.

Достижения в области технологий теперь позволяют системам оружия выбирать и атаковать цели автономно. Это означает, что при использовании силы у нас меньше человеческого контроля над тем, что происходит и почему. Это означает, что мы ближе к машинам, принимающим решения о том, кого убить или что уничтожить. А для машин нет разницы между «кто» и «что».

Роботы-убийцы в настоящее время разрабатываются для использования в вооруженных конфликтах, которые будут иметь разрушительные последствия. Но с ростом автоматизации нашего общества роботы-убийцы не будут ограничиваться только полем битвы. Нет сомнений в том, что они также будут использоваться при пограничном контроле, охране правопорядка и в других сферах общества, где должен быть наиболее значимый человеческий контроль.

Мы можем действовать сейчас, чтобы подвести юридическую и моральную черту. Мы все должны нести ответственность за развитие и использование технологий, а также за ту роль, которую они играют в нашей жизни. Роботы-убийцы не просто появляются - мы их создаем. И у нас есть возможность действовать сейчас, чтобы остановить роботов-убийц, пока технологические разработки не зашли слишком далеко.