Аморальный кодекс

Технологии, о которых мы беспокоимся, ограничены. Они не признают людей людьми, вместо этого они сводят живых людей к точкам данных. Наша сложная и в высшей степени индивидуальная идентичность утрачивается, вместо этого анализируются наши физические особенности и модели поведения, сопоставляются модели и сортируются в профили. Решения о нас принимаются машинами в соответствии с заранее запрограммированным профилем, в который мы вписываемся.

Роботы-убийцы уже существуют. На YouTube есть даже реклама автономных вооруженных дронов. Они используют ту же технологию, которая доказала предвзятость.

В погоне за технологическими прорывами мы теряем человеческий контроль — это машины, принимающие решения о том, кого убивать, а что уничтожать. Некоторые страны уже используют системы, которые могут идентифицировать и выбирать цели автономно.

Доказанные предубеждения и системные недостатки небезопасны. В настоящее время идет гонка за то, чтобы первыми интегрировать эти технологии в оружие, мало заботясь об опасностях.

Тысячи технических экспертов и сотни компаний, работающих в технологическом секторе, выразили обеспокоенность. Они считают, что автономное оружие будет непредсказуемым и ненадежным, уязвимым для взлома или спуфинга.

Наши знания об индустрии удаленного биометрического наблюдения, например, говорят нам о том, что повышенная производительность и более «точная» идентификация машинного зрения будут использоваться для усиления существующих предубеждений и дискриминационных моделей, которые уже были продемонстрированы в системах ИИ и распознавания лиц.

Страны, блокирующие запрет, и поддерживающие их частные компании уже конкурируют друг с другом в разработке новых, все более автоматизированных технологий. Если его не остановить, мир может вступить в дестабилизирующую гонку роботизированных вооружений.

Мы не хотим лишать возможности защищать жизни, но это не должно означать утраты значимого человеческого контроля над таким оружием. Это пересечет технологическую и этическую черту, которая коренным образом изменит общество.

Нам нужна ваша помощь, чтобы изменить ситуацию. Демонстрация общественного запроса может преодолеть проблемы, возникающие при принятии нового международного права об автономии в системах вооружений.

У нас есть возможность избежать ненужной гибели людей, действуя сейчас. Государства обсуждают, что делать прямо сейчас — на них смотрит весь мир — дайте понять, чего вы хотите, в каком обществе вы хотите жить. Подпишите нашу петицию здесь чтобы твой голос был услышан.