Использование автоматизированной системы нацеливания в секторе Газа

Фото Мохаммед Ибрагим 

Компания Stop Killer Robots глубоко обеспокоена сообщениями о использование автоматизированных систем таргетинга в секторе Газа. Хотя система «Хабсора» («Евангелие» на английском языке) не является автономным оружием, сообщения о ее использовании Израилем в секторе Газа вызывают серьезную обеспокоенность по поводу растущего использования автономии в конфликтах, цифровой дегуманизации, искусственного интеллекта (ИИ), предвзятость к автоматизации и человеческий контроль при применении силы. 

По данным Сил обороны Израиля, «Хабсора» предположительно могут использовать искусственный интеллект и «быстрое и автоматическое извлечение обновленной разведывательной информации» для определения рекомендуемых целей. Системы наведения, использующие автоматизированное принятие решений и технологии искусственного интеллекта, вызывают серьезную озабоченность и являются частью тревожной тенденции к развертыванию автономных систем вооружения.  

Использование систем на базе искусственного интеллекта для «Достигать цели в быстром темпе» представляет собой серьезный пример цифровая дегуманизация выражая серьезную обеспокоенность по поводу нарушения человеческого достоинства и соблюдения международного гуманитарного права. Кроме того, потенциальное сведение людей к точкам данных на основе конкретных характеристик, таких как этническая принадлежность, пол, вес, походка и т. д., поднимает серьезные вопросы о том, как создаются целевые профили и, в свою очередь, как выбираются цели. 

Существуют также серьезные риски того, что люди могут стать чрезмерно зависимыми от автоматизированных систем, в которых рекомендации по нацеливанию разрабатываются и выполняются людьми-операторами, не понимая, как эти рекомендации были созданы.

Компания Stop Killer Robots считает, что технологии следует разрабатывать и использовать для содействия миру, справедливости, правам человека, равенству и уважению закона, а не для автономного убийства или дальнейшего укрепления или воспроизводства неравенства и угнетения. 

Поскольку Генеральный секретарь ООН, Международный комитет Красного Креста и более 100 стран призвали к разработке юридического инструмента по автономным системам вооружений, существует острая необходимость в четких запретах и ​​правилах автономности систем вооружений в международном праве.

Запросы на комментарии или интервью следует направлять по адресу [электронная почта защищена]