Использование системы обработки данных Lavender в секторе Газа

Фото Мохаммед Ибрагим 

Компания Stop Killer Robots продолжает обнаруживать сообщения об использовании Израилем систем определения целей в секторе Газа, вызывающие глубокую обеспокоенность с юридической, моральной и гуманитарной точки зрения. Хотя система Лаванды, как и система Хабсора /Евангелие Система не является автономным оружием, и то и другое вызывает серьезную обеспокоенность по поводу растущего использования искусственного интеллекта в конфликтах, предвзятости автоматизации, цифровой дегуманизации и потери человеческого контроля при применении силы. 

Сообщает, что Лаванда ЦАХАЛ использовал его для создания человеческих целей, вызывают глубокую тревогу. Сообщается, что система выдает рекомендации по таргетингу на основе поведенческих «особенностей», включая модели общения, связи в социальных сетях и частую смену адресов. По словам источника +972, « Человек, у которого обнаружено несколько различных компрометирующих черт, достигнет высокого рейтинга и, таким образом, автоматически станет потенциальной мишенью для убийства». 

«Лаванда» — это система обработки данных, а не автономное оружие, и фактическое решение о том, поразить рекомендованную цель или нет, принимается и осуществляется отдельно человеком, а не машиной. Однако использование этой системы демонстрирует ключевые проблемы с автономным оружием, а именно: цифровая дегуманизация и потеря значимого человеческого контроля. 

Защита гражданских лиц является основным принципом международного гуманитарного права (МГП), и в случае сомнений относительно статуса человека его следует считать гражданским лицом. Рейтинг населения Газы в качестве потенциальных целей на основе поведенческих профилей, которые имеют погрешность в 10%, сводит людей к точкам данных и вызывает серьезную обеспокоенность по поводу соблюдения МГП, нарушения человеческого достоинства и цифровой дегуманизации.

Также вызывают беспокойство сообщения о «sплачущее одобрение для офицеров принять списки убийств Лаванды без необходимости тщательно проверять, почему машина сделала такой выбор, или изучать необработанные разведывательные данные, на которых они были основаны». Отсутствие значимого человеческого контроля и участия в принятии решений об атаке рекомендованных Лавандой целей демонстрирует тревожную тенденцию к использованию автоматизированных систем. 

Компания Stop Killer Robots считает, что технологии следует разрабатывать и использовать для содействия миру, справедливости, правам человека, равенству и уважению закона, а не для автономного убийства или дальнейшего укрепления или воспроизводства неравенства и угнетения. 

Генеральный секретарь ООН, Международный комитет Красного Креста и более 100 стран призвали к разработке юридического документа по автономным системам вооружения. Растущее использование систем с вызывающим беспокойство уровнем автономии демонстрирует острую необходимость в четких запретах и ​​правилах автономности систем вооружений в международном праве.

Запросы на комментарии или интервью следует направлять по адресу [электронная почта защищена]