Utilisation d'un système de ciblage automatisé à Gaza

Photo par Mohammed Ibrahim 

Stop Killer Robots est profondément préoccupé par les informations faisant état de utilisation de systèmes de ciblage automatisés dans la bande de Gaza. Même si le système « Habsora » (« L’Évangile » en anglais) n’est pas une arme autonome, son utilisation signalée par Israël dans la bande de Gaza suscite de graves inquiétudes quant au recours croissant à l’autonomie dans les conflits, à la déshumanisation numérique, à l’intelligence artificielle (IA), biais d’automatisation et contrôle humain dans l’usage de la force. 

Selon les Forces de défense israéliennes, « Habsora » soi-disant peut utiliser l’IA et « l’extraction rapide et automatique des renseignements mis à jour » pour générer des cibles recommandées. Les systèmes de ciblage qui utilisent des technologies de prise de décision automatisée et d’IA suscitent de sérieuses préoccupations et s’inscrivent dans une tendance inquiétante vers le déploiement de systèmes d’armes autonomes.  

L'utilisation de systèmes basés sur l'IA pour «produire des objectifs à un rythme rapide» représente un grave exemple de déshumanisation numérique soulevant de sérieuses inquiétudes quant à la violation de la dignité humaine et au respect du droit international humanitaire. De plus, la réduction potentielle des personnes à des points de données basés sur des caractéristiques spécifiques telles que l’origine ethnique, le sexe, le poids, la démarche, etc. soulève de sérieuses questions sur la manière dont les profils cibles sont créés et, par conséquent, sur la manière dont les cibles sont sélectionnées. 

Il existe également de sérieux risques que les humains deviennent trop dépendants des systèmes automatisés dans lesquels des recommandations de ciblage sont produites et mises en œuvre par des opérateurs humains sans comprendre comment les recommandations ont été générées.

Stop Killer Robots estime que la technologie doit être développée et utilisée pour promouvoir la paix, la justice, les droits de l'homme, l'égalité et le respect de la loi – et non pour tuer de manière autonome ou pour renforcer ou reproduire davantage l'inégalité et l'oppression. 

Alors que le Secrétaire général de l’ONU, le Comité international de la Croix-Rouge et plus de 100 pays ont réclamé un instrument juridique sur les systèmes d’armes autonomes, il est urgent d’introduire des interdictions et des réglementations claires sur l’autonomie des systèmes d’armes dans le droit international.

Les demandes de commentaires ou d'entrevues doivent être adressées à [email protected]