image de héros de menu

Contrôle humain significatif, intelligence artificielle et armes autonomes

Ce document d'information destiné aux délégués à la réunion d'experts de la Convention sur certaines armes classiques (CCW) examine les développements en matière d'intelligence artificielle et d'autonomie dans les systèmes d'armes et comprend une enquête sur un jeu de données Excel sur les systèmes d'armes autonomes, leurs développeurs et d'autres mesures.

Avec l'augmentation récente des inquiétudes concernant les « systèmes d'armes autonomes » (AWS), la société civile, la communauté internationale et d'autres ont concentré leur attention sur les avantages et les problèmes potentiels associés à ces systèmes. Certains planificateurs militaires voient une utilité potentielle dans les systèmes autonomes - s'attendant à ce qu'ils effectuent des tâches d'une manière et dans des contextes que les humains ne peuvent pas, ou qu'ils puissent aider à économiser des coûts ou à réduire les pertes militaires. Pourtant, à mesure que les capteurs, les algorithmes et les munitions sont de plus en plus interconnectés, des questions se posent quant à l'acceptabilité de l'autonomie dans certaines « fonctions critiques », notamment autour de l'identification, de la sélection et de l'application de la force sur les cibles. Ces préoccupations englobent des considérations éthiques, juridiques, opérationnelles et diplomatiques.

La publication originale peut être trouvée ici.

L'examen des éléments clés requis pour un contrôle humain significatif devrait fournir un point de départ pour toute évaluation des technologies en développement dans le contexte des systèmes d'armes autonomes.

Heather M. Roff & Richard Moyes

Texte alternatif de l'image
Icône de points SKR

Arrêtez les robots tueurs

Rejoignez-nous

Tenez-vous au courant des derniers développements du mouvement Stop Killer Robots.

Rejoignez-nous