image de héros de menu
main humaine rencontrant la main du robot dans une poignée de main avec une superposition violette

Armes autonomes et risque opérationnel

Ce rapport examine les risques des futures armes autonomes qui choisiraient leurs propres cibles et le potentiel d'accidents catastrophiques.

L'automatisation augmente dans un large éventail de systèmes militaires, y compris les futures armes. En réponse, un nombre croissant de voix appellent à une discussion urgente sur le rôle approprié de la prise de décision humaine et machine dans l'utilisation de la force meurtrière. Le projet d'autonomie éthique du Center for a New American Security examine les problèmes juridiques, moraux, éthiques et politiques associés aux armes autonomes, des armes qui sélectionneraient et engageraient des cibles par elles-mêmes.

Ce document vise à aider les professionnels de la défense à réfléchir clairement et objectivement aux risques possibles associés aux armes autonomes. Les armes autonomes n'existent généralement pas, et leurs coûts et avantages militaires peuvent être spéculés mais ne sont pas encore clairement connus. Ce qui est clair, cependant, c'est qu'ils soulèvent de nouvelles questions de risque. L'essence de l'autonomie est de déléguer une tâche précédemment effectuée par une personne à une machine. Cela soulève la question importante de savoir comment conserver un contrôle humain efficace sur le comportement de la machine et les risques – à la fois la probabilité et les conséquences – associés à une perte de contrôle.

La publication originale peut être trouvée ici.

L'examen des éléments clés requis pour un contrôle humain significatif devrait fournir un point de départ pour toute évaluation des technologies en développement dans le contexte des systèmes d'armes autonomes.

Centre pour la nouvelle sécurité américaine (CNAS)

Icône de points SKR

Arrêtez les robots tueurs

Rejoignez-nous

Tenez-vous au courant des derniers développements du mouvement Stop Killer Robots.

Rejoignez-nous