COMMUNIQUÉ DE PRESSE : Le processus sur les robots tueurs manque de concentration et d'objectif Déterminer comment conserver un contrôle humain significatif

13 Novembre 2017
Genève

COMMUNIQUÉ DE PRESSE:
Le processus sur les robots tueurs manque de concentration et d'objectif Déterminer comment conserver un contrôle humain significatif des systèmes d'armes

La Campagne pour arrêter les robots tueurs exhorte les États à déterminer rapidement comment et où tracer les limites de l'autonomie future des systèmes d'armes en s'engageant à négocier une interdiction des systèmes d'armes autonomes meurtriers. Plus de 70 pays participent à une réunion de la Convention sur les armes classiques (CCW) sur ce sujet qui s'ouvre aujourd'hui aux Nations Unies (ONU) à Genève

« Pour éviter un avenir où les machines sélectionnent et attaquent des cibles sans autre intervention humaine, les pays doivent tracer la ligne contre l'autonomie incontrôlée des systèmes d'armes », a déclaré Jody Williams, lauréate du prix Nobel de la paix 1997 et cofondatrice de la Campagne pour arrêter les robots tueurs. « Avec une volonté politique adéquate, les gouvernements peuvent négocier un traité international et interdire les robots tueurs – des armes entièrement autonomes – dans un délai de deux ans. »

La Campagne pour arrêter les robots tueurs est une coalition mondiale cofondée par des organisations non gouvernementales en octobre 2012. Elle s'efforce d'interdire à titre préventif les armes entièrement autonomes, également connues sous le nom de systèmes d'armes autonomes létales.

La Convention sur les armes classiques est un traité-cadre qui interdit ou restreint certaines armes et son protocole de 1995 sur les lasers aveuglants est un exemple d'interdiction préventive d'une arme avant son acquisition ou son utilisation.

Williams fait partie de la délégation de la campagne à la réunion d'une semaine du groupe d'experts gouvernementaux de la CCW sur les systèmes d'armes létales autonomes présidée par l'ambassadeur indien Amandeep Singh Gill. Les pays décideront des travaux futurs sur cette question lors de la réunion annuelle des Hautes Parties contractantes à la CCAC le 24 novembre.

« Les nations doivent répondre aux inquiétudes croissantes selon lesquelles le fragile processus diplomatique pour discuter des préoccupations concernant les systèmes d'armes autonomes meurtriers faiblit financièrement, perd sa concentration et manque d'un objectif clair vers lequel travailler », a déclaré Mary Wareham de Human Rights Watch, coordinatrice de la Campagne pour Arrêtez les robots tueurs. « Dans l'intervalle, nous exhortons les États qui sont d'accord avec la nécessité de conserver le contrôle humain des systèmes d'armes à adopter rapidement des politiques et des lois nationales à cet effet. »

Il s'agit de la toute première réunion du Groupe d'experts gouvernementaux de la CCW, mais c'est la quatrième fois depuis 2014 que les États se réunissent à la CCW pour examiner les systèmes d'armes autonomes létaux. Le Groupe d'experts gouvernementaux devait se réunir deux fois en 2017, mais la première semaine de pourparlers plus tôt cette année a été reportée puis annulée en raison de la mise en œuvre d'un système de comptabilité financière complexe de l'ONU et du non-paiement par certains États de leurs cotisations à la CCW. .

Un document « matière à réflexion » préparé par le président de la réunion de la CCW contient plusieurs questions technologiques et juridiques/éthiques qui ne sont pas directement liées à la question des systèmes d'armes autonomes létaux. La campagne estime que d'autres mécanismes devraient être recherchés pour examiner des questions plus larges sur l'intelligence artificielle et son impact potentiel sur la société. Les considérations relatives aux droits de l'homme sont absentes du programme de travail provisoire et le temps semble manquer pour examiner les problèmes de prolifération et de sécurité ainsi que le contrôle humain nécessaire dans les futurs systèmes d'armes.

« Au lieu d'élargir ce débat et de perdre de vue, les États devraient se concentrer sur la promotion d'une compréhension politique commune de comment et où tracer les limites nécessaires de l'autonomie dans les systèmes d'armes », a déclaré Richard Moyes à propos de l'article 36.

Des dizaines de pays ont affirmé la nécessité de conserver le contrôle humain sur le choix des cibles et l'usage de la force. Dans un document de travail publié pour la réunion du GGE, la Russie déclare : « L'écrasante majorité des États s'accordent sur l'inadmissibilité de la perte du contrôle humain significatif de ces systèmes d'armes.

Plusieurs systèmes d'armes autonomes avec divers degrés de contrôle humain sont actuellement utilisés par des militaires de haute technologie, notamment les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et le Royaume-Uni. L'inquiétude est que les capteurs à faible coût et les progrès de l'intelligence artificielle rendent de plus en plus pratique la conception de systèmes d'armes qui cibleraient et attaqueraient sans aucun contrôle humain significatif. Si la tendance à l'autonomie se poursuit, les humains commenceront à s'effacer de la boucle décisionnelle, ne conservant d'abord qu'un rôle de surveillance limité, puis aucun rôle du tout.

La Campagne pour arrêter les robots tueurs s'oppose fondamentalement à permettre aux machines de tuer des humains sur le champ de bataille ou dans le cadre de la police, du contrôle des frontières et d'autres circonstances. Au total, 19 pays soutiennent désormais l'appel à l'interdiction des systèmes d'armes létales autonomes, y compris le Saint-Siège, et plus de deux douzaines de lauréats du prix Nobel de la paix. La semaine dernière, Williams a souligné le besoin urgent d'empêcher le développement de robots tueurs lors d'une conférence du Vatican sur le désarmement à laquelle assistait le pape François.

De nombreux membres de la communauté de l'intelligence artificielle (IA) et de la robotique ont approuvé l'appel à l'interdiction des systèmes d'armes autonomes létaux. Plus de 137 fondateurs et directeurs d'entreprises d'IA et de robotique de 28 pays ont approuvé une lettre ouverte en août 2017 exigeant une action plus forte de l'ONU pour « nous protéger tous » contre les dangers posés par les systèmes d'armes autonomes meurtriers. Ce mois-ci, plus de 120 experts australiens en IA et en robotique ont exhorté le Premier ministre Malcolm Turnbull à prendre fermement position contre les systèmes d'armes autonomes meurtriers, tandis que plus de 135 experts canadiens en IA et en robotique ont appelé le Premier ministre Justin Trudeau à interdire les systèmes d'armes qui éliminent des humains significatifs. contrôle dans le déploiement de la force meurtrière.

"La Campagne pour arrêter les robots tueurs ne cherche pas à étouffer l'innovation dans l'intelligence artificielle et la robotique et elle ne souhaite pas interdire les systèmes autonomes dans le monde civil ou militaire", a déclaré Noel Sharkey du Comité international pour le contrôle des armements robotiques (ICRAC). "Nous voyons plutôt un besoin urgent d'empêcher l'automatisation des fonctions critiques de sélection de cibles et d'application d'une force violente sans délibération humaine et d'assurer un contrôle humain significatif pour chaque attaque."

Les délégués de la CCW et les médias accrédités par l'ONU à Genève sont invités à assister aux séances d'information parallèles de la Campagne pour arrêter les robots tueurs sur :

• Lundi 13 novembre à 13h00 dans la salle de conférence XXII, où les militants présenteront de nouvelles recherches et initiatives, dont un nouveau film.
• Mercredi 22 novembre à 13h00 dans la salle de conférence XXIV, où les militants évalueront la première réunion du groupe d'experts gouvernementaux sur les systèmes d'armes létales autonomes et commenteront les futurs plans de travail de la CCAC.