L'ONU cherche à garder le contrôle humain sur la force

Le Secrétaire général des Nations Unies, António Guterres, propose d'aider les États à élaborer de nouvelles mesures telles que des "arrangements juridiquement contraignants" pour garantir que "les humains gardent à tout moment le contrôle de l'utilisation de la force". L'offre est contenue dans le Programme de désarmement de 74 pages lancé à Genève le 24 mai 2018, qui décrit comment « les roboticiens, les entrepreneurs technologiques, les acteurs humanitaires, la société civile et de nombreux gouvernements ont sonné l'alarme sur les implications posées par le développement de systèmes d'armes autonomes létaux ».

A l'ordre du jour, le Secrétaire général note qu'« un nombre croissant d'États, y compris certains dotés de capacités militaires avancées, ont appelé à une interdiction préventive des systèmes d'armes létales autonomes » et constate que « toutes les parties semblent être d'accord pour dire qu'au minimum, la surveillance humaine de l'utilisation de la force est nécessaire.

Certains anciens secrétaires généraux de l'ONU ont activement encouragé les efforts visant à créer un nouveau droit international pour répondre aux préoccupations humanitaires et autres soulevées par certaines armes. Par exemple, Boutros Boutros-Ghali était un premier endosseur de l'appel à l'interdiction des mines terrestres antipersonnel, tandis que Kofi Annan a continué ce soutien en participant à la fois aux négociations et à la cérémonie de signature du Traité d'interdiction des mines de 1997.

Auparavant, en septembre 2017, la Commission mondiale d'éthique des connaissances scientifiques + technologies de l'UNESCO a adopté un rapport consultatif sur « L'éthique de la robotique » qui recommande « fortement » que, « pour des raisons juridiques, éthiques et militaro-opérationnelles, le contrôle humain sur les systèmes d'armes et l'usage de la force doivent être maintenus ».

Le processus international n'a pas d'objectif

La proposition du Secrétaire général est un autre exemple du soutien croissant aux États pour passer de la parole à l'action pour empêcher le développement de systèmes d'armes qui, une fois activés, sélectionneraient et attaqueraient des cibles sans intervention humaine.

À l’heure actuelle, 26 États réclament un nouveau traité d'interdire les armes entièrement autonomes. Plus de 100 pays soutiennent désormais l'adoption d'un nouveau droit international visant à maintenir une certaine forme de contrôle humain sur les systèmes d'armes et l'utilisation de la force. Pour la Campagne pour arrêter les robots tueurs, si le contrôle humain est vraiment significatif, ces deux voies aboutissent au même résultat d'empêcher un futur de guerre robotique incontrôlée.

Du 27 au 31 août 2018, plus de 70 pays se réuniront à la Convention sur les armes classiques (CCW) à l'ONU à Genève pour leur sixième réunion sur les systèmes d'armes létaux autonomes depuis 2014

Au précédente réunion de la CCW en avril 2018, il y avait une convergence significative sur la nécessité de conserver le contrôle humain sur les systèmes d'armes et de commencer à négocier un nouveau droit international pour y parvenir. La plupart des États participants ont proposé que la CCAC entame des négociations sur un instrument juridiquement contraignant (c'est-à-dire un protocole ou un traité) pour répondre aux multiples et graves préoccupations soulevées par les systèmes d'armes létales autonomes. L'Autriche, la Chine, la Colombie et Djibouti ont pour la première fois appelé à une interdiction des armes entièrement autonomes, bien que la Chine ait limité son soutien à l'interdiction de l'utilisation uniquement et non du développement ou de la production.

La France, Israël, la Russie, le Royaume-Uni et les États-Unis ont explicitement rejeté l'idée de négocier une nouvelle loi internationale sur les armes entièrement autonomes. La CCW fonctionne par consensus afin que tout État puisse s'opposer et potentiellement bloquer une proposition d'entamer des négociations.

La Campagne pour arrêter les robots tueurs encourage tous les États à :

• Travailler à un instrument juridiquement contraignant qui interdit les armes entièrement autonomes: Les États devraient s'engager de manière substantielle dans la réunion du GGE de la CCW en août 2018 et recommander de déplacer les pourparlers vers un mandat de négociation visant à créer un nouveau droit international. Lors de la réunion des États parties à la CCAC en novembre 2018, les États devraient convenir d'entamer des négociations sur un instrument juridiquement contraignant.
• Adopter une politique et des lois nationales pour empêcher le développement d'armes entièrement autonomes. Travailler en coordination avec la société civile et d'autres parties prenantes nationales pour soutenir la négociation d'un nouveau traité.

Que sont les robots tueurs ?

Des drones armés et d'autres systèmes d'armes autonomes avec des niveaux décroissants de contrôle humain sont actuellement utilisés et développés par des militaires de haute technologie, notamment les États-Unis, la Chine, Israël, la Corée du Sud, la Russie et le Royaume-Uni. La préoccupation est qu'une variété de capteurs disponibles et les progrès de l'intelligence artificielle rendent de plus en plus pratique la conception de systèmes d'armes qui cibleraient et attaqueraient sans aucun contrôle humain significatif. Si la tendance à l'autonomie se poursuit, les humains peuvent commencer à s'effacer de la boucle décisionnelle pour certaines actions militaires, ne conservant peut-être qu'un rôle de surveillance limité, ou définissant simplement des paramètres de mission généraux.

En novembre dernier, le Stockholm International Peace Research Institute (SIPRI) a publié son premier rapport sur le développement de l'autonomie dans les systèmes d'armes  et identifié au moins 381 systèmes autonomes développés à des fins de défense, dont 175 dans les systèmes d'armes, la plupart des drones télécommandés. Plus tôt cet été à Paris lors du salon international de l'armement Eurosatory, des entrepreneurs de la défense du monde entier ont affiché une gamme de systèmes d'armes de haute technologie intégrant l'intelligence artificielle et des fonctionnalités autonomes, des chars télécommandés aux drones miniatures en passant par les munitions errantes.

Alors que les sérieux défis posés par les armes entièrement autonomes ont attiré une large attention au cours des cinq dernières années, les progrès des États pour résoudre les problèmes ont été lents. Les États ont identifié et exploré les principales préoccupations juridiques, opérationnelles, morales, techniques et autres soulevées en permettant aux machines de sélectionner et d'attaquer des cibles sans autre intervention humaine. Il existe désormais un large consensus sur la nécessité de conserver une certaine forme de contrôle humain sur les futurs systèmes d'armes et l'usage de la force.

À propos de la prochaine réunion de la CCW

L'ambassadeur indien Amandeep Singh Gill supervisera la réunion de la CCW en sa qualité de président du groupe d'experts gouvernementaux de la CCW sur les systèmes d'armes létales autonomes. L'ambassadeur Gill est également directeur exécutif du secrétariat d'un Panel de haut niveau sur la coopération numérique annoncé par le Secrétaire général de l'ONU le 12 juillet.

Environ 30 représentants d'organisations non gouvernementales (ONG) membres de la Campagne pour arrêter les robots tueurs participeront à la réunion, y compris la lauréate du prix Nobel de la paix 1997, Jody Williams, le roboticien Noel Sharkey et d'autres experts techniques du Comité international pour le contrôle des armements robotiques, co-fondateur de la campagne. La campagne est une coalition mondiale de 76 ONG dans 32 pays travaillant depuis avril 2013 pour interdire à titre préventif les systèmes d'armes létales autonomes, également connus sous le nom d'armes entièrement autonomes.

Les correspondants accrédités par l'ONU à Genève sont invités à assister à un briefing parallèle à la Campagne contre les robots tueurs le mardi 28 août pour discuter des aspects éthiques des systèmes d'armes autonomes létaux. Bonnie Docherty présentera son dernier rapport de Human Rights Watch sur la façon dont les robots tueurs ne respecteraient pas la clause de Martens, une norme éthique codifiée dans le droit international pour évaluer les technologies émergentes.

Veuillez suivre les comptes de médias sociaux de la campagne sur Instagram, Facebooket Twitter. Il n'y a pas de flux en direct de la réunion CCW ou des événements parallèles, mais les faits saillants seront tweetés en utilisant le hashtag #CCWUN

Pour plus d'informations, s'il vous plaît voir:

• Campagne pour arrêter les robots tueurs Avis aux médias, Circulaire de l'événement parallèle, Liste de délégation, Foire aux Questions, Note d'information (en Français et Espagnol) et Rapport d'activités à la réunion d'avril 2018 de la CCW;
• CCW page web pour les réunions du GGE 2018, y compris provisoire programme de travail et compte rendu du président de la réunion d'avril 2018;
• La WILPF atteint la volonté critique page web pour les réunions CCW GGE 2018.