Conférence de Munich sur la sécurité

Les inquiétudes concernant la perspective d'armes entièrement autonomes ont figuré en bonne place lors de la conférence de haut niveau de Munich sur la sécurité en Allemagne ce mois-ci. Plus de 600 politiciens, chefs d'entreprise et fonctionnaires ont assisté à la conférence annuelle qui s'est tenue à l'hôtel Bayerischer Hof dans le centre-ville du 15 au 18 février.

A événement public sur l'intelligence artificielle et les conflits modernes organisés par la conférence ont vu émerger des points de vue communs à partir de différentes perspectives contre les armes qui, une fois activées, pourraient identifier, sélectionner et attaquer des cibles sans autre intervention humaine. L'événement s'est ouvert par les remarques d'un "robot" et a présenté un panel avec un président, un général, un ancien chef de l'OTAN et un représentant d'une coalition d'organisations non gouvernementales, la Campagne pour arrêter les robots tueurs.

Les médias ont largement couvert les propos tenus lors de l'événement par le chef du cyber commandement allemand, le lieutenant-général Ludwig Leinhos, qui a déclaré : « Nous avons une position très claire. Nous n'avons pas l'intention de nous procurer "des armes entièrement autonomes".

Certains ont décrit ce commentaire comme une nouvelle position officielle allemande en faveur de l'interdiction de telles armes entièrement autonomes. D'autres prétendent que l'Australie, le Canada et le Royaume-Uni sont également de tout cœur derrière l'appel à l'interdiction.

Cependant, la Campagne pour arrêter les robots tueurs n'est pas sur le point d'ajouter ces états à sa liste de 22 pays qui ont soutenu l'appel à interdire les armes entièrement autonomes. C'est en partie parce que les déclarations sur l'intention de ne pas acquérir de telles armes ne sont pas la même chose que s'engager et travailler activement à une interdiction préventive juridiquement contraignante. Et en partie parce qu'il n'est pas clair ce que l'Allemagne ou le Royaume-Uni ou d'autres entendent par systèmes d'armes entièrement autonomes, en particulier quel niveau de contrôle humain est requis.

Toute déclaration de renoncement à ces systèmes d'armes est la bienvenue et montre à quel point le discours et le débat au sein des forces armées de divers pays sont se concentrant de plus en plus non seulement les questions relatives à la légalité des armes entièrement autonomes, mais les préoccupations beaucoup plus importantes. Pourtant, les déclarations à elles seules ne suffisent pas à faire face à tous les défis soulevés par ce mouvement de grande envergure vers une plus grande autonomie des systèmes d'armes.

Une législation contraignante est requise sous la forme d'un nouveau traité international et de lois nationales pour conserver un contrôle humain significatif sur les futurs systèmes d'armes et les attaques individuelles. Pour ce faire, il faudra que les États tracent la ligne pour interdire à titre préventif le développement, la production et l'utilisation d'armes entièrement autonomes.

Coordinateur de la campagne Stop Killer Robots Mary Wareham s'est adressée au panel de Munich sur l'IA, mettant en évidence les multiples défis éthiques, juridiques, opérationnels, moraux, de prolifération, techniques et autres soulevés par le fait de permettre à des machines de tuer des humains sur le champ de bataille ou dans le cadre de la police, du contrôle des frontières et d'autres circonstances.

Un autre co-panéliste, l'ancien secrétaire général de l'OTAN Anders Fogh Rasmussen, a parlé avec éloquence en faveur de l'interdiction de la production et de l'utilisation de ce que les gouvernements en sont venus à appeler des « systèmes d'armes létaux autonomes ». Il a prédit que sans interdiction légale, ces armes pourraient créer de l'instabilité et a averti : « Bientôt, vous verrez peut-être des essaims de robots attaquer un pays… Les robots peuvent être facilement déployés, ils ne se fatiguent pas, ils ne s'ennuient pas.

Le dernier co-panéliste, la présidente estonienne Kersti Kaljula, n'a pas abordé directement les préoccupations soulevées par les armes entièrement autonomes, mais a déclaré à un panel de Munich ultérieur que l'Assemblée générale des Nations Unies devrait voter sur « l'interdiction de l'intelligence artificielle à des fins militaires ».

De telles propositions devraient être examinées car elles pourraient contribuer à inciter à une action plus urgente et plus concrète. Il est nécessaire d'accorder une plus grande attention au processus diplomatique en cours à la Convention sur les armes classiques (CCW) à Genève, où quelque 90 pays réfléchissent à ce qu'il faut faire au sujet des systèmes d'armes autonomes létal. La campagne a reproché aux pourparlers de la CCW de viser trop bas et de ralentir, mais avec une volonté politique, des progrès rapides sont possibles.

Au cours d'une autre discussion à Munich, Eric Schmidt de Google Alphabet a été pressé de donner son avis sur l'appel à interdire les armes entièrement autonomes. Schmidt n'a pas exprimé son soutien aux mesures juridiquement contraignantes, mais constaté que "Ces technologies comportent de graves erreurs et ne devraient pas être utilisées dans les décisions de la vie." Il a déclaré qu'il y avait « trop d'erreurs » et qu'elles ne devraient pas être « chargées du commandement et du contrôle ».

En tant que directeur du vénérable Stockholm International Peace Research Institute (SIPRI) dans une pièce de réflexion Car Munich souligne que « les négociations sur l'autonomie des systèmes d'armes peuvent être accélérées et le développement de la technologie ralenti ». C'est peut-être le cas, mais le temps presse.

« Sophie le robot » a ouvert l'événement AI à Munich et a présenté les panélistes. Largement considéré par la communauté robotique comme « un faux robot de spectacle », son créateur David Hansen a précédemment travaillé pour Disney animatronics. L'année dernière, Sophie a dirigé un sommet de l'ONU sur « AI for Good » et a suscité la controverse après sa obtenu la citoyenneté par l'Arabie saoudite.

Sophia a donné au président de la Conférence de Munich sur la sécurité Wolfgang Ischinger et au modérateur David Sanger des réponses scénarisées à des questions prédéterminées. Certaines des réponses étaient à la limite du racisme (demandant pourquoi le public composé principalement de jeunes ne portait pas de « lederhosen ») et sexistes (réprimandé par le modérateur pour avoir « flirté » après avoir dit « bel uniforme » au général).

La plupart étaient vides de sens : « faire du mal à quelqu'un n'est pas acceptable à moins que vous ne deviez vous défendre » et « les robots pourraient potentiellement protéger les humains les uns des autres ». Ou trompeur. En invitant le coordinateur de la campagne pour arrêter les robots tueurs à monter sur scène, Sophia a déclaré : "S'il vous plaît, laissez-moi vous assurer que je ne suis pas un robot tueur." Nous n'avons jamais prétendu que oui.

Plusieurs médias ont couvert la question des robots tueurs lors de la Conférence de Munich sur la sécurité, notamment POLITICO Europe, Reuters, futurismeet Euronews, et les points de vente allemands Politique de réseau, Süddeutsche Zeitunget Heise.

Regardez l' vidéo de l'événement public.

Crédit photo: Conférence de Munich sur la sécurité / Kuhlmann, Février 15 2018