Les fondateurs de l'entreprise exigent une action de l'ONU contre les robots tueurs

La Campagne pour arrêter les robots tueurs exhorte les gouvernements à tenir compte d'une lettre ouverte signé par 126 fondateurs et directeurs de plus de 100 sociétés de robotique et d'intelligence artificielle de 28 pays exigeant une action urgente pour résoudre les problèmes d'armes entièrement autonomes.

Sorti à l'ouverture de une grande conférence internationale sur l'intelligence artificielle (AI) à Melbourne le 21 août, le lettre énumère de nombreuses préoccupations concernant les armes entièrement autonomes, également appelées systèmes d'armes autonomes létales ou robots tueurs. Il avertit que ces armes pourraient être utilisées par « des despotes et des terroristes » et « piratées pour se comporter de manière indésirable ».

Les fondateurs de l'entreprise déclarent qu'ils "se sentent particulièrement responsables de déclencher cette alarme" et préviennent que "nous n'avons pas longtemps pour agir" car "une fois cette boîte de Pandore ouverte, elle sera difficile à fermer". Ils appellent les États à la Convention sur les armes classiques (CCW) pour « nous protéger tous » contre les dangers posés par les armes entièrement autonomes et proposer à leurs chercheurs et ingénieurs de fournir un soutien technique au processus CCW défaillant sur les armes entièrement autonomes.

Les signataires incluent Elon Musk, fondateur de Tesla, SpaceX, OpenAI (États-Unis), Mustafa Suleyman, fondateur de DeepMind de Google (Royaume-Uni) et Jüergen Schmidhuber, grand expert en apprentissage en profondeur et fondateur de Nnaisense (Suisse).

Expert en IA Toby Walsh de l'Université de Nouvelle-Galles du Sud a recueilli les signatures sur la lettre des fondateurs d'entreprises qui « emploient des dizaines de milliers de chercheurs, roboticiens et ingénieurs » en Australie, Canada, Chine, République tchèque, Danemark, Estonie, Finlande, France, Allemagne , Islande, Inde, Irlande, Italie, Japon, Lettonie, Mexique, Pays-Bas, Nouvelle-Zélande, Norvège, Pologne, Russie, Singapour, Afrique du Sud, Espagne, Suisse, Royaume-Uni, Émirats arabes unis et États-Unis.

Selon Walsh, le lettre « montre une inquiétude claire et un fort soutien à cet égard de la part de l'industrie de la robotique et de l'IA. »

Yoshua Bengio, expert de premier plan en apprentissage en profondeur, fondateur d'Element AI (Canada), a déclaré qu'il approuvait la lettre car "l'utilisation de l'IA dans des armes autonomes nuit à mon sens de l'éthique" et "nuirait au développement ultérieur des bonnes applications de l'IA". Bengio a exhorté la communauté internationale à aborder les armes autonomes de la même manière que « les autres armes moralement répréhensibles » telles que les armes biologiques, chimiques et nucléaires.

Un autre signataire est l'un des plus éminents chercheurs mondiaux en IA, Stuart Russell, fondateur de Bayesian Logic Inc., qui a décrit un traité interdisant les armes létales autonomes comme « vital pour la sécurité nationale et internationale ». Russell a mis en garde contre le développement et la prolifération de « nouvelles armes de destruction massive – sous la forme de vastes essaims de microdrones mortels ».

Les signataires comprennent Ryan Gariépy, fondateur et directeur technique de Clearpath Robotics (Canada), qui a été la première entreprise à approuver une interdiction sur des armes entièrement autonomes il y a trois ans. Selon Gariepy, "les systèmes d'armes autonomes sont actuellement sur le point de se développer et ont un potentiel très réel de causer des dommages importants à des personnes innocentes ainsi qu'une instabilité mondiale".

A précédente lettre ouverte émise en juillet 2015 lors de la dernière Conférence internationale conjointe sur l'intelligence artificielle (IJCAI) a qualifié « une course aux armements de l'IA militaire » de « mauvaise idée » et a appelé à l'interdiction des systèmes d'armes qui « manquent de contrôle humain significatif ». La lettre de 2015 a été signée par plus de 20,000 3,100 personnes à ce jour, dont plus de XNUMX XNUMX chercheurs en IA/robotique.

En décembre 2016, les États ont convenu d'officialiser leurs délibérations sur les systèmes d'armes létaux autonomes à la Convention sur les armes classiques (CCW). Le Groupe d'experts gouvernementaux (GGE) devait se réunir deux fois en 2017, mais des difficultés financières ont conduit à annulation de la première réunion du GGE qui devait ouvrir le 21 août.

La campagne pour arrêter les robots tueurs exhorte les États d'utiliser le groupe d'experts gouvernementaux de la CCW pour entamer des négociations sur un nouveau protocole de la CCW d'ici la fin de 2018 qui interdit à titre préventif les armes entièrement autonomes. Plus de 90 pays devraient participer à la réunion du GGE à l'ONU à Genève du 13 au 17 novembre, ainsi que des agences clés des Nations Unies, le Comité international de la Croix-Rouge et la Campagne pour arrêter les robots tueurs.

MISE À JOUR : Ce message a été mis à jour le 25 août pour refléter le dernier nombre de signataires de la lettre ouverte, qui était à l'origine de 116 fondateurs d'entreprise dans 26 pays.

Pour plus d'informations, voir:

• lettre ouverte 2017, Version PDF (au 24 août), communiqué de presseet Événement du 23 août à Melbourne avec les principaux signataires
• lettre ouverte 2015 et publication sur le Web
• 2017 Conférence internationale conjointe sur l'intelligence artificielle (IJCAI)
• Entretien avec les signataires Toby Walsh et Ryan Gariépy

Photo : Pepper le robot est fabriqué par Aldebaran Robotics (France), dont le fondateur Jérôme Monceaux a signé la lettre de 2017. Pepper est montré ici lors d'un événement organisé par l'Association for Aid and Relief Japan à Tokyo en mars 2016 pour discuter de la Campagne pour arrêter les robots tueurs.