Travailleurs de la technologie et robots tueurs

Un traité sur l'autonomie des systèmes d'armes n'étoufferait pas l'innovation, mais contribuerait plutôt à garantir que la recherche et le développement de l'intelligence artificielle se poursuivent sans entrave. Les biologistes n'ont pas trouvé que la Convention sur les armes biologiques a nui à leurs recherches et développements, et les chimistes ne se plaignent pas non plus que la Convention sur les armes chimiques ait eu un impact négatif sur leur travail.

En fait, si la technologie permettant de construire des armes autonomes est autorisée à se développer sans réglementation, de nombreux experts en intelligence artificielle, roboticiens et travailleurs de la technologie craignent que les applications positives de l'intelligence artificielle en pâtissent. Tout dysfonctionnement, erreur ou crime de guerre commis par des systèmes d'armes autonomes ferait l'objet d'une publicité négative, ce qui entraînerait un recul du public sur la tendance à développer l'intelligence artificielle et d'autres technologies émergentes.

Stop Killer Robots est une coalition à problème unique visant à obtenir un traité pour assurer un contrôle humain significatif sur l'utilisation de la force et interdire le ciblage de personnes par des armes autonomes. Notre coalition d'organisations non gouvernementales remet souvent en question des projets militaires spécifiques qui pourraient ouvrir la voie à des systèmes d'armes avec des niveaux d'autonomie inquiétants, mais elle ne demande ni ne préconise que les entreprises ne travaillent pas avec des forces armées ou des gouvernements spécifiques.

Nous conseillons aux technologues de considérer les partenariats, les clients et les investisseurs avec lesquels ils travaillent et de réfléchir de manière critique aux conséquences de toute relation commerciale à haut risque qu'ils nouent.

Stop Killer Robots n'est pas anti-technologie. Nous ne nous opposons pas aux applications militaires ou policières de l'intelligence artificielle et des technologies émergentes en général. En tant que campagne centrée sur l'humain, nous pensons qu'un nouveau traité international pour réglementer les armes autonomes apporterait de nombreux avantages à l'humanité. De nouvelles lois aideraient à clarifier le rôle de la prise de décision humaine liée aux armes et à l'usage de la force dans la guerre, le maintien de l'ordre et d'autres circonstances.

Le développement actuel de l'IA et des technologies émergentes dépasse la capacité de réglementation des décideurs. Les entreprises technologiques et les travailleurs doivent s'engager à ne pas contribuer au développement d'armes autonomes qui ciblent des personnes et ne peuvent pas ou ne peuvent pas fonctionner sous un contrôle humain significatif.

De nombreuses technologies en cours de développement sont à « double usage », c'est-à-dire qu'elles peuvent être utilisées dans divers scénarios (civil, militaire, policier, etc.). Par conséquent, il est crucial que le secteur technologique reste vigilant et tienne toujours compte de l'utilisation finale anticipée ou imprévue.