Montée des travailleurs de la technologie

Un groupe de plus de 4,000 2018 employés anonymes de Google a été nommé à juste titre XNUMX "Personnalité de l'année en matière de contrôle des armements” pour leur rôle en aidant l'entreprise à mettre fin à un contrat militaire qui a soulevé des préoccupations éthiques et autres concernant l'utilisation appropriée de l'intelligence artificielle et de l'apprentissage automatique. La Campagne pour arrêter les robots tueurs applaudit les actions des employés pour contribuer directement à L'engagement ultérieur de Google ne pas « concevoir ou déployer » l'intelligence artificielle pour une utilisation dans des armes.

D'autres entreprises devraient suivre l'exemple de Google, rester en dehors du commerce des armes entièrement autonomes et soutenir la négociation d'un traité d'interdiction.

Les techniciens de Google sont devenus des alliés de la Campagne pour arrêter les robots tueurs au cours de l'année 2018 et surtout après la publication en avril du lettre demandant à l'entreprise de s'engager à ne jamais construire de « technologie de guerre. »

Les travailleurs de la technologie contribueront aux activités de la campagne en 2019, y compris une réunion de campagne mondiale à Berlin les 21-23 mars pour renforcer le soutien à l'objectif d'un traité visant à conserver un contrôle humain significatif sur l'utilisation de la force et ainsi interdire les systèmes d'armes qui manquent un tel contrôle.

Détails de l'implication de Google dans le projet Maven, un programme financé par le département américain de la Défense qui cherchait à traiter de manière autonome des séquences vidéo tournées par des drones de surveillance, est apparu pour la première fois début 2018. Kate Conger, alors à Gizmodo et maintenant avec le New York Times, a rendu compte du problème au fur et à mesure qu'il se déroulait, comme l'ont fait d'autres journalistes techniques.

En mars, le coordinateur de la campagne écrit aux responsables de Google et d'Alphabet de recommander aux entreprises d'adopter « une politique publique volontariste » s'engageant à ne jamais s'engager dans des travaux visant le développement et l'acquisition de systèmes d'armes entièrement autonomes. La Campagne a exhorté les entreprises à soutenir publiquement l'appel à l'interdiction préventive de ces armes.

La campagne a également remis en question l'implication de Google dans un programme financé par le département américain de la Défense qui cherchait à traiter de manière autonome des séquences vidéo tournées par des drones de surveillance. Il a averti que l'identification d'objets basée sur l'IA du projet Maven pourrait rapidement se brouiller ou passer à l'identification de « cibles » basée sur l'IA comme base pour l'utilisation de la force meurtrière. Cela pourrait donner aux machines la capacité de déterminer ce qui est une cible, ce qui constituerait une utilisation inacceptablement large de la technologie.

En mai, plus de 800 universitaires, universitaires et chercheurs qui étudient, enseignent et développent les technologies de l'information a publié une déclaration en solidarité avec les employés de Google. Ils ont demandé à l'entreprise de soutenir un traité international interdisant les systèmes d'armes autonomes et s'engagent à ne pas utiliser les données personnelles que Google collecte à des fins militaires.

Un gardien article publié en mai par Peter Asaro et Lucy Suchman du Comité international pour le contrôle des armements robotiques, co-fondateur de la campagne, a exhorté l'entreprise à examiner des questions clés, telles que : « devrait-elle utiliser ses technologies d'intelligence artificielle de pointe, ses meilleurs ingénieurs, ses services de cloud computing et les vastes données personnelles qu'il collecte pour contribuer aux programmes qui font avancer le développement d'armes autonomes ? Doit-elle procéder malgré l'opposition morale et éthique de plusieurs milliers de ses propres employés ? »

Jours avant annoncer les principes éthiques en juin 2018, les dirigeants de Google ont déclaré que la société ne renouvellerait pas sa participation au projet Maven. En octobre, la société a dit qu'il n'enchérirait pas sur un contrat de cloud computing de dix milliards de dollars du ministère de la Défense, apparemment en raison de craintes que cela ne soit en conflit avec les directives éthiques.

En août 2018, un ingénieur logiciel de Google a parlé des actions des techniciens à titre personnel lors d'un briefing de campagne pour la réunion de la Convention sur les armes classiques sur les systèmes d'armes autonomes létaux. Amr Gaber a donné un compte puissant des préoccupations des travailleurs de la technologie concernant non seulement les applications militaires de la technologie sur laquelle ils travaillent, mais son utilisation dans la police et la surveillance nationales.

Un technicien de Dublin a pris la parole au Briefing de la campagne pour les délégués de la CCW en novembre. Juste avant la rencontre, Laura Nolan a publié un article dans le Financial Times élaborant sur la vague de dissidence alors que des milliers d'employés de Google, Microsoft, Amazon et ailleurs repoussent les projets et les décisions du personnel qu'ils jugent contraires à l'éthique.

Le coordinateur de la campagne pour arrêter les robots tueurs a également écrit à Jeff Bezos d'Amazon au début de 2018 après avoir préoccupation exprimée au développement possible d'armes entièrement autonomes, qu'il a décrites comme « vraiment effrayantes », et a suggéré un nouveau traité pour aider à les réglementer. La Campagne pour arrêter les robots tueurs a salué les remarques et a encouragé Amazon s'engager à ne pas contribuer au développement d'armes entièrement autonomes et à soutenir publiquement l'appel à un nouveau traité d'interdiction. Aucune réponse n'a été reçue.

L'Arms Control Association prévoit de marquer le prix lors de sa réunion annuelle à Washington DC le 15 avril 2019.

Voir également "Google, d'autres entreprises doivent approuver l'interdiction” article, mai 2018