Arrêtez les robots tueurs à RightsCon Costa Rica

Du 5 juin au 8 juin 2023, la campagne Stop Killer Robots a participé à Droits Con Costa Rica, une conférence qui a réuni des milliers d'individus, d'activistes, de la société civile et des acteurs de l'industrie pour discuter des questions clés de l'espace numérique et des droits de l'homme, à la fois en ligne et en personne à San José. 2023 marque la quatrième participation de Stop Killer Robots à RightsCon. 

Stop Killer Robots était présent à la fois en personne et en ligne à RightsCon pour expliquer à quel point l'autonomie des systèmes d'armes et la déshumanisation numérique font partie intégrante de la construction d'un avenir numérique équitable et inclusif pour tous. La déshumanisation numérique est un processus où les humains sont réduits à des données, qui sont ensuite utilisées pour prendre des décisions et/ou entreprendre des actions qui affectent négativement leur vie. Un préjudice automatisé se produit lorsque ces décisions ont un impact négatif sur nous - les armes autonomes existent à l'extrémité la plus sévère du spectre des dommages. 

La conférence de quatre jours organisée au Centre de conférences du Costa Rica à San José a attiré plus d'un millier de participants de 129 pays, dont 57 % s'identifient comme des femmes. Malheureusement, d'innombrables personnes ont subi la discrimination systémique du contrôle des frontières après que plus de 300 personnes de 64 pays ont été exclues de la participation en personne après leur planification visas à l'arrivée n'ont pas été honorés. Les voix de ces personnes ont été réduites au silence dans des conversations importantes sur les droits humains et numériques et leurs points de vue et leurs points de vue vitaux nous ont cruellement manqué. C'est bien connu que des frontières de plus en plus militarisées sont utilisées comme terrain d'essai pour de nouvelles technologies de surveillance où les migrants et les personnes en déplacement sont soumis au profilage racial et à la déshumanisation numérique par le biais de la reconnaissance faciale, de la biométrie et du soi-disant « ciblage basé sur le risque ». Des technologies avec divers degrés d'autonomie sont déjà déployées à la frontière et des systèmes d'armes autonomes ciblant les humains pourraient être la prochaine étape du contrôle des frontières. À une époque où l'implication future des technologies d'intelligence artificielle générative (IA) comme ChatGPT fait la une des journaux, il est important de reconnaître les méfaits actuels de la déshumanisation numérique qui sont actuellement perpétrés contre les communautés racialisées et autres marginalisées. 

Malgré les limitations dues à l'exclusion de certains collègues des droits numériques, RightsCon a quand même réussi à rassembler des milliers d'activistes, de journalistes, de défenseurs des droits humains, de dénonciateurs, de responsables gouvernementaux et d'acteurs de l'industrie pour des ateliers, des panels, des tables rondes et des dialogues sur la manière dont nous pouvons construire un avenir numérique respectueux des droits. Des sessions sur la gouvernance de l'IA à la violence sexiste facilitée par la technologie, en passant par les coupures d'Internet et la censure, le besoin urgent de réglementations, de transparence, de responsabilité et de conception centrée sur les droits de l'homme étaient des thèmes récurrents dans ces divers sujets liés aux droits numériques.

Le mercredi 7 juin, le Recherche décisionnelle automatisée équipe de Stop Killer Robots, Sai Bourothu, Catherine Connolly et Gugu Dube, a animé un atelier en ligne intitulé : « Les deux faces de la médaille ? IA et décisions automatisées dans les sphères civiles et militaires »,. La session d'une heure, habilement dirigée par le chercheur Sai Bourothu, a abordé les défis et les leçons tirées de l'élaboration de réglementations pour l'IA et les technologies de prise de décision automatisée dans l'espace civil et a exploré les façons dont ces questions pourraient être appliquées dans l'armée. sphère. Les participants ont examiné les mesures que les décideurs politiques peuvent prendre pour garantir la protection des droits de l'homme et du droit international humanitaire lorsqu'ils abordent l'autonomie dans les systèmes d'armes et les moyens de garantir que la responsabilité existe dans les domaines clés dans lesquels l'IA et les technologies de prise de décision automatisée sont déployées, y compris dans la sécurité nationale. et la défense.   

Au-delà de cette session, Stop Killer Robots a constamment soulevé la question des systèmes d'armes autonomes avec les participants de RightsCon et a écouté avec impatience leurs points de vue sur les raisons pour lesquelles les robots tueurs présentent de profonds défis juridiques, moraux et éthiques pour les droits numériques et humains. Certains participants à RightsCon se sont dits préoccupés par la impasse durable pour la réglementation à la Convention des Nations Unies (ONU) sur les armes classiques (CCW), tandis que certains ont été choqués d'apprendre que des robots tueurs étaient même en cours de développement en premier lieu. Les participants à RightsCon ont néanmoins été rassurés d'apprendre que 90 États appellent désormais à la négociation d'un instrument juridiquement contraignant sur les systèmes d'armes autonomes, une position soutenue par le Secrétaire général de l'ONU, le Comité international de la Croix-Rouge, des milliers de technologies et d'intelligence artificielle. des experts et des organisations de la société civile du monde entier. 

Dans divers contextes, la société civile exige des garde-fous, des réglementations et des interdictions clairs et spécifiques dans l'espace numérique. Bon nombre des préoccupations soulevées par les participants à RightsCon sont partagées par Stop Killer Robots dans notre mouvement pour maintenir le contrôle humain sur l'usage de la force - préoccupations concernant la surveillance, les biais algorithmiques, la confidentialité des données, les droits de l'homme, etc. Alors que l'IA et d'autres technologies émergentes se développent et évoluent rapidement sans réglementation, en particulier dans le sphère militaire, il est nécessaire de comprendre leurs implications profondes et notre rôle en tant que société civile pour centrer les droits de l'homme dans ces discussions et faire pression pour l'intégration des perspectives des droits de l'homme. 

Nous continuons à mobiliser les parties prenantes nationales, régionales et mondiales pour promouvoir l'importance des cadres juridiques pour réglementer l'IA et les technologies de prise de décision automatisée à des fins de sécurité nationale et militaires aux niveaux national, régional et international. Comme l'a montré RightsCon, la société civile ouvre la voie pour s'assurer que la technologie que nous créons est utilisée pour promouvoir les droits de l'homme, la paix, la justice et la responsabilité. 

La technologie devrait être utilisée au profit de l'humanité, pas pour automatiser le meurtre. Bien qu'il reste une immense quantité de travail à faire pour aborder l'intersection des droits de l'homme et de la technologie numérique, RightsCon nous a fourni un espace dans la communauté des droits numériques pour faire le point sur nos réalisations et collaborer pour les travaux futurs alors que nous construisons un environnement respectueux des droits. avenir numérique pour tous.