Résumé de l'année 2023 de recherche sur les décisions automatisées

Un bref résumé des travaux d’Automated Decision Research en 2023 – une année très chargée pour notre petite équipe.

Ressources et événements

• En 2023, Automated Decision Research a publié un rapport sur Convergences des positions des États sur le contrôle humain, qui présente un examen des convergences des positions des États sur le contrôle humain dans le contexte de l'autonomie des systèmes d'armes et vise à faire la lumière sur les points communs entre les États, en particulier dans trois domaines clés qui fournissent les fondements techniques des règles sur le contrôle humain dans les armes autonomes. systèmes.

• L'ADR a publié un document explicatif sur ciblage des personnes et déshumanisation numérique, qui répond à la nécessité d'interdire les systèmes d'armes autonomes conçus ou utilisés pour cibler des humains, ainsi qu'à la déshumanisation numérique inhérente à ces systèmes.

• L'ADR moniteur de positions d'état continue de croître et propose désormais 173 profils d'État, et d'autres seront à venir en janvier. Le moniteur des positions des États est fréquemment mis à jour par l'équipe pour capturer les positions des États avec précision et pour inclure les positions de vote des États sur la récente résolution de la Première Commission de l'AGNU, ainsi que les déclarations de la Première Commission et les déclarations de la CCW faites par les représentants officiels de l'État, ainsi que les officiels. déclarations faites dans d’autres enceintes internationales compétentes.

• L'ADR moniteur de systèmes d'armes a été lancé et comprend actuellement 25 systèmes d'armes différents. D'autres systèmes seront ajoutés au fur et à mesure. Les systèmes présentés ici présentent différents niveaux d’autonomie, et tous ces systèmes ne sont pas considérés comme des systèmes d’armes autonomes (au sens où ils utilisent des capteurs pour détecter et appliquer directement une force sur des cibles). Cependant, ils soulignent des tendances et des possibilités d’augmentation de l’autonomie des systèmes d’armes.

• L'ADR a organisé un atelier virtuel sur l'IA et les décisions automatisées dans les sphères civile et militaire à RightsCon.

• L'ADR a tenu sa première table ronde virtuelle d'experts.

• L'ADR a fait une déclaration au Conseil permanent de l'Organisation des États Américains.

• L'ADR a organisé un événement parallèle présentant le travail de l'ADR aux diplomates lors de la réunion du Groupe d'experts gouvernementaux sur la CCAC en mai, et a participé à deux événements parallèles à l'Assemblée générale des Nations Unies en octobre.

• L'ADR a participé à de nombreux autres événements à travers le monde, virtuellement et en personne, à l'invitation du CICR, de la communauté de la CARICOM, etc.

Le Monitoring

L'équipe ADR continue de surveiller les médias pour détecter les informations faisant état de l'utilisation de systèmes d'armes autonomes (c.-à-d. systèmes d'armes qui sélectionnent et appliquent la force sur des cibles sans intervention humaine sur la base d'un profil de cible généralisé) dans les conflits à travers le monde. Même si les fabricants affirment que certains des systèmes mentionnés ci-dessous disposent de certaines fonctionnalités autonomes, l’étendue de cette autonomie est souvent floue. À ce jour, il n’existe aucun rapport vérifié sur l’utilisation de tels systèmes en mode autonome d’identification, de sélection et d’engagement de cibles. Nos rapports d'information hebdomadaires reviendront en janvier 2024. Si vous trouvez un reportage fiable sur l'utilisation d'un système d'armes autonomes dans l'un des conflits ci-dessous, ou ailleurs, veuillez le partager avec l'équipe ADR.

• Gaza

À ce jour, il n’existe aucun rapport vérifié faisant état d’une utilisation de systèmes d’armes autonomes par Israël à Gaza. Israël aurait recours à divers drones télécommandés, et a demandé un certain nombre d' Switchblade munitions errantes, qui nécessitent actuellement un humain pour confirmer la cible. On ne sait pas exactement quand ces systèmes seront livrés ni si cette demande a déjà été satisfaite. Israël utilise également un outil d'intelligence artificielle de traitement de données et de recommandation de cibles connu sous le nom de « Habsoro » (« l’Évangile »), qui est un système d’aide à la décision qui « produit de grandes quantités de données ». L’ADR a déjà fourni des commentaires aux médias sur le développement de l’IA militaire par Israël, disponibles ici ainsi que  ici. Un certain nombre de systèmes d'armes préoccupants développés par des sociétés d'armement israéliennes sont également présentés dans le moniteur d'armes.

• Ukraine

L'Ukraine a aurait utilisé le drone Saker Scout FPV en mode autonome contre des cibles militaires préprogrammées, même si l’on ne sait pas exactement dans quelle mesure ce système est utilisé. L’utilisation de munitions errantes et de drones télécommandés par la Russie et l’Ukraine se poursuit. La Russie aurait utilisé des systèmes tels que le Munition de flânerie KUB/KYB et par Munition flânante Lancet. L'Ukraine a utilisé des systèmes tels que la munition de flânage Switchblade et le Bayraktar tb2 Drone. L'Ukraine est aussi en utilisant un outil d’intelligence artificielle de traitement de données et de recommandation de cibles. L’ADR a déjà fourni des commentaires aux médias sur l’utilisation de l’IA militaire par la Russie et l’Ukraine. ici.

• Irak et Syrie

Turquie aurait utilisé le Bayraktar tb2 Un drone dans la région du Kurdistan irakien plus tôt cette année.

• Haut-Karabakh

Azerbaïdjan apparemment d'utiliser Harope des munitions flottantes lors de son attaque sur le Haut-Karabakh en septembre.

Publié à l'origine sur le Site Web de recherche sur les décisions automatisées.