Simulation militaire d'un drone opéré par l'IA de l'US Air Force

Les informations selon lesquelles l'armée de l'air américaine a simulé un scénario dans lequel un drone exploité par l'IA a décidé de tuer l'opérateur humain afin d'atteindre l'objectif de la mission sont profondément préoccupantes. Bien que l'US Air Force ait confirmé qu'il ne s'agissait pas d'une simulation d'IA, cela montre néanmoins le besoin urgent d'un droit international sur l'autonomie des systèmes d'armes pour assurer un contrôle humain significatif sur l'usage de la force.

Les États n'ont pas encore répondu de manière adéquate au développement d'armes autonomes et n'ont jusqu'à présent pas réussi à tracer une ligne rouge contre le meurtre de personnes par des machines. Un manque d'action politique sur cette question ne fera qu'entraîner une plus grande perte de vies humaines et une déshumanisation numérique accrue dans les conflits, la police, le contrôle des frontières et d'autres domaines de la société. Les méfaits de l'intelligence artificielle affectent déjà les personnes marginalisées du monde entier, des systèmes de reconnaissance faciale entraînant des erreurs arrêter aux États-Unis, l'unautomatisation du système d'indemnisation aux Pays-Bas, au surveillance des Palestiniens basée sur l'intelligence artificielle. Ce sont ces communautés qui sont susceptibles de subir les effets les plus graves des nouvelles technologies et des nouveaux systèmes d'armes.

Les armes autonomes soulèvent de sérieuses préoccupations d'un point de vue humanitaire, juridique, sécuritaire, technologique et éthique. Comme le montre ce scénario militaire, les machines ne « voient » pas le monde comme les gens, les armes autonomes prendront des décisions basées sur des données qui réduisent les gens à des objets – des nombres à traiter. Les inquiétudes et les inquiétudes croissantes concernant le rôle que jouent l'intelligence artificielle et la prise de décision automatisée dans nos vies sont de plus en plus répandues dans la société. Il est temps que les États répondent à cette préoccupation et alors que plus de 90 pays ont appelé à un instrument juridique sur l'autonomie dans les systèmes d'armes, un leadership et une action politiques tangibles sont nécessaires.

Stop Killer Robots appelle les États à utiliser tous les forums multilatéraux disponibles pour mettre en place des garanties juridiques. Il est temps de passer à la négociation d'un traité qui préserve la dignité humaine et assure un contrôle humain significatif.

Tous les yeux et tous les efforts sont désormais tournés vers l'Assemblée générale des Nations Unies en octobre, où les États auront l'occasion de soutenir la négociation d'un nouveau droit international afin de conserver un contrôle humain significatif sur l'utilisation de la force et de garantir que nous ne permettons pas le meurtre de personnes. par machine.