Des armes entièrement automatiques décideraient de qui doit vivre ou mourir, sans aucune intervention humaine: on franchirait ainsi un seuil moral. En tant que machines, elles seraient dépourvues des caractéristiques propres aux êtres humains comme la compassion, et ne pourraient faire de choix éthiques complexes.
Les États-Unis, la Chine, Israël, la Corée du Sud, la Russie, et le Royaume-Uni développent des systèmes d’armes dotés d’une autonomie considérable en ce qui concerne la sélection et l’attaque de cibles. Si rien n’est fait, le monde pourrait se lancer dans une course déstabilisante aux armes robotisées.
Remplacer les soldats par des machines faciliterait la décision d’entrer en guerre et déplacerait encore plus le fardeau des conflits sur la population civile. Des armes entièrement autonomes feraient des erreurs tragiques aux conséquences imprévues, ce qui pourraient attiser les tensions.
Les armes entièrement automatisées manqueraient du jugement humain nécessaire pour évaluer la proportionnalité d’une attaque, distinguer les civils des combattants, et se conformer aux autres principes fondamentaux des règles de la guerre. L’histoire montre qu’on ne limiterait pas leur usage à certaines circonstances.
Il est difficile de savoir qui, le cas échéant, serait tenu responsable d’actes illicites commis par une arme entièrement autonome : le programmateur, le fabricant, le commandant, ou la machine elle-même. Cette lacune quant aux responsabilités permettraient difficilement de rendre la justice, surtout pour les victimes.
Des armes entièrement autonomes pourraient être utilisées dans des circonstances autres que des conflits armés, comme par exemple le contrôle des frontières ou les opérations de police. On pourrait les utiliser pour réprimer les protestations contre un régime. Une force à l’origine non létale tuerait toujours beaucoup de gens.
Conserver un contrôle humain significatif sur les décisions de ciblage et d’attaque en refusant le développement, la production, et l’utilisation d’armes complètement autonomes. Pour cela, légiférer grâce à des lois et des traités internationaux.
Tous les pays devraient s’exprimer sur les problèmes des armes entièrement autonomes et s’engager à rédiger un nouveau traité d’interdiction établissant le principe d’un contrôle humain sur le recours à la force.
On devrait exiger de toutes les entreprises, les organisations, et les personnes travaillant à développer l’intelligence artificielle et la robotique, de s’engager à ne jamais contribuer au développement d’armement complètement autonome.Stockholm International Peace Research Institute, November 2017. This one-year mapping study on autonomy in weapons systems by Vincent Boulanin and Maaike Verbruggen is SIPRI’s first report on the topic.
PAX, November 2017. This 22-page report by Frank Slijper of PAX looks at weapons systems with varying degrees of autonomy in the selection and engaging of targets.
PAX, November 2017. This 58-page report by Daan Kayser reviews European positions on various issues including the need for human control of weapons systems and the ban call.
