image de héros de menu

Technologies émergentes et IA

Nous ne nous attendions pas à ce qu'une campagne pour arrêter les robots tueurs soit nécessaire dans le monde - mais c'est le cas.

Des maisons intelligentes et de la publicité ciblée à l'utilisation de chiens robots par les forces de l'ordre, les technologies d'intelligence artificielle et la prise de décision automatisée jouent désormais un rôle important dans nos vies. La technologie peut être incroyable. Mais juste parce que nous peut construire quelque chose, cela ne veut pas dire que nous devrait. De nombreuses technologies plus ou moins autonomes sont déjà largement déployées sans s'interroger sur les conséquences d'une normalisation de leur usage. Pourquoi devons-nous parler de cela?

Parce que les machines ne nous voient pas comme des personnes, juste un autre morceau de code à traiter et à trier.

 

Texte alternatif de l'image

Déshumanisation numérique : quand les machines décident, pas les gens.

Des armes entièrement autonomes décideraient qui vit et meurt, sans autre intervention humaine, ce qui franchit un seuil moral. En tant que machines, il leur manquerait les caractéristiques intrinsèquement humaines telles que la compassion qui sont nécessaires pour faire des choix éthiques complexes.

Déshumanisation numérique : quand les machines décident, pas les gens.

Les technologies qui nous inquiètent réduisent les personnes vivantes à des points de données. Nos identités complexes, nos caractéristiques physiques et nos modèles de comportement sont analysés, appariés et triés en profils, les décisions nous concernant étant prises par des machines en fonction du profil préprogrammé dans lequel nous nous inscrivons.

Cela a des conséquences très réelles pour les communautés historiquement marginalisées ou vulnérables. C'est parce que la technologie cimente souvent - plutôt que de défis - les préjugés déjà existants sur qui sont les gens. Les stéréotypes sont ancrés dans la prise de décision automatisée.

 

Qu'est-ce que cela a à voir avec les robots tueurs ?

À l'extrémité la plus extrême du spectre de l'automatisation croissante se trouvent les robots tueurs.

Les progrès technologiques permettent désormais aux systèmes d'armes de sélectionner et d'attaquer des cibles de manière autonome. Cela signifie que dans l'utilisation de la force, nous avons moins de contrôle humain sur ce qui se passe et pourquoi. Cela signifie que nous sommes plus proches des machines qui décident qui tuer ou quoi détruire. Et pour les machines, il n'y a pas de différence entre un « qui » ​​et un « quoi ».​​

 

Texte alternatif de l'image

Les technologies qui seront utilisées dans les armes autonomes réduiront les gens à des données et les soumettront à des attaques - la forme ultime de déshumanisation numérique.

Des armes entièrement autonomes décideraient qui vit et meurt, sans autre intervention humaine, ce qui franchit un seuil moral. En tant que machines, il leur manquerait les caractéristiques intrinsèquement humaines telles que la compassion qui sont nécessaires pour faire des choix éthiques complexes.

Des robots tueurs sont actuellement développés pour être utilisés dans les conflits armés, ce qui aura des conséquences dévastatrices. Mais avec l'automatisation croissante de notre société, les robots tueurs ne se limiteront pas au champ de bataille. Il ne fait aucun doute qu'ils seront également utilisés dans le contrôle des frontières, la police et d'autres domaines de la société où un contrôle humain significatif devrait être le plus présent.

Nous pouvons agir maintenant pour tracer une ligne juridique et morale. Nous devons tous assumer la responsabilité du développement et de l'utilisation de la technologie, ainsi que du rôle qu'elle joue dans nos vies. Les robots tueurs ne font pas qu'apparaître, nous les créons. Et nous avons la possibilité d'agir maintenant pour arrêter les robots tueurs, avant que les développements technologiques ne soient allés trop loin.

Moins d'autonomie. Plus d'humanité.

Ainsi, lorsqu'il s'agit de déshumanisation numérique - de systèmes d'armes qui cibleront des personnes - nous avons besoin de moins d'autonomie et de plus d'humanité.

Apprendre encore plus

 

Voir la vidéo Texte alternatif de l'image

Robots tueurs, droits humains et déshumanisation numérique

Le Dr Matt Mahmoudi, chercheur et conseiller en intelligence artificielle et droits humains au programme Technologie et droits humains d'Amnesty International, parle de l'intelligence artificielle, des technologies émergentes, des droits humains et des armes autonomes.

Texte alternatif de l'image
Icône de points SKR

Arrêtez les robots tueurs

Rejoignez

Tenez-vous au courant des derniers développements du mouvement Stop Killer Robots.

Rejoignez