English
Arabic
Chinese (Simplified)
English
French
Russian
Spanish
Des maisons intelligentes et de la publicité ciblée à l'utilisation de chiens robots par les forces de l'ordre, les technologies d'intelligence artificielle et la prise de décision automatisée jouent désormais un rôle important dans nos vies. La technologie peut être incroyable. Mais juste parce que nous vous construire quelque chose, cela ne veut pas dire que nous devrait. De nombreuses technologies plus ou moins autonomes sont déjà largement déployées sans s'interroger sur les conséquences d'une normalisation de leur usage. Pourquoi devons-nous parler de cela?
Parce que les machines ne nous voient pas comme des personnes, juste un autre morceau de code à traiter et à trier.
Déshumanisation numérique : quand les machines décident, pas les gens.
Déshumanisation numérique : quand les machines décident, pas les gens.
Les technologies qui nous inquiètent réduisent les personnes vivantes à des points de données. Nos identités complexes, nos caractéristiques physiques et nos modèles de comportement sont analysés, appariés et triés en profils, les décisions nous concernant étant prises par des machines en fonction du profil préprogrammé dans lequel nous nous inscrivons.
Cela a des conséquences très réelles pour les communautés historiquement marginalisées ou vulnérables. C'est parce que la technologie cimente souvent - plutôt que de défis - les préjugés déjà existants sur qui sont les gens. Les stéréotypes sont ancrés dans la prise de décision automatisée.
Qu'est-ce que cela a à voir avec les robots tueurs ?
À l'extrémité la plus extrême du spectre de l'automatisation croissante se trouvent les robots tueurs.
Les progrès technologiques permettent désormais aux systèmes d'armes de sélectionner et d'attaquer des cibles de manière autonome. Cela signifie que dans l'utilisation de la force, nous avons moins de contrôle humain sur ce qui se passe et pourquoi. Cela signifie que nous sommes plus proches des machines qui décident qui tuer ou quoi détruire. Et pour les machines, il n'y a pas de différence entre un « qui » et un « quoi ».
Les technologies qui seront utilisées dans les armes autonomes réduiront les gens à des données et les soumettront à des attaques - la forme ultime de déshumanisation numérique.
Des robots tueurs sont actuellement développés pour être utilisés dans les conflits armés, ce qui aura des conséquences dévastatrices. Mais avec l'automatisation croissante de notre société, les robots tueurs ne se limiteront pas au champ de bataille. Il ne fait aucun doute qu'ils seront également utilisés dans le contrôle des frontières, la police et d'autres domaines de la société où un contrôle humain significatif devrait être le plus présent.
Nous pouvons agir maintenant pour tracer une ligne juridique et morale. Nous devons tous assumer la responsabilité du développement et de l'utilisation de la technologie, ainsi que du rôle qu'elle joue dans nos vies. Les robots tueurs ne font pas qu'apparaître, nous les créons. Et nous avons la possibilité d'agir maintenant pour arrêter les robots tueurs, avant que les développements technologiques ne soient allés trop loin.
Moins d'autonomie. Plus d'humanité.
Ainsi, lorsqu'il s'agit de déshumanisation numérique - de systèmes d'armes qui cibleront des personnes - nous avons besoin de moins d'autonomie et de plus d'humanité.
