image de héros de menu

Histoires réelles

Richard

Je suis Richard Moyes – un homme blanc d'âge moyen de la classe moyenne qui travaille pour Article 36, une ONG spécialisée dans l'élaboration de stratégies pour protéger les civils contre les armes.

Texte alternatif de l'image

Publicité ciblée, approbations de prêts bancaires, police prédictive… autonomie dans les armes, l'automatisation fait de plus en plus partie de nos vies. Quels types de déshumanisation numérique vous inquiètent le plus et pourquoi ?

Je ressens ce problème en termes de bureaucratisation. Dans tous ces domaines, l'automatisation et l'IA peuvent étendre et accélérer la bureaucratie. Je ne veux pas dire plus de « paperasserie ». Je veux dire plus mettre le monde dans de petites boîtes. À travers ces boîtes, nous pouvons perdre le contrôle de notre relation avec le monde et les uns avec les autres. Contrôler les structures d'étiquetage et de catégorisation de la société est une manière d'exercer le pouvoir.

Parlez-nous d'un moment où vous avez vu ou subi une discrimination, un risque ou une oppression résultant de l'utilisation d'une technologie, d'un programme ou d'un algorithme.

J'ai travaillé sur l'impact des armes. Un enfant dans un camp de réfugiés en Érythrée s'est un jour approché de nous avec une bombe à fragmentation non explosée qui avait été fabriquée au Royaume-Uni. J'étais allé dans les bureaux de l'entreprise qui les a fabriqués, et cela fait penser à la distance qui peut exister entre les personnes qui conçoivent, fabriquent et profitent des technologies et les personnes qui restent en charge du risque.

La technologie n'est pas intrinsèquement bonne ou mauvaise. Comment défendons-nous une technologie qui profite à l'humanité tout en prévenant les dommages ou les conséquences imprévues ?

Hmmm, mais la technologie n'est pas neutre non plus – elle est toujours ancrée dans les conditions sociales et économiques. Souvent, nous allons simplement dériver dans certaines relations avec la technologie.

Alors peut-être que nous devons tous trouver des moyens de devenir plus autonomes et de nous poser des questions sur les avantages de la technologie, ses exclusions et la manière dont elle recalibrant nos relations.

Selon vous, à quoi ressemblera notre relation avec la technologie dans 5/10/20 ans et quel pouvoir avons-nous pour l'influencer ?

Je pense que nous avons le pouvoir d'influencer ces relations, mais nous avons beaucoup de relations différentes dans cet espace, n'est-ce pas ? Différentes personnes dans la société ont probablement toujours eu différents niveaux d'accès et de bénéfice de la technologie - j'imagine donc que ces relations continueront d'être contestées. Mais la contestation, c'est bien – la société ne restera probablement jamais en place assez longtemps pour « résoudre » des problèmes comme celui-ci. Et peut-être ne le voulons-nous pas ?

Croyez-vous que les individus peuvent faire une différence?

100%. Mais je reconnais que c'est un privilège de savoir que c'est vrai.

Quand avez-vous entendu parler pour la première fois des robots tueurs et qu'en avez-vous pensé ?

J'ai été cité à ce sujet dans le New Scientist, en 2008, disant que les humains, et non les capteurs, devraient prendre des décisions de ciblage. Cette citation a plutôt bien résisté – mais elle me fait me sentir un peu vieille ! J'avais travaillé sur de nouvelles armes basées sur des capteurs et il me semblait que des lignes devaient être tracées pour empêcher le contrôle humain de s'échapper.

Les années 2020 ont été un peu difficiles jusqu'à présent. Qu'est-ce qui te donne de l'espoir ?

La réponse à cette question est toujours les gens, n'est-ce pas ?! J'ai confiance dans les gens.

Pourquoi faites-vous partie du mouvement Stop Killer Robots ?

Tout ce qui précède!

Texte alternatif de l'image
Icône de points SKR

Arrêtez les robots tueurs

Rejoignez

Tenez-vous au courant des derniers développements du mouvement Stop Killer Robots.

Rejoignez