image de héros de menu
Une ingénieure en logiciel regarde directement la caméra avec un code coloré projeté sur elle.

Déshumanisation numérique — Quand les machines décident, pas les gens

Isabelle Jones est responsable de la sensibilisation de la campagne pour la campagne contre les robots tueurs. Elle dirige les efforts visant à étendre et à renforcer le réseau de la campagne et fournit un soutien aux militants par le financement, les ressources et la coordination pour créer une dynamique et dynamiser le mouvement.

Nous ne nous attendions pas à ce qu'une campagne pour arrêter les robots tueurs soit be nécessaire dans le monde - mais il l'est. À l'échelle mondiale, nous constatons une influence croissante du traitement informatique et de la pensée algorithmique : prendre « Il y a une application pour ça ! » à un tout nouveau niveau. Des « maisons intelligentes » et de l'Internet des objets à la reconnaissance faciale et maintien de l'ordre prédictif — nous sommes de plus en plus poussés vers des « solutions » dites technologiques. Les technologies annoncées comme privilégiant la précision, l'efficacité et la vitesse sont présentées comme des solutions miracles. Mais à quel prix ? Ce techno-solutionnisme est promu sans tenir compte des biais de données inhérents à la conception des technologies, ou des conséquences de la suppression de la compréhension humaine du contexte et des nuances des structures dans lesquelles nous vivons et des défis auxquels nous sommes confrontés.

Quand les machines décident, pas les gens

À l'extrémité d'un spectre d'automatisation croissante se trouvent les systèmes d'armes qui sont de plus en plus capables d'utiliser des programmes informatiques et des capteurs pour identifier et sélectionner des cibles, sur des zones plus larges et sur des périodes plus longues. Cela signifie moins d'engagement humain direct et de compréhension de ce qui se passe lors d'une attaque - cela signifie se rapprocher des machines qui prennent des décisions sur qui tuer.

Les systèmes d'armes comme ceux-ci présentent un certain nombre de problèmes éthiques, moraux, juridiques, techniques et de sécurité. préoccupations.

Nous devons tracer une ligne. Notre humanité, nos identités complexes, ne devraient pas être réduites à des caractéristiques physiques ou à des modèles de comportement, à analyser et à reproduire par des systèmes incapables de comprendre les concepts de vie, de droits de l'homme ou de liberté. Les gens ne seraient pas vu par des robots tueurs - ils seraient traité. Cette déshumanisation numérique priverait les gens de dignité, rabaisserait l'humanité des individus et supprimerait ou remplacerait l'implication ou la responsabilité humaine par le biais d'une prise de décision autonome en matière de technologie.

Nous voulons construire un avenir qui rejette les systèmes qui réduisent les personnes vivantes à des points de données, à profiler, traiter et soumettre automatiquement à la force.

Des caméras de vidéosurveillance remplissent un mur de briques pointant vers le sentier tandis qu'un homme noir vêtu de vêtements blancs, avec un couvre-chef avec un visage souriant avec des yeux «X» passe.

Photo par arvin keynes.

Ce que nous faisons pour contrer la déshumanisation numérique en 2021

Les représentants du gouvernement se demandent ce que cela signifie pour le droit international humanitaire (les « lois de la guerre ») depuis 2013, mais l'année dernière nous avons vu les progrès diplomatiques s'enlisent au milieu de la pandémie de COVID-19 et d'un manque de volonté politique pour aller de l'avant. Les discussions n'ont pas encore repris. Malgré les revers, nous savons que 2021 et 2022 ont le potentiel d'être transformateurs. Ce seront des années de transition, d'évolution et d'opportunités.

Nous encourageons un nouveau leadership et une nouvelle représentation au sein de l'équipe du personnel de la campagne et de nos membres au sens large. Nous travaillons dur pour refléter la diversité des personnes, des organisations, des compétences, de l'expertise et des perspectives que notre coalition mondiale rassemble. Nous allons tirer le meilleur parti du potentiel de 2021 : accroître la pression politique, renforcer la cohérence des politiques, élargir notre communauté, engager des parties prenantes et des partenaires dynamiques et créer une base solide pour la négociation du traité auquel nous croyons. Un traité qui rejette l'automatisation du meurtre et s'en tient plutôt aux principes fondamentaux de l'humanité, se valorisant non pas par le calcul mais par la compréhension, promouvant le principe du contrôle humain sur l'utilisation de la force et les technologies émergentes.

Nous ne nous attendions pas à ce qu'une campagne pour arrêter les robots tueurs soit nécessaire dans le monde, mais c'est le cas.

Pour éviter la réalisation de l'assassinat autonome, les États doivent interdire tous les systèmes où des capteurs sont utilisés pour cibler des personnes. C'est l'un des trois piliers que la campagne Stop Killer Robots estime nécessaire de toute urgence dans un traité international pour conserver un contrôle humain significatif sur l'usage de la force. Et alors que nous nous installons en 2021, cela est plus que jamais nécessaire.

Profitons donc de l'opportunité qui s'offre à nous pour empêcher la manifestation ultime de la déshumanisation numérique. Profitons de cette occasion pour éviter les pertes de vies et de membres que nous avons vues du fait de l'utilisation d'autres armes aveugles. Travaillons ensemble pour nous assurer que nous ne permettons pas à l'automatisation rampante de remplacer la prise de décision humaine là où elle devrait être la plus présente.

La communauté internationale reconnaît de plus en plus que les systèmes d'armes dépourvus de contrôle humain réel franchissent un seuil critique et doivent être interdits, et l'opposition publique aux armes entièrement autonomes reste forte. Nous ne sommes donc pas seuls. Nos militants s'efforcent de renforcer le soutien à un traité en s'engageant avec les États concernés, en soutenant les efforts visant à convoquer des réunions de « diplomatie numérique », et en donnant la priorité à la sensibilisation politique et aux campagnes nationales incroyablement innovantes au milieu des réalités d'une pandémie. Et nous voulons que vous les rejoigniez.

Nous ne nous attendions pas à ce qu'une campagne pour arrêter les robots tueurs soit nécessaire dans le monde, mais c'est le cas.

Le robot de la Campagne pour arrêter les robots tueurs se tient devant le bâtiment des Nations Unies à New York pendant que le soleil se lève sur le bâtiment. Le drapeau de l'ONU flotte au loin.

Le robot de la Campagne pour arrêter les robots tueurs à l'extérieur du bâtiment des Nations Unies à New York. Photo par Ari Beser


Article original sur Medium.com.

Isabelle Jones

Texte alternatif de l'image
Icône de points SKR

Arrêtez les robots tueurs

Rejoignez

Tenez-vous au courant des derniers développements du mouvement Stop Killer Robots.

Rejoignez