Code immoral

Les technologies qui nous inquiètent sont limitées. Ils ne reconnaissent pas les gens en tant que personnes, au lieu de cela, ils réduisent les personnes vivantes à des points de données. Nos identités complexes et hautement individuelles sont perdues, au lieu de cela, nos caractéristiques physiques et nos modèles de comportement sont analysés, appariés et triés en profils. Les décisions nous concernant sont prises par des machines en fonction du profil préprogrammé auquel nous nous inscrivons.

Les robots tueurs existent déjà. Il y a même des publicités sur YouTube pour des drones armés autonomes. Ils utilisent la même technologie qui a fait ses preuves.

Dans la précipitation à faire des sauts technologiques, nous perdons le contrôle humain - ce sont des machines qui décident qui tuer ou quoi détruire. Certains pays utilisent déjà des systèmes capables d'identifier et de sélectionner des cibles de manière autonome.

Les préjugés avérés et les failles des systèmes ne sont pas sans danger. Il y a actuellement une course pour être le premier à intégrer ces technologies dans les armes, sans se soucier des dangers.

Des milliers d'experts en technologie et des centaines d'entreprises travaillant dans le secteur de la technologie ont soulevé des inquiétudes. Ils pensent que les armes autonomes seraient imprévisibles et peu fiables, vulnérables au piratage ou à l'usurpation d'identité.

Notre connaissance de l'industrie de la surveillance biométrique à distance, par exemple, nous indique que des performances accrues et une identification par vision artificielle plus «précise» seront utilisées pour augmenter les biais existants et les modèles discriminatoires qui ont déjà été démontrés dans les systèmes d'IA et de reconnaissance faciale.

Les pays qui bloquent une interdiction et les entreprises privées qui les soutiennent sont déjà en concurrence pour développer de nouvelles technologies toujours plus automatisées. Si rien n'est fait, le monde pourrait entrer dans une course aux armements robotiques déstabilisante.

Nous ne voulons pas supprimer la capacité de protéger des vies, mais cela ne devrait pas signifier la perte d'un contrôle humain significatif sur ces armes. Cela franchirait une ligne technologique et éthique qui changerait fondamentalement la société.

Nous avons besoin de votre aide pour changer la situation. Une démonstration de la demande publique peut surmonter les problèmes rencontrés dans l'élaboration d'un nouveau droit international sur l'autonomie des systèmes d'armes.

Nous avons la possibilité d'éviter des pertes de vie inutiles en agissant maintenant. Les États discutent de ce qu'il faut faire en ce moment - les yeux du monde sont braqués sur eux - indiquez clairement ce que vous voulez, dans quel type de société vous voulez vivre. Signez notre pétition ici pour faire entendre votre voix.