Identité 2.0 sur la déshumanisation numérique

et des sorties créatives avec des outils numériques

Un article d'Arda Awais et Savena Surana (Identité 2.0)

Par où commencer pour créer un avenir numérique plus équitable ? Peut-être la fin de la désinformation en ligne ? ciblage politique ? Créer des plateformes numériques qui n'existent pas uniquement pour aspirer nos données ? Ou avoir une clause de non-responsabilité pour que les systèmes exécutés par l'IA ne soient pas considérés comme une vérité absolue ?

Pour faire l'une de ces choses, nous avons besoin d'avoir une imagination collective - de rêver au-delà des limites de notre paysage numérique actuel. Dans l'effort commun pour construire une société numérique plus juste, nous devons inclure ceux d'une discipline créative. Ce ne sont pas seulement les codeurs et les inventeurs qui construisent l'avenir, ce sont les artistes, les hackers et les designers UX.

Pour lutter contre la déshumanisation numérique, nous devons penser de manière créative. Nous avons la possibilité de construire quelque chose de différent. Les résultats ne doivent pas nécessairement être dans les limites de ce que la technologie peut faire aujourd'hui, car nous pouvons construire des machines d'une nouvelle manière.

Chez Identity 2.0, la créativité est au centre de nos préoccupations. Nous avons travaillé de manière indépendante et avec des clients pour produire des travaux qui explorent notre relation avec la technologie.

Notre travail a exploré le mouvement de décolonisation des données, créé des espaces numériques joyeux et écouté les points de vue des jeunes sur l'IA. Parfois, nous utilisons la technologie pour ce faire, mais ce n'est pas le premier outil que nous utilisons. Nous faisons d'abord des recherches pour en savoir plus sur le travail qui a déjà été développé et réfléchissons au voyage émotionnel que nous voulons que nos auditoires poursuivent. Des expériences engageantes peuvent être développées sans technologie et toutes les voies créatives qui l'utilisent n'ont pas été un succès. Nous avons beaucoup appris en cours de route, en particulier à mesure que de nouvelles recherches sont partagées et que la communauté à la résistance technologique se développe. Nous réfléchissons à notre pratique et aux outils que nous utilisons à chaque nouveau projet.

La technologie est passionnante précisément pour la raison pour laquelle elle peut être si dangereuse : elle a un immense pouvoir pour changer la société. Et par conséquent, les méfaits qu'il peut engendrer sont répandus et ne cessent d'atteindre.

Cela permet également à des personnes de tous horizons de s'engager dans la résistance à la déshumanisation numérique. Par exemple, nous avons vu des plateformes pour les personnes qui militent pour les droits des travailleurs, les écologistes ou ceux qui luttent contre l'État de surveillance. C'est pourquoi la décision de Stop Killer Robots d'adopter le concept de déshumanisation numérique comme élément central de leur lutte contre les dommages automatisés est logique. En effet, la déshumanisation numérique produit un éventail de dommages et les armes autonomes, alias les robots tueurs, ne sont qu'à l'extrémité de la ligne. En se situant dans cette conversation plus large, nous pouvons voir le type de soutien intersectionnel qui est nécessaire pour galvaniser un mouvement comme celui-ci.

Cela fonctionne dans les deux sens - non seulement d'autres formes de résistance peuvent amener les gens à soutenir la campagne, mais la campagne Stop Killer Robots peut ouvrir les yeux sur les raisons pour lesquelles d'autres formes de dommages numériques doivent également être arrêtées. Parler de robots tueurs génère une réponse humaine innée dans votre intestin - c'est troublant. Ce sentiment est une passerelle utile pour discuter des méfaits numériques plus larges. Essayer d'explorer pourquoi la technologie de reconnaissance faciale est nocive pour une société productive ne provoquera peut-être pas la même réponse émotive à elle seule, mais elle peut être tout aussi nocive.

Il vaut la peine de dire que tous les outils numériques ne causent pas de dommages numériques. Il existe des projets innovants vraiment passionnants, tels que l'investissement de Mozilla dans l'IA, des scientifiques indigènes modifiant l'IA ou même utilisant des projets de RA pour développer l'empathie.

Et tout comme l'utilisation de la technologie peut aider à créer des plateformes, elle peut également fournir un centre de connaissances pour que les gens apprennent. En 2021, nous avons développé une chronologie qui a exploré l'hyper visibilité et l'invisibilité des corps noirs à travers l'histoire en termes de surveillance - cela faisait partie d'une expérience d'exposition. Nous avons décidé de publier ce travail en ligne l'année suivante, ce qui l'a amené à devenir une ressource dans les cours universitaires et un moyen d'approfondir les sujets. Les espaces numériques ont le pouvoir d'atteindre un public plus large et peuvent aider à amplifier votre travail.

Mais lorsque vous utilisez des outils numériques, il est important de peser les considérations éthiques. De l'impact environnemental de l'utilisation de l'IA aux conditions de travail injustes dans lesquelles la technologie est produite. Ce ne sont pas des choses faciles à gérer, et nous savons tous qu'il n'y a pas de consommation éthique sous le capitalisme. Mais qui a dit qu'on ne pouvait pas essayer ?

Il s'agit d'être capable d'équilibrer les préoccupations éthiques et d'avoir une approche des droits de l'homme vis-à-vis des outils numériques - ou plutôt de penser aux droits numériques lors de l'utilisation de la technologie. Quels sont les coûts humains par rapport aux résultats souhaités ? Nous devons considérer cette voie plus lente et plus réfléchie comme faisant partie intégrante de l'utilisation de la technologie, plutôt que comme un obstacle au progrès.

Chez Identity 2.0, nous ne sommes pas anti-technologie, nous sommes simplement pro-personnes. Pro considérant ce que cela signifie de produire de la joie et de réduire les dommages lorsqu'il s'agit d'outils numériques. Nous savons que ce n'est pas aussi accrocheur, mais nous devons commencer quelque part.