Identidad 2.0 sobre la Deshumanización Digital

y productos creativos con herramientas digitales

Un artículo de Arda Awais y Savena Surana (Identidad 2.0)

¿Por dónde empiezas a la hora de crear un futuro digital más equitativo? ¿Quizás el fin de la desinformación en línea? orientación política? ¿Crear plataformas digitales que no existan únicamente para aspirar nuestros datos? ¿O tener un descargo de responsabilidad para que los sistemas ejecutados por IA no se vean como una verdad absoluta?

Para hacer cualquiera de estas cosas, necesitamos tener una imaginación colectiva: soñar más allá de los límites de nuestro panorama digital actual. En el esfuerzo compartido por construir una sociedad digital más justa, debemos incluir a los de una disciplina creativa. No son solo los programadores e inventores quienes construyen el futuro, son los artistas, los piratas informáticos y los diseñadores de UX.

Para abordar la deshumanización digital, debemos pensar creativamente. Tenemos la oportunidad de construir algo diferente. Los resultados no tienen que estar dentro de las pautas de lo que la tecnología puede hacer hoy, porque podemos construir máquinas de una manera nueva.

En Identity 2.0, la creatividad está en nuestro centro. Hemos trabajado de forma independiente y con clientes para producir trabajos que exploran nuestra relación con la tecnología.

Nuestro trabajo ha explorado el movimiento de descolonización de datos, creando espacios digitales alegres y escuchando las opiniones de los jóvenes sobre la IA. A veces, usamos la tecnología para hacer esto, pero no es la primera herramienta a la que recurrimos. Primero investigamos para conocer el trabajo que ya se ha desarrollado y pensamos en el viaje emotivo que queremos que sigan nuestras audiencias. Las experiencias atractivas se pueden desarrollar sin tecnología y no todas las rutas creativas que la utilizan han sido un éxito. Hemos aprendido mucho en el camino, especialmente a medida que se comparten nuevas investigaciones y crece la comunidad a la resistencia tecnológica. Reflexionamos sobre nuestra práctica y las herramientas que utilizamos con cada nuevo proyecto.

La tecnología es emocionante precisamente por la razón por la que puede ser tan peligrosa: tiene un inmenso poder para cambiar la sociedad. Y, por lo tanto, los daños que puede promulgar son generalizados y de alcance constante.

Esto también permite que personas de todos los ámbitos de la vida participen en la resistencia a la deshumanización digital. Por ejemplo, hemos visto plataformas para personas que hacen campaña por los derechos de los trabajadores, ambientalistas o que luchan contra el estado de vigilancia. Por eso tiene sentido la decisión de Stop Killer Robots de adoptar el concepto de deshumanización digital como elemento central de su lucha contra el daño automatizado. Esto se debe a que la deshumanización digital produce un espectro de daños y las armas autónomas, también conocidas como robots asesinos, están en el extremo final de la línea. Al situarnos en esta conversación más amplia, podemos ver el tipo de apoyo interseccional que se necesita para impulsar un movimiento como este.

Esto funciona en ambos sentidos: otras formas de resistencia no solo pueden llevar a las personas a apoyar la campaña, sino que la campaña Stop Killer Robots puede abrir los ojos de las personas sobre por qué también se deben detener otras formas de daños digitales. Hablar de robots asesinos genera una respuesta humana innata en tus entrañas: es inquietante. Este sentimiento es una puerta de entrada útil para discutir los daños digitales más amplios. Tratar de explorar por qué la tecnología de reconocimiento facial es dañina para una sociedad productiva podría no provocar la misma respuesta emotiva por sí sola, pero puede ser igual de dañina.

Vale la pena decir que no todas las herramientas digitales provocan daños digitales. Hay algunos proyectos innovadores realmente emocionantes, como la inversión en IA de Mozilla, los científicos indígenas que cambian la IA o incluso el uso de proyectos de RA para generar empatía.

Y así como el uso de la tecnología puede ayudar a crear plataformas, también puede proporcionar un centro de conocimientos para que las personas aprendan. En 2021, desarrollamos una línea de tiempo que exploró la hipervisibilidad y la invisibilidad de los cuerpos negros a lo largo de la historia en términos de vigilancia; esto fue parte de una experiencia de exhibición. Decidimos publicar este trabajo en línea al año siguiente, lo que lo llevó a convertirse en un recurso en los cursos académicos y en una vía para una mayor exploración de los temas. Los espacios digitales tienen el poder de llegar a más audiencias y pueden ayudar a amplificar su trabajo.

Pero al usar cualquier herramienta digital, es importante sopesar las consideraciones éticas. Desde el impacto ambiental del uso de IA hasta las condiciones laborales injustas en las que se produce la tecnología. No son cosas fáciles de abordar, y todos sabemos que no existe un consumo ético en el capitalismo. ¿Pero quién dijo que no podemos intentarlo?

Se trata de poder equilibrar las preocupaciones éticas y tener un enfoque de derechos humanos para las herramientas digitales, o más bien pensar en los derechos digitales al usar la tecnología. ¿Cuáles son los costes humanos frente a los resultados deseados? Necesitamos ver esta ruta más lenta y más considerada como una parte integral del uso de la tecnología, en lugar de una barrera para el progreso.

En Identity 2.0 no estamos en contra de la tecnología, solo estamos a favor de las personas. Pro considerando lo que significa producir alegría y reducir el daño cuando se trata de herramientas digitales. Sabemos que no es tan pegadizo, pero tenemos que empezar desde algún lado.