Historias reales

Soy Richard Moyes, un hombre blanco de mediana edad y clase media que trabaja para Article 36, una ONG que se especializa en desarrollar estrategias para proteger a los civiles de las armas.

Publicidad dirigida, aprobaciones de préstamos bancarios, vigilancia predictiva ... autonomía en armas, la automatización se está convirtiendo cada vez más en parte de nuestras vidas. ¿Qué tipos de deshumanización digital le preocupan más y por qué?

Siento este problema en términos de burocratización. En todas estas áreas, la automatización y la inteligencia artificial pueden extender y acelerar la burocracia. No me refiero a más "burocracia". Me refiero a encajar más el mundo en pequeñas cajas. A través de esas cajas podemos perder el control de nuestra relación con el mundo y entre nosotros. Controlar las estructuras de etiquetado y categorización de la sociedad es una forma de ejercer poder.

Cuéntenos acerca de un momento en que vio o experimentó discriminación, riesgo u opresión como resultado del uso de una tecnología, programa o algoritmo.

Mi experiencia está trabajando en el impacto de las armas. Un niño en un campo de refugiados en Eritrea una vez se acercó a nosotros sosteniendo una bomba de racimo sin detonar que había sido fabricada en el Reino Unido. Estuve en las oficinas de la empresa que las hizo y te hace pensar en la distancia que puede existir entre las personas que diseñan, fabrican y se benefician de las tecnologías y las personas que quedan con el riesgo.

La tecnología no es intrínsecamente buena o mala. ¿Cómo defendemos la tecnología que beneficia a la humanidad al tiempo que previene daños o consecuencias no deseadas?

Mmmm, pero la tecnología tampoco es neutral, siempre está integrada en las condiciones sociales y económicas. A menudo, simplemente vamos a derivar hacia ciertas relaciones con la tecnología.

¿Cómo crees que será nuestra relación con la tecnología en 5/10/20 años y cuánto poder tenemos para influir en esto?

Creo que tenemos el poder de influir en esas relaciones, pero tenemos muchas relaciones diferentes en ese espacio, ¿verdad? Es probable que diferentes personas en la sociedad siempre hayan tenido diferentes niveles de acceso y se hayan beneficiado de la tecnología, por lo que imagino que esas relaciones seguirán siendo cuestionadas. Pero la contestación es buena: la sociedad probablemente nunca se quedará quieta el tiempo suficiente para "resolver" problemas como este. ¿Y tal vez no queremos que lo haga?

¿Cree que las personas pueden marcar la diferencia?

100%. Pero reconozco que es un privilegio saber que esto es cierto.

¿Cuándo aprendiste por primera vez sobre los robots asesinos y qué pensaste?

Me citaron sobre este tema en New Scientist, en 2008, diciendo que los humanos, no los sensores, deberían tomar decisiones de orientación. Esa cita se ha mantenido bastante bien, ¡pero me hace sentir un poco mayor! Había estado trabajando en nuevas armas basadas en sensores y sentí que era necesario trazar líneas para evitar que el control humano se escapara.

Los de 2020 han sido un poco difíciles hasta ahora. ¿Qué te da esperanza?

La respuesta a esta pregunta es siempre la gente, ¿no es así? Tengo confianza en la gente.

¿Por qué formas parte del movimiento Stop Killer Robots?

¡Todas las anteriores!