Desde hogares inteligentes y publicidad dirigida hasta el uso de perros robot por parte de la policía, las tecnologías de inteligencia artificial y la toma de decisiones automatizada ahora juegan un papel importante en nuestras vidas. La tecnología puede ser asombrosa. Pero solo porque nosotros can construir algo, no significa que should. Muchas tecnologías con diversos grados de autonomía ya se están implementando ampliamente sin detenerse a considerar las consecuencias de normalizar su uso. ¿Por qué tenemos que hablar de esto?
Porque las máquinas no nos ven como personas, solo como otra pieza de código para procesar y clasificar.
Deshumanización digital: cuando las máquinas deciden, no las personas.
Las tecnologías que nos preocupan reducen a las personas vivas a puntos de datos. Nuestras identidades complejas, nuestras características físicas y nuestros patrones de comportamiento se analizan, se combinan en patrones y se clasifican en perfiles, y las decisiones sobre nosotros las toman las máquinas de acuerdo con el perfil preprogramado en el que encajamos.
Esto tiene consecuencias muy reales para las comunidades históricamente marginadas o vulnerables. Esto se debe a que la tecnología a menudo consolida, en lugar de desafiar, los prejuicios ya existentes sobre quiénes son las personas. Los estereotipos están arraigados en la toma de decisiones automatizada.
¿Qué tiene esto que ver con los robots asesinos?
En el extremo más extremo del espectro de la creciente automatización se encuentran los robots asesinos.
Los avances en la tecnología ahora permiten que los sistemas de armas seleccionen y ataquen objetivos de forma autónoma. Esto significa que en el uso de la fuerza, tenemos menos control humano sobre lo que está sucediendo y por qué. Significa que estamos más cerca de las máquinas que toman decisiones sobre a quién matar o qué destruir. Y para las máquinas no hay diferencia entre un "quién" y un "qué".
Actualmente se están desarrollando robots asesinos para su uso en conflictos armados, lo que tendrá consecuencias devastadoras. Pero con la creciente automatización de nuestra sociedad, los robots asesinos no solo se limitarán al campo de batalla. No hay duda de que también se utilizarán en el control de fronteras, la vigilancia y otras áreas de la sociedad donde el control humano significativo debería estar más presente.
Podemos actuar ahora para trazar una línea legal y moral. Todos debemos asumir la responsabilidad del desarrollo y el uso de la tecnología y del papel que desempeña en nuestras vidas. Los robots asesinos no solo aparecen, los creamos. Y tenemos la oportunidad de actuar ahora para detener a los robots asesinos, antes de que los desarrollos tecnológicos hayan ido demasiado lejos.
Menos autonomía. Más humanidad.
Entonces, cuando se trata de deshumanización digital, de sistemas de armas que apunten a las personas, necesitamos menos autonomía y más humanidad.