imagen de héroe de menú

Tecnología e inteligencia artificial emergentes

No esperábamos que se necesitara una campaña para detener a los robots asesinos en el mundo, pero lo es.

Desde hogares inteligentes y publicidad dirigida hasta el uso de perros robot por parte de la policía, las tecnologías de inteligencia artificial y la toma de decisiones automatizada ahora juegan un papel importante en nuestras vidas. La tecnología puede ser asombrosa. Pero solo porque nosotros puede construir algo, no significa que debemos. Muchas tecnologías con diversos grados de autonomía ya se están implementando ampliamente sin detenerse a considerar las consecuencias de normalizar su uso. ¿Por qué tenemos que hablar de esto?

Porque las máquinas no nos ven como personas, solo como otra pieza de código para procesar y clasificar.

 

Texto alternativo de la imagen

Deshumanización digital: cuando las máquinas deciden, no las personas.

Las armas totalmente autónomas decidirían quién vive y quién muere, sin más intervención humana, que cruza un umbral moral. Como máquinas, carecerían de las características inherentemente humanas, como la compasión, que son necesarias para tomar decisiones éticas complejas.

Deshumanización digital: cuando las máquinas deciden, no las personas.

Las tecnologías que nos preocupan reducen a las personas vivas a puntos de datos. Nuestras identidades complejas, nuestras características físicas y nuestros patrones de comportamiento se analizan, se combinan en patrones y se clasifican en perfiles, y las decisiones sobre nosotros las toman las máquinas de acuerdo con el perfil preprogramado en el que encajamos.

Esto tiene consecuencias muy reales para las comunidades históricamente marginadas o vulnerables. Esto se debe a que la tecnología a menudo consolida, en lugar de desafiar, los prejuicios ya existentes sobre quiénes son las personas. Los estereotipos están arraigados en la toma de decisiones automatizada.

 

¿Qué tiene esto que ver con los robots asesinos?

En el extremo más extremo del espectro de la creciente automatización se encuentran los robots asesinos.

Los avances en la tecnología ahora permiten que los sistemas de armas seleccionen y ataquen objetivos de forma autónoma. Esto significa que en el uso de la fuerza, tenemos menos control humano sobre lo que está sucediendo y por qué. Significa que estamos más cerca de las máquinas que toman decisiones sobre a quién matar o qué destruir. Y para las máquinas no hay diferencia entre un "quién" y un "qué".

 

Texto alternativo de la imagen

Las tecnologías que se utilizarán en armas autónomas reducirán a las personas a datos y las someterán a ataques, la forma definitiva de deshumanización digital.

Las armas totalmente autónomas decidirían quién vive y quién muere, sin más intervención humana, que cruza un umbral moral. Como máquinas, carecerían de las características inherentemente humanas, como la compasión, que son necesarias para tomar decisiones éticas complejas.

Actualmente se están desarrollando robots asesinos para su uso en conflictos armados, lo que tendrá consecuencias devastadoras. Pero con la creciente automatización de nuestra sociedad, los robots asesinos no solo se limitarán al campo de batalla. No hay duda de que también se utilizarán en el control de fronteras, la vigilancia y otras áreas de la sociedad donde el control humano significativo debería estar más presente.

Podemos actuar ahora para trazar una línea legal y moral. Todos debemos asumir la responsabilidad del desarrollo y el uso de la tecnología y del papel que desempeña en nuestras vidas. Los robots asesinos no solo aparecen, los creamos. Y tenemos la oportunidad de actuar ahora para detener a los robots asesinos, antes de que los desarrollos tecnológicos hayan ido demasiado lejos.

Menos autonomía. Más humanidad.

Entonces, cuando se trata de deshumanización digital, de sistemas de armas que apunten a las personas, necesitamos menos autonomía y más humanidad.

Más información

 

Ver video Texto alternativo de la imagen

Robots asesinos, derechos humanos y deshumanización digital

El Dr. Matt Mahmoudi, investigador y asesor sobre inteligencia artificial y derechos humanos del Programa de Tecnología y Derechos Humanos de Amnistía Internacional, habla sobre inteligencia artificial, tecnología emergente, derechos humanos y armas autónomas.

Texto alternativo de la imagen
Icono de puntos SKR

Detén a los robots asesinos

¡Participe!

Manténgase al día con los últimos avances en el movimiento para detener a los robots asesinos.

¡Participe!