imagen de héroe de menú
Una ingeniera de software mira directamente a la cámara con un código colorido proyectado sobre ella.

Deshumanización digital: cuando las máquinas deciden, no las personas

Isabelle Jones es directora de alcance de la campaña para detener a los robots asesinos. Ella lidera los esfuerzos para expandir y fortalecer la red de la campaña y brinda apoyo a los activistas a través de financiamiento, recursos y coordinación para generar impulso y dinamizar el movimiento.

No esperábamos que una campaña detuviera los robots asesinos abe necesario en el mundo, pero lo es. A nivel mundial, estamos viendo una influencia creciente del procesamiento informático y el pensamiento algorítmico: tomar "¡Hay una aplicación para eso!" a un nivel completamente nuevo. Desde 'casas inteligentes' e Internet de las cosas hasta reconocimiento facial y la control predictivo - nos impulsa cada vez más hacia las llamadas "soluciones" tecnológicas. Las tecnologías que se anuncian como prioritarias en la precisión, la eficiencia y la velocidad se presentan como balas de plata. ¿Pero a qué precio? Este tecnosolucionismo se promueve sin tener en cuenta los sesgos de datos inherentes al diseño de las tecnologías, o las consecuencias de eliminar la comprensión humana del contexto y los matices de las estructuras en las que vivimos y los desafíos que enfrentamos.

Cuando las máquinas deciden, no las personas

En el extremo más alejado de un espectro de automatización creciente se encuentran los sistemas de armas que están cada vez más habilitados para utilizar la programación de computadoras y los sensores para identificar y seleccionar objetivos, en áreas más amplias y períodos de tiempo más largos. Esto significa menos participación humana directa y comprensión de lo que está sucediendo en un ataque; significa acercarse a las máquinas que toman decisiones sobre a quién matar.

Los sistemas de armas como estos presentan una serie de aspectos éticos, morales, legales, técnicos y de seguridad. preocupaciones.

Necesitamos trazar una línea. Nuestra humanidad, nuestras identidades complejas, no deben reducirse a características físicas o patrones de comportamiento, para ser analizados y emparejados por sistemas incapaces de comprender los conceptos de vida, derechos humanos o libertad. La gente no lo estaría visto por robots asesinos, serían procesado. Esta deshumanización digital privaría a las personas de la dignidad, degradaría la humanidad de las personas y eliminaría o reemplazaría la participación o responsabilidad humana a través de la toma de decisiones autónoma en tecnología.

Queremos construir un futuro que rechace los sistemas que reducen a las personas vivas a puntos de datos, para ser automáticamente perfilados, procesados ​​y sometidos a la fuerza.

Las cámaras de circuito cerrado de televisión llenan una pared de ladrillos apuntando a la acera mientras un hombre negro con ropa blanca, con una cubierta para la cabeza que tiene una cara sonriente con ojos en 'X', pasa caminando.

Foto de arvin keynes.

Qué estamos haciendo para contrarrestar la deshumanización digital en 2021

Los representantes gubernamentales han estado lidiando con lo que esto significa para el derecho internacional humanitario (las 'leyes de la guerra'). ya 2013, pero el año pasado vimos el progreso diplomático se detiene en medio de la pandemia de COVID-19 y la falta de voluntad política para seguir adelante. Las discusiones aún no se han reanudado. A pesar de los contratiempos, sabemos que 2021 y 2022 tienen el potencial de ser transformadores. Serán años de transición, de evolución y de oportunidad.

Estamos fomentando un nuevo liderazgo y representación dentro del equipo de personal de la campaña y nuestra membresía en general. Trabajamos arduamente para reflejar la diversidad de personas, organizaciones, habilidades, experiencia y perspectivas que reúne nuestra coalición global. Aprovecharemos al máximo el potencial de 2021: aumentando la presión política, creando coherencia en las políticas, ampliando nuestra comunidad, involucrando a partes interesadas y socios dinámicos y creando una base sólida para la negociación de tratado en el que creemos. Un tratado que rechaza la automatización de la matanza y, en cambio, se aferra a los fundamentos de la humanidad, valorándose mutuamente no a través del cálculo sino a través del entendimiento, promoviendo el principio del control humano sobre el uso de la fuerza y ​​las tecnologías emergentes.

No esperábamos que se necesitara una campaña para detener a los robots asesinos en el mundo, pero lo es.

Para evitar la realización de la matanza autónoma, los estados deben prohibir todos los sistemas en los que se utilizan sensores para apuntar a personas. Este es uno de los tres pilares que la campaña para Stop Killer Robots cree que se necesita con urgencia en un tratado internacional para mantener un control humano significativo sobre el uso de la fuerza. Y a medida que nos instalamos en 2021, se necesita más que nunca.

Así que aprovechemos al máximo la oportunidad que tenemos para prevenir la manifestación final de la deshumanización digital. Aprovechemos esta oportunidad para evitar la pérdida de vidas y miembros que hemos visto por el uso de otras armas indiscriminadas. Trabajemos juntos para asegurarnos de que no permitimos que la automatización progresiva reemplace la toma de decisiones humana donde debería estar más presente.

La comunidad internacional reconoce cada vez más que los sistemas de armas que carecen de un control humano significativo cruzan un umbral crítico y deben prohibirse, y La oposición pública a las armas totalmente autónomas sigue siendo fuerte. Entonces no estamos solos. Nuestros activistas están trabajando para generar apoyo para un tratado comprometiéndose con los estados interesados, apoyando los esfuerzos para convocar reuniones de “diplomacia digital” y priorizando el alcance político y las campañas nacionales increíblemente innovadoras en medio de las realidades de una pandemia. Y queremos que te unas a ellos.

No esperábamos que se necesitara una campaña para detener a los robots asesinos en el mundo, pero lo es.

El robot Campaign to Stop Killer Robots se encuentra fuera del edificio de la ONU en Nueva York mientras el sol asoma sobre el edificio. La bandera de la ONU ondea en la distancia.

El robot Campaign to Stop Killer Robots fuera del edificio de la ONU en Nueva York. Foto de Ari Beser


Artículo original sobre Medium.com.

Isabelle Jones

Texto alternativo de la imagen
Icono de puntos SKR

Detén a los robots asesinos

¡Participe!

Manténgase al día con los últimos avances en el movimiento para detener a los robots asesinos.

¡Participe!