imagen de héroe de menú
mano humana que se encuentra con la mano del robot en un apretón de manos con una superposición púrpura

Armas autónomas y riesgo operacional

Este informe examina los riesgos en futuras armas autónomas que elegirían sus propios objetivos y el potencial de accidentes catastróficos.

La automatización está aumentando en una amplia gama de sistemas militares, incluidas las armas futuras. En respuesta, un número creciente de voces están pidiendo una discusión urgente sobre el papel apropiado de la toma de decisiones humana y mecánica en el uso de la fuerza letal. El Proyecto de Autonomía Ética del Centro para una Nueva Seguridad Estadounidense examina las cuestiones legales, morales, éticas y políticas asociadas con las armas autónomas, armas que seleccionarían y atacarían objetivos por sí mismas.

Este documento tiene como objetivo ayudar a los profesionales de la defensa a pensar de forma clara y objetiva sobre los posibles riesgos asociados con las armas autónomas. Las armas autónomas generalmente no existen y sus costos y beneficios militares se pueden especular, pero aún no se conocen con claridad. Lo que está claro, sin embargo, es que plantean nuevas cuestiones de riesgo. La esencia de la autonomía es delegar una tarea realizada previamente por una persona a una máquina. Esto plantea la importante cuestión de cómo mantener un control humano efectivo sobre el comportamiento de la máquina y los riesgos —tanto la probabilidad como las consecuencias— asociados con una pérdida de control.

La publicación original se puede encontrar aquí.

La consideración de los elementos clave necesarios para un control humano significativo debería proporcionar un punto de partida para cualquier evaluación de las tecnologías en desarrollo en el contexto de los sistemas de armas autónomos.

Centro para la Nueva Seguridad Estadounidense (CNAS)

Texto alternativo de la imagen
Icono de puntos SKR

Detén a los robots asesinos

Unáse con nosotros

Manténgase al día con los últimos avances en el movimiento para detener a los robots asesinos.

Unáse con nosotros