Armas autónomas y riesgo operacional

La automatización está aumentando en una amplia gama de sistemas militares, incluidas las armas futuras. En respuesta, un número creciente de voces están pidiendo una discusión urgente sobre el papel apropiado de la toma de decisiones humana y mecánica en el uso de la fuerza letal. El Proyecto de Autonomía Ética del Centro para una Nueva Seguridad Estadounidense examina las cuestiones legales, morales, éticas y políticas asociadas con las armas autónomas, armas que seleccionarían y atacarían objetivos por sí mismas.

Este documento tiene como objetivo ayudar a los profesionales de la defensa a pensar de forma clara y objetiva sobre los posibles riesgos asociados con las armas autónomas. Las armas autónomas generalmente no existen y sus costos y beneficios militares se pueden especular, pero aún no se conocen con claridad. Lo que está claro, sin embargo, es que plantean nuevas cuestiones de riesgo. La esencia de la autonomía es delegar una tarea realizada previamente por una persona a una máquina. Esto plantea la importante cuestión de cómo mantener un control humano efectivo sobre el comportamiento de la máquina y los riesgos —tanto la probabilidad como las consecuencias— asociados con una pérdida de control.

La publicación original se puede encontrar esta página.