COMUNICADO DE PRENSA: El proceso sobre robots asesinos carece de enfoque y objetivo Determinar cómo retener un control humano significativo

13 November 2017
Geneva

PRESIONE SOLTAR:
El proceso sobre robots asesinos carece de enfoque y objetivo Determinar cómo mantener un control humano significativo de los sistemas de armas

La Campaña para detener a los robots asesinos insta a los estados a determinar rápidamente cómo y dónde trazar los límites de la autonomía futura en los sistemas de armas comprometiéndose a negociar una prohibición de los sistemas de armas autónomos letales. Más de 70 países están participando en una reunión de la Convención sobre Armas Convencionales (CCW) sobre este tema que se abre hoy en las Naciones Unidas (ONU) en Ginebra.

“Para evitar un futuro en el que las máquinas seleccionen y ataquen objetivos sin más intervención humana, los países deben marcar la línea contra la autonomía sin control en los sistemas de armas”, dijo Jody Williams, Premio Nobel de la Paz en 1997 y cofundador de la Campaña para detener a los robots asesinos. "Con la voluntad política adecuada, los gobiernos pueden negociar un tratado internacional y prohibir los robots asesinos, armas totalmente autónomas, dentro de dos años".

La Campaña para detener a los robots asesinos es una coalición mundial cofundada por organizaciones no gubernamentales en octubre de 2012. Está trabajando para prohibir preventivamente las armas totalmente autónomas, también conocidas como sistemas de armas autónomas letales.

La Convención sobre Armas Convencionales es un tratado marco que prohíbe o restringe ciertas armas y su protocolo de 1995 sobre láseres cegadores es un ejemplo de un arma que se prohíbe preventivamente antes de ser adquirida o utilizada.

Williams es parte de la delegación de la campaña a la reunión de una semana del Grupo de Expertos Gubernamentales de la CCW sobre sistemas de armas autónomos letales presidida por el Embajador Amandeep Singh Gill de India. Los países decidirán sobre el trabajo futuro sobre este tema en la reunión anual de las Altas Partes Contratantes de la CAC el 24 de noviembre.

"Las naciones deben responder a las crecientes preocupaciones de que el frágil proceso diplomático para discutir las preocupaciones sobre los sistemas de armas autónomos letales está fallando financieramente, perdiendo el enfoque y carece de un objetivo claro hacia el cual trabajar", dijo Mary Wareham de Human Rights Watch, coordinadora de la Campaña para Detén a Killer Robots. "Mientras tanto, instamos a los estados que están de acuerdo con la necesidad de mantener el control humano de los sistemas de armas a que adopten rápidamente políticas y leyes nacionales a tal efecto".

Esta es la primera reunión del Grupo de Expertos Gubernamentales de la CCW, pero es la cuarta vez desde 2014 que los estados se reúnen en la CCW para considerar sistemas de armas autónomas letales. Se programó que el Grupo de Expertos Gubernamentales se reuniera dos veces en 2017, pero la primera semana de conversaciones a principios de este año se pospuso y luego se canceló debido a la implementación de un complejo sistema de contabilidad financiera de la ONU y al incumplimiento de ciertos estados en el pago de sus cuotas evaluadas de la CCW. .

Un documento de “alimento para el pensamiento” preparado por el presidente de la reunión de la CCW contiene varias cuestiones tecnológicas y legales / éticas que no se relacionan directamente con la cuestión de los sistemas de armas autónomas letales. La campaña cree que se deben buscar otros mecanismos para considerar cuestiones más amplias sobre la inteligencia artificial y su impacto potencial en la sociedad. En el programa de trabajo provisional faltan consideraciones de derechos humanos y parece que no hay tiempo suficiente para considerar las preocupaciones sobre la proliferación y la seguridad, así como el control humano necesario en los futuros sistemas de armas.

“En lugar de ampliar este debate y perder el enfoque, los estados deberían concentrarse en fomentar una comprensión política compartida de cómo y dónde trazar los límites necesarios de autonomía en los sistemas de armas”, dijo Richard Moyes del Artículo 36.

Docenas de países han afirmado la necesidad de mantener el control humano sobre la selección de objetivos y el uso de la fuerza. En un documento de trabajo publicado para la reunión del GGE, Rusia dice: "La abrumadora mayoría de Estados están de acuerdo en la inadmisibilidad de la pérdida del control humano significativo de tales sistemas de armas".

Varios sistemas de armas autónomos con varios grados de control humano están actualmente en uso por ejércitos de alta tecnología, incluidos los estados de la CCW: EE. UU., China, Israel, Corea del Sur, Rusia y el Reino Unido. La preocupación es que los sensores de bajo costo y los avances en inteligencia artificial hacen que sea cada vez más práctico diseñar sistemas de armas que apunten y ataquen sin ningún control humano significativo. Si la tendencia hacia la autonomía continúa, los humanos comenzarán a desaparecer del ciclo de toma de decisiones, primero reteniendo solo un rol de supervisión limitado y luego ningún rol en absoluto.

La Campaña para detener a los robots asesinos se opone fundamentalmente a permitir que las máquinas acaben con una vida humana en el campo de batalla o en la vigilancia, el control de fronteras y otras circunstancias. Un total de 19 países apoyan ahora el llamamiento para prohibir los sistemas de armas autónomos letales, incluida la Santa Sede, y más de dos docenas de premios Nobel de la Paz. La semana pasada, Williams destacó la urgente necesidad de prevenir el desarrollo de robots asesinos en una conferencia del Vaticano sobre desarme a la que asistió el Papa Francisco.

Muchos miembros de la comunidad de inteligencia artificial (IA) y robótica han respaldado el llamado a prohibir los sistemas de armas autónomos letales. Más de 137 fundadores y directores de empresas de inteligencia artificial y robótica de 28 países respaldaron una carta abierta en agosto de 2017 exigiendo una acción más firme de la ONU para "protegernos a todos" de los peligros que plantean los sistemas de armas autónomos letales. Este mes, más de 120 expertos australianos en inteligencia artificial y robótica instaron al primer ministro Malcolm Turnbull a adoptar una postura firme contra los sistemas de armas autónomos letales, mientras que más de 135 expertos canadienses en inteligencia artificial y robótica pidieron al primer ministro Justin Trudeau que prohibiera los sistemas de armas que eliminan a humanos significativos. control en el despliegue de fuerza letal.

“La Campaña para detener a los robots asesinos no está tratando de reprimir la innovación en inteligencia artificial y robótica y no desea prohibir los sistemas autónomos en el mundo civil o militar”, dijo Noel Sharkey del Comité Internacional para el Control de Armas Robóticas (ICRAC). “Más bien, vemos una necesidad urgente de prevenir la automatización de las funciones críticas para seleccionar objetivos y aplicar fuerza violenta sin deliberación humana y garantizar un control humano significativo para cada ataque”.

Se invita a los delegados de la CCW y a los medios de comunicación acreditados por la ONU en Ginebra a asistir a las sesiones informativas del evento paralelo Campaign to Stop Killer Robots sobre:

• Lunes 13 de noviembre a las 13:00 en la Sala de Conferencias XXII, donde los activistas presentarán nuevas investigaciones e iniciativas, incluida una nueva película.
• Miércoles 22 de noviembre a las 13:00 en la Sala de Conferencias XXIV, donde los activistas evaluarán la primera reunión del Grupo de Expertos Gubernamentales sobre sistemas de armas autónomas letales y comentarán sobre los futuros planes de trabajo de la CCW.