La ONU busca mantener el control humano sobre la fuerza

El secretario general de las Naciones Unidas, António Guterres, se ofrece a apoyar a los estados para que elaboren nuevas medidas como "arreglos jurídicamente vinculantes" para garantizar que "los seres humanos mantengan en todo momento el control sobre el uso de la fuerza". La oferta está contenida en el encabezado de la ONU Programa de desarme de 74 puntos porcentuales lanzado en Ginebra el 24 de mayo de 2018, que describe cómo "los roboticistas, los empresarios tecnológicos, los agentes humanitarios, la sociedad civil y muchos gobiernos han dado la alarma por las implicaciones que plantea el desarrollo de sistemas de armas autónomas letales".

En la agenda, el Secretario General reconoce que "un número creciente de Estados, incluidos algunos con capacidades militares avanzadas, han pedido una prohibición preventiva de los sistemas de armas autónomos letales" y concluye que "todas las partes parecen estar de acuerdo en que, como mínimo, la supervisión humana sobre el uso de la fuerza es necesaria ".

Algunos anteriores secretarios generales de la ONU han alentado activamente los esfuerzos para crear un nuevo derecho internacional para abordar las preocupaciones humanitarias y de otro tipo planteadas por ciertas armas. Por ejemplo, Boutros Boutros-Ghali era un endosante anticipado del llamado para prohibir las minas terrestres antipersonal, mientras que Kofi Annan continuó ese apoyo participando tanto en las negociaciones como en la ceremonia de firma del Tratado de Prohibición de Minas de 1997.

Anteriormente, en septiembre de 2017, la Comisión Mundial de Ética del Conocimiento Científico + Tecnología de la UNESCO adoptó un informe consultivo sobre “Ética de la robótica” que “fuertemente” recomienda que, “por razones legales, éticas y militares-operativas, se debe mantener el control humano sobre los sistemas de armas y el uso de la fuerza”.

El proceso internacional carece de objetivo

La propuesta del Secretario General es un ejemplo más del creciente apoyo a los estados para pasar de la palabra a la acción para prevenir el desarrollo de sistemas de armas que, una vez activados, seleccionarían y atacarían objetivos sin intervención humana.

Actualmente, 26 estados piden un nuevo tratado prohibir las armas totalmente autónomas. Más de 100 países ahora apoyan la adopción de nuevas leyes internacionales destinadas a retener alguna forma de control humano sobre los sistemas de armas y el uso de la fuerza. Para la Campaña para detener a los robots asesinos, si el control humano es realmente significativo, ambos caminos logran el mismo resultado de prevenir un futuro de guerra robótica sin control.

Del 27 al 31 de agosto de 2018, más de 70 países se reunirán en la Convención sobre Armas Convencionales (CCW) en la ONU en Ginebra para su sexto encuentro sobre sistemas de armas autónomos letales desde 2014.

En el reunión anterior de la CCW en abril de 2018, hubo una convergencia significativa sobre la necesidad de mantener el control humano sobre los sistemas de armas y comenzar a negociar un nuevo derecho internacional para lograrlo. La mayoría de los estados participantes propusieron que la CAC comience las negociaciones sobre un instrumento jurídicamente vinculante (es decir, un protocolo o tratado) para abordar las múltiples y serias preocupaciones planteadas por los sistemas de armas autónomas letales. Austria, China, Colombia y Djibouti pidieron por primera vez la prohibición de las armas totalmente autónomas, aunque China calificó su apoyo a la prohibición del uso exclusivo y no del desarrollo o la producción.

Francia, Israel, Rusia, Reino Unido y Estados Unidos rechazaron explícitamente la iniciativa de negociar una nueva ley internacional sobre armas totalmente autónomas. La CCW opera por consenso, por lo que cualquier estado puede oponerse y potencialmente bloquear una propuesta para iniciar negociaciones.

La Campaña para detener a los robots asesinos alienta a todos los estados a:

• Trabajar hacia un instrumento jurídicamente vinculante que prohíba las armas totalmente autónomas.: Los Estados deben participar de manera sustantiva en la reunión de la CCW GGE en agosto de 2018 y recomendar que las conversaciones se trasladen a un mandato de negociación destinado a crear un nuevo derecho internacional. En la reunión de los Estados Partes de la CCW en noviembre de 2018, los estados deberían acordar iniciar negociaciones sobre un instrumento jurídicamente vinculante.
• Adoptar políticas y leyes nacionales para prevenir el desarrollo de armas totalmente autónomas.. Trabajar en coordinación con la sociedad civil y otros actores nacionales para apoyar la negociación de un nuevo tratado.

¿Qué son los robots asesinos?

Los drones armados y otros sistemas de armas autónomos con niveles decrecientes de control humano están actualmente en uso y desarrollo por ejércitos de alta tecnología, incluidos los EE. UU., China, Israel, Corea del Sur, Rusia y el Reino Unido. La preocupación es que una variedad de sensores disponibles y los avances en inteligencia artificial hacen que sea cada vez más práctico diseñar sistemas de armas que apunten y ataquen sin ningún control humano significativo. Si la tendencia hacia la autonomía continúa, los humanos pueden comenzar a desvanecerse del circuito de toma de decisiones para ciertas acciones militares, tal vez conservando solo una función de supervisión limitada, o simplemente estableciendo amplios parámetros de misión.

En noviembre pasado, el Instituto Internacional de Investigación para la Paz de Estocolmo (SIPRI) publicó su primer informe sobre el desarrollo de la autonomía en los sistemas de armas  e identificó al menos 381 sistemas autónomos desarrollados con fines de defensa, incluidos 175 en sistemas de armas, la mayoría de drones controlados a distancia. A principios de este verano en París, en la feria internacional de armas Eurosatory, se exhibieron contratistas de defensa de todo el mundo. una variedad de sistemas de armas de alta tecnología incorporando inteligencia artificial y características autónomas, desde tanques controlados a distancia hasta drones en miniatura y municiones merodeando.

Si bien los serios desafíos planteados por las armas totalmente autónomas han ganado una amplia atención en los últimos cinco años, el progreso de los estados para resolver las preocupaciones ha sido lento. Los estados han identificado y explorado las preocupaciones legales, operativas, morales, técnicas y de otro tipo que surgen al permitir que las máquinas seleccionen y ataquen objetivos sin más intervención humana. En la actualidad existe un acuerdo generalizado con la necesidad de mantener alguna forma de control humano sobre los futuros sistemas de armas y el uso de la fuerza.

Acerca de la próxima reunión de la CCW

El embajador de India, Amandeep Singh Gill, supervisará la reunión de la CCW en su calidad de presidente del Grupo de Expertos Gubernamentales de la CCW sobre sistemas de armas autónomas letales. El embajador Gill también es director ejecutivo de la secretaría de un Panel de alto nivel sobre cooperación digital anunciado por el Secretario General de la ONU el 12 de julio.

Aproximadamente 30 representantes de organizaciones no gubernamentales (ONG) que son miembros de la Campaña para detener a los robots asesinos participarán en la reunión, incluida la Premio Nobel de la Paz de 1997 Jody Williams, el roboticista Noel Sharkey y otros expertos técnicos del Comité Internacional para el Control de Armas Robóticas, cofundador de la campaña. La campaña es una coalición global de 76 ONG en 32 países que trabajan desde abril de 2013 para prohibir de forma preventiva los sistemas de armas autónomas letales, también conocidas como armas totalmente autónomas.

Los corresponsales acreditados por la ONU en Ginebra están invitados a asistir a un evento paralelo de la Campaña para detener a los robots asesinos el martes 28 de agosto para discutir los aspectos éticos de los sistemas de armas autónomos letales. Bonnie Docherty presentará su último informe de Human Rights Watch sobre cómo los robots asesinos no cumplirían la Cláusula Martens, un estándar ético codificado en el derecho internacional para evaluar la tecnología emergente.

Siga las cuentas de redes sociales de la campaña en Instagram, Facebooky Twitter. No hay transmisión en vivo de la reunión de la CCW ni de los eventos paralelos, pero los aspectos más destacados se tuitearán con el hashtag #CCWUN.

Para obtener más información, consulte:

• Campaña para detener a los robots asesinos Aviso a los medios, Folleto de eventos paralelos, Lista de delegaciones, Preguntas frecuentes, Nota informativa (en Francés y Español) y Informe sobre las actividades de la reunión de la CCW de abril de 2018;
• CCW página web para las reuniones del GGE 2018, incluido provisional programa de trabajo y resumen del presidente de la reunión de abril de 2018;
• WILPF alcanzando la voluntad crítica página web para las reuniones del GGE de la CCW de 2018.