Proteger a los civiles: detener a los robots asesinos

El secretario general de las Naciones Unidas, António Guterres, ha instado a los estados a actuar "rápidamente" para abordar las preocupaciones sobre los sistemas de armas autónomas letales en su 2020. informe sobre la protección de la población civil en los conflictos armados. Él marcado el imperativo de prohibir tales armas en un debate virtual del Consejo de Seguridad de la ONU sobre el informe el 27 de mayo.

La Campaña para detener a los robots asesinos elogia el llamado del líder de la ONU e insta a los estados a prestar atención a su solicitud de acordar "las limitaciones y obligaciones que deben aplicarse a la autonomía en las armas". Los Estados deberían iniciar negociaciones ahora sobre un nuevo tratado internacional para prohibir las armas totalmente autónomas y mantener un control humano significativo sobre el uso de la fuerza.

Este es el primer informe de la ONU sobre protección de civiles desde 2013 que destaca las preocupaciones sobre los robots asesinos. El secretario general de la ONU, Ban Ki-moon, emitió el informe del 2013 , convirtiéndose en el primer líder de la ONU en plantear serias dudas sobre la perspectiva de sistemas de armas que, una vez activados, pueden seleccionar y atacar objetivos sin más intervención humana. Pidió que se iniciara urgentemente un debate multilateral sobre esas cuestiones.

Los Estados atendieron ese llamado a fines de ese año, cuando acordaron comenzar a discutir cuestiones relacionadas con los sistemas de armas autónomas letales en la Convención sobre Armas Convencionales (CCW) en Ginebra. Las conversaciones de la CCW han logrado algunos avances desde entonces para identificar cuestiones clave de preocupación con respecto a la autonomía en los sistemas de armas. Varios estados se han comprometido a no adquirir ni desarrollar sistemas de armas autónomos letales y 30 estados han pedido la prohibición de dichos sistemas de armas.

Sin embargo, las discusiones de la CCW han arrojado poco en el camino de un resultado multilateral duradero debido a la oposición de un puñado de potencias militares, sobre todo Rusia y Estados Unidos, que rechazan firmemente las propuestas para negociar un nuevo tratado o protocolo internacional.

El informe de protección de civiles de 2013 reconoció “preocupaciones importantes” sobre la capacidad de los sistemas de armas autónomos letales para operar de acuerdo con el derecho internacional humanitario y de derechos humanos. Siete años después, Guterres encuentra que todavía existen importantes dudas sobre si los ataques con tales armas se ajustarían al derecho internacional humanitario. Al igual que su predecesor, Guterres también cita "cuestiones morales y éticas fundamentales para permitir que la tecnología decida acabar con la vida humana".

En informe del 2020 , Guterres encuentra que "todas las partes parecen estar de acuerdo en que, como mínimo, es necesario mantener el control humano o el juicio sobre el uso de la fuerza". Señala que "un número creciente de Estados miembros ha pedido la prohibición de las LEYES".

Desde noviembre de 2018, el Secretario General de la ONU ha expresado repetidamente su deseo de un nuevo tratado internacional para prohibir los robots asesinos. En enero de 2020, Guterres prevenido que tales sistemas de armas "nos están llevando a un territorio moral y político inaceptable". En el Consejo de Derechos Humanos de febrero, pedido medidas específicas para proteger los derechos humanos de las tecnologías emergentes, repitiendo su llamado a un tratado de prohibición para "garantizar que las máquinas autónomas nunca tengan una capacidad letal fuera del juicio o control humanos".

Los cinco miembros permanentes del Consejo de Seguridad de la ONU están invirtiendo fuertemente en el desarrollo de sistemas de armas con funciones autónomas. A diferencia de Francia, la Federación de Rusia, el Reino Unido y los Estados Unidos, China dice que el derecho internacional humanitario existente debe fortalecerse cuando se trata de armas totalmente autónomas mediante el desarrollo de un nuevo tratado internacional.

La mayoría de los diez miembros no permanentes del Consejo de Seguridad han expresado su seria preocupación por los sistemas de armas autónomos letales y participan en las conversaciones de la CCW, en particular Bélgica, Estonia, Alemania, Sudáfrica y Túnez. En abril, el ministro de Relaciones Exteriores de Alemania, Heiko Maas , que son tales sistemas de armas "una línea roja que nunca deberíamos cruzar", porque "dejar que las máquinas decidan sobre la vida y la muerte de los seres humanos va en contra de los estándares éticos y socava la dignidad humana".

En octubre pasado, Indonesia entregó una declaración en nombre del Movimiento de Países No Alineados de más de 120 miembros que reiteró la necesidad urgente de un instrumento jurídicamente vinculante que estipule prohibiciones y regulaciones sobre los sistemas de armas autónomas letales.  

Los otros miembros no permanentes del Consejo de Seguridad no han elaborado sus puntos de vista sobre los robots asesinos: República Dominicana, Níger, San Vicente y las Granadinas y Vietnam.

Estonia presidió la sesión virtual del Consejo de Seguridad el 27 de mayo en su calidad de presidente del Consejo de Seguridad. Durante el debate, Alemania y otros estados marcado posibles efectos negativos de las tecnologías nuevas y emergentes en la protección de los civiles. Francia elevado preocupaciones sobre el tema de los "sistemas de armas letales con autonomía".

A continuación, se muestran extractos del contenido de robots asesinos en los informes de Protección de civiles de 2020 y 2013.

2020 Protección de civiles reporte

37. También es importante actuar rápidamente para abordar las preocupaciones sobre las implicaciones que plantean los avances en el área de los sistemas de armas autónomas letales (LAWS). Las armas autónomas generalmente se consideran sistemas que están habilitados para seleccionar y atacar un objetivo, ya sea una persona o un objeto, sin intervención humana. Si bien las LEYES no están reguladas específicamente por los tratados de DIH, es indiscutible que cualquier sistema de armas autónomas debe poder utilizarse, y debe utilizarse, de conformidad con el DIH. Sin embargo, existen importantes dudas sobre cómo el uso de los LAWS para llevar a cabo ataques puede ajustarse al DIH. También existen cuestiones morales y éticas fundamentales para permitir que la tecnología decida acabar con la vida humana.

38. Un número creciente de Estados miembros ha pedido la prohibición de las LEYES. Otros creen que la aplicación del DIH existente es suficiente para regular su uso. Todas las partes parecen estar de acuerdo en que, como mínimo, es necesaria la retención del control humano o el juicio sobre el uso de la fuerza. Es imperativo que los Estados Miembros, con el apoyo y la participación activa de las Naciones Unidas y otras organizaciones internacionales, la sociedad civil y el sector privado, alcancen rápidamente un entendimiento común sobre las características, así como sobre las limitaciones y obligaciones acordadas, que deben aplicarse a autonomía en armas.

2013 Protección de civiles reporte

28. La proliferación de la tecnología de aviones no tripulados y el recurso cada vez mayor a esos sistemas de armas también agudizarán aún más la asimetría que existe en muchos conflictos entre partes estatales y no estatales. A medida que la tecnología permite que una de las partes se aleje cada vez más del campo de batalla y se reducen las oportunidades de luchar contra ella, es posible que veamos que las partes tecnológicamente inferiores recurren cada vez más a estrategias destinadas a dañar a los civiles como los objetivos más accesibles. Además, la tecnología de drones aumenta las oportunidades de realizar ataques que de otro modo podrían considerarse poco realistas o indeseables a través de otras formas de poder aéreo o el despliegue de tropas terrestres. A medida que aumenta la capacidad de realizar ataques, también aumenta la amenaza que representa para los civiles.

29. En el futuro, estas preocupaciones, y otras, pueden aplicarse también al uso de sistemas de armas autónomos, o lo que se conoce como "robots asesinos", que, una vez activados, pueden seleccionar y atacar objetivos y operar en entornos dinámicos y cambiantes. sin más intervención humana. Se han planteado importantes preocupaciones sobre la capacidad de esos sistemas para funcionar de conformidad con el derecho internacional humanitario y el derecho internacional de los derechos humanos. Su uso potencial provoca otras preguntas de gran importancia: ¿es moralmente aceptable delegar decisiones sobre el uso de la fuerza letal en tales sistemas? Si su uso da como resultado un crimen de guerra o una violación grave de los derechos humanos, ¿quién sería legalmente responsable? Si la responsabilidad no puede determinarse como lo exige el derecho internacional, ¿es legal o ético implementar tales sistemas? Aunque los sistemas de armas autónomos como se describen en este documento aún no se han desplegado y el alcance de su desarrollo como tecnología militar sigue sin estar claro, la discusión de tales cuestiones debe comenzar de inmediato y no una vez que la tecnología se haya desarrollado y proliferado. También debe ser inclusivo y permitir la participación plena de los actores de las Naciones Unidas, el CICR y la sociedad civil.