Consenso creciente sobre políticas en los debates de la ONU sobre AWS, pero escepticismo hacia los principios y prácticas no vinculantes

Aunque el acuerdo sobre la sustancia de un marco continúa desarrollándose, los estados expresaron escepticismo sobre las propuestas de prácticas y principios no vinculantes y continúan pidiendo reglas legalmente vinculantes sobre el desarrollo y uso de Sistemas de Armas Autónomas (AWS). 

Estas discusiones fueron las segundas de una serie de 2 reuniones entre sesiones entre la reunión del GGE del 3 al 7 de marzo de 11 y el próximo GGE que tendrá lugar del 2022 al 25 de julio de 29, y se centraron en el control humano, la interacción hombre-máquina, las consideraciones éticas. ; y responsabilidad y rendición de cuentas en el desarrollo y uso de AWS. 

Tras la 6ª Conferencia de Revisión en diciembre de 2021, en la que los estados no acordaron iniciar negociaciones, se han presentado varias propuestas escritas para el marco normativo y operativo. Entre las propuestas, existe un amplio acuerdo sobre cuestiones clave como la caracterización de AWS como sistemas que se basan en funciones autónomas para seleccionar y atacar objetivos, la necesidad de control, juicio o supervisión humanos sobre dichos sistemas, el reconocimiento de que los sistemas que no pueden cumplir debe prohibirse el derecho internacional humanitario y la necesidad de una normativa que asegure el cumplimiento de AWS con los requisitos legales y los principios éticos. Sin embargo, persisten las divergencias sobre si los principios y prácticas no vinculantes serían suficientes o si se necesitan normas jurídicamente vinculantes. 

Durante estas discusiones, los estados del Grupo de los 6 (G6) que han propuesto principios y prácticas no vinculantes (Australia, Canadá, Corea, Japón, Reino Unido y EE. UU.) tomaron la palabra para argumentar a favor de su propuesta, sugiriendo que es la única propuesta capaz de lograr consenso dentro de la CCW. Sin embargo, varios estados, incluidos Argentina, Austria, Chile, Irlanda, México, Nueva Zelanda, Palestina, Suiza y Uruguay, expresaron dudas sobre si la propuesta sería suficiente para salvaguardar contra los riesgos legales, éticos y humanitarios que plantea AWS y para garantizar un control humano significativo sobre el uso de la fuerza. 

Sobre el tema del control humano, el juicio y la interacción hombre-máquina, hubo un amplio consenso sobre la centralidad del elemento humano para garantizar que el desarrollo y el uso de AWS cumplan con los requisitos legales y los principios éticos existentes. Sin embargo, se planteó la preocupación de que la propuesta del G6 no establece que las AWS que no se pueden utilizar con suficiente control humano deben prohibirse, con la implicación de que un control humano insuficiente sería aceptable. Se plantearon preocupaciones adicionales sobre el uso de la propuesta del G6 de la palabra 'diseño' en los sistemas que deberían prohibirse, y los estados comentaron que los sistemas de armas rara vez están diseñados específicamente para violar el derecho internacional, sino que su uso en la práctica podría conducir al incumplimiento. . 

En cuanto a la ética, los estados comentaron que es insuficiente afirmar simplemente que la ética es aplicable sin especificar cómo se aplican los principios éticos a un marco acordado. Varios estados, incluidos Irlanda, Chile, Alemania, México y Suiza, sugirieron que la ética debe informar los límites entre los sistemas de armas aceptables y no aceptables, prohibiendo los sistemas utilizados sin un grado suficiente de control humano y obligaciones positivas para garantizar las limitaciones en torno a la amplio alcance de sistemas que incorporan autonomía para seleccionar y comprometer objetivos. Otros estados también comentaron que los sistemas que se basan en conjuntos de datos perjudiciales plantean problemas éticos y deberían prohibirse. La campaña Stop Killer Robots y el CICR argumentaron que las AWS que están diseñadas específicamente para humanos no serían éticas y deberían prohibirse. 

En cuanto a la responsabilidad y la rendición de cuentas, todos los estados acordaron que son los humanos y no las máquinas los que son moral y legalmente responsables del uso y desarrollo de AWS. China declaró que la responsabilidad y la rendición de cuentas también deben aplicarse a las personas que investigan, desarrollan, fabrican, implementan y usan AWS. Italia declaró que la responsabilidad y la rendición de cuentas son necesarias en todos los niveles de mando, incluido el nivel estratégico. La campaña Stop Killer Robots agregó que AWS socavaría aún más la responsabilidad de los perpetradores de violencia ilícita y dificultaría aún más la provisión de justicia retributiva a las víctimas.

Aunque las diferencias sobre cuestiones relacionadas con el control humano, la ética, la responsabilidad y la rendición de cuentas siguen reduciéndose, sigue existiendo una divergencia clave sobre el camino a seguir. Si bien los estados han reconocido el valor potencial de la propuesta del G6 para prácticas y principios, muchos estados continúan argumentando que se necesitan límites legales para establecer los límites de aceptabilidad sobre el desarrollo y uso de AWS. La introducción de principios y prácticas no vinculantes correría el riesgo de crear un ecosistema en el que se desarrollen y utilicen AWS sin establecer primero límites claros, lo que plantearía claros riesgos legales, éticos y humanitarios y pondría en peligro la seguridad internacional. 

La tercera de la serie de reuniones entre sesiones en la ONU tendrá lugar del 3 al 27 de junio de 28, seguida por la CCW GGE en el Palais des Nations, Ginebra, del 2022 al 25 de julio de 29. La campaña Stop Killer Robots estará presente para ambos y seguir abogando por que se inicien negociaciones sobre un nuevo derecho internacional, para rechazar los asesinatos automatizados y garantizar un control humano significativo sobre el uso de la fuerza.