¿Estará REAIM a la altura de sus… objetivos?

La IA responsable en el ámbito militar Cumbre (REAIM) 2024 Se llevará a cabo en Seúl, República de Corea, del 9 al 10 de septiembre y es coanfitriónEl Reino de los Países Bajos, la República de Singapur, la República de Kenia y el Reino Unido de Gran Bretaña e Irlanda del Norte fueron los organizadores. La Cumbre inaugural de la REAIM del año pasado en La Haya fue testigo de los lanzamientos paralelos de la Llamado a la acción de REAIM y de los Estados Unidos' 'Declaración Política sobre el Uso Militar Responsable de la IA y la Autonomía' que aparentemente esbozaba una guía sobre el “comportamiento responsable” para el “desarrollo, despliegue y uso de IA militar por parte de los Estados”, pero lamentablemente no llegaba a pedir la negociación de un nuevo derecho internacional para prohibir y restringir los sistemas de armas autónomas.

Desde que tuvo lugar la última Cumbre REAIM, se han reportado numerosos usos de herramientas de IA militar más allá de los sistemas de armas autónomos, incluido el uso de 'Sistemas de apoyo a la toma de decisiones' impulsados ​​por IA varios contextos, en particular por Israel en Gaza, que utilizaba un sistema que sugería objetivos humanos a atacar. Otros estados, incluyendo los Estados Unidos En Irak y Siria, también se han empleado estos "sistemas de apoyo a la toma de decisiones" para identificar objetivos militares que atacar. En un contexto en el que el uso militar de la IA ha Probablemente contribuyó directamente En lo que respecta a la muerte y el sufrimiento de los civiles, las cuestiones clave que los Estados deben abordar directamente si pretenden dar forma a las normas sobre "IA militar responsable" son si la dirección actual de la práctica informada es aceptable y cuáles son los criterios para un uso "responsable". Si los Estados no pueden abordar estas cuestiones de manera significativa, parece que estas discusiones tienen poca utilidad. 

Stop Killer Robots está profundamente preocupado por todos los usos de la tecnología que erosionan la toma de decisiones y el control humanos significativos, y conllevan una deshumanización digital en el uso de la fuerza. Junto con reglas jurídicas claras sobre los sistemas de armas autónomas, que hemos pedido constantemente, la comunidad internacional debe abordar adecuadamente todos los avances en inteligencia artificial militar y autonomía que amenacen nuestra seguridad, protección y humanidad, y evitar prácticas inaceptables. 

La Cumbre REAIM también es un evento industrial. Presentará una exposición que ofrecerá "una demostración visual de cómo se puede aplicar la inteligencia artificial en el ámbito militar", donde los asistentes "podrán ver una amplia gama de tecnologías, desde las que están disponibles actualmente hasta las que revolucionarán el ámbito militar en el futuro". Con la participación de empresas que están desarrollando activamente tecnologías de inteligencia artificial militar y sistemas de armas basados ​​en inteligencia artificial, la Cumbre REAIM pone de relieve las perspectivas y preocupaciones de las industrias militar, de defensa y tecnológica: aquellas con un interés personal en fomentar una mayor adopción de la automatización y la inteligencia artificial en el ámbito militar. El lema de la Cumbre, "IA responsable para un mañana más seguro", parece ofrecer una interpretación estrecha tanto de "responsable" como de "más seguro". También plantea la pregunta: ¿más seguro para quién?

A este tenor, La CCW sigue estancada Y con la Asamblea General de las Naciones Unidas (AGNU) en el horizonte, los Estados no deberían distraerse con iniciativas que no aborden de manera crítica y significativa las consecuencias muy reales que plantean los usos reales de la IA y la toma de decisiones automatizada en el ámbito militar. Deben comprometerse a abordar urgentemente los usos inaceptables de la IA y la autonomía, incluidos los sistemas de armas autónomas, mediante prohibiciones y regulaciones jurídicamente vinculantes.

En la próxima sesión de la Asamblea General de las Naciones Unidas, los Estados deben utilizar este foro inclusivo –en el que una pequeña minoría no puede bloquear el progreso– para adoptar una resolución que ordene la negociación de un instrumento jurídicamente vinculante sobre sistemas de armas autónomas, aprovechando todos los avances que ya se han logrado en este tema. El Secretario General de las Naciones Unidas instó nuevamente a los Estados a concluir dichas negociaciones para 2026. en su informe a la Asamblea General: este es el siguiente paso clave en el que los Estados deben centrarse, y ya no hay motivos para demorarlo más.