Simulación militar de la Fuerza Aérea de EE. UU. de un dron operado por IA

Los informes de que la Fuerza Aérea de los Estados Unidos simuló un escenario en el que un dron operado por IA decidió matar al operador humano para lograr el objetivo de la misión son muy preocupantes. Si bien la Fuerza Aérea de los EE. UU. ha confirmado que no se trata de una simulación de IA, muestra la necesidad urgente de que el derecho internacional sobre la autonomía en los sistemas de armas garantice un control humano significativo sobre el uso de la fuerza.

Los estados aún tienen que responder adecuadamente al desarrollo de armas con autonomía y hasta ahora no han logrado trazar una línea roja contra el asesinato de personas por medio de máquinas. La falta de acción política sobre este tema solo dará como resultado una mayor pérdida de vidas humanas y una mayor deshumanización digital en los conflictos, la policía, el control fronterizo y otras áreas de la sociedad. Los daños de la inteligencia artificial ya están afectando a las personas marginadas de todo el mundo, desde los sistemas de reconocimiento facial que dan como resultado errores detener en los Estados Unidos, el aautomatización del sistema de beneficios en los Países Bajos, a la Vigilancia de palestinos impulsada por inteligencia artificial. Son estas comunidades las que probablemente experimenten los impactos más severos de las nuevas tecnologías y sistemas de armas.

Las armas autónomas plantean serias preocupaciones desde las perspectivas humanitaria, legal, de seguridad, tecnológica y ética. Como muestra este escenario militar, las máquinas no 'ven' el mundo como lo hacen las personas, las armas autónomas tomarán decisiones basadas en datos que reducen a las personas a objetos: números a procesar. Las crecientes preocupaciones y ansiedades sobre el papel que juegan la inteligencia artificial y la toma de decisiones automatizada en nuestras vidas son cada vez más frecuentes en toda la sociedad. Es hora de que los estados respondan a esta preocupación y, si bien más de 90 países han pedido un instrumento legal sobre la autonomía en los sistemas de armas, se necesita un liderazgo político y acción tangibles.

Stop Killer Robots hace un llamado a los estados para que utilicen todos los foros multilaterales disponibles para implementar salvaguardas legales. Es hora de pasar a la negociación de un tratado que preserve la dignidad humana y garantice un control humano significativo.

Todos los ojos y los esfuerzos ahora están puestos en la Asamblea General de las Naciones Unidas en octubre, donde los estados tendrán la oportunidad de apoyar la negociación de una nueva ley internacional para mantener un control humano significativo sobre el uso de la fuerza y ​​garantizar que no permitamos el asesinato de personas. por maquina