Uso de un sistema de selección de objetivos automatizado en Gaza

Foto por Mohammed Ibrahim 

Stop Killer Robots está profundamente preocupado por los informes sobre la uso de sistemas de segmentación automatizados en la Franja de Gaza. Si bien el sistema “Habsora” (“El Evangelio” en inglés) no es un arma autónoma, su uso reportado por Israel en la Franja de Gaza genera serias preocupaciones sobre el creciente uso de la autonomía en conflictos, la deshumanización digital, la inteligencia artificial (IA), sesgo de automatización y control humano en el uso de la fuerza. 

Según las Fuerzas de Defensa de Israel, “Habsora” supuestamente puede utilizar IA y “extracción rápida y automática de inteligencia actualizada” para generar objetivos recomendados. Los sistemas de focalización que emplean tecnologías de IA y toma de decisiones automatizadas presentan serias preocupaciones y son parte de una tendencia preocupante hacia el despliegue de sistemas de armas autónomos.  

El uso de sistemas basados ​​en IA para “producir objetivos a un ritmo rápido” representa un grave ejemplo de deshumanización digital planteando serias preocupaciones en torno a la violación de la dignidad humana y el cumplimiento del derecho internacional humanitario. Además, la posible reducción de personas a puntos de datos basados ​​en características específicas como origen étnico, género, peso, forma de andar, etc. plantea serias dudas sobre cómo se crean los perfiles objetivo y, a su vez, cómo se seleccionan los objetivos. 

También existen riesgos graves de que los humanos se vuelvan demasiado dependientes de sistemas automatizados en los que operadores humanos producen recomendaciones de focalización y las aplican sin comprender cómo se generaron las recomendaciones.

Stop Killer Robots cree que la tecnología debe desarrollarse y utilizarse para promover la paz, la justicia, los derechos humanos, la igualdad y el respeto de la ley, no para matar de forma autónoma ni para afianzar o reproducir aún más la desigualdad y la opresión. 

Dado que el Secretario General de la ONU, el Comité Internacional de la Cruz Roja y más de 100 países han pedido un instrumento legal sobre sistemas de armas autónomos, existe una necesidad urgente de prohibiciones y regulaciones claras sobre la autonomía de los sistemas de armas en el derecho internacional.

Las solicitudes de comentarios o entrevistas deben dirigirse a [email protected]