Stop Killer Robots en RightsCon Costa Rica

Del 5 al 8 de junio de 2023, la campaña Stop Killer Robots participó en DerechosCon Costa Rica, una conferencia que reunió a miles de personas, activistas, la sociedad civil y partes interesadas de la industria para discutir temas clave en el espacio digital y de derechos humanos, tanto en línea como en persona en San José. 2023 marca la cuarta vez que Stop Killer Robots participa en RightsCon. 

Stop Killer Robots estuvo presente tanto en persona como en línea en RightsCon para abordar cuán desafiantes tanto la autonomía en los sistemas de armas como la deshumanización digital son parte integral de la construcción de un futuro digital equitativo e inclusivo para todos. La deshumanización digital es un proceso en el que los humanos se reducen a datos, que luego se utilizan para tomar decisiones y/o emprender acciones que afectan negativamente a sus vidas. El daño automatizado ocurre cuando estas decisiones nos impactan negativamente - las armas autónomas existen en el extremo severo del espectro de daños. 

La conferencia de cuatro días organizada en el Centro de Conferencias de Costa Rica en San José contó con más de mil participantes de 129 países , con un 57% identificándose como mujeres. Desafortunadamente, innumerables personas sufrieron la discriminación sistémica del control fronterizo después de que más de 300 personas de 64 países fueran excluidas de la participación en persona después de su planeado visas a la llegada no fueron honrados. Las voces de estas personas fueron silenciadas en conversaciones importantes sobre derechos humanos y digitales y sus perspectivas y puntos de vista vitales fueron extrañados. Es bien conocido que las fronteras cada vez más militarizadas se utilizan como campos de prueba para nuevas tecnologías de vigilancia en las que los migrantes y las personas en movimiento están sujetos a perfiles raciales y deshumanización digital a través del reconocimiento facial, la biometría y la llamada "focalización basada en el riesgo". Ya se están implementando tecnologías con diversos grados de autonomía en la frontera y los sistemas de armas autónomos dirigidos a humanos podrían ser el próximo paso en el control fronterizo. En una época en la que la futura implicación de las tecnologías de inteligencia artificial generativa (IA) como ChatGPT domina los titulares, es importante reconocer los daños actuales de la deshumanización digital que se están perpetrando actualmente contra las comunidades racializadas y otras comunidades marginadas. 

A pesar de las limitaciones debido a la exclusión de ciertos colegas de derechos digitales, RightsCon aún logró reunir a miles de activistas, periodistas, defensores de derechos humanos, denunciantes, funcionarios gubernamentales y partes interesadas de la industria para talleres, paneles, mesas redondas y diálogos sobre cómo podemos construir un un futuro digital que respete los derechos. Desde sesiones sobre gobernanza de IA hasta violencia de género facilitada por la tecnología, apagones de Internet y censura, la necesidad urgente de regulaciones, transparencia, responsabilidad y diseño centrado en los derechos humanos fueron temas recurrentes en estos diversos temas de derechos digitales.

El miércoles 7 de junio, el Investigación de decisiones automatizada equipo de Stop Killer Robots, Sai Bourothu, Catherine Connolly y Gugu Dube, dirigieron un taller en línea titulado: “¿Dos caras de la moneda? IA y decisiones automatizadas en los ámbitos civil y militar”,. La sesión de una hora, hábilmente dirigida por el investigador Sai Bourothu, abordó los desafíos y las lecciones aprendidas del desarrollo de regulaciones para la IA y las tecnologías de toma de decisiones automatizadas en el espacio civil y exploró las formas en que estos problemas podrían aplicarse en el ejército. esfera. Los participantes consideraron qué medidas pueden tomar los formuladores de políticas para garantizar que se salvaguarden los derechos humanos y las protecciones del derecho internacional humanitario al abordar la autonomía en los sistemas de armas y las formas de garantizar que exista responsabilidad en áreas clave en las que se implementan tecnologías de inteligencia artificial y toma de decisiones automatizada, incluida la seguridad nacional. y defensa   

Más allá de esta sesión, Stop Killer Robots planteó constantemente el tema de los sistemas de armas autónomos con los participantes de RightsCon y escuchó con entusiasmo sus perspectivas sobre por qué los robots asesinos presentan profundos desafíos legales, morales y éticos para los derechos humanos y digitales. Algunos asistentes a RightsCon expresaron su preocupación por la estancamiento duradero para la regulación en la Convención de las Naciones Unidas (ONU) sobre Armas Convencionales (CCW), mientras que algunos se sorprendieron al saber que los robots asesinos incluso se estaban desarrollando en primer lugar. No obstante, los participantes de RightsCon se tranquilizaron al escuchar que 90 Estados ahora están pidiendo la negociación de un instrumento legalmente vinculante sobre sistemas de armas autónomos, una posición apoyada por el Secretario General de la ONU, el Comité Internacional de la Cruz Roja, miles de tecnología e inteligencia artificial. expertos y organizaciones de la sociedad civil de todo el mundo. 

En varios contextos, la sociedad civil exige medidas de seguridad, regulaciones y prohibiciones claras y específicas en el espacio digital. Muchas de las preocupaciones planteadas por los participantes de RightsCon son compartidas por Stop Killer Robots en nuestro movimiento para mantener el control humano sobre el uso de la fuerza: preocupaciones sobre vigilancia, sesgo algorítmico, privacidad de datos, derechos humanos y más. A medida que la IA y otras tecnologías emergentes se desarrollan y evolucionan rápidamente sin regulación, particularmente en el esfera militar, es necesario comprender sus implicaciones de largo alcance y nuestro papel como sociedad civil para centrar los derechos humanos en estas discusiones y promover la integración de las perspectivas de derechos humanos. 

Continuamos involucrando a las partes interesadas nacionales, regionales y globales para promover la importancia de los marcos legales para regular la IA y las tecnologías de toma de decisiones automatizadas para fines militares y de seguridad nacional a nivel nacional, regional e internacional. Como quedó claro en RightsCon, la sociedad civil está liderando el camino para garantizar que la tecnología que creamos se utilice para promover los derechos humanos, la paz, la justicia y la responsabilidad. 

La tecnología debe usarse para beneficiar a la humanidad, no para automatizar la matanza. Si bien queda una inmensa cantidad de trabajo por hacer para abordar la intersección de los derechos humanos y la tecnología digital, RightsCon nos brindó un espacio en la comunidad de derechos digitales para hacer un balance de nuestros logros y colaborar para el trabajo futuro a medida que construimos un entorno que respete los derechos. futuro digital para todos.