Los fundadores de la empresa exigen una acción de la ONU sobre los robots asesinos

La Campaña para detener los robots asesinos insta a los gobiernos a prestar atención a una carta abierta firmado por 126 fundadores y directores de más de 100 empresas de robótica e inteligencia artificial de 28 países que exigen acciones urgentes para abordar las preocupaciones sobre armas totalmente autónomas.

Publicado en la inauguración de una importante conferencia internacional sobre inteligencia artificial (AI) en Melbourne el 21 de agosto, el carta enumera numerosas preocupaciones con las armas totalmente autónomas, también llamadas sistemas de armas autónomas letales o robots asesinos. Advierte que estas armas podrían ser utilizadas por "déspotas y terroristas" y "pirateadas para comportarse de manera indeseable".

Los fundadores de la empresa afirman que “se sienten especialmente responsables de dar esta alarma” y advierten que “no tenemos mucho tiempo para actuar” ya que “una vez que se abra esta caja de Pandora, será difícil cerrarla”. Llaman a los estados en el Convención sobre armas convencionales (CCW) para "protegernos a todos" de los peligros que plantean las armas totalmente autónomas y ofrecer a sus investigadores e ingenieros apoyo técnico para el vacilante proceso de la CCW sobre armas totalmente autónomas.

Los firmantes incluyen a Elon Musk, fundador de Tesla, SpaceX, OpenAI (EE. UU.), Mustafa Suleyman, fundador de DeepMind de Google (Reino Unido) y Jüergen Schmidhuber, experto líder en aprendizaje profundo y fundador de Nnaisense (Suiza).

Experto en IA Toby Walsh de la Universidad de Nueva Gales del Sur recogió las firmas en la carta de los fundadores de empresas que "emplean a decenas de miles de investigadores, especialistas en robótica e ingenieros" en Australia, Canadá, China, República Checa, Dinamarca, Estonia, Finlandia, Francia, Alemania. , Islandia, India, Irlanda, Italia, Japón, Letonia, México, Países Bajos, Nueva Zelanda, Noruega, Polonia, Rusia, Singapur, Sudáfrica, España, Suiza, Reino Unido, Emiratos Árabes Unidos y EE. UU.

Según Walsh, el carta "Demuestra una clara preocupación y un fuerte apoyo a esto por parte de la industria de la robótica y la inteligencia artificial".

El experto líder en aprendizaje profundo, Yoshua Bengio, fundador de Element AI (Canadá), dijo que respaldaba la carta porque "el uso de IA en armas autónomas daña mi sentido de la ética" y "perjudicaría el desarrollo futuro de las buenas aplicaciones de la IA". Bengio instó a la comunidad internacional a abordar las armas autónomas de la misma manera que "otras armas moralmente incorrectas", como las armas biológicas, químicas y nucleares.

Otro signatario es uno de los investigadores de inteligencia artificial más importantes del mundo, Stuart Russell, fundador de Bayesian Logic Inc., quien describió un tratado que prohíbe las armas autónomas letales como "vital para la seguridad nacional e internacional". Russell advirtió contra el desarrollo y la proliferación de "nuevas armas de destrucción masiva, en forma de grandes enjambres de microdrones letales".

Los firmantes incluyen ryan gariepy, fundador y director técnico de Clearpath Robotics (Canadá), que fue la primera empresa en aprobar una prohibición sobre armas totalmente autónomas hace tres años. Según Gariepy, "los sistemas de armas autónomos están en la cúspide del desarrollo en este momento y tienen un potencial muy real de causar un daño significativo a personas inocentes junto con la inestabilidad global".

A carta abierta anterior emitida en julio de 2015 en la última Conferencia Internacional Conjunta sobre Inteligencia Artificial (IJCAI) calificó "una carrera armamentista de IA militar" como una "mala idea" e instó a prohibir los sistemas de armas que "carecen de un control humano significativo". La carta de 2015 ha sido firmada por más de 20,000 personas hasta la fecha, incluidos más de 3,100 investigadores de IA / robótica.

En diciembre de 2016, los estados acordaron formalizar sus deliberaciones sobre sistemas de armas autónomas letales en la Convención sobre Armas Convencionales (CCW). Se suponía que el Grupo de Expertos Gubernamentales (GGE) se reuniría dos veces en 2017, pero los desafíos financieros han dado lugar a la cancelación de la primera reunión del GGE que se suponía iba a abrir el 21 de agosto.

La campaña para detener a los robots asesinos insta a los estados utilizar el Grupo de Expertos Gubernamentales de la CCW para comenzar las negociaciones sobre un nuevo protocolo de la CCW para fines de 2018 que prohíbe preventivamente las armas totalmente autónomas. Se espera que más de 90 países participen en la reunión del GGE en la ONU en Ginebra del 13 al 17 de noviembre, así como agencias clave de la ONU, el Comité Internacional de la Cruz Roja y la Campaña para Detener a los Robots Asesinos.

ACTUALIZACIÓN: Esta publicación se actualizó el 25 de agosto para reflejar el último número de signatarios de la carta abierta, que originalmente eran 116 fundadores de empresas en 26 países.

Para más información, ver:

• Carta abierta 2017, Versión PDF (al 24 de agosto), comunicado de prensay 23 de agosto Evento de Melbourne con signatarios clave
• Carta abierta 2015 y publicación web
• Conferencia conjunta internacional de 2017 sobre inteligencia artificial (IJCAI)
• Entrevista a signatarios Toby Walsh y ryan gariepy

Foto: Pepper the robot está fabricado por Aldebaran Robotics (Francia), cuyo fundador Jerome Monceaux ha firmado la carta de 2017. Pepper se muestra aquí en un evento convocado por la Association for Aid and Relief Japan en Tokio en marzo de 2016 para discutir la Campaña para detener a los robots asesinos.