Cómo creamos un humano virtual

(y consiguió que la IA se entrevistara a sí misma sobre la IA, la autonomía y la deshumanización digital)

Un artículo de Stu Mason, director creativo de Masonry Cartel para Stop Killer Robots

"¿DEBERÍAMOS TENER UN MES DONDE TODO ESTÉ HECHO Y PRESENTADO POR IA?!?" Proclamé emocionado. "¡Muestre cuán deshumanizantes pueden ser algunas de estas tecnologías, de primera mano!"

Y se hizo el silencio...

Fue una de las primeras reuniones sobre la campaña de deshumanización digital de SKR y, una vez más, me emocionó demasiado una de esas ideas que aparecieron en mi boca, aparentemente de la nada.

Para ser justos, sonaba ridículo. Tener acceso a una IA y luego hacer que creara contenido atractivo, preciso y, lo que es más importante, fáctico: ese era el tipo de pensamiento que estaba a décadas de distancia.

Pero... 

y era solo un pequeño pero en esa etapa… había algo al respecto. Y se alojó en algún lugar de los recovecos de mi cerebro.

Pasó el tiempo y cuanto más contenido empezábamos a planificar, más veía y aprendía sobre OpenAI. El mundo del arte estaba en pie de guerra "Arte" generado por IA y mis amigos creativos eran cada vez más preocupados por su futuro. No hubo una pregunta en línea que no haya sido respondida por alguien que haya copiado y pegado una respuesta de Chat GPT.

Y así, junto con toda nuestra investigación y planificación sobre la deshumanización digital, comencé a jugar...

Tenía curiosidad sobre el contenido que presenta Chat GPT, de dónde proviene y cómo se modifica/traduce a través de OpenAI.

Verá, lo que pasa con la información sobre la campaña Stop Killer Robots es que es Muy especifico. Idioma tiene para ser utilizada de manera específica, información presentada como tal que aborde los matices y especificidades del tema. Puede parecer que hay poca diferencia entre 'armas autónomas' y 'completamente armas autónomas', por ejemplo, pero la adición de 'totalmente' es potencialmente una invitación abierta para que los legisladores evalúen cualquier número de atrocidades en nombre del progreso y la defensa. ¡También causa un sinfín de argumentos en la sección de comentarios de YouTube! Idioma este asunto específico. Mucho.

He estado trabajando con la campaña desde principios de 2021 y he escrito una buena cantidad de contenido sobre el tema; después de un tiempo, comienzas a notar patrones. La sintaxis, la estructura y la cadencia dan pistas no solo sobre quién escribió el contenido, sino también sobre cuándo.

Y es esta especificidad lo que me llevó a darme cuenta de que el contenido entregado por Chat GPT no es generado por IA. es IA modificado.

Y esa es una GRAN diferencia.

No es AI presentando sus propios pensamientos, ideas y conceptos. Es la presentación de AI nuestros ideas, pensamientos y conceptos humanos de vuelta a nosotros (aunque con un cambio suficiente para evitar litigios directos o reclamos por infracción de derechos de autor). No es verdadera IA, inteligente y consciente, es marketing. Aprendizaje automático calificada como IA.

Y me di cuenta de que hacer preguntas de Chat GPT sobre armas autónomas y la Campaña Stop Killer Robots daría como resultado que se reproduzca nuestro propio contenido, con un ajuste suficiente para que no sea una reproducción directa, pero lo suficientemente cerca como para que aquellos que crean este contenido lo reconocería. Ahora, para nosotros, eso no es malo: cuanto más nuestro contenido salga al mundo y más personas estén al tanto de estos problemas, mejor. (Sin embargo, vale la pena señalar que si fuéramos escritores y sosteniéramos la vida a través de nuestro oficio, sería un asunto completamente diferente, y una perspectiva bastante aterradora).

Entonces, si ese contenido generado por IA se basa en el nuestro, sabemos que es razonablemente preciso. La razón por la que la precisión del contenido es importante es que, como autoridad líder en armas autónomas, todo lo que compartimos debe ser preciso. Debe resistir la investigación y debe ser lo más accesible posible.

Sin embargo, lo que significaba en este caso era que la idea aparentemente tonta de que la IA genere contenido en la IA, en realidad podría ser posible. Bajo supervision. Ya había habido demasiados casos de automatización y Chat GPT que funcionaba mal como para dejarlo suelto en nuestro contenido solo.

Además de esto, nuestra investigación sobre la deshumanización digital me hizo buscar formas en que los humanos pueden verse afectados por la IA y la autonomía, específicamente donde la tecnología elimina o reemplaza la participación o responsabilidad humana mediante el uso de la autonomía. No estamos dando miedo, esto realmente está sucediendo.

En poco tiempo descubrí Synthesia, una plataforma de creación de videos con IA. Miles de empresas lo utilizan para crear videos de capacitación, automáticamente en 120 idiomas, lo que les permite ahorrar hasta un 80 % de su tiempo y presupuesto, según el departamento de marketing de Synthesia. Esos ahorros provienen de la eliminación de la necesidad de humanos. Su página de inicio incluso tiene un cuadro útil que ilustra los aspectos negativos asociados con la creación de videos de la "manera tradicional", con muchas cruces rojas al lado para demostrar los aspectos negativos de la participación humana. Deshumanización digital impulsada por la demanda de un mayor margen de beneficio.

Entonces se me ocurrió una idea: ¿qué pasaría si pudiera usar tecnologías accesibles como Chat GPT para generar preguntas para hacerle a una IA sobre la autonomía y la deshumanización digital? Luego haz que responda a esas preguntas por sí mismo. Luego podría enviar la salida de texto resultante al panel de control de Synthesia y reutilizar su función de texto a video, hacer que un análogo digital de un ser humano aparentemente responda a la cámara, para mostrar los efectos deshumanizantes de estas tecnologías directamente, para entrevistar a AI, en IA, usando IA.

Fundamentalmente no fue difícil; haga las preguntas, copie y pegue las respuestas en Synthesia, haga que genere el contenido... pero en realidad no es tan sencillo. Esto no es verdadera IA. Es una extensión de la tecnología que hemos visto antes. Es súper impresionante y crea un impacto. Es incluso, a primera vista, bastante inquietante cuando te encuentras mirando por el cañón de lo que parece ser tu propia obsolescencia. Pero ES defectuoso. No es tan simple como el marketing afirma que es y, por lo tanto, para hacer un análogo humano realista y creíble, tuve que pasar días editando la transcripción de Chat GPT para engañar al motor de Synthesia para poder pronunciar correctamente el idioma utilizado. La deshumanización digital, por ejemplo, ahora y para siempre se deletreará 'dee-hew-man_ice-ation' en mi cabeza. No puedo decirles cuántas variantes de eso tuve que intentar para que fuera preciso, e incluso entonces, en el resultado final, todavía hay algunos obsequios en cuanto a esos esfuerzos. 

En cuanto a asignar un nombre a nuestro avatar digital/humano virtual/actor sintético, Chat GPT tuvo que someterse a una serie de preguntas antes de obtener una respuesta utilizable. Con la actualización reciente, le permitirá asignar un nombre 'con fines conversacionales', pero en ese momento, terminé teniendo que obtenerlo para hacer tanto el nombre como el apellido de una amalgama de inventores de Open AI (curiosamente desde la actualización, Chat CPT ahora está muy convencido de que Elon Musk no juega ningún papel en Open AI, te lo dice, incluso si no lo preguntaste. ¡Interesante!). El nombre de Giles Zamboski no se ha sugerido desde la actualización, incluso cuando pregunté lo mismo varias veces.

La forma en que aparece Giles también es muy deliberada. Queríamos evitar la sugerencia de inferir raza o género fuera del mío (últimamente ha habido mucho sobre 'cara negra virtual' en los medios de comunicación que realmente los animo a leer) pero al mismo tiempo, ser sugerente de un joven innovador 'técnico hermano'. Sin embargo, muchos de los 'actores virtuales' disponibles en Sythesia, cuando se combinan con las voces sugeridas, son realmente generados por computadora. Para ilustrar el punto que estábamos planteando y al diseñar a 'Giles' para que pareciera lo más humano posible, nuestras opciones eran limitadas. 

No pasará mucho tiempo antes de que comencemos a ver herramientas que le permitan ingresar indicaciones de contenido y la salida es contenido de video completo a un nivel muy realista: contenido de video de YouTube a pedido. Adaptado a usted y basado en las dos décadas de contenido con el que hemos estado alimentando Internet. Nuestro contenido. Contenido humano. No de IA. Pero en este momento, debe trabajar en ello y manipular el sistema para obtener el resultado que necesita. Todo es MUY avanzado, y ES accesible, pero en las palabras inmortales de Public Enemy; 'No creas el bombo'. 

Estas tecnologías tienen la capacidad de mejorar realmente las cosas para la humanidad y las innovaciones que surjan como resultado sin duda serán increíbles, pero cuando su uso está impulsado por las finanzas, el comercio, la industria y las fuerzas armadas, eso SIEMPRE será una consideración secundaria.

Y si sirve de algo, ese es realmente el punto fundamental de mis propias preocupaciones sobre las armas autónomas: sube la apuesta y aumenta el potencial de problemas, si la tecnología avanzada TODAVÍA es tan propensa a errores que necesitamos modificar nuestro comportamiento para poder trabajar de manera efectiva con él, entonces, ¿cómo y, lo que es más importante, por qué estamos viendo una tendencia tan creciente hacia armarlo? Hacia permitir que la tecnología tome decisiones sobre quién vive y quién muere. En mi opinión, el marketing se ha vuelto loco, a escala industrial (militar) y, francamente, nadie en marketing debería tener ese tipo de poder. ALGUNA VEZ.