As¨ª funciona la tecnolog¨ªa que hace posibles los ¡®deepfakes¡¯

Detr¨¢s de cada deepfake hay dos redes neuronales enfrentadas. Los populares y preocupantes v¨ªdeos falsos en los que famosos y pol¨ªticos aparecen pronunciando palabras que nunca han dicho son fruto del trabajo en equipo: una red se inventa algo, la otra determina si la primera miente y vuelta a empezar. De ah¨ª el nombre del sistema que conforman: redes generativas antag¨®nicas o adversarias. En ingl¨¦s, el idioma que las vio nacer, se las conoce como generative adversarial networks (GAN).

Los v¨ªdeos falsos y las im¨¢genes de personas que no existen son la punta del iceberg de posibles aplicaciones que tienen estos sistemas, explica Antonio Rodr¨ªguez, arquitecto de soluciones de Amazon Web Services (AWS), en un seminario on line sobre GANs organizado este mi¨¦rcoles por la plataforma de servicios de computaci¨®n en la nube. ¡°Tienen mucha utilidad y a medida que pasa el tiempo vemos cada vez m¨¢s casos de uso¡±, explica.

En Airbus los emplean para dise?ar nuevas estructuras aerodin¨¢micas que resulten en piezas m¨¢s ligeras, seguras y de mayor rendimiento en sus aeronaves. ¡°Son dise?os y formas que no se le ocurrir¨ªan a un ingeniero normal, pero que ayudan a explorar escenarios dif¨ªciles de imaginar¡±, asegura el experto.

A la NASA, este ¨²ltimo detalle le viene como anillo al dedo en su programa de exploraci¨®n espacial, que tambi¨¦n integra redes generativas antag¨®nicas en sus procesos de dise?o y manufactura de piezas. ¡°Esto es s¨²per interesante, puesto que tienes que imaginar procesos m¨¢s all¨¢ de lo que conocemos hoy en d¨ªa en la industria, y los retos tambi¨¦n que van m¨¢s all¨¢ de lo que hemos visto en la actualidad. Adem¨¢s no hay datos hist¨®ricos¡±.

Pero las GANs no se agotan en v¨ªdeos, fotos y piezas de objetos volantes. Tambi¨¦n tienen hueco en el dise?o de pr¨®tesis dentales, en la composici¨®n musical e incluso en la generaci¨®n de escenarios de juegos de rol. Su funcionamiento se adapta a cualquier escenario en el que haya que inventar una nueva realidad a partir de una base de informaci¨®n dada. Arqu¨ªmedes quer¨ªa un punto de apoyo para mover el mundo. Las redes generativas antag¨®nicas quieren un ejemplo para inventarlo. ¡°Las GANs han sido para muchos el avance m¨¢s grande de los ¨²ltimos diez a?os de historia de la inteligencia artificial¡±, asegura Rodr¨ªguez.

Polis y cacos

La idea se le ocurri¨® a Ian Goodfellow, investigador experto en aprendizaje autom¨¢tico y actual empleado de Apple, cuando estaba en un bar con amigos: ?Ser¨ªa posible que un ordenador crease fotos por s¨ª mismo? Para responder a esta pregunta, siguieron la l¨®gica del proceso creativo del ser humano. ¡°Cuando una persona crea o compone empieza por trazar unas l¨ªneas o tocar unas notas en un piano¡±, precisa el experto de AWS. Una vez esbozada la idea, actuamos como nuestros propios cr¨ªticos y vamos generando m¨¢s bocetos hasta crear algo que nos gusta. Las redes generativas antag¨®nicas son esa idea hecha aprendizaje autom¨¢tico.

Como casi todo en el mundo de las m¨¢quinas, la historia comienza con unos datos de entrenamiento: un v¨ªdeo, una imagen, algo de m¨²sica. Esta informaci¨®n sirve a la primera red, la generadora, para sentar las bases de lo que debe crear. Su antagonista, la red discriminadora, le toca criticar el boceto. ¡°Tiene que tratar de discernir si los datos que recibe son reales o artificiales¡±, precisa el experto. ¡°En t¨¦rminos de machine learning, lo que hace este juego de polic¨ªa y ladr¨®n es maximizar una variable y minimizar otra a la vez. El discriminador va aprendiendo y mejorando su habilidad para descubrir datos artificiales y el generador se reentrena para aprender a enga?ar cada vez mejor a ese discriminador¡±.

En el m¨¢s simple de los sentidos, la pareja compone una estructura ancestralmente conocida para el ser humano: la pescadilla que se muerde la cola. En este caso, adem¨¢s, el c¨ªrculo es virtuoso. A cada nuevo mordisco de su propia aleta, el pez ha aprendido de los defectos del anterior y est¨¢ preparado para dar un bocado mejor.

?Cu¨¢ntos mordiscos hacen falta para alcanzar la perfecci¨®n? Depende. ¡°Como es un proceso iterativo, no sabemos hasta d¨®nde tenemos que entrenar, no tenemos ese concepto de precisi¨®n. Uno de los grandes problemas de las GANs es saber cu¨¢ndo parar¡±, se?ala Rodr¨ªguez. Con la perfecci¨®n como meta ut¨®pica, el experto prescribe llegar hasta el punto en que el resultado generado es suficientemente bueno para el caso de uso. Mal y pronto, hasta el punto en que la farsa da el pego, al menos, ante los ojos del cr¨ªtico humano.