Los ¡®deepfakes¡¯ ladran mucho y muerden poco (por ahora)

Los humanos han estado alterando im¨¢genes desde mucho antes de que los ordenadores estuvieran disponibles", se?ala Boris Radanovi?, representante del Centro para un Internet Seguro durante su intervenci¨®n en una sesi¨®n de CONNECT University, el foro de la Comisi¨®n Europea para la exploraci¨®n del futuro digital. El mism¨ªsimo Photoshop ni siquiera exist¨ªa antes de 1988. Por otra parte, estamos continuamente expuestos a im¨¢genes artificiales: basta con ir al cine. Entonces, ?por qu¨¦ nos asustamos tanto cuando esas escenas las genera una red neuronal? ?Qu¨¦ tienen los deepfakes que nos quita el sue?o? "Esta tecnolog¨ªa puede aplicarse en v¨ªdeos corrientes y puede ser usada por cualquiera con una capacidad tecnol¨®gica semidecente y algo de tiempo libre".

Debemos buscar las posibles influencias positivas de la tecnolog¨ªa que tiene detr¨¢s

Y a¨²n as¨ª, el temor no es nuevo. Radanovi? lo prueba citando un art¨ªculo del diario brit¨¢nico The Independent: "Con la llegada del software inform¨¢tico sofisticado y las im¨¢genes digitales, casi cualquiera puede alterar la realidad. Y pueden no ser detectados jam¨¢s". La pieza, publicada en 1998, hablaba de Photoshop. Para Radanovi?, el problema no est¨¢ tanto en los deepfakes como en el momento en que est¨¢n ocurriendo, en pleno reinado de las noticias falsas y con poder de la desinformaci¨®n ampliamente demostrado. "Vivimos tiempos en los que necesitamos no asumir nada y cuestionarlo todo".

Sin embargo, los deepfakes siguen siendo una tecnolog¨ªa relativamente joven. "Tenemos muchos retos por delante con este fen¨®meno. Debemos buscar las posibles influencias positivas de la tecnolog¨ªa que tiene detr¨¢s", afirma Radanovi?. El experto imagina la generaci¨®n de un espect¨¢culo de ballet con una coreograf¨ªa largo tiempo olvidada o sencillamente un avance tecnol¨®gico genere nuevos empleos. En su opini¨®n, lo que ocurre en el mundo digital no es sino un reflejo de lo que ocurre en el mundo real, nuestra imagen en el espejo. "Centrar nuestros esfuerzos en arreglar es espejo es literalmente tratar de arreglar el reflejo un problema que est¨¢ en nuestra sociedad", se?ala. "Creo que muchos temores del mundo digital provienen de gente que no conoce su funci¨®n".

• Ni tanto ni tan poco

Otra prueba de que esta tecnolog¨ªa est¨¢ en pa?ales, a pesar de su enorme impacto, la aport¨® Denis Teyssou, l¨ªder del Medialab de la agencia France Presse (AFP). "En la industria medi¨¢tica hemos visto bastantes pocos ejemplos de deepfakes hasta ahora. La calidad no es suficiente todav¨ªa", asegura. "La mayor¨ªa de las falsificaciones que vemos en redes sociales son fotograf¨ªas y v¨ªdeos del pasado. Est¨¢n descontextualizadas, eso es todo. Esto pasa todo el tiempo porque para descontextualizar una imagen no necesitas ninguna habilidad. Basta hacer clic con el bot¨®n derecho para descargar una imagen y volver a subirla a las redes sociales".

Sin embargo, el departamento de Teyssou ya ha desarrollado una herramienta gratuita para contrarrestar la difusi¨®n de im¨¢genes falsas. Se trata de InVID, un pluggin gratuito que permite identificar las im¨¢genes originales empleadas para generar un deepfake. Para conseguirlo, InVID env¨ªa una serie de fotogramas clave a seis motores de b¨²squeda inversa diferentes. Con ello se pueden obtener im¨¢genes similares que permiten determinar si el lugar, la fecha de grabaci¨®n y la escena han sido objeto de tergiversaciones.

A¨²n hay muchas inconsistencias en los deepfakes

Por lo pronto, las tendencias m¨¢s frecuentes en la generaci¨®n de deepfakes se concentran sobre todo en el intercambio de caras y la s¨ªntesis de voz. "Lo que estamos intentando hacer es localizar el v¨ªdeo original, descubrir si hay una imagen o v¨ªdeo del pasado que es muy similar", explica Teyssou. Una vez localizados tales documentos gr¨¢ficos, la mera comparaci¨®n del original y el fake en potencia puede bastar para hacer el diagn¨®stico. "A¨²n hay muchas inconsistencias en los deepfakes, especialmente en el parpadeo de los ojos o el movimiento alrededor de la boca al hablar".

Otra medida de seguridad para cuando los deepfakes se pongan al d¨ªa y alcancen la calidad necesaria para enga?arnos sin remedio es tener cuidado con difundir v¨ªdeos nuestros en la web. Los deepfakes son, en definitiva, un resultado del aprendizaje autom¨¢tico, que funciona mejor cuanto m¨¢s datos tiene para su entrenamiento. Sin embargo, evitar que nuestros v¨ªdeos caigan en malas manos no es tan sencillo como parece. "?Deber¨ªamos ser m¨¢s cuidadosos? S¨ª. ?Pero podemos serlo? La sociedad nos presiona para compartir mucho. Y si no compartes, no recibes reconocimiento", razona Radanovi?.

En general, el experto del Centro para un Internet Seguro cree que el conocimiento es clave para que la sociedad en general pueda defenderse de estos ataques. "Por desgracia, los art¨ªculos positivos sobre qu¨¦ son los deepfakes y c¨®mo puedes detectarlos no van a ser los m¨¢s le¨ªdos. Los titulares de los peri¨®dicos se centrar¨¢n bien en el porno o bien en Obama diciendo algo irrespetuoso", se?ala. No es por fardar, pero nosotros te hemos contado c¨®mo atrapar estas farsas, y en m¨¢s de una ocasi¨®n (gui?o, gui?o).

M¨¢s informaci¨®n

Siete trucos para pillar antes a una red neuronal que a un cojo

Estas aplicaciones te ayudan a detectar im¨¢genes y v¨ªdeos falsos desde tu m¨®vil