¡®Deepfakes¡¯: la amenaza con millones de visualizaciones que se ceba con las mujeres y desaf¨ªa la seguridad y la democracia

¡°Esta es la cara del dolor¡±. As¨ª arranca la creadora de contenidos QTCinderella un v¨ªdeo en el que denuncia haber sido v¨ªctima de la difusi¨®n de una secuencia pornogr¨¢fica hiperrealista creada con inteligencia artificial. Las im¨¢genes a las que se refiere son falsas, el da?o causado no. La popular figura de internet, de 29 a?os, se suma a una larga lista de personas afectadas por este tipo de creaciones, conocidas como deepfakes. Las aplicaciones de inteligencia artificial hacen que cada vez sean m¨¢s f¨¢ciles de producir y m¨¢s dif¨ªcil de identificar su falsedad, mientras su regulaci¨®n y control va por detr¨¢s del desarrollo de estas tecnolog¨ªas. El n¨²mero de estos contenidos en internet se dobla cada seis meses y acapara m¨¢s de 134 millones de visualizaciones. M¨¢s del 90% de los casos es pornograf¨ªa sin consentimiento. Una investigaci¨®n de la Universidad Northwestern y de Brookings Institution (ambas de EE UU) alerta de su peligro potencial para la seguridad. Otros estudios advierten del riesgo de interferencia y manipulaci¨®n en procesos pol¨ªticos democr¨¢ticos.

Sonia Vel¨¢zquez, estudiante universitaria de Sevilla, sinti¨® curiosidad por c¨®mo funcionan los v¨ªdeos deepfakes y le pidi¨® a su novio, estudiante de dise?o gr¨¢fico, que le mostrara una prueba y se prest¨® a que lo hiciera con su imagen. ¡°Empez¨® como un juego, pero no lo es. Me vi vulnerable. Sab¨ªa que no era yo, pero imagin¨¦ a todos mis amigos compartiendo ese v¨ªdeo, bromeando y sabe Dios qu¨¦ m¨¢s. Me sent¨ª ensuciada y, aunque lo borramos de inmediato, no paro de pensar lo f¨¢cil que puede ser y el da?o que puede causar¡±, relata.

¡°Verte desnuda en contra de tu voluntad y difundida en internet es como sentirse violada. No deber¨ªa ser parte de mi trabajo tener que pagar dinero para que eliminen estas cosas, ser acosada. Me agota la constante explotaci¨®n y cosificaci¨®n de las mujeres¡±, afirma QTCinderella tras la difusi¨®n del v¨ªdeo deepfake del que ha sido v¨ªctima. Antes que ella, la artista brit¨¢nica Helen Mort sufri¨® la misma agresi¨®n con fotos que cogieron de sus redes sociales. ¡°Te hace sentir impotente, como si te castigaran por ser una mujer con voz p¨²blica¡±, afirma. ¡°Cualquier persona de cualquier ¨¢mbito de la vida puede ser el objetivo de esto y parece que a la gente no le importa¡±, lamenta otra v¨ªctima de los v¨ªdeos hiperrealistas que pide no ser identificada para evitar b¨²squedas en las redes, aunque cree haber conseguido borrar todo rastro.

Los bulos son tan antiguos como la humanidad. Las fotograf¨ªas falseadas tampoco son recientes, pero se generalizaron a finales del pasado siglo con f¨¢ciles y populares herramientas de edici¨®n de im¨¢genes est¨¢ticas. La manipulaci¨®n de v¨ªdeos es m¨¢s novedosa. La primera denuncia p¨²blica es de finales de 2017 contra un usuario de Reddit que la utiliz¨® para desnudar a famosas. Desde entonces, no ha parado de crecer y ha pasado a la creaci¨®n de audios hiperrealistas.

¡°Las tecnolog¨ªas deepfake presentan desaf¨ªos ¨¦ticos significativos. Se est¨¢n desarrollando r¨¢pidamente y se est¨¢n volviendo m¨¢s baratas y accesibles d¨ªa a d¨ªa. La capacidad de producir archivos de v¨ªdeo o audio de aspecto y sonido realistas de personas que hacen o dicen cosas que no hicieron o dijeron trae consigo oportunidades sin precedentes para el enga?o. La pol¨ªtica, la ciudadan¨ªa, las instituciones y las empresas ya no pueden ignorar la construcci¨®n de un conjunto de reglas estrictas para limitarlas¡±, resume Lorenzo Dami, graduado en la Universidad de Florencia y autor de un trabajo recogido en Research Gate.

Pornograf¨ªa no consentida

Los v¨ªdeos hiperrealistas falsos afectan principalmente a las mujeres. Seg¨²n Sensity AI, una compa?¨ªa de investigaci¨®n que rastrea v¨ªdeos hiperrealistas falsos en internet, entre el 90% y el 95% de ellos son pornograf¨ªa sin consentimiento y nueve de cada 10 de estos se refieren a mujeres. ¡°Este es un problema de violencia machista¡±, afirma al Instituto Tecnol¨®gico de Massachusetts (MIT) Adam Dodge, fundador de EndTAB, una organizaci¨®n sin ¨¢nimo de lucro para la educaci¨®n en usos tecnol¨®gicos.

El Instituto Europeo para la Igualdad de G¨¦nero tambi¨¦n lo considera as¨ª e incluye estas creaciones en su informe sobre ciberviolencia contra las mujeres como una forma m¨¢s de agresi¨®n machista.

La normativa va muy por detr¨¢s de los avances tecnol¨®gicos que hacen posibles las creaciones deepfake. La regulaci¨®n de la inteligencia artificial (AI Act) de la Comisi¨®n Europea a¨²n es una propuesta y en Espa?a est¨¢ pendiente el desarrollo de la agencia estatal para la supervisi¨®n de la inteligencia artificial. ¡°La tecnolog¨ªa, una vez desarrollada, no hay quien la pare. La podemos regular, atemperar, pero llegamos tarde¡±, advierte Felipe G¨®mez-Pallete, presidente de Calidad y Cultura Democr¨¢ticas.

Algunas empresas se han adelantado para evitar ser parte de actos delictivos. Dall-e, una de las aplicaciones de creaci¨®n digital, advierte que ha ¡°limitado la capacidad para generar im¨¢genes violentas, de odio o adultas¡± y ha desarrollado tecnolog¨ªas para ¡°evitar generaciones fotorrealistas de rostros de individuos reales, incluidos los de figuras p¨²blicas¡±. Tambi¨¦n lo hacen otras populares aplicaciones de inteligencia artificial para creaciones audiovisuales o de reproducci¨®n de v¨ªdeos. Un grupo de 10 empresas ha firmado un cat¨¢logo de directrices sobre c¨®mo construir, crear y compartir contenidos generados por IA de forma responsable. Pero otras muchas saltan a sencillas aplicaciones m¨®viles o campan libremente por la red, incluidas algunas expulsadas de sus servidores originales, como la que se populariz¨® con el lema ¡°Desnuda a tu amiga¡±, y se refugian en otras plataformas de c¨®digo abierto o de mensajer¨ªa.

El problema es complejo porque en ¨¦l confluyen la libertad de expresi¨®n y creaci¨®n con la protecci¨®n de la intimidad y la integridad moral. ¡°El derecho no regula una tecnolog¨ªa, sino lo que se puede hacer con la tecnolog¨ªa¡±, advierte Borja Adsuara, profesor universitario y experto en derecho digital, privacidad y protecci¨®n de datos. ¡°Solo cuando una tecnolog¨ªa ¨²nicamente pueda tener un uso malo se puede prohibir. Pero el ¨²nico l¨ªmite a la libertad de expresi¨®n y de informaci¨®n es la ley. No hay que prohibir una tecnolog¨ªa porque puede ser peligrosa. Lo que hay que perseguir son los malos usos¡±, a?ade.

La resurrecci¨®n virtual de Lola Flores

En este sentido, Lorenzo Dami identifica usos positivos y negativos de esta tecnolog¨ªa. Entre los primeros destaca su utilizaci¨®n para producciones audiovisuales, una mejor interacci¨®n entre m¨¢quinas y humanos, expresi¨®n creativa (incluida la sat¨ªrica), aplicaciones m¨¦dicas, cultura y educaci¨®n. Un ejemplo ha sido la viralizada resurrecci¨®n virtual de Lola Flores para una campa?a de publicidad, que se realiz¨® con consentimiento de sus descendientes.

En el otro lado de la balanza se encuentran las creaciones hiperrealistas para extorsi¨®n sexual, injuria, venganza pornogr¨¢fica, intimidaci¨®n, acoso, fraude, desacreditaci¨®n y falseamiento de la realidad, da?o reputacional y atentados de ¨ªndole econ¨®mica (alterar mercados), judicial (falsear pruebas) o contra la democracia y la seguridad nacional.

Sobre este ¨²ltimo aspecto, Venkatramanan Siva Subrahmanian, profesor de ciberseguridad y autor de Deepfakes y conflictos internacionales, advierte: ¡°La facilidad con la que se pueden desarrollar, as¨ª como su r¨¢pida difusi¨®n, apuntan hacia un mundo en el que todos los Estados y actores no estatales tendr¨¢n la capacidad de desplegar creaciones audiovisuales hiperrealistas en sus operaciones de seguridad e inteligencia¡±, advierte.

En este sentido, Adsuara cree que ¡°m¨¢s peligroso¡± que la falsa pornograf¨ªa, pese a su mayoritaria incidencia, es el potencial da?o a los sistemas democr¨¢ticos: ¡°Imagine que a tres d¨ªas de las elecciones aparece un v¨ªdeo de uno de los candidatos diciendo una barbaridad y no hay tiempo para desmentirlo o, aunque se desmienta, es imparable la viralidad. El problema de los deepfakes, como ocurre con los bulos, no es solo que son perfectos para que parezcan veros¨ªmiles, sino que la gente se los quiere creer porque coinciden con su sesgo ideol¨®gico y los redifunde sin contrastar, porque les gustan y quieren pensar que es verdad¡±.

Regulaci¨®n

La regulaci¨®n actual, seg¨²n el letrado, se fija en el resultado de las acciones y la intenci¨®n del delincuente. ¡°Si la escena nunca ha existido porque es falsa, no se est¨¢ descubriendo un secreto. Habr¨ªa que tratarlo como un caso de injurias o como delito contra la integridad moral al difundirlo con intenci¨®n de humillar p¨²blicamente a otra persona¡±, explica.

¡°La soluci¨®n podr¨ªa estar¡±, a?ade Adsuara, ¡°en aplicar una figura prevista en los casos de menores y que es la pseudopornograf¨ªa infantil¡±. ¡°Esto permitir¨ªa que los delitos contra la intimidad no incluyeran solo los v¨ªdeos reales, sino tambi¨¦n los realistas con im¨¢genes ¨ªntimas que se parezcan a las de una persona¡±.

Tambi¨¦n se pueden aplicar sistemas tecnol¨®gicos de identificaci¨®n, aunque cada vez es m¨¢s dif¨ªcil porque la inteligencia artificial tambi¨¦n desarrolla f¨®rmulas de eludirlos.

Otra v¨ªa es exigir que cualquier tipo de contenido hiperrealista est¨¦ claramente identificado como tal. ¡°Est¨¢ en la carta de derechos digitales, pero todav¨ªa no se ha aprobado el reglamento de inteligencia artificial¡±, explica el abogado.

En Espa?a es habitual este tipo de identificaci¨®n en los casos de pornograf¨ªa falseada para evitar problemas legales. ¡°Pero estas mujeres¡±, advierte Adsuara, ¡°tienen que soportar que su imagen se fusione en un contexto pornogr¨¢fico y va contra su derecho a la propia imagen: aunque no sea real, s¨ª es realista¡±.

Pese al evidente da?o de estos v¨ªdeos, las denuncias en Espa?a son escasas frente a las registradas en Estados Unidos, el Reino Unido o Corea del Sur, aunque la proliferaci¨®n de estos v¨ªdeos es proporcionalmente similar. El experto espa?ol en derecho digital cree que se le da menos importancia al ser evidente su falsedad y porque la denuncia en ocasiones solo sirve de altavoz para el delincuente, que busca precisamente eso. ¡°Adem¨¢s¡±, lamenta, ¡°esta sociedad est¨¢ tan enferma que no lo percibimos como malo y, en vez de defender a la v¨ªctima, se la humilla¡±.

Josep Coll, director de RepScan, una empresa dedicada a eliminar la informaci¨®n perjudicial en internet, tambi¨¦n confirma la escasez de denuncias por parte de personajes p¨²blicos afectados por v¨ªdeos falsos. Sin embargo, s¨ª se?ala que abordan muchos intentos de extorsi¨®n con ellos. Relata el caso de un empresario de quien difundieron un v¨ªdeo falso e incluyeron im¨¢genes de un pa¨ªs al que hab¨ªa ido recientemente para sembrar las dudas entre aquellos de su c¨ªrculo que conoc¨ªan que el viaje se hab¨ªa producido. ¡°Y de pornovenganza¡±, comenta. ¡°De esos nos entran casos todos los d¨ªas¡±. ¡°En los casos de extorsi¨®n, buscan la reacci¨®n en caliente, que paguen por su retirada, aunque sepan que es falso¡±, a?ade.

Puedes escribirnos a rlimon@elpais.es, seguir a EL PA?S TECNOLOG?A en Facebook y Twitter y apuntarte aqu¨ª para recibir nuestra newsletter semanal.