De Rosal¨ªa al instituto: la inteligencia artificial generaliza la creaci¨®n de im¨¢genes pornogr¨¢ficas no consentidas

La detecci¨®n de fotograf¨ªas falsas de desnudos de adolescentes en Almendralejo (Badajoz) evidencia que la plaga de violencia machista con creaciones hiperrealistas de inteligencia artificial con fines maliciosos, especialmente pornogr¨¢ficos, ha llegado a Espa?a. Estados Unidos, Reino Unido y Corea del Sur est¨¢n a la cabeza en denuncias, pero los casos de la cantante Rosal¨ªa, v¨ªctima de otro cantante que difundi¨® un falso desnudo, y la modelo Laura Escanes, que denunci¨® un ataque similar, demuestran que esta lacra se ha asentado tambi¨¦n en Espa?a y se ha extendido a todos los ¨¢mbitos, incluidos grupos de menores. Las armas son aplicaciones de inteligencia artificial de f¨¢cil acceso, pese a las limitaciones que intentan imponer algunas compa?¨ªas.

El n¨²mero de estos contenidos en internet, conocidos como deepfakes, se duplica cada seis meses y acaparan m¨¢s de 134 millones de visualizaciones. En el 95% de los casos, la intenci¨®n es generar pornograf¨ªa sin consentimiento y las mujeres son las v¨ªctimas en nueve de cada 10 creaciones, seg¨²n Sensity AI, una compa?¨ªa de investigaci¨®n que rastrea v¨ªdeos hiperrealistas falsos en internet.

Un deepfake es un v¨ªdeo o una imagen est¨¢tica (tambi¨¦n puede ser sonido) donde se sustituye el rostro de la imagen original por el de cualquier otra persona, famosa o no. Se basan en t¨¦cnicas de aprendizaje mec¨¢nico profundo a ra¨ªz de algoritmos complejos que, una vez implementados en una aplicaci¨®n, son de f¨¢cil manejo.

La inteligencia artificial ha convertido este proceso en algo accesible. Esta recrea una secuencia aprendiendo de miles de im¨¢genes similares y utiliza redes neuronales generativas antag¨®nicas (GAN, por sus siglas en ingl¨¦s) para desarrollar patrones y facilitar que la reproducci¨®n sea hiperrealista. Ni siquiera es necesario disponer de un potente equipo personal para crearlos, ya que existen recursos en plataformas en la nube, en aplicaciones, webs e incluso por Telegram. Algunas compa?¨ªas como Google han lanzado una base de datos con miles de v¨ªdeos manipulados para desarrollar herramientas que detecten las falsificaciones.

Responsabilidad empresarial

Dall-e, una de las aplicaciones de creaci¨®n digital, asegura que ha ¡°limitado la capacidad para generar im¨¢genes violentas, de odio o adultas¡± y ha desarrollado tecnolog¨ªas para ¡°evitar generaciones fotorrealistas de rostros de individuos reales, incluidos los de figuras p¨²blicas¡±. Un grupo de 10 empresas ha firmado un cat¨¢logo de directrices sobre c¨®mo construir, crear y compartir contenidos generados por IA de forma responsable.

Pero muchas aplicaciones campan libremente por la Red o por plataformas de mensajer¨ªa o de c¨®digo abierto. Adem¨¢s, la misma inteligencia artificial que se aplica para crear las im¨¢genes facilita eludir los controles.

Los deepfakes m¨¢s conocidos afectan a personajes populares. Dos de las primeras famosas afectadas fueron las actrices Emma Watson y Natalie Portman. Pero se pueden crear con cualquier persona accediendo a sus im¨¢genes en redes sociales o rob¨¢ndolas de los equipos personales.

¡°Es crucial mantener las im¨¢genes protegidas y garantizar la privacidad, ya que muchos ciberdelincuentes pueden acceder a ellas a trav¨¦s de diversas t¨¦cnicas¡±, afirma Marc Rivero, investigador de seguridad de Kaspersky. Sin embargo, seg¨²n un informe de esta compa?¨ªa, el 43,5% de los espa?oles no protege las c¨¢maras de ninguno de sus dispositivos y tampoco sus im¨¢genes.

Ciberviolencia machista

La utilizaci¨®n de deepfakes de mujeres ¡°es un problema de violencia machista¡±, afirma al Instituto Tecnol¨®gico de Massachusetts (MIT) Adam Dodge, fundador de EndTAB, una organizaci¨®n sin ¨¢nimo de lucro para la educaci¨®n en usos tecnol¨®gicos.

El Instituto Europeo para la Igualdad de G¨¦nero tambi¨¦n lo considera as¨ª e incluye estas creaciones en su informe sobre ciberviolencia contra las mujeres como una forma m¨¢s de agresi¨®n machista.

¡°La violencia online no es m¨¢s que una continuaci¨®n de la violencia que se produce contra las mujeres y las chicas en el d¨ªa a d¨ªa. Esta se amplifica, se extiende y se agrava con el uso de internet y los dispositivos digitales¡±, explica Iris Luarasi, presidenta del Grupo Experto en la Lucha contra la Violencia contra la Mujer y la Violencia Dom¨¦stica (Grevio).

El Instituto Europeo para la Igualdad de G¨¦nero (EIGE, por sus siglas en ingl¨¦s) incluye entre los ataques ¡°emergentes¡± contra las mujeres ¡°la difusi¨®n de im¨¢genes falsas o la recepci¨®n de contenido sexual expl¨ªcito no requerido¡±.

Expertos como Borja Adsuara, profesor universitario especializado en derecho digital, abogan por la identificaci¨®n inequ¨ªvoca de los contenidos como falsos y por rastreadores autom¨¢ticos de estas creaciones. A su juicio, lo que separa el deepfake de una creaci¨®n personal amparada por la libertad de expresi¨®n es su verosimilitud y la finalidad. Adsuara explica que la regulaci¨®n actual se fija en el resultado de las acciones y la intenci¨®n del delincuente. ¡°Si la escena nunca ha existido porque es falsa, no se est¨¢ descubriendo un secreto. Habr¨ªa que tratarlo como un caso de injurias o como delito contra la integridad moral al difundirlo con intenci¨®n de humillar p¨²blicamente a otra persona¡±, explica.

El letrado apunta como una soluci¨®n que se incorpore el concepto de pseudopornograf¨ªa, que ya se aplica con menores. ¡°Esto permitir¨ªa que los delitos contra la intimidad no incluyeran solo los v¨ªdeos reales, sino tambi¨¦n los realistas con im¨¢genes ¨ªntimas que se parezcan a las de una persona¡±.

El pasado mayo, Junts per Catalunya present¨® una proposici¨®n de ley que abordaba la reforma del C¨®digo Penal para incluir la difusi¨®n de deepfakes, pero fue rechazada y relegada para su debate en la pr¨®xima legislatura. El texto propon¨ªa penas de prisi¨®n de seis meses a dos a?os para la divulgaci¨®n de estas creaciones por cualquier medio cuando ¡°menoscabe gravemente el honor o la intimidad¡±. Tambi¨¦n se ped¨ªa multa de uno a tres meses para quien, habi¨¦ndolas recibido por cualquier plataforma, ¡°las difunda, revele o ceda a terceros sin el consentimiento de la persona afectada.¡± La pena mayor se dirig¨ªa a c¨®nyuges o amistades, si exist¨ªa, adem¨¢s, ¨¢nimo de lucro, y cuando la v¨ªctima fuera menor de edad o una persona con discapacidad.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.