No si es mi hija: el usuario de porno ¡®deepfake¡¯ lo ve sin reparo, pero lo denunciar¨ªa si la v¨ªctima fuera de su entorno

Todav¨ªa no era primera ministra italiana, pero ya era popular cuando hace cuatro a?os se public¨® un v¨ªdeo pornogr¨¢fico falso con la cara de Giorgia Meloni en el cuerpo de otra mujer. El pr¨®ximo 2 de julio est¨¢ llamada a declarar en una demanda contra los implicados, un hombre de 40 a?os, que elabor¨® las im¨¢genes, y su padre de 73, que prest¨® la l¨ªnea para publicarlo. Les reclama 100.000 euros como ¡°medida simb¨®lica ejem...

Todav¨ªa no era primera ministra italiana, pero ya era popular cuando hace cuatro a?os se public¨® un v¨ªdeo pornogr¨¢fico falso con la cara de Giorgia Meloni en el cuerpo de otra mujer. El pr¨®ximo 2 de julio est¨¢ llamada a declarar en una demanda contra los implicados, un hombre de 40 a?os, que elabor¨® las im¨¢genes, y su padre de 73, que prest¨® la l¨ªnea para publicarlo. Les reclama 100.000 euros como ¡°medida simb¨®lica ejemplar¡± que ¡°contribuya a la protecci¨®n de las mujeres blanco de este tipo de delitos¡±, seg¨²n la abogada Maria Giulia Marongiu. Los deepfakes, materiales audiovisuales falsos hiperrealistas, se duplican cada a?o desde que se registr¨® la primera denuncia en 2017 por desnudos no consentidos y poco han cambiado desde entonces. Una investigaci¨®n de Home Security Heroes (HSH) ratifica un panorama ya identificado: el 98% es pornograf¨ªa y 99 de cada 100 v¨ªctimas son mujeres y casi todas populares.

El cambio m¨¢s radical ha sido tecnol¨®gico. Si en un principio se precisaban conocimientos de inform¨¢tica y edici¨®n de im¨¢genes, ahora, una de cada tres herramientas disponibles permite elaborar creaciones falsas en menos de 25 minutos y a coste cero. Google, que sirve como indicador al ser el buscador predominante, ha retirado, seg¨²n su ¨²ltimo informe de transparencia, 8.000 millones de enlaces. Miles de ellos son p¨¢ginas de deepfakes, concentradas en dos portales, seg¨²n la base de datos Lumen de la Universidad de Harvard. Las tecnol¨®gicas, obligadas por las nuevas leyes, comienzan a actuar.

La accesibilidad de las herramientas (60% en l¨ªnea y el 40% descargable) se une a las motivaciones de los abusadores, que se autoconvencen de que solo lo hacen por curiosidad, la atracci¨®n por las famosas, como el caso de la cantante Taylor Swift, y la visualizaci¨®n de una fantas¨ªa, seg¨²n HSH. Esta pueril percepci¨®n lleva a que un 74% de los usuarios (seg¨²n una encuesta con 1.522 participantes masculinos) no se sienta culpable.

Pero esta supuesta ingenuidad es tan falsa como el material que consumen. ¡°Es un problema de violencia machista¡±, afirma al Instituto Tecnol¨®gico de Massachusetts (MIT) Adam Dodge, fundador de EndTAB, una organizaci¨®n sin ¨¢nimo de lucro para la educaci¨®n en usos tecnol¨®gicos. La Directiva de la UE relativa a la lucha contra la violencia contra las mujeres incluye estas creaciones como agresi¨®n.

Y la percepci¨®n de este ataque es tan clara que hasta la gran mayor¨ªa de los usuarios de deepfakes, seg¨²n el estudio de HSH, haciendo un alarde de hipocres¨ªa, los denunciar¨ªa si la v¨ªctima fuera alguien cercano (73%) y se sentir¨ªa ¡°conmocionado e indignado¡± (68%) por la violaci¨®n de su intimidad.

El crecimiento de los desnudos no consentidos se ha producido a pesar de leyes que condenan estas pr¨¢cticas y amparan a las v¨ªctimas frente a la alegada libertad de expresi¨®n que esgrimen los creadores de contenidos. ¡°Conforme al art¨ªculo 18.1 de la Constituci¨®n, los derechos al honor, a la intimidad personal y familiar y a la propia imagen tienen el rango de fundamentales (¡­) El art¨ªculo 20.4 dispone que el respeto de tales derechos constituye un l¨ªmite al ejercicio de las libertades de expresi¨®n¡±. As¨ª arranca la Ley Org¨¢nica 1/1982 que regula esta materia.

¡°Desde un punto de vista te¨®rico, ah¨ª hay un marco de referencia posible¡±, explica Ricard Mart¨ªnez, director de la C¨¢tedra de Privacidad y Transformaci¨®n Digital de la Universidad de Valencia. En Estados Unidos, la mayor¨ªa de las reclamaciones se amparan en la Digital Millennium Copyright Act (DMCA) de 1998.

¡°En el momento en que coges la imagen real de una persona, pero la modificas con cualquier intenci¨®n, hay una conducta instrumental que consiste en tratar su imagen sin consentimiento para un fin que no es l¨ªcito¡±, explica Mart¨ªnez. ¡°Otra cosa¡±, matiza, ¡°es un humorista que genera una imagen con ¨¢nimo sat¨ªrico y en un contexto claro¡±.

Pero estas normativas se han mostrado insuficientes, por lo que Europa aprob¨® en noviembre de 2022 (entr¨® en vigor el pasado mayo) las leyes de servicios y mercados digitales para ¡°proteger los derechos fundamentales de los usuarios y establecer unas condiciones de competencia equitativas para las empresas¡±. Estas normas obligan a las grandes empresas a colaborar en la evaluaci¨®n de riesgos, identificaci¨®n, notificaci¨®n y eliminaci¨®n de enlaces sospechosos.

¡°Hay dos sujetos importantes: el que ofrece la herramienta, que siempre dir¨¢ que su aplicaci¨®n no fue pensada para cometer un delito, y el que ofrece la creaci¨®n, el que hace de altavoz. La norma les impone deberes de colaboraci¨®n m¨¢s intensos a estos ¨²ltimos¡±, a?ade Mart¨ªnez.

Google admite las nuevas responsabilidades y, en una escueta respuesta por escrito, ante el incremento de reclamaciones, declara: ¡°Tenemos pol¨ªticas para la pornograf¨ªa deepfake no consensuada, por lo que las personas pueden eliminar este tipo de contenido que incluye su imagen de los resultados de b¨²squeda. Y estamos desarrollando activamente salvaguardas adicionales para ayudar a las personas afectadas. Por otra parte, tenemos un proceso de eliminaci¨®n que permite a los titulares de derechos proteger su trabajo en Internet¡±.

Meta tambi¨¦n est¨¢ en esta l¨ªnea. Nick Clegg, como presidente de asuntos globales, anunciaba el pasado 6 de febrero: ¡°Aplicamos etiquetas de Imaginado con IA a im¨¢genes fotorrealistas creadas con nuestra funci¨®n, pero tambi¨¦n queremos poder hacerlo con contenido creado con herramientas de otras empresas¡±. Se refiere a Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que implementen sus planes para agregar metadatos a las im¨¢genes creadas por sus herramientas.

Las grandes tecnol¨®gicas se van sumando as¨ª a la cruzada legal contra los deepfakes y a la reciente aprobaci¨®n de la ley europea de inteligencia artificial, que obliga a etiquetar de forma inequ¨ªvoca las creaciones desarrolladas con esta tecnolog¨ªa. El Gobierno de Estados Unidos tambi¨¦n avanza en esa direcci¨®n. ¡°Ya no se puede alegar que el uso del sistema o sus resultados responden al ejercicio de la libertad de expresi¨®n y de la libertad de creaci¨®n¡±, celebra el profesor valenciano.

¡°La preocupaci¨®n es com¨²n y empieza a ver una confluencia de intereses desde dos culturas jur¨ªdicas distintas. Empieza a lanzarse el mensaje a estas compa?¨ªas de que no todo vale, que no se pueden lavar las manos diciendo ¡®oiga, yo solo soy una plataforma y no puedo ser responsable de todo¡¯. Los proveedores de servicio de la sociedad de informaci¨®n tienen una influencia decisiva sobre la viralizaci¨®n de los contenidos que se muestran. No son un operador neutral o un mero contenedor. Ellos forman parte de la operaci¨®n, del juego¡±, concluye Ricard Mart¨ªnez.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.