La red se llena de porno ¡®deepfake¡¯ de Taylor Swift y muestra el peligro de la IA para las mujeres

Las redes se han llenado de im¨¢genes sexualmente expl¨ªcitas de una de las personas m¨¢s influyentes del momento: la cantante estadounidense Taylor Swift. Una vez m¨¢s, como lleva pasando mucho en los ¨²ltimos tiempos, no se trataba de fotos reales, sino de desnudos creados con inteligencia artificial (IA), deepfakes porno. Una de las publicaciones m¨¢s destacadas en la red social X ha llegado a acumular m¨¢s de 35 millones de visualizaciones, 24.000 reenv¨ªos y cientos de miles de me gusta, antes de que la plataforma interviniera para suspender la cuenta del usuario ¡ªverificado¡ª que comparti¨® las im¨¢genes, por violar las pol¨ªticas de la red. Pero ha circulado durante casi un d¨ªa, tiempo m¨¢s que suficiente para volver a encender las alertas sobre el peligro de la proliferaci¨®n de pornograf¨ªa falsa generada por IA que ataca a las mujeres. Y sobre el desaf¨ªo de detener su propagaci¨®n: Swift estar¨ªa estudiando si demandar a la web que primero colg¨® las im¨¢genes, seg¨²n el Daily Mail.

Bloquear la cuenta original de X tampoco fue suficiente para zanjar el asunto, ya que otras siguieron con la difusi¨®n de las im¨¢genes; algunas de las cuales todav¨ªa permanecen activas. El t¨¦rmino ¡°Taylor Swift AI¡± se convirti¨® en tendencia en algunas regiones, tanto que incluso X ha salido a recordar, a trav¨¦s de un post desde su cuenta oficial, su pol¨ªtica de ¡°tolerancia cero¡± hacia este tipo de contenido. ¡°Nuestros equipos est¨¢n eliminando activamente todas las im¨¢genes identificadas y tomando las medidas adecuadas contra las cuentas responsables de publicarlas. Estamos monitoreando de cerca la situaci¨®n para garantizar que cualquier otra infracci¨®n se aborde de inmediato y que el contenido se elimine. Estamos comprometidos a mantener un entorno seguro y respetuoso para todos los usuarios¡±, dice la publicaci¨®n.

No es la primera vez que pasa, tanto a celebridades como a mujeres an¨®nimas. Hace unos pocos meses, un grupo de menores en Almendralejo fue v¨ªctima de im¨¢genes manipuladas con una aplicaci¨®n de inteligencia artificial, un caso que tuvo repercusi¨®n en Espa?a y despert¨® el inter¨¦s p¨²blico sobre los problemas que pueden derivar de esta tecnolog¨ªa. Tambi¨¦n le pas¨® a Rosal¨ªa, que denunci¨® la publicaci¨®n de deepfake ¡ªun v¨ªdeo o una imagen est¨¢tica donde se sustituye el rostro de la imagen original por el de cualquier otra persona¡ª por parte del cantante JC Reyes. En M¨¦xico, la difusi¨®n de cientos de miles de im¨¢genes de las estudiantes provoc¨® una protesta masiva en el Instituto Polit¨¦cnico Nacional.

En el caso de Taylor Swift, el digital 404 Media apunta a que las im¨¢genes pueden haberse originado en un grupo en Telegram, donde los usuarios comparten im¨¢genes expl¨ªcitas de mujeres generadas por IA a trav¨¦s de un generador gratuito de Microsoft. El primero en haber difundido los deepfakes en X es un usuario que se esconde detr¨¢s de la cuenta @Zvbear, que ha tenido que hacer privada su cuenta con m¨¢s de 83.000 seguidores despu¨¦s que las swifties ¡ªcomo se les conoce a las seguidoras de la cantante¡ª hayan cargado contra ¨¦l.

Las fans de la cantante pop han criticado duramente a X por permitir que muchas de las publicaciones permanezcan activas durante tanto tiempo, y han utilizado el hashtag ¡°Taylor Swift IA¡± para promover clips reales de Swift, sepultando as¨ª las falsificaciones expl¨ªcitas. Seg¨²n algunos medios estadounidenses, el hombre detr¨¢s de @Zvbear es un ciudadano somal¨ª que reside en Canad¨¢ de 27 a?os, conocido por publicar contenido atrevido en plataformas como 4chan, X y Reddit. Est¨¢s im¨¢genes tambi¨¦n se han difundido en una web dedicada expresamente a la difusi¨®n de desnudos de mujeres famosas, en algunos casos im¨¢genes expl¨ªcitas de pel¨ªculas en las que participaron, pero no para de crecer el volumen de deepfakes porno que ya han afectado a celebridades como Meghan Markle, Megan Fox y Kate Upton.

El fen¨®meno de la pornificaci¨®n de las mujeres mediante inteligencia artificial se ha disparado en los ¨²ltimos meses, pero los hombres no muestran preocupaci¨®n, seg¨²n un reciente estudio sobre el estado de los deepfake realizado en Estados Unidos. El 48% de los hombres encuestados all¨ª reconoc¨ªa haber visto pornograf¨ªa falsa al menos una vez. De ellos, el 74% afirma no sentirse culpables por consumirla, lo que sugiere que el contenido deepfake se ha convertido en una pr¨¢ctica aceptada y normalizada de las preferencias de entretenimiento para adultos. Adem¨¢s, el 20% de los participantes en la encuesta se hab¨ªa planteado la posibilidad de aprender a crear pornograf¨ªa con inteligencia artificial para utilizarla con mujeres famosas o de su entorno.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.