La sexualizaci¨®n con IA de la mascota vaticana Luce y los l¨ªmites de la regla 34 de internet: todo se puede ¡®pornografiar¡¯

Cualquier mujer puede ser sexualizada sin consentimiento. Si el porno tuvo alguna vez l¨ªmites, aunque fueran d¨¦biles, la inteligencia artificial (IA) los ha destruido todos. Las primeras v¨ªctimas fueron famosas, pero la proliferaci¨®n de creaciones falsas con apariencia real (deepfakes) con herramientas cuya disponibilidad se ha multiplicado por 40 en solo a?o y medio, seg¨²n Naciones Unidas, ha extendido los objetivos. Ahora, cualquier pol¨ªtica, vecina o compa?era de clase o trabajo puede ver vulnerada su imagen. Una de las ¨²ltimas v¨ªctimas ni siquiera es real. Se trata de Luce, una mascota creada por Simone Legno, cofundador de Tokidoki, que quiere representar a una joven peregrina del pr¨®ximo Jubileo (a?o santo). En menos de 24 horas, las p¨¢ginas de creaciones con IA la han convertido en un icono sexual alegando que, de acuerdo con la oficiosa ¡°regla 34¡å de internet, ¡°todo puede convertirse en porno¡±.

La intenci¨®n del Vaticano era inmaculada. Present¨® su mascota (Luz en italiano) el pasado d¨ªa 30 en la apertura del Pabell¨®n de la Santa Sede en la Expo Osaka (Jap¨®n) del pr¨®ximo a?o como ¡°s¨ªmbolo de esperanza y fraternidad¡± para los j¨®venes, seg¨²n explic¨® el arzobispo Rino Fisichella, organizador del Jubileo. Pero en menos de 24 horas, las p¨¢ginas de im¨¢genes hechas con inteligencia artificial (se elude su identificaci¨®n para no promoverlas) abrieron la gabardina amarilla (color de la bandera vaticana) de Luce y la despojaron de sus botas manchadas del barro del camino para dejarla solo con sus s¨ªmbolos cat¨®licos y someterla a todo tipo de recreaciones pornogr¨¢ficas.

¡°Las mujeres son las canarias en la mina en relaci¨®n con el abuso de la inteligencia artificial. No va a ser solo la ni?a de 14 a?os o Taylor Swift, van a ser las pol¨ªticas, las l¨ªderes mundiales, las elecciones. Somos demasiado pocos y llegamos demasiado tarde, pero a¨²n podemos tratar de mitigar el desastre que est¨¢ surgiendo¡±, advierte Mary Anne Franks, profesora de la Universidad George Washington y presidenta de Derechos Civiles Cibern¨¦ticos.

La realidad le da la raz¨®n. Una p¨¢gina que recopila de forma constante incidentes de la IA se?ala hasta seis pol¨ªticas brit¨¢nicas v¨ªctimas de pornograf¨ªa deepfake durante a?os. La que ha sido candidata dem¨®crata a la presidencia de EE UU, Kamala Harris, cuenta con categor¨ªas propias en el mismo sitio que ha sexualizado la mascota vaticana y se ha convertido en objetivo de la violencia en l¨ªnea.

Pero no solo pol¨ªticas. El mismo registro de denuncias sobre abusos de la IA desvela un reguero de ni?as desnudadas por sus compa?eros en institutos a partir de im¨¢genes reales publicadas en las redes sociales. Y la v¨ªctima puede ser cualquiera, desde una vecina a una colega del trabajo.

El problema es de tal magnitud que Naciones Unidas cuenta con una unidad especializada en violencia de g¨¦nero facilitada por la tecnolog¨ªa (TFGBV, siglas de Technology Facilitated Gender Based Violence). Alexandra Robinson es una de sus asesoras y advierte: ¡°El n¨²mero de herramientas de IA disponibles para crear deepfakes ha aumentado de 5 a 200 en los ¨²ltimos 18 meses, lo que indica que estas tecnolog¨ªas y el intercambio no consensuado de im¨¢genes sint¨¦ticas se utilizan cada vez m¨¢s en la perpetraci¨®n de la violencia de g¨¦nero en el ¨¢mbito laboral¡±.

Estas tecnolog¨ªas [IA) y el intercambio no consensuado de im¨¢genes sint¨¦ticas se utilizan cada vez m¨¢s en la perpetraci¨®n de la violencia de g¨¦nero en el ¨¢mbito laboral

Alexandra Robinson, asesora en violencia tecnol¨®gica (TFGBV) para Naciones Unidas

¡°Crear un video pornogr¨¢fico deepfake de 60 segundos de cualquier persona usando solo una imagen facial clara lleva menos de 25 minutos y el coste es 0¡å, explica Robinson. Las v¨ªctimas, seg¨²n detalla, son mujeres en el 99% de los casos y en todos los ¨¢mbitos.

En este sentido, Alexandra Robinson llama la atenci¨®n sobre la extensi¨®n del problema: ¡°Las personas no famosas son objetivos de la violencia de g¨¦nero en l¨ªnea. Dondequiera que la tecnolog¨ªa est¨¦ disponible, se crea un espacio o una herramienta a trav¨¦s de la cual se puede perpetrar la violencia¡±. Lo avala con una investigaci¨®n de 2021 que eleva al 85% las mujeres que, en todo el mundo, han presenciado o experimentado (38%) violencia en l¨ªnea, principalmente personas racializadas, colectivo LGTBIQ+, pol¨ªticas, j¨®venes, activistas de los derechos humanos y periodistas, seg¨²n la encuesta CNN As Equals y Plan International.

En todos los casos, el objetivo es la violencia sexual a partir de cosificar, denigrar, vulnerar el derecho a la propia imagen, intimidar e incluso extorsionar. Pero cuando la v¨ªctima es una pol¨ªtica se a?aden intentos de silenciar y da?ar su reputaci¨®n personal para, al mismo tiempo, seg¨²n se?ala Robinson, ¡°erosionar la confianza en las instituciones democr¨¢ticas al utilizar la desinformaci¨®n de g¨¦nero para disuadir a las mujeres de participar en la pol¨ªtica¡±.

La pol¨¦mica ¡°regla 34¡å de internet

La p¨¢gina con m¨¢s recreaciones vejatorias de la mascota cat¨®lica se ampara en una popular ¡°norma¡± de internet, llamada ¡°regla 34¡å: ¡°Si algo existe, se puede pornografiar [recrear pornogr¨¢ficamente]¡±. Esta se complementa con la siguiente, que advierte de que, si hay algo que no se ha convertido en porno, lo estar¨¢¡±

Ricard Mart¨ªnez, director de la c¨¢tedra de Privacidad y Transformaci¨®n Digital y profesor de la Universidad de Valencia, lo rebate de forma tajante: ¡°No se puede sexualizar sin consentimiento ninguna imagen, aunque se especifique que es una recreaci¨®n. Todos y cada uno de nosotros tenemos reconocido el derecho a la propia imagen, a la vida privada y al honor. En los entornos digitales debemos entender esto desde un punto de vista pr¨¢ctico y material. Utilizar sin permiso la imagen de alguien para sexualizarla constituye un comportamiento il¨ªcito¡±.

Mart¨ªnez cree que implica a todo el espectro que incluya contenidos vejatorios, incluso aquellos que se quieran amparar en el ¡°animus iocandi¡±, caricaturas con intenci¨®n jocosa o de broma.

El experto en derecho realiza esta precisi¨®n para referirse a la sexualizaci¨®n de la mascota vaticana: ¡°Es obvio que la mascota est¨¢ amparada por los derechos de propiedad intelectual, pero no es la ¨²nica cuesti¨®n. Si tomas una mascota que es el emblema oficial de una actividad que, adem¨¢s, en este caso, es de car¨¢cter religioso o social, y la sexualizas, ridiculiz¨¢ndola, por un lado, alteras una imagen que est¨¢ sujeta a propiedad intelectual; pero, adem¨¢s, desde un punto de vista material, se sexualiza no solo una mascota, sino lo que representa. En este sentido, la afectaci¨®n de derechos va mucho m¨¢s all¨¢ e impacta directamente en la esfera de los derechos del colectivo al que representa¡±.

En el caso de la caricatura de mujeres del ¨¢mbito de la pol¨ªtica hay un terreno diferenciado entre el ejercicio de la libertad de expresi¨®n para contribuir a la formaci¨®n de una opini¨®n p¨²blica libre y la sexualizaci¨®n. ¡°Estar¨ªamos hablando de una conducta que lesiona su imagen p¨²blica, su honor y su intimidad y que, adem¨¢s, la perjudica y veja gravemente de manera instrumental. Adicionalmente, se produce un efecto multiplicador: como con la mascota, no solo estamos sexualizando a la persona o personaje sino todo aquello que representa¡±, advierte.

Al igual que Alexandra Robinson, la asesora de Naciones Unidas, y Anne Franks, la profesora de la Universidad George, Ricard Mart¨ªnez alerta del ¡°efecto devastador sobre la convivencia pol¨ªtica y ciudadana¡±. ¡°La intenci¨®n obvia es polarizar a la opini¨®n p¨²blica y generar alteraciones del orden p¨²blico y constitucional. Por tanto, hay un peligro ulterior de generar riesgos sist¨¦micos para la democracia¡±, explica.

De esta forma, los deepfakes no son una mera herramienta creativa, sino tambi¨¦n delictiva en muchos casos. Y para evitarlo, Mart¨ªnez no solo implica a la responsabilidad individual, ante la que reclama educaci¨®n digital y sexual, sino tambi¨¦n a las plataformas prestadoras de servicios digitales que facilitan su creaci¨®n y difusi¨®n, obligadas por ley a analizar y evitar de forma proactiva estas pr¨¢cticas.

¡°Se est¨¢ produciendo una sexualizaci¨®n de la mujer en internet, un repunte de los comportamientos machistas, una vuelta a una concepci¨®n cosificada e instrumental de ellas como puro objeto de placer al servicio del hombre en una espiral que deber¨ªa preocupar extraordinariamente y motivar reacciones contundentes¡±, concluye.

Robinson coincide: ¡°Hay varias formas de cambiar la violencia contra las mujeres en internet. En primer lugar, a trav¨¦s de la legislaci¨®n y la pol¨ªtica [la experta destaca la eSafety de Australia], pero tambi¨¦n a trav¨¦s de un mayor enfoque en la alfabetizaci¨®n digital y la aplicaci¨®n de la seguridad¡±

Tambi¨¦n se?ala herramientas como StopNCII, que permite a cualquier persona rastrear y eliminar im¨¢genes ¨ªntimas no consensuadas, ¡°limpiar el perfil digital para asegurarse de que estas no se puedan localizar, incluidas las redes sociales de amigos y familiares¡±.