El 96% de las im¨¢genes de Inteligencia Artificial son pornograf¨ªa no consentida: qui¨¦n jugar¨¢ con nuestros cuerpos sint¨¦ticos

C¨®mo nos preocupa el impacto incipiente de sus perfectas im¨¢genes falsas en las conspiraciones sanitarias, procesos electorales, el futuro de la democracia y nuestro sentido colectivo de la realidad. Casi todos los esfuerzos para combatir la desinformaci¨®n en administraciones, departamentos universitarios y organizaciones especializadas se concentran en dos manifestaciones. Por un lado, los agentes pol¨ªticos y sus campa?as de influencia a trav¨¦s de noticias falsas sobre econom¨ªa, covid o inmigraci¨®n. Por otro, las conspiraciones: antivacunas, QAnon, 5G, chemtrails. Sin embargo, el 96% de las i...

C¨®mo nos preocupa el impacto incipiente de sus perfectas im¨¢genes falsas en las conspiraciones sanitarias, procesos electorales, el futuro de la democracia y nuestro sentido colectivo de la realidad. Casi todos los esfuerzos para combatir la desinformaci¨®n en administraciones, departamentos universitarios y organizaciones especializadas se concentran en dos manifestaciones. Por un lado, los agentes pol¨ªticos y sus campa?as de influencia a trav¨¦s de noticias falsas sobre econom¨ªa, covid o inmigraci¨®n. Por otro, las conspiraciones: antivacunas, QAnon, 5G, chemtrails. Sin embargo, el 96% de las im¨¢genes generadas por Inteligencia Artificial son im¨¢genes de pornograf¨ªa no consentida. El 99% de las v¨ªctimas son mujeres. Es tan popular que tiene su propio g¨¦nero: revenge porn.

T¨¦cnicamente, no todo es sint¨¦tico. Antes la pornograf¨ªa no consentida era a menudo generada de forma voluntaria por al menos un miembro de la relaci¨®n para ser consumida en privado. Se convierte en revenge porn cuando es distribuida sin permiso fuera del contexto ¨ªntimo de la pareja. Los modelos generativos han democratizado el acceso a una nueva clase de intimidad sint¨¦tica, que se genera sin consentimiento y se produce sin ser detectada, porque no requiere colaboraci¨®n por parte de la v¨ªctima. En ese sentido, se parece m¨¢s a los sistemas de reconocimiento facial. Ambos se amparan en la opacidad de una plataforma para operar sin ser vistos, despreciando los derechos humanos m¨¢s b¨¢sicos. A diferencia del reconocimiento facial, el da?o es irreversible. No podemos borrar una imagen de la memoria humana como si fuera una base de datos.

Los especialistas en esa clase de violencia de g¨¦nero dicen que ¡°revenge porn¡± se queda peque?o. Muchos perpetradores son hombres despechados que buscan venganza contra una pareja, expareja o una mujer que nunca ser¨¢ su pareja. Quieren castigar, acosar, controlar. Otros quieren difamar y humillar a una compa?era de trabajo, jefa, candidata pol¨ªtica o cualquier profesional que aparezca en los medios para ¡°ponerla en su sitio¡± y boicotear su carrera. Otros buscan notoriedad y status, sugiriendo una intimidad que no ha ocurrido con alguien famoso. ¡°Esas fotos estaban editadas y creaste una falsa narrativa alrededor cuando ni te conozco¡±, le ha dicho Rosal¨ªa al hombre que ha distribuido fotos manipuladas de la cantante. Otros buscan dinero a trav¨¦s de la extorsi¨®n. Independientemente de sus motivaciones, todos colaboran con la misma causa: la opresi¨®n intolerable de las mujeres.

Las mujeres no son un colectivo, son la mitad de la poblaci¨®n. ?Por qu¨¦ el discurso de alarma contra los contenidos sint¨¦ticos ignora su principal manifestaci¨®n y a sus principales v¨ªctimas? Sophie Maddox, acad¨¦mica especializada en ciberviolencia de g¨¦nero, apunta dos clases de razones. La primera es una mezcla de tab¨² y discriminaci¨®n. La pornograf¨ªa es un tema que las instituciones no quieren tratar. Y el hecho de que afecte de forma casi exclusiva a las mujeres somete el problema a la misma clase de discriminaci¨®n que las leyes sobre el aborto y la violaci¨®n o la investigaci¨®n m¨¦dica. La segunda es mucho m¨¢s interesante: ¡°Un deepfake pol¨ªtico, como el discurso falso de un pol¨ªtico, amenaza la confianza en las instituciones pero la pornograf¨ªa sint¨¦tica no supone una amenaza contra la confianza y la verdad porque refuerza la jerarqu¨ªa preexistente ¨C explica Maddox. ¨C Relegitima la realidad de las mujeres como objetos sexuales y como personas que merecen ser menos cre¨ªdas que los hombres¡±. La desinformaci¨®n pol¨ªtica amenaza nuestro sentido de la realidad pero la ciberviolencia de g¨¦nero la consolida.

La pornograf¨ªa no consentida no es una de las amenazas existenciales que Sam Altman, CEO de OpenAI, incluye en su discurso para incentivar la creaci¨®n de una Agencia Internacional de Supervisi¨®n de la IA. Pero la mayor parte de los contenidos sint¨¦ticos se crean usando servicios comerciales como MidJourney o GPT-4, lo que sugiere soluciones disponibles en forma de moderaci¨®n. En otras palabras, la violencia digital contra las mujeres no es exactamente un problema t¨¦cnico. Es una estrategia de control.