As¨ª era el fin del mundo: madres frente a la inteligencia artificial y los nativos patriarcales

¡°Inventar el velero es inventar el naufragio. Inventar el tren es inventar el accidente ferroviario por descarrilamiento¡±, escrib¨ªa el fil¨®sofo Paul Virilio para expresar que todo desarrollo tecnol¨®gico genera, adem¨¢s de avances, sus propios accidentes. Mientras pol¨ªticos, magnates y medios de comunicaci¨®n todav¨ªa nos preguntamos qu¨¦ es la inteligencia artificial (IA), un tren ha descarrilado en el patio de un instituto extreme?o. ¡°?Puede ser el fin del mundo?¡±, reflexionamos, mientras la vida de varias ni?as de Almendralejo quedaba al borde del precipicio, con sus falsos desnudos circulando de dispositivo en dispositivo.

Ha sido una coincidencia formidable la que hemos vivido. El mismo d¨ªa en que la ¡°realeza tecnol¨®gica¡± en pleno acud¨ªa encorbatada al Senado de EE UU para debatir sobre los peligros existenciales de las m¨¢quinas inteligentes, las madres de Almendralejo se organizaban contra la vileza que acosaba a sus hijas. Justo cuando los hombres m¨¢s ricos del planeta pontificaban a puerta cerrada sobre el futuro de la humanidad, estas mujeres articulaban un grupo de autodefensa frente al accidente ferroviario que golpeaba sus vidas. Elon Musk (X), Sam Altman (OpenAI), Mark Zuckerberg (Meta), Satya Nadella (Microsoft) y Sundar Pichai (Google) se reunieron para regular la IA mirando al horizonte; sus consecuencias reales, dolorosas y tangibles est¨¢n ya en los grupos de WhatsApp de una localidad pacense de poco m¨¢s de 30.000 habitantes. De momento, que sepamos.

En los ¨²ltimos meses, los desarrolladores de esta tecnolog¨ªa y los magnates que la impulsan han firmado cartas y manifiestos hablando de poner freno a los peligros de las m¨¢quinas pensantes. En ellas hablan de ¡°mentes poderosas¡± fuera de control, de ¡°cambio profundo en la historia de la vida en la Tierra¡±, de ¡°riesgo de extinci¨®n¡± a la altura de las guerras nucleares. Ni una palabra sobre los millones de mujeres pornificadas contra su voluntad. Uno de los padres de esta ciencia, Geoffrey Hinton, abandon¨® Google para dedicarse a alertar de los riesgos abstractos de su creaci¨®n; cuando le preguntaron por estos otros peligros tangibles, les rest¨® importancia.

Pero el problema no es menor, ni tampoco es nuevo. En 2019, el Pleistoceno en t¨¦rminos tecnol¨®gicos, Barack Obama advert¨ªa del peligro que supon¨ªan para la democracia los deepfakes (recreaciones manipuladas de una persona real), que se hab¨ªan popularizado precisamente con un v¨ªdeo falso en el que ¨¦l mismo insultaba a Donald Trump. Tambi¨¦n ese a?o, los desarrolladores de la app Deepnude (juego de palabras con nude, desnudo en ingl¨¦s) decid¨ªan sacarla del mercado, a pesar de que se estaban forrando despu¨¦s de generar cientos de miles de im¨¢genes: ¡°La probabilidad de que la gente haga un mal uso es demasiado alta. No queremos ganar dinero de esta manera¡±. Se trataba de un arrepentimiento forzado por la prensa, que hab¨ªa denunciado esa app ¡°terror¨ªfica que desnuda a una mujer en un solo clic¡±.

Parece poco cre¨ªble que no imaginaran, al desarrollar la herramienta, que se iba a usar para destrozarle la vida a mujeres. Entre el 90% y el 95% de todos los deepfakes son ¡°porno no consentido¡± y el 90% afecta a mujeres, seg¨²n un trabajo que realiz¨® la compa?¨ªa Sensity AI en 2019. Ya es llamativo que sea de ese a?o el ¨²ltimo dato que tenemos, con todo lo que ha evolucionado este campo: en aquellos momentos las manipulaciones eran muy burdas, pero el realismo actual es atroz. Y lo es gracias en parte al desarrollo de modelos de IA generativa como Dall-E (de OpenAI, como ChatGPT), Midjournay y Stable Diffusion.

Paternalismo y servidores

Esta ¨²ltima, Stable Diffusion, apuesta por el c¨®digo abierto, es decir, permite reusar libremente su arquitectura b¨¢sica, lo que ha liberado al genio de la l¨¢mpara de los deepfakes que sexualizan a mujeres sin su consentimiento. La Red est¨¢ inundada de foros en los que explican c¨®mo aprovechar sus capacidades, de aplicaciones y canales en los que pornificar a mujeres, gratis o no. Emad Mostaque, responsable de esta empresa millonaria, tiene una respuesta para los cr¨ªticos, seg¨²n explic¨® al medio especializado TechCrunch: ¡°Un porcentaje de personas son simplemente desagradables y raras, pero as¨ª es la humanidad. De hecho, creemos que esta tecnolog¨ªa prevalecer¨¢, y la actitud paternalista y algo condescendiente de muchos aficionados a la IA es un error al no confiar en la sociedad¡±.

Sin embargo, su empresa mand¨® este mensaje a sus usuarios para defenderse de las cr¨ªticas: ¡°No generes nada que te avergonzar¨ªa mostrarle a tu madre¡±. Critica el paternalismo, pero usa el comod¨ªn de las madres, que bastante tienen con proteger a sus hijas frente a los desalmados. No es de extra?ar que, por lo general, en todas las encuestas las mujeres recelen de las nuevas tecnolog¨ªas mucho m¨¢s que los hombres.

Pero esas herramientas dependen del m¨²sculo tecnol¨®gico de los grandes: Google (Pichai), Amazon (Jeff Bezos), X (Musk) y Microsoft (Nadela) poseen herramientas y plataformas que impulsan el reciente aumento de la pornograf¨ªa deepfake, como denuncia Bloomberg: ¡°Google, por ejemplo, es el principal impulsor de tr¨¢fico hacia sitios deepfake ampliamente utilizados, mientras que los usuarios de X, antes conocido como Twitter, hacen circular regularmente ese contenido. Amazon, Cloudflare y GitHub de Microsoft brindan servicios de alojamiento cruciales para estos sitios¡±.

Estos d¨ªas ha coincidido otra tercera noticia: unos canteranos del Real Madrid que compart¨ªan v¨ªdeos sexuales de al menos dos chicas contra su voluntad. Quienes difund¨ªan los deepfakes en Almendralejo y estos aspirantes a futbolistas tienen al menos un par de cosas en com¨²n: la cosificaci¨®n de las chicas que les rodean y la juventud. Supuestamente, se manejan a la perfecci¨®n con herramientas tecnol¨®gicas porque son nativos digitales, un t¨¦rmino que en los medios compramos durante a?os. Ahora ya nos consta que estas herramientas hay que aprender a usarlas, que nadie nace sabiendo wasapear, photoshopear o pornificar.

A toda esa generaci¨®n, que tiene tecnolog¨ªas en su mano que sus progenitores incluso desconocen, hay que ense?arles a usarlas y c¨®mo usarlas: no solo qu¨¦ bot¨®n apretar para editar una foto, sino qu¨¦ comportamientos son t¨®xicos, indeseables, imperdonables. En l¨ªnea y en persona. Los chavales viven en ese entorno tecnol¨®gico, pero no son nativos digitales, sino nativos patriarcales, por su cosificaci¨®n y desprecio por las chicas. Hay que instruirles en el uso de las tecnolog¨ªas y hacerlo implica ense?arles valores, humanidad y respeto a las mujeres. Educar a los cr¨ªos que difunden estas im¨¢genes, s¨ª, pero tambi¨¦n a quienes monetizan estas herramientas, desarrollan las apps y se lavan las manos con sus consecuencias cuando descarrila el tren y solo se lleva por delante a unas adolescentes.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.