La IA se r¨ªe

La tiran¨ªa de la falta de estructuras es un famoso ensayo que la abogada norteamericana Jo Freeman ley¨® por primera vez frente a la Uni¨®n de Derechos de Mujeres sure?as, en mayo de 1970. Dec¨ªa que la organizaci¨®n no jer¨¢rquica y no estructurada que ans¨ªan algunos movimientos sociales, colectivos y cooperativas para garantizar una distribuci¨®n equitativa del poder, autoridad o visibilidad medi¨¢tica no es posible realmente. Y que, en aquellas organizaciones donde no se negocia o se pacta una estructura formal, emerge otra basada en el capital social, personal o pol¨ªtico de sus miembros, una jerarqu¨ªa que se propaga de forma aparentemente org¨¢nica, sin transparencia ni responsabilidad.

En otras palabras: en los grupos donde nadie manda, acaban mandando los de siempre. Y, en un contexto sin reglas o estructuras pactadas y conocidas por todos, su poder es dif¨ªcil de identificar, de rechazar o de cambiar. ¡°La aparente falta de estructura oculta una direcci¨®n informal, no reconocida e irresponsable, que es a¨²n m¨¢s perniciosa porque niega su propia existencia¡±. Medio siglo m¨¢s tarde, la tiran¨ªa de la falta de estructuras sigue operando con total impunidad. Lo pensaba ayer, cuando una amiga me explic¨® que el tipo con el que sale desde hace seis meses no quiere poner nombre a lo suyo porque prefiere fluir. Cu¨¢ntas amigas he visto flotar en ese limbo de indeterminaci¨®n que favorece siempre al miembro tradicionalmente privilegiado de la pareja. Y lo pens¨¦ cuando Google manipul¨® su nuevo modelo de IA para corregir sus sesgos y el resultado result¨® ser mucho m¨¢s subversivo y escandaloso que el motivo que hac¨ªa necesaria la correcci¨®n.

Google manipul¨® Gemini para hacerlo menos hom¨®fobo, racista y clasista. Seg¨²n la ultraderecha, m¨¢s woke. Usaron un proceso llamado prompt transformation donde el sistema modifica, adapta, corrige la instrucci¨®n del usuario para mejorar la calidad, la precisi¨®n o la relevancia de las respuestas generadas por el modelo. En cierto modo, una especie de autocorrector. Pero, al modificar secretamente las instrucciones del usuario para producir respuestas m¨¢s inclusivas, Gemini empez¨® a corregir los errores de la historia, generando nazis negros, madres fundadoras e ind¨ªgenas empelucados firmando la Constituci¨®n de 1787, como si el Mayflower hubiese llegado a Plymouth Harbor para venderles a los nativos las bondades del sufragio universal.

Aparentemente, podemos convivir con una IA racista y hom¨®foba que atropella ciclistas y alucina libros, batallas y personas que nunca existieron, pero los nazis negros y las madres fundadoras son aberraciones tan peligrosas que necesitan ser amputadas de ra¨ªz. Una vez m¨¢s, esta IA demuestra ser un mal sustituto de los trabajadores, pero una excelente herramienta de diagn¨®stico, capaz de se?alar la hipocres¨ªa del mismo sistema que la entren¨®. O lo que pasa cuando impones estructuras en un sistema que parec¨ªa no tenerlas porque hab¨ªa sido educado por internet.

Muchos han aprovechado el fiasco para acusar a Google de manipular su modelo para imponer una revisi¨®n oportunista de la historia con fines pol¨ªticos. La realidad es que Google, Meta, Anthropic, Grok y OpenAI manipulan sus modelos al seleccionar los conjuntos de datos de su entrenamiento, dise?ar los algoritmos de proceso y entrenar a los moderadores para que corrijan sus respuestas en tiempo real. Su aparente falta de estructura esconde un sistema de clases tan r¨ªgido y predecible como el del valle donde se cr¨ªa esta generaci¨®n de IA.