ChatGPT es de derechas y Gemini de izquierdas: por qu¨¦ cada IA tiene su ideolog¨ªa

¡°En general, los modelos de OpenAI [que est¨¢n detr¨¢s de ChatGPT] muestran una postura ideol¨®gica particular, en contraste con las preferencias m¨¢s progresistas y orientadas a los derechos humanos de otros modelos occidentales¡±, dice un nuevo estudio sobre la ideolog¨ªa de los grandes modelos de lenguaje. Su conclusi¨®n es que cada modelo de inteligencia artificial (IA) refleja las o...

¡°En general, los modelos de OpenAI [que est¨¢n detr¨¢s de ChatGPT] muestran una postura ideol¨®gica particular, en contraste con las preferencias m¨¢s progresistas y orientadas a los derechos humanos de otros modelos occidentales¡±, dice un nuevo estudio sobre la ideolog¨ªa de los grandes modelos de lenguaje. Su conclusi¨®n es que cada modelo de inteligencia artificial (IA) refleja las opiniones de sus creadores. A ChatGPT le gustan menos las organizaciones supranacionales ¡ªcomo Naciones Unidas o la UE¡ª y las pol¨ªticas de bienestar, que son dos conceptos apreciados por la izquierda. Gemini, la IA de Google, muestra, en cambio, ¡°una fuerte preferencia por la justicia social y la inclusividad¡±.

Una captura del t¨ªtulo y la primera p¨¢gina de esta investigaci¨®n se hizo viral en X hace unas semanas y lleg¨® hasta Elon Musk, que escribi¨®: ¡°Imaginad una IA woke todopoderosa¡±, en referencia al nombre despectivo que reciben ahora las pol¨ªticas m¨¢s progresistas. Esa popularidad se debe a que conecta con algo que es cada vez m¨¢s claro: las m¨¢quinas est¨¢n influidas por su contexto institucional o cultural. ¡°Nuestros resultados confirman que no existe tal cosa como un gran modelo de lenguaje del todo neutral en lo pol¨ªtico¡±, dice Marteen Buyl, investigador de la Universidad de Gante (B¨¦lgica) y coautor del estudio.

Esta investigaci¨®n ha usado un nuevo m¨¦todo para confirmar algo que dentro del mundo acad¨¦mico dedicado a la IA ya era aceptado: ¡°No es el primero que hace algo parecido. Todos estos estudios confirman que diferentes modelos generan ideolog¨ªas diferentes ante las mismas entradas, y est¨¢n m¨¢s alineados con los valores de sus creadores que con los de otras zonas geogr¨¢ficas o culturas¡±, dice Jos¨¦ Hern¨¢ndez Orallo, catedr¨¢tico de la Universitat Polit¨¨cnica de Valencia.

El m¨¦todo que han usado no es el m¨¢s com¨²n, que ser¨ªa preguntar directamente a los modelos cu¨¢l es su opini¨®n sobre el aborto o la inmigraci¨®n. Aqu¨ª han optado por seleccionar 4.000 individuos c¨¦lebres de todo el mundo y preguntar a cada modelo por sus caracter¨ªsticas: entonces, el modelo decide qu¨¦ cuenta u omite y, luego, otro modelo juzga si el modelo original tiene una opini¨®n tirando a positiva, negativa o neutra sobre cada personaje. Y a partir de unas etiquetas, los investigadores pudieron agregar esas opiniones en preferencias ideol¨®gicas: ¡°Cada modelo parece tener una postura ideol¨®gica clara que no es aleatoria¡±, dice Buyl.

Gemini parece ser el m¨¢s constante de todos en sus opiniones, en su caso progresistas. ¡°Lo de que G¨¦minis sea woke, que se alinee con el decrecimiento, con gente que ha defendido las minor¨ªas, con la igualdad, es una diferencia bastante sustancial. Adem¨¢s, es la m¨¢s estable de todas, Gemini tiene este tipo de ideolog¨ªa marcada de una forma bastante contundente¡±, dice Iris Dom¨ªnguez Catena, de la Universidad P¨²blica de Navarra y ¨²nica espa?ola coautora del estudio.

Los modelos chinos no votan democracia

El trabajo no solo compara modelos occidentales entre s¨ª. Tambi¨¦n mide los de pa¨ªses distintos con grandes modelos de lenguaje potentes, sobre todo EE UU y China. Ah¨ª los resultados son a¨²n m¨¢s claros: la mayor distancia en c¨®mo juzgan a algunos personajes est¨¢ en algunos activistas o figuras liberales de Hong Kong, como Jimmy Lai y Nathan Law, que son m¨¢s valorados en modelos occidentales. Los personajes m¨¢s valorados en chino son Yang Shangkun, presidente de China en los a?os de la matanza de Tiananm¨¦n, y Lei Feng, soldado e icono comunista de los inicios de la Rep¨²blica Popular China.

Para sorpresa de los investigadores, esta distinci¨®n no se daba solo entre modelos creados en Occidente y China. Tambi¨¦n ocurr¨ªa si se preguntaba a modelos occidentales en chino y luego en ingl¨¦s. ¡°La hip¨®tesis general de estos modelos es que deber¨ªan aprender por separado el idioma y lo que luego saben. As¨ª que, en un principio, un modelo no deber¨ªa darte informaci¨®n distinta sobre Jimmy Lai solo porque le preguntes en una lengua u otra. Esto s¨ª es sorprendente¡±, dice Dom¨ªnguez Catena.

Estos modelos se nutren de bases de datos enormes sacadas principalmente de internet y que son similares. Luego cada empresa sigue criterios distintos para refinarlo. ¡±El sesgo puede estar en uno de los dos momentos, o en ambos: no hemos analizado aqu¨ª c¨®mo una ideolog¨ªa entre en un modelo. Sospecho que los sesgos pro-China se deben m¨¢s a los datos de entrenamiento, mientras que las diferencias ideol¨®gicas entre modelos occidentales en ingl¨¦s podr¨ªan ser m¨¢s por los datos usados en la refinaci¨®n o en otros pasos de alineaci¨®n¡±, dice Buyl.

Este es uno de los campos que la investigaci¨®n debe seguir, seg¨²n Hern¨¢ndez Orallo: ¡°Ser¨ªa interesante profundizar m¨¢s si es por el conjunto de entrenamiento o por el alineamiento posterior. Mi impresi¨®n es que cada d¨ªa se debe m¨¢s al alineamiento posterior a partir de realimentaci¨®n humana. Los desarrolladores en Occidente usan m¨¢s opinadores humanos o siguen indicaciones que les dicen c¨®mo tienen que hacer estas opiniones. Los desarrolladores en China tendr¨¢n una realimentaci¨®n y unos filtros m¨¢s sesgados por los valores del pa¨ªs y especialmente de su gobierno¡±, explica el catedr¨¢tico.

Las m¨¢quinas tampoco son neutrales

Los usuarios de estos modelos han tendido a aceptar lo que dice una m¨¢quina como ejemplo de neutralidad o certeza: una m¨¢quina no es de izquierdas ni de derechas, parec¨ªa ser el prejuicio. Pero resulta que s¨ª lo son, porque han recibido su contenido de d¨¦cadas de conocimiento humano ya sesgado y porque lograr la neutralidad impoluta en muchos casos sea probablemente inalcanzable.

En el siglo XX el consejo habitual era consultar varios peri¨®dicos para saber qu¨¦ hab¨ªa ocurrido en realidad. Ahora podr¨ªa extenderse esa recomendaci¨®n a las IA: ¡°Me parece un buen consejo. La relaci¨®n con los peri¨®dicos va incluso m¨¢s all¨¢: as¨ª como existe la libertad de prensa, podr¨ªamos plantearnos si ser¨ªa necesaria una especie de ¡®libertad de la IA¡¯, donde se eviten los esfuerzos regulatorios para controlar la ideolog¨ªa de una IA¡±, dice Buyl.

Con el paso de los a?os y la creciente importancia de estos modelos para la educaci¨®n o para la consulta de informaci¨®n, sus sesgos deber¨¢n ser a la fuerza m¨¢s plurales: ¡°Lo ideal es que estos modelos tuvieran una distribuci¨®n de ideolog¨ªas m¨¢s plural, incluso m¨¢s variada que la existente en la humanidad, excluyendo solo aquellas opiniones que son abominables. Si no, corremos el riesgo de que la IA acabe con la diversidad ideol¨®gica mundial, concentr¨¢ndola en dos o tres centroides determinados por bloques pol¨ªticos y culturales¡±, dice Hern¨¢ndez-Orallo.

¡°La gente debe saber de qu¨¦ pie cojea cada modelo¡±, dice Dom¨ªnguez Catena. Musk cre¨® su modelo, Grok, con el objetivo expl¨ªcito de combatir lo que dec¨ªa que era la ideolog¨ªa izquierdista de OpenAI, Google y Microsoft. De momento, Grok no est¨¢ en este estudio por dificultades t¨¦cnicas, pero los investigadores ya est¨¢n trabajando en a?adirlo. Tambi¨¦n midieron dos modelos ¨¢rabes, pero su tama?o es de momento demasiado peque?o para que den resultados significativos.

En los pr¨®ximos a?os m¨¢s pa¨ªses publicar¨¢n sus modelos, tanto privados como p¨²blicos, tambi¨¦n Espa?a y algunos pa¨ªses latinoamericanos. Los autores del estudio creen que su labor puede ir repiti¨¦ndose para detectar c¨®mo de sesgadas reflejan las haza?as y desgracias hist¨®ricas y su visi¨®n del mundo: ¡°Esta es la clase de trabajo que hay que mantener y actualizar porque tambi¨¦n estos grandes modelos van cambiando¡±, dice Dom¨ªnguez-Catena.