C¨®mo el algoritmo ha arruinado tu bar favorito: ?estamos condenados a que todo se parezca a todo?

En los a?os ochenta el futur¨®logo Hans Moravec avis¨® de que, parad¨®jicamente, ser¨ªan las acciones que resultan m¨¢s sencillas para los humanos (como sostener una pieza de sushi con dos palillos) las que m¨¢s dificultades plantear¨ªan a robots y ordenadores. Del otro lado, tareas muy complejas como encontrar errores en la prescripci¨®n de medicamentos, distinguir cu¨¢ndo un telescopio espacial ha detectado algo interesante o elegir los regalos de navidad para toda la familia han terminado por resultar enormemente sencillas para los algoritmos.

¡°Eso ya lo hace la inteligencia artificial¡±, argumentamos cada vez m¨¢s a menudo. Pero seg¨²n la opini¨®n de miles de cient¨ªficos y fil¨®sofos, la etiqueta no es del todo apropiada. ¡°Ambas palabras (artificial e inteligente) son controvertidas y resultan muy sospechosas. Prefiero el t¨¦rmino aprendizaje autom¨¢tico, es m¨¢s f¨¢cil ver de qu¨¦ estamos hablando: sistemas que permiten a las m¨¢quinas aprender patrones o correlaciones y aplicarlos a nuevas situaciones y datos¡±, explica Justin Joque, profesor en la Universidad de Michigan y autor de Matem¨¢ticas Revolucionarias (Verso Libros, 2024).

¡°Es razonable que exista cierta confusi¨®n entre el gran p¨²blico porque son conceptos dif¨ªciles de entender para quien no tiene formaci¨®n matem¨¢tica. Hay mucho misticismo alrededor de la IA como existe en cualquier otro campo cient¨ªfico: estudios sobre c¨¢ncer, observatorios astron¨®micos cuando se habla de OVNIS¡­ Son cuestiones interesantes y sobre las que se divulga mucho, as¨ª que siempre hay quien genera morbo¡±, explica Celsa Pardo-Araujo, matem¨¢tica en el Instituto de Ciencias del Espacio cuyas investigaciones se centran en la aplicaci¨®n de machine learning a la astrof¨ªsica, que a?ade: ¡°Lo que tambi¨¦n est¨¢ claro es que Google, DeepMind o Microsoft est¨¢n haciendo unos algoritmos que solucionan problemas que antes no se pod¨ªan solucionar¡±.

Pero aqu¨ª llega la parte que nos afecta: adem¨¢s de resolver ciertos problemas y ser muy ¨²tiles en investigaci¨®n cient¨ªfica, los algoritmos tambi¨¦n est¨¢n generando contenido y, sobre todo, ordenando y jerarquizando todo el que hemos creado nosotros. Y ah¨ª cabe tanto el enorme conjunto de la cultura universal como la ¨²ltima foto que hemos hecho mientras desayun¨¢bamos. ?Qu¨¦ criterios usan? ?C¨®mo son esas creaciones? Eso es lo m¨¢s preocupante porque, tal y como demuestra Kyle Chayka en su ensayo Mundofiltro, el mapa (es decir, el algoritmo que premia unos contenidos sobre otros) ya est¨¢ afectando al territorio (es decir, a la forma de los propios contenidos y a la realidad por la que nos movemos, especialmente en las ciudades).

Chayka pone el ejemplo de las cafeter¨ªas que quieren parecer sofisticadas: si todas ofrecen los mismos productos y su decoraci¨®n es tan similar, si el p¨²blico que las visita se parece tanto en todo el mundo, es porque sus encargados est¨¢n siguiendo el modelo que impone Instagram cuando da prioridad a unas im¨¢genes sobre otras. Instagram atrae p¨²blico solo a los locales que suben fotos que encajan en su algoritmo, y esto es algo que est¨¢ ocurriendo en todos los ¨¢mbitos: ya hay m¨²sicos que ense?an a componer canciones para que se hagan virales en TikTok (por ejemplo, con el estribillo muy cerca del comienzo) y muchos ilustradores imitan el estilo Pixar independientemente de que les estimule (tambi¨¦n es usado por muchos generadores autom¨¢ticos de im¨¢genes) porque han comprobado que eso les ayuda a hacerse virales.

Un mundo cada vez m¨¢s parecido a s¨ª mismo

Mediante una investigaci¨®n emp¨ªrica llevada a cabo en Francia durante los a?os sesenta del s. XX, el soci¨®logo Pierre Bourdieu estudi¨® las ¡°bases sociales del gusto¡± y descubri¨® decenas de correlaciones entre cuestiones como el nivel de estudios, el tipo de empleo o la renta disponible (es decir, factores de clase social) y las preferencias est¨¦ticas. Hoy, cuando los algoritmos disponen de una informaci¨®n mucho m¨¢s precisa y personalizada sobre nuestros gustos (nosotros se la regalamos a todas horas) y algunas de sus sugerencias nos satisfacen (Spotify no suele equivocarse cuando nos dise?a una lista de reproducci¨®n), tenemos a¨²n as¨ª la sensaci¨®n de que muchas plataformas solo amplifican los peores contenidos, los m¨¢s sensacionalistas o enga?osos.

¡°El sistema de recomendaci¨®n de Youtube, por ejemplo, tendr¨¢ un n¨²cleo entrenado inicialmente con un determinado n¨²mero de usuarios y despu¨¦s va recibiendo feedback y reentren¨¢ndose con cada visualizaci¨®n¡±, explica Pardo-Araujo. ¡°Es cierto que los algoritmos reproducen muchos sesgos porque nunca puedes entrenar con toda la poblaci¨®n y hay que ser muy cuidadoso con ese proceso: las distribuciones deben ser representativas de la realidad. Pero es gracioso que generen tanta alarma los sesgos en los algoritmos, cuando todo el mundo tenemos tantos que deber¨ªamos eliminar tambi¨¦n de nuestras conciencias. Igual cuesta menos reconocerlos en los algoritmos que en nosotros mismos¡±, a?ade la matem¨¢tica, convencida de que los algoritmos reflejan lo que ya est¨¢ ocurriendo en la sociedad.

Pero, cuando se trata de algoritmos, la l¨ªnea entre adaptarse al gusto de los usuarios o modelarlo y dirigirlo, es muy delgada. Ah¨ª surge esa sensaci¨®n de que se nos muestra y recomienda una y otra vez una variaci¨®n de lo mismo. Por ejemplo, hay quien acusaba a Billie Eilish de escribir sus canciones pensando en TikTok, pero ?no es m¨¢s f¨¢cil creer que, de manera no intencionada, le salen as¨ª porque, con su edad, ha pasado horas expuesta a TikTok? Esta retroalimentaci¨®n algor¨ªtmica de tendencias ya existentes es la que m¨¢s preocupa en el mundo de la cultura. De hecho, este es el proceso que algunos autores como Chayka llaman ¡°aplanamiento de la cultura¡± y que da lugar a obras cada vez m¨¢s conservadoras. Los creadores, consciente o inconscientemente, est¨¢n reproduciendo los sesgos algor¨ªtmicos (que, a su vez, fueron los de artistas y usuarios anteriores).

A nivel t¨¦cnico, la introducci¨®n de muestras cada vez m¨¢s parecidas entre s¨ª (o directamente producidas por algoritmos anteriores) dentro de los sistemas constituye una amenaza importante para su evoluci¨®n. ¡°Los sistemas entrenados con varias generaciones de resultados de IA enseguida se vuelven absurdos. El riesgo de que el contenido de buena calidad, generado por humanos, se convierta en un recurso como el petr¨®leo o el carb¨®n es real. Por supuesto, a diferencia de los combustibles f¨®siles, los mismos corpus antiguos se pueden utilizar indefinidamente, pero para que los modelos mejoren necesitan nuevos y m¨¢s datos. Por lo tanto, los primeros descubrimientos son baratos y requieren poco refinamiento. Pero, a medida que se extraen las fuentes de siglos de texto, el coste de usar y refinar las reservas de menor calidad aumenta cada vez m¨¢s¡±, expone Joque.

En el plano art¨ªstico, los algoritmos ¡°retroalimentan constantemente la tendencia recurrente del momento¡±, se?ala Luis Demano, ilustrador y activista contra el uso abusivo de la IA generativa en su sector. ?l ha identificado cu¨¢les son las im¨¢genes que m¨¢s premian y reproducen los sistemas autom¨¢ticos: ¡°Suelen ser representaciones realistas cercanas a perfiles fotogr¨¢ficos y con un tratamiento crom¨¢tico muy caracter¨ªstico, forzando mucho los contrastes de iluminaci¨®n entre los tonos c¨¢lidos y fr¨ªos¡±. Adem¨¢s de ¨²til para reducir costes, Demano reconoce que ¡°entrar en el juego del algoritmo¡± puede llegar a ser gratificante para quien los usa: ¡°nos premia y nos hace sentir especiales con la atenci¨®n recibida. El ego es una droga muy poderosa¡±.

Ni art¨ªstico ni original: cuando el algoritmo crea y distribuye

Cuando las nociones de autor¨ªa y originalidad se desarrollaron tras la Ilustraci¨®n, el arte se convirti¨® en la pr¨¢ctica m¨¢s caracter¨ªstica de un nuevo tipo de individuo: creativo, aut¨®nomo y libre para elegir sus propias reglas y las que aplicar¨ªa a sus obras. Las reglas que utiliza la IA generativa para las obras que produce no tienen nada que ver con eso: son una aproximaci¨®n estad¨ªstica que aprovecha las caracter¨ªsticas de las obras con las que ha sido entrenada, as¨ª como datos sobre el funcionamiento del mercado de la atenci¨®n.

¡°Afirmo con rotundidad que las empresas tecnol¨®gicas roban obras protegidas por derechos de autor para entrenar sus modelos¡±, se queja Demano. Aunque la originalidad es una propiedad dif¨ªcil de definir, los fil¨®sofos lo tienen claro: no es algo que se pueda encontrar en los productos de la IA. ¡°La originalidad es una cuesti¨®n tanto de la obra de arte como del proceso de creaci¨®n de la misma¡±, explica Joque. ¡°Hace poco, ped¨ª a mis alumnos que leyeran el cuento Pierre Menard, autor del Quijote, de Borges. El relato describe al exc¨¦ntrico autor Menard, cuyo trabajo secreto es reescribir el Quijote palabra por palabra. Borges sugiere que escribir exactamente las mismas palabras en el s. XX cambia por completo la obra, ya que Menard les da un significado diferente al que les dio Cervantes al escribirlas a principios del s. XVII. Aunque Borges lo escribe un poco en broma, creo que sugiere que las condiciones en las que se crea el arte afectan a c¨®mo lo entendemos y si lo encontramos interesante. Incluso si una IA pudiera producir una obra al estilo de Rothko, hacerlo autom¨¢ticamente en el s. XXI nunca podr¨¢ compararse con lo que hizo Rothko en el s. XX¡±, desarrolla el profesor y fil¨®sofo.

Entonces, ?qu¨¦ es lo que hacen exactamente las IAs y por qu¨¦ todas sus obras o productos se parecen tanto entre s¨ª? Responde Demano: ¡°No est¨¢n dise?ada para crear arte, sino para generar contenido. La diferencia entre ambos t¨¦rminos la establece la funci¨®n que cumplen. El contenido sirve para que esa valla publicitaria infinita que es Internet pueda funcionar como negocio. La IA generativa es la soluci¨®n de la industria tecnol¨®gica para cubrir esta necesidad de la manera m¨¢s r¨¢pida y eficaz posible. Su mayor ¨¦xito ha sido hacernos creer que utilizarla puede convertirnos en artistas al instante, cuando en realidad somos clientes de un servicio de demanda de contenido¡±. As¨ª que, cuando encontramos un aire de familia en todo lo que generan o nos ofrecen los algoritmos, no estamos ante un sesgo malintencionado o ante una cuesti¨®n de estilo: se trata, simplemente, de una imposici¨®n del mercado.

Entender el funcionamiento de los algoritmos ayuda a entender que no tienen inclinaciones pol¨ªticas, sino que hacen circular aquello que nos provoca reacciones m¨¢s encendidas, que requiere menos concentraci¨®n o que se puede consumir m¨¢s deprisa. Cuando se diviniza el algoritmo, se olvida que este es un simple mecanismo, y que su desarrollo y funcionamiento implica a muchos sujetos humanos: quien encarga una programaci¨®n que maximice los beneficios, quien escribe ese c¨®digo cumpliendo con un encargo (seguramente un aut¨®nomo infrapagado), quien lo entrena, en muchos casos involuntariamente, con sus creaciones y quien lo ejecuta en su ordenador o tel¨¦fono y a la vez lo alimenta.

Por supuesto, no hay que culpar al usuario, pero tampoco al mecanismo tras el que se esconde el verdadero operador de todo este proceso: un empresario al que el tipo de contenidos que reproduce su plataforma le trae sin cuidado; o lo que es lo mismo: Amazon no distingue entre distribuir un ejemplar de Los hermanos Karamazov o del Libro Troll de elRubius. Marx escribi¨® que, con frecuencia, creemos que las estructuras sociales son objetos inamovibles o leyes naturales indiscutibles. Es una ilusi¨®n: todas las estructuras sociales y las construcciones cient¨ªficas e industriales (y la Inteligencia Artificial lo es) son consecuencia de nuestros actos y relaciones y, con la suficiente fuerza colectiva, pueden ser modificados.