Viaje a la caja negra de la inteligencia artificial

[Esta pieza es una versi¨®n de uno de los env¨ªos de la newsletter semanal de Tendencias de EL PA?S, que sale todos los martes. Si quiere suscribirse, puede hacerlo a trav¨¦s de este enlace].

En un viejo relato de Isaac Asimov, los cient¨ªficos le preguntan al superordenador m¨¢s avanzado de su tiempo: ¡°?C¨®mo revertir el aumento de entrop¨ªa del universo?¡±. Ya sabes, veraneante lector, que la entrop¨ªa mide el desorden de un sistema, y que la segunda ley de la termodin¨¢mica es una especie de maldici¨®n divina por la que la entrop¨ªa est¨¢ condenada a crecer para siempre, y, por lo tanto, el cosmos se acabar¨¢ disipando en un perfecto desorden incompatible con la vida. Los cient¨ªficos de Asimov quer¨ªan impedir esa muerte t¨¦rmica del universo y, como no sab¨ªan hacerlo, le preguntaron a la m¨¢quina. No hubo respuesta.

Pero pasaron los milenios y los billones de a?os, los cient¨ªficos que hicieron la pregunta se hab¨ªan extinguido como toda la vida que habitaba en la galaxia y, sin embargo, la m¨¢quina segu¨ªa computando y computando hasta que, ya en un universo helado, disperso y oscuro, encontr¨® por fin la soluci¨®n y dijo: ¡°H¨¢gase la luz¡±.

Imaginemos ahora que le preguntamos a la m¨¢quina c¨®mo demonios ha hecho eso, y ella responde: ¡°Mis razonamientos han sido tan largos y sofisticados que no encuentro una forma de explic¨¢rselos; en cierto modo, ni yo misma los entiendo¡±. La m¨¢quina tiene raz¨®n, porque, en cierto modo, nosotros tampoco entendemos nuestros propios pensamientos. La inmensa mayor¨ªa de nuestra actividad mental es inconsciente, y no tenemos ni idea de lo que todo ese enjambre de neuronas est¨¢ haciendo mientras nosotros pensamos en otra cosa.

Lo mismo ocurre con la m¨¢quina. Los modelos grandes de lenguaje (large language models, LLM), como ChatGPT, Claude, Gemini y varios otros, no han averiguado c¨®mo revertir la entrop¨ªa del cosmos, pero han desconcertado a los expertos, incluidos sus propios creadores, por sus chocantes capacidades ling¨¹¨ªsticas, bioqu¨ªmicas y matem¨¢ticas.

Los cient¨ªficos de la computaci¨®n utilizan estos sistemas para escribir nuevos programas, y conocen muy bien sus grandes ventajas. AlphaFold, un sistema de Google DeepMind, predice de una tacada la estructura tridimensional de 200 millones de prote¨ªnas solo a partir de su secuencia, que es un texto. El uso de los LLM en los centros de investigaci¨®n y los hospitales es ya una realidad y va a crecer como la espuma, por la sencilla raz¨®n de que funciona muy bien.

Pero no le preguntes a un LLM c¨®mo ha alcanzado esos logros. No te responder¨¢, porque ni ¨¦l mismo lo sabe, igual que nosotros no sabemos de d¨®nde vienen nuestras ideas. Por eso se dice que la inteligencia artificial (IA) es una caja negra: sabes la informaci¨®n que le metes y la que te devuelve, pero la forma en que ha convertido la una en la otra est¨¢ en la parte opaca del proceso, la caja negra. No se trata de un complot de Silicon Valley, sino de una propiedad intr¨ªnseca del sistema. Nadie le ha preparado para explorar sus propias tripas y explicar sus estrategias.

Esto no es solo un problema acad¨¦mico ¡ªque lo es, y bien importante¡ª, sino que va a afectar a cuestiones muy delicadas de la vida de todo el mundo. Las empresas utilizan cada vez m¨¢s LLMs para seleccionar a sus empleados. Y para despedirlos. Algunos juzgados en Pa¨ªses Bajos y Estados Unidos los han usado para predecir si una persona con antecedentes va a volver a delinquir, o para sentenciar sobre los impagos a una empresa. Los m¨¦dicos se apoyan en la IA para sus diagn¨®sticos, y los bancos para decidir a qui¨¦n conceden una hipoteca. Y la m¨¢quina no sabe explicar c¨®mo ha tomado esas decisiones vitales. Una caja negra es justo lo contrario de la transparencia exigible a estas actividades.

Por fortuna, hay algunas investigaciones interesantes que pretenden echar un vistazo dentro de la caja negra, como un trabajo de Joshua Batson y sus colegas del MIT (Massachusetts Institute of Thechnology) y de Anthropic, una startup de inteligencia artificial. El t¨ªtulo de su paper promete ¡°extraer rasgos interpretables de Claude 3 Sonnet¡±, un LLM de la propia Anthropic.

Al igual que ocurre en nuestro cerebro, las expectativas m¨¢s simples sobre su funcionamiento fracasan estrepitosamente. No tenemos una neurona que codifique una palabra, sino toda una red de ellas que establece conexiones tanto locales como de larga distancia. En Claude pasa igual, que no hay una neurona artificial que signifique una palabra, sino toda una red neural. Una neurona artificial es una pieza de c¨®digo que procesa la informaci¨®n inspir¨¢ndose en la neurona natural: con muchos inputs (dendritas) y un solo output (ax¨®n), y modificando la fuerza de esas conexiones seg¨²n la experiencia. En este sentido, las neuronas artificiales resultan tan frustrantes como las naturales. No significan nada en s¨ª mismas, solo son parte de una red que significa algo.

Por ejemplo, una sola palabra se asocia (dentro de Claude) a un enjambre de neuronas activas, y una sola neurona se activa por muchas palabras distintas. Pero los cient¨ªficos de Anthropic han visto una forma de identificar grupos de neuronas activas muy peque?os, y han comprobado que se asocian con rasgos como una ciudad concreta, una persona, un animal, un elemento qu¨ªmico e incluso con conceptos de alto nivel como ¡°secreto¡±. Han reconocido 34 millones de rasgos en su ¨²ltimo trabajo. La caja negra no parece ser tan negra despu¨¦s de todo. Esto no ha hecho m¨¢s que empezar.

Puedes apuntarte aqu¨ª para recibir la newsletter semanal de EL PA?S Tendencias, que se publica los martes.