La caja negra del pensamiento

Uno de los mayores problemas de la inteligencia artificial (IA), quiz¨¢ el principal de todos ellos, es su car¨¢cter de caja negra. Sabes la informaci¨®n que le metes, miras el texto que te devuelve, compruebas su correcci¨®n o su utilidad, pero no tienes ni idea de c¨®mo lo ha hecho. Esto resulta muy frustrante. ...

Uno de los mayores problemas de la inteligencia artificial (IA), quiz¨¢ el principal de todos ellos, es su car¨¢cter de caja negra. Sabes la informaci¨®n que le metes, miras el texto que te devuelve, compruebas su correcci¨®n o su utilidad, pero no tienes ni idea de c¨®mo lo ha hecho. Esto resulta muy frustrante. ChatGPT y sus colegas, que pronto ser¨¢n cientos y luego miles, generan resultados que nadie, ni siquiera sus propios creadores, hab¨ªan imaginado. Algunos son puras y simples mentiras, o fantas¨ªas si prefieres llamarlas as¨ª, pero otros encuentran ¨¢ngulos que el usuario no hab¨ªa previsto. Los modelos grandes de lenguaje (large language models, LLM), la clase de algoritmos a los que pertenece ChatGPT, muestran ciertas propiedades emergentes, propiedades del sistema que no pueden predecirse por sus componentes.

La complejidad emergente parece magia, pero no tiene nada de ex¨®tica. Ni el nitr¨®geno (N) ni el hidr¨®geno (H) huelen a amoniaco (NH?), luego el olor a amoniaco es una propiedad emergente. Un gen es una ristra de letras a, g, t, c, pero la informaci¨®n que contiene no est¨¢ en las letras, sino en su secuencia. La informaci¨®n gen¨¦tica es un fen¨®meno que emerge de esos humildes compuestos qu¨ªmicos que no significan nada en s¨ª mismos. Si solo estudias las neuronas, nunca llegar¨¢s a entender el circuito neuronal que te permite entender este art¨ªculo. Tu comprensi¨®n del lenguaje est¨¢ hecha por entero de neuronas, pero solo existe un piso m¨¢s arriba, al nivel de los circuitos. La complejidad emergente es un tema central de la ciencia, desde la f¨ªsica de part¨ªculas hasta la neurolog¨ªa y m¨¢s all¨¢.

?Qu¨¦ tiene entonces de particular que la IA genere ideas impredecibles? El azar no me sirve como explicaci¨®n, porque no estoy hablando de un cu?ado que profiere la primera estupidez que le viene a la cabeza, sino de asociaciones relevantes y significativas, a veces fruct¨ªferas, el tipo de idea que te hace exclamar: ¡°?Qu¨¦ incre¨ªblemente est¨²pido no haber pensado en ello!¡±. He entrecomillado esta frase porque es justo la que pronunci¨® Thomas Huxley cuando Charles Darwin le explic¨® su teor¨ªa de la evoluci¨®n por selecci¨®n natural. Un peque?o ejercicio de historia-ficci¨®n: si ChatGPT hubiera existido en el siglo XIX, ?podr¨ªa haber dado con la idea de Darwin? ?Seguro que no?

Otra forma de preguntar lo mismo es: ?en qu¨¦ consiste la creatividad humana? Darwin se hab¨ªa tirado cinco a?os de traves¨ªa en el HMS Beagle estudiando f¨®siles, tortugas y pinzones, y fue solo tras regresar a suelo brit¨¢nico que, leyendo por casualidad un libro del reverendo Thomas Malthus, dio con una de las mejores ideas de la historia, la selecci¨®n natural: nada dirige la adaptaci¨®n de los individuos; es simplemente que el que no se adapta palma, y la poblaci¨®n en su conjunto, formada por los supervivientes, se vuelve m¨¢s adaptada por definici¨®n. ?Qu¨¦ incre¨ªblemente est¨²pido no haber pensado en ello! Hagamos ahora un segundo ejercicio de historia-ficci¨®n: ?qu¨¦ habr¨ªa pasado si Darwin no se hubiera topado con el libro de Malthus?

La gran ventaja competitiva de ChatGPT es que ¨¦l siempre ha le¨ªdo el libro de Malthus. Lo ha le¨ªdo todo, y por tanto puede hallar nexos ¡ªv¨ªnculos, analog¨ªas, met¨¢foras¡ª entre sectores del conocimiento muy lejanos y dispares, como los pinzones de las islas Gal¨¢pagos y las teor¨ªas econ¨®micas de un reverendo. La creatividad humana consiste precisamente en hallar esos v¨ªnculos inesperados, pero requiere un conocimiento previo y detallado de cada uno de los dos sectores que van a ser vinculados.

En el fondo, nuestra creatividad es una caja tan negra como la inteligencia artificial. Ambas encuentran nexos entre cosas dispares, pero no tenemos la menor idea de c¨®mo lo hacen. As¨ª est¨¢ el tema.