Ram¨®n L¨®pez de M¨¢ntaras, experto en inteligencia artificial: ¡°La IA sola no resolver¨¢ absolutamente nada. Ser¨¢n los humanos¡±

Ram¨®n L¨®pez de M¨¢ntaras (Sant Vicen? de Castellet, Barcelona, 71 a?os) es fundador del Instituto de Investigaci¨®n de Inteligencia Artificial del Centro Superior de Investigaciones Cient¨ªficas (CSIC) y uno de los pioneros de la materia en Espa?a, ¨¢mbito al que se dedica desde hace m¨¢s de 40 a?os. La irrupci¨®n de ChatGPT y los grandes modelos de lenguaje (LLM, en sus siglas en ingl¨¦s) no es la primera revoluci¨®n que ha vivido L¨®pez de M¨¢ntaras: ¡°Empec¨¦ en 1975 y ya he visto al menos dos ¨¦pocas de grandes expectativas y temores, que al final desembocaron en inviernos, traves¨ªas del desierto¡±, dice. Aunque hoy la novedad es sorprendente y un hito incre¨ªble, su perspectiva y conocimiento dan m¨¢s contexto a los titulares de los ¨²ltimos meses: ¡°Estos modelos de lenguaje son posibles gracias a que tenemos tantos datos en internet, miles de procesadores que trabajan simult¨¢neamente y las mejoras algor¨ªtmicas¡±. Pero queda a¨²n mucho camino para que la inteligencia artificial (IA) se convierta en realmente inteligente.

Pregunta. ?Por qu¨¦ nos ha sorprendido tanto ChatGPT?

Respuesta. Nadie preve¨ªa que estos modelos de lenguaje, como ChatGPT, fueran tan h¨¢biles al generar un lenguaje cercano y convincente. Esto nos ha sorprendido a todos. Nadie, y he hablado con muchos colegas, se esperaba que en este poco tiempo hubiera esta mejora.

P. ?Se ha exagerado en algo?

R. ChatGPT en realidad solo hace ver que entiende el lenguaje. Nos resulta muy f¨¢cil, tambi¨¦n a los propios expertos en IA, caer en la tentaci¨®n del antropomorfismo. Estoy cansado de ver art¨ªculos que dicen, no que ¡°procesa¡± el lenguaje, sino que lo ¡°entiende¡±. No es as¨ª. Esa es la diferencia con un humano.

P. No es inteligente.

R. Hay un problema de palabras. Las IA son inteligencias muy distintas a las humanas. Es otro motivo de confusi¨®n. Los titulares no deber¨ªan decir ¡°La IA hace esto¡± o ¡°decide aquello¡±. Deber¨ªa dejarse claro que siempre hay un mont¨®n de gente detr¨¢s que lo ha hecho posible. La IA es un instrumento formidable, muy sofisticado, pero no tiene iniciativa, no tiene objetivos, no entiende, no tiene un modelo del mundo, no tiene sentido com¨²n.

P. ?Qu¨¦ le falta?

R. Hay millones de peque?os conocimientos de sentido com¨²n que las m¨¢quinas no tienen. Nosotros los aprendemos desde peque?os. No tenemos por ejemplo que saber nada de la ley de la gravedad. Un ni?o peque?o sabe que si suelta algo caer¨¢, sea lo que sea. No lo debes entrenar con millones de objetos distintos cayendo como le ocurre a una IA. Con un pu?ado de veces ya lo ha aprendido.

¡°Las calculadoras tambi¨¦n hacen cosas que nosotros no sabemos. Pero no decimos que las calculadoras son inteligentes¡±

P. Pero la IA logra hacer cosas que nosotros no.

R. Las calculadoras tambi¨¦n hacen cosas que nosotros no sabemos. Pero no decimos que las calculadoras son inteligentes.

P. ?La generaci¨®n de lenguaje lo hace parecer distinto?

R. S¨ª. Pero quien le da significado a ese lenguaje es el humano al leerlo, la m¨¢quina no le otorga ning¨²n significado a lo que genera. ChatGPT no entiende nada.

P. Parece que entiende nuestras peticiones.

R. Ese es el problema. Da esa sensaci¨®n. Aqu¨ª est¨¢ la gran confusi¨®n. No entiende nada, solo calcula la probabilidad de qu¨¦ palabras seguir¨¢n, nada m¨¢s. No pone siempre la palabra m¨¢s probable porque si no siempre pondr¨ªa la misma respuesta a la misma petici¨®n. Eval¨²a miles de palabras que podr¨ªan continuar. A veces coge la primera, la segunda o la tercera. Como hay tantas con una probabilidad no nula de continuar, en general acierta y parece coherente y es distinto. Nosotros hemos interactuado con el mundo y los objetos o conceptos que la m¨¢quina menciona mediante el significante [las palabras] para nosotros tienen una correspondencia que es el significado. ChatGPT es un modelo de lenguaje, no del mundo. Esto es lo que le separa de la idea de entender el lenguaje.

P. Uno de los logros que m¨¢s bombo ha recibido es su capacidad de aprobar ex¨¢menes.

R. Lo m¨¢s probable es que esas preguntas y respuestas ya existieran en el conjunto del entrenamiento. Hay como una peque?a trampa. No resuelve un problema razonando, porque su capacidad de razonamiento es nula.

P. Estamos lejos de que se convierta en la llamada IA general, con sentido com¨²n, como el c¨¦lebre Terminator.

R. Ha sido una mejora importante, pero estamos lejos, lej¨ªsimos de una IA general. Ni con cien mil millones de par¨¢metros m¨¢s lo lograr¨¢n, no podr¨¢ entender nunca el lenguaje. Intr¨ªnsecamente, no se puede reparar, nunca podr¨¢ entender por c¨®mo est¨¢ hecho el propio algoritmo. [El premio Turing y jefe de IA en Meta] Yann LeCun dice, y yo estoy de acuerdo, como muchos otros colegas, que primero se ha de modularizar. ChatGPT es un revoltijo, est¨¢ todo all¨ª. Con el conocimiento factual se equivoca. A m¨ª un colega me escribi¨® un email pregunt¨¢ndome si estaba bien porque ChatGPT le hab¨ªa dicho que yo hab¨ªa muerto. Yo le pregunt¨¦ por mis diez trabajos principales y eran todos inventados. Debe de haber m¨®dulos separados: uno de conocimiento, otro de razonamiento, de planificaci¨®n, de sentido com¨²n. Esto se llama modularizar la arquitectura.

P. ?La informaci¨®n falsa que genera puede a su vez alimentar futuros modelos?

R. S¨ª, lo que generan son inputs para otros modelos de lenguaje que a su vez aprender¨¢n. Eso har¨¢ bola de nieve. Se multiplicar¨¢n las falsedades que generan. De aqu¨ª a dos o tres a?os, ya no habr¨¢ una mayor¨ªa de cosas veraces en internet. Como ya estaremos contaminados por los resultados de los modelos que tenemos ahora, llegar¨¢ un momento en que casi todo lo que haya en internet ser¨¢ falso, se comer¨¢ la parte humana que hemos hecho hasta ahora.

P. ?Los modelos no se entrenan con parte del contenido de la versi¨®n anterior?

R. No. ChatGPT-5 lo entrenar¨¢n desde cero. No coger¨¢n el ChatGPT-4 y lo entrenar¨¢n. No es incremental. No pueden retocar f¨¢cilmente lo que hay. Ya GPT-4 fue entrenado al margen de los anteriores, 100 millones de d¨®lares les cost¨®. GPT-5 no creo que ni lo entrenen, no creo que veamos un ChatGPT-5. Pero si llegara, esos 100 millones de d¨®lares igual ser¨ªan 1.000 millones, solo de entrenamiento, aparte del consumo energ¨¦tico que ser¨ªa brutal. Aunque OpenAI u otra empresa lo haga, el material de entrenamiento no ser¨¢ fiable porque mucho ya habr¨¢ sido generado por versiones previas. Todo colapsar¨¢.

P. ?Entonces estos modelos tampoco extinguir¨¢n de momento la humanidad?

R. La IA no extinguir¨¢ la humanidad. Es hoy una cortina de humo para ocultar problemas que ya hay. El primer problema es que hay cinco o seis empresas que lo controlan todo. Son las m¨¢s interesadas en que se hable de la posible extinci¨®n en lugar de los problemas que han generado de sesgos, de privacidad, del material con el que se han entrenado. Aunque tambi¨¦n es cierto que hablar de ellos es buen marketing.

¡°Las empresas que controlan la IA quieren que se hable de la extinci¨®n en lugar de los problemas que genera¡±

P. Pero s¨ª hay un camino adelante al margen de estos modelos.

R. Estamos en un momento en que iremos mucho m¨¢s all¨¢ de ChatGPT y estos modelos de lenguaje. Superaremos sus limitaciones para razonar y con el sentido com¨²n. Nos acercaremos a sistemas que empezar¨¢n a entender el lenguaje un poco ya de verdad. Ahora, cero, no entender¨¢n nada.

P. Ya no se llamar¨¢n ¡°grandes modelos de lenguaje¡±.

R. Vamos hacia ah¨ª, pero ya no s¨¦ si lo ver¨¦ yo. Hay otro camino. No ser¨¢n solo un modelo de lenguaje. No deber¨ªa llamarse GPT-5. Tendr¨¢n un modelo del mundo. Podr¨¢ ser entrenado con v¨ªdeos donde se vean las relaciones causa-efecto. Igual mira millones de v¨ªdeos sobre c¨®mo mover objetos. Son millones de peque?os conocimientos.

P. ?Los v¨ªdeos que hay en YouTube?

R. En YouTube hay mucho, pero no est¨¢ todo el conocimiento de sentido com¨²n ah¨ª grabado. Deber¨¢ ser capaz de aprender escuchando, leyendo, observando.

P. ?C¨®mo ver¨¢? ?Tendr¨¢ ojos?

R. El ¨²ltimo paso, la ¨²ltima frontera de un sistema de IA con sentido com¨²n, una IA general sofisticada y similar a nuestra inteligencia, deber¨¢ tener un cuerpo y sensores: ojos, tacto y orejas. Un futuro robot humanoide que aprender¨¢ del mundo interactuando con ¨¦l. No mediar¨¢ una persona ni incluso v¨ªdeos.

P. ?C¨®mo de posible ser¨¢ algo as¨ª?

R. Se est¨¢ trabajando. Esperemos que sea posible. Antes del robot veremos otros avances. Quiz¨¢ haya aspectos de cosas que podr¨¢ aprender mediante v¨ªdeos, quiz¨¢ en entorno virtual, simulado, se le podr¨¢ mostrar c¨®mo caen un objeto o c¨®mo se mueve un objeto con una cuerda. Deber¨¢ entrarle informaci¨®n de manera visual.

P. El nivel de complejidad es mucho mayor de lo que conocemos. Para sistemas como ChatGPT hemos necesitado una red neuronal nueva llamada Transformer, una mayor capacidad computacional y muchos datos. ?Qu¨¦ m¨¢s ser¨¢ necesario para estos sistemas?

R. Nuevos algoritmos, completamente distintos. AlphaFold, la IA que predice prote¨ªnas, est¨¢ compuesto de 36 algoritmos. Son piezas de software que colaboran: m¨¦todo de Montecarlo, reinforcement learning, varios tipos de redes neuronales, todo son algoritmos distintos. En ChatGPT no sabemos lo que hay, pero seguro que tiene encoder, decoder, un algoritmo de prestar atenci¨®n, hay embeddings. Hay un pu?ado seguro. Un robot como el que digo necesitar¨ªa muchos m¨¢s, capacidad de interpretar lo que ve, lo que siente, todo son algoritmos distintos.

P. Sam Altman, cofundador de OpenAI, o Eric Schmidt, ex jefe ejecutivo de Google, ven a la IA como salvadora en retos cient¨ªficos hoy imposibles como el cambio clim¨¢tico, el c¨¢ncer o la generaci¨®n de combustible.

R. Tampoco ser¨¢ la IA la que resuelva todo esto. Ser¨¢n los humanos. La IA sola no resolver¨¢ nada, absolutamente nada. No se nos puede dejar solos a nosotros con la IA. La m¨¢xima de Mark Zuckerberg de ¡°mu¨¦vete r¨¢pido y rompe cosas¡± no funciona aqu¨ª. Sam Altman tambi¨¦n lo ha hecho, en lugar de esperar un par de a?os o m¨¢s antes de desplegar ChatGPT.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.