Michael I. Jordan, pionero de la IA: ¡°Hay un poco de soberbia en el mundo de la IA¡±

Michael I. Jordan (Maryland, EE UU, 1956) es matem¨¢tico y doctor en ciencias cognitivas. Su trabajo est¨¢ en el origen de aplicaciones de IA como ChatGPT o los sistemas de recomendaci¨®n. Hoy es catedr¨¢tico em¨¦rito de la Universidad de California en Berkeley e investigador en el INRIA de Par¨ªs, pero nunca le interes¨® sumarse al frenes¨ª empresarial de Silicon Valley: ¡°Todo el mundo debe encontrar lo que le gusta, sin pasarse de la raya, y yo soy alguien que quiere entender las cosas, no solo construirlas¡±, dice. Sus conocimientos y ese punto de vista externo le permite observar el bombo de la IA ...

Michael I. Jordan (Maryland, EE UU, 1956) es matem¨¢tico y doctor en ciencias cognitivas. Su trabajo est¨¢ en el origen de aplicaciones de IA como ChatGPT o los sistemas de recomendaci¨®n. Hoy es catedr¨¢tico em¨¦rito de la Universidad de California en Berkeley e investigador en el INRIA de Par¨ªs, pero nunca le interes¨® sumarse al frenes¨ª empresarial de Silicon Valley: ¡°Todo el mundo debe encontrar lo que le gusta, sin pasarse de la raya, y yo soy alguien que quiere entender las cosas, no solo construirlas¡±, dice. Sus conocimientos y ese punto de vista externo le permite observar el bombo de la IA generativa con bastante escepticismo. Acaba de obtener el premio Fronteras del Conocimiento de la Fundaci¨®n BBVA por su trayectoria. Sobre su nombre no acepta muchas bromas: Jordan ya era catedr¨¢tico del MIT antes de los ¨¦xitos de la estrella del baloncesto y ahora sigue en activo. ¡°Al principio era divertido pero luego me cans¨¦¡±, dice.

Pregunta. ?Hay demasiado bombo con la IA?

Respuesta. El bombo no parar¨¢. A la gente que desarrolla esta tecnolog¨ªa le encanta hablar de ello y extrapolar, aunque tambi¨¦n hay un poco de soberbia. Lo que hace avanzar a la humanidad son los esfuerzos colectivos. Individualmente no somos tan inteligentes. Estas empresas desarrollan herramientas poderosas, pero una herramienta tirada en el suelo no hace mucho; tiene que estar en manos de un humano o de un grupo. Entonces empiezan a pasar cosas interesantes. Si vas a resolver algo, si vas a encontrar nuevos medicamentos, la herramienta te ayudar¨¢ a mirar en los lugares correctos y a dar consejos. Si vas a enfrentar retos clim¨¢ticos, te ayudar¨¢ a hacer mejores predicciones. Si vas a dedicarte al arte,te permitir¨¢ crear nuevos sonidos o conexiones. Sin embargo, por s¨ª solas, no resuelven el problema.

P. ?Esperaba que apareciera algo como ChatGPT hace dos a?os?

R. Es mejor de lo que habr¨ªa imaginado. Aunque ya desde 1990 se sab¨ªa que habr¨ªa IA por fuerza bruta, que es simplemente hacer algo, sin tratar de entender nada directamente. Solo deja que un algoritmo de optimizaci¨®n lo encuentre todo y lo haga con cantidades enormes de datos. Todas estas ideas ya exist¨ªan en 1990. Los ingredientes adicionales actuales han sido dos: el f¨¢cil acceso a cantidades enormes de datos de internet y, luego, las GPU [tarjetas gr¨¢ficas], que realmente le dieron poder. Cuando pones todos los ingredientes juntos, de repente se vuelve realmente bueno. La manera correcta de pensar sobre ChatGPT es una presencia colectiva de toda la humanidad. Toma peque?os trozos de cientos de millones de personas, especialmente aquellos que escribieron cosas buenas, como Wikipedia. Gran parte de su inteligencia viene de las contribuciones de la gente.

P. Ahora acaba de irrumpir el modelo chino DeepSeek. ?Sus ventajas de DeepSeek son tan extraordinarias como se dice?

R. No lo he estudiado en detalle, pero parece que s¨ª son significativas. No es del todo sorprendente, teniendo en cuenta que las arquitecturas que han funcionado, basadas en transformers y redes en capas, se han dise?ado de forma un poco improvisada. Muchas veces ha bastado con usar la fuerza bruta para avanzar r¨¢pidamente. Pero eso no significa que no haya trucos inteligentes o arquitecturas m¨¢s simples que tambi¨¦n funcionen.

P. ?Qu¨¦ puede significar su ¨¦xito ahora para las prioridades de Silicon Valley en IA, considerando las enormes inversiones en software y centros de datos?

R. Creo que Silicon Valley deber¨ªa pensar m¨¢s en el modelo de negocio de la IA generativa y los grandes modelos de lenguaje, y no depender solo de la fuerza bruta para avanzar.

P. El fundador de Anthropic, Dario Amodei, creador del chatbot Claude, dec¨ªa hace unos d¨ªas en Davos que en dos o tres a?os la IA ser¨¢ ¡°mejor que casi todos los humanos en casi todo¡±.

R. No lo creo. Esa persona no estudi¨® ciencias de la computaci¨®n, ni ling¨¹¨ªstica, ni ciencias sociales, sino que su formaci¨®n era en f¨ªsica. Y los f¨ªsicos tienden a tener mucha soberbia sobre c¨®mo funciona el universo. Pero creo que est¨¢n subestimando el genio humano, especialmente el genio colectivo. Los ordenadores ya hacen cierto tipo de matem¨¢ticas mejor que cualquiera de nosotros. Tambi¨¦n pueden escribir canciones e incluso, probablemente, una novela. Pero no creo que, en dos o tres a?os, escriban novelas como las de Dostoyevski. Sus novelas hablan de la condici¨®n humana y resuenan porque reflejan la experiencia del autor, una persona que tuvo una vida, que vivi¨®. Algo de eso se puede imitar prediciendo la siguiente palabra en muchas frases viejas, pero no es lo mismo.

P. ?En Deepmind, de Google, hablan m¨¢s de herramientas?

R. Me parece bien. Hago distinciones entre empresas. Deepmind me parece una de las empresas m¨¢s productivas porque crean herramientas ¨²tiles. No sigo todos los detalles, quiz¨¢s tienen algo de arrogancia del tipo ¡®vamos a resolver los problemas del mundo¡¯, pero creo que no lo dicen as¨ª. Solo intentan crear las mejores herramientas posibles. Pero hay otra gente m¨¢s loca que piensa que desde su torre de IA va a tener todo el conocimiento del mundo y lo sabr¨¢ todo. Si queremos respuesta a cualquier pregunta, iremos a ella y nos dar¨¢ la respuesta. Eso es muy poco plausible. Los humanos tienen pensamientos contextuales, complejos. Y esa gran m¨¢quina en la cima no sabe todas esas cosas. Decir que alguna entidad ser¨¢ m¨¢s inteligente que nosotros, es que no est¨¢ muy bien definido.

P. Ha dicho que afirmar que una entidad ser¨¢ m¨¢s inteligente que nosotros es muy ingenuo.

R. La inteligencia tiene muchas formas. A m¨ª me gusta hablar de la inteligencia de un mercado. Est¨¢ compuesto por un mont¨®n de decisiones peque?as. No necesitas saber mucho para tomar esas decisiones, pero cuando juntas todas esas decisiones dentro de una estructura adecuada, con incentivos y ciertos tipos de conexiones, surge algo incre¨ªble. Ese mercado hace cosas asombrosas: estabiliza transacciones, hace que las cosas est¨¦n disponibles, se adapta, y mucho m¨¢s. Es, en cualquier definici¨®n, una entidad inteligente. Pero no es inteligencia humana, es otro tipo de inteligencia. Probablemente haya otras diez formas de inteligencia m¨¢s.

P. Cuando alguien dice que vamos a ¡°resolver la inteligencia¡±, ?de qu¨¦ habla?

R. ?De resolverlas todas? ?De crear una mega inteligencia que las abarque? Parece ciencia ficci¨®n y no resulta muy ¨²til para personas con un enfoque pr¨¢ctico como los ingenieros o cient¨ªficos como yo. Tampoco creo que ayude a la sociedad pensar que estamos a punto de alcanzar algo as¨ª. Creo que a la sociedad le ayuda m¨¢s pensar que vamos a tener herramientas muy poderosas y que encontraremos formas creativas de usarlas. Los j¨®venes de 25 a?os que llegan a este mundo creen que su rol es crear robots aut¨®nomos que bailen en el escenario. Y no, su rol es por ejemplo desarrollar un sistema de coches federado y unido que permita que nunca m¨¢s nadie muera en un coche.

P. ?Y los robots que present¨® Elon Musk que serv¨ªan cerveza?

R. Es relaciones p¨²blicas. Son juegos, juguetes. A ver, es ingenier¨ªa seria, no hay duda. Pero no creo que sea un camino particularmente bueno. De nuevo, tratan de imitar a los humanos, copiarles y, por tanto, reemplazarles. No creo que ese deba ser el objetivo principal de la tecnolog¨ªa. Deber¨ªa ser ayudar a los humanos y permitirnos hacer cosas que no hacemos muy bien. No voy a criticar esos robots, entretienen. Pero hay tantos problemas que ser¨ªan un enfoque mejor para esta tecnolog¨ªa, en lugar de tener robots entrando en edificios en llamas o yendo a Marte.

P. ?Por qu¨¦ la IA generativa no tiene objetivos m¨¢s colectivos y generales?

R. La IA generativa es sexy. Hace cosas impresionantes. Ense?as lo que hace y autom¨¢ticamente todo el mundo asume que detr¨¢s hay una s¨²per tecnolog¨ªa. Resultado: ?invirtamos! Y gran parte de esto est¨¢ impulsado por el deseo de conseguir 100 millones en una ronda de financiaci¨®n. Pero la realidad es que, si entras en cualquier empresa que resuelva problemas del mundo real, como mover paquetes de un lugar a otro, garantizar la seguridad de las personas o mejorar la educaci¨®n, en esas empresas est¨¢n todos est¨¢n sentados en la misma mesa trabajando juntos. Es un enfoque ingenieril para resolver problemas reales. Claro que usar¨¢n herramientas de IA generativa para ciertas cosas, pero no van a gastar todo su tiempo desarrollando herramientas solo para obtener una valoraci¨®n millonaria. Aunque la mayor¨ªa de las empresas s¨ª usan algo de IA generativa, su modelo de negocio no gira en torno a eso. En cambio, muchas de estas startups que desarrollan IA generativa y logran valoraciones alt¨ªsimas no van a sobrevivir, porque no tienen un modelo de negocio s¨®lido.

P. ?Ah¨ª estamos hoy?

R. S¨ª, y no quiero decir que lo s¨¦ todo porque tenga mucha experiencia, pero Elon Musk ha prometido coches aut¨®nomos como cinco veces. Cada a?o dec¨ªa: ¡°Los vamos a tener ya¡±. Y no lo ha logrado porque no entend¨ªa lo dif¨ªcil que es. Tienes a Waymo, que creo que es una empresa m¨¢s exitosa en este sentido. Y hay coches de Waymo en San Francisco funcionando, pero de forma sencilla. Se mueven relativamente despacio, son relativamente seguros, y eso est¨¢ bien. Est¨¢ tomando tiempo. Ese tipo de proyectos de ingenier¨ªa no son cosas que se resuelvan en dos a?os, son m¨¢s bien proyectos de diez. Y eso que estamos hablando de coches, que no son tan complejos como, por ejemplo, el cuerpo humano y la medicina o la f¨ªsica del clima. En cuanto te metes en cualquiera de esos problemas, te das cuenta de que la complejidad absoluta empieza a importar mucho.

P. Qu¨¦ dir¨ªa a quienes temen perder su trabajo reemplazados por una IA?

R. Primero dir¨ªa que necesitamos m¨¢s economistas laborales en esta discusi¨®n. Cuando hablamos de regulaci¨®n, Europa tiene la costumbre de lanzar regulaciones primero y pensar despu¨¦s. Eso es una muy mala idea. Primero tienes que entender el fen¨®meno. Luego a?ades alguna regulaci¨®n para asegurarte de que crea buenos equilibrios. Este enfoque de control de arriba abajo sobre la tecnolog¨ªa, solo porque la gente le tiene miedo, es una muy mala idea. Eso no significa que no debas pensar en ello. Claramente algunos trabajos van a desaparecer, y puede que algunos necesiten ser protegidos. Tal vez haya que ralentizar el proceso. Si los trabajos desaparecen en uno o dos a?os, es demasiado r¨¢pido. Pero si tardan 10 a?os, es mejor: eso da tiempo a que la gente se ajuste y entienda que ciertos trabajos, como escuchar una conversaci¨®n y resumirla, los puede hacer la IA. Si tu sue?o era ser la persona que toma notas en una reuni¨®n, mejor piensa en otra carrera.

P. ?Y qu¨¦ dir¨ªa a un joven que entra en la universidad en la era de la IA?

R. No es cierto que no deban hacer matem¨¢ticas porque todo lo har¨¢n los ordenadores. Surgir¨¢n nuevos problemas, y no ser¨¢n los viejos problemas de la inform¨¢tica. Habr¨¢ nuevos problemas en la ciencia de la computaci¨®n, y no se tratar¨¢ solo de aprender a programar en Fortran o C. Se tratar¨¢ de integrar cosas en sistemas m¨¢s grandes. Las m¨¢quinas no lo har¨¢n por s¨ª solas. Si eres del tipo que construye y entiende c¨®mo integrar cosas, habr¨¢ montones de trabajos.