Melanie Mitchell: ¡°La inteligencia artificial despegar¨¢ cuando se inserte en robots que experimenten el mundo como los ni?os¡±

?Estamos exagerando el potencial de la inteligencia artificial (IA)? ?Hasta qu¨¦ punto es inteligente? ?Llegar¨¢ alg¨²n d¨ªa a alcanzar al ser humano? Estas son algunas de las preguntas que se hace Melanie Mitchell (Los ?ngeles, 55 a?os) en su libro Inteligencia artificial. Gu¨ªa para seres pensantes, que Capit¨¢n Swing publica en castellano este lunes. Su respuesta es contundente: estamos muy lejos de crear una superinteligencia, por mucho que algunas empresas digan lo contrario. Y uno de los motivos fundamentales es que las m¨¢quinas no razonan como nosotros. Pueden hacer casi cualquier tarea mejor que nadie, pero entienden el mundo peor que un beb¨¦ de un a?o.

Mitchell aporta un contexto fundamental para calibrar el fen¨®meno de la IA, una tecnolog¨ªa instalada en el debate p¨²blico desde que hace dos a?os aparecieron herramientas como ChatGPT. Pol¨ªticos, empresarios y acad¨¦micos han advertido recientemente sobre los peligros de estos sistemas, que han deslumbrado al mundo con los textos elaborados que son capaces de generar y las im¨¢genes y v¨ªdeos hiperrealistas que pueden producir.

La catedr¨¢tica Davis de Complejidad en el Instituto de Santa Fe y profesora en la Universidad Estatal de Portland describe en su obra c¨®mo funcionan los sistemas m¨¢s avanzados de IA y los contrapone al razonamiento humano. Conclusi¨®n: aspectos clave como la intuici¨®n o el conocimiento del entorno son, de momento, inalcanzables para cualquier m¨¢quina. Mitchell atiende a EL PA?S por videollamada desde su casa de Santa Fe, Nuevo M¨¦xico.

PREGUNTA. ?De qu¨¦ es capaz la IA hoy en d¨ªa?

RESPUESTA. Hubo un gran salto en sus capacidades hace un par de a?os con la llegada de la IA generativa, que incluye aplicaciones como ChatGPT o Dall-E. Pero estos sistemas, aunque pueda parecerlo, no tienen el mismo tipo de comprensi¨®n del mundo que nosotros. Por eso, a veces hacen algo extra?o o se inventan cosas. Carecen de fiabilidad, tienen una serie de limitaciones que son dif¨ªciles de predecir. As¨ª que creo que, si bien estos sistemas pueden ser muy ¨²tiles y los uso todo el tiempo, debemos tener cuidado con la confianza que depositamos en ellos. Especialmente si no hay supervisi¨®n humana.

P. ?Por qu¨¦?

R. Pueden cometer errores graves. Un ejemplo claro son los coches aut¨®nomos. Una de las razones por las que todav¨ªa no est¨¢n entre nosotros es que fallan donde raramente lo har¨ªa un humano, como no identificando un peat¨®n o un obst¨¢culo. Otro ejemplo son los sistemas autom¨¢ticos de reconocimiento facial. Las m¨¢quinas son extremadamente buenas para detectar rostros en im¨¢genes, pero se ha comprobado que son peores a la hora de identificar a las personas de piel m¨¢s oscura o a las mujeres. Con ChatGPT, hemos visto innumerables casos en que se inventa lo que dice.

P. ?El boom de la IA generativa ayuda o perjudica al desarrollo de la disciplina?

R. En cierto modo, este hype aumenta las expectativas de la gente, y eso luego causa desilusiones. Ha sucedido muchas veces a lo largo de la historia de la IA. En las d¨¦cadas de 1950 y 1960, se dec¨ªa que tendr¨ªamos m¨¢quinas con inteligencia humana en pocos a?os. Eso no ocurri¨®. Lleg¨® el llamado invierno de la IA: se agot¨® la financiaci¨®n para la investigaci¨®n y quebraron empresas. Ahora estamos en un per¨ªodo de mucha expectaci¨®n. La pregunta es, ?realmente va a ser el momento en que se cumplan las predicciones de los optimistas o acabaremos en otra gran decepci¨®n? Es dif¨ªcil de predecir.

P. Hace solo tres a?os, el futuro iba a ser el metaverso. Hoy ya nadie habla de ello. ?Cree que con la IA puede pasar algo similar?

R. Sucede continuamente con las grandes innovaciones tecnol¨®gicas: se produce una especie de gran burbuja publicitaria, luego no se cumplen las expectativas y la gente se decepciona, y finalmente la tecnolog¨ªa sale adelante. Ese desarrollo resulta ser ¨²til, pero no tan brillante como la gente esperaba. Es probable que eso sea lo que pase con la IA.

P. Usted sostiene que los sistemas de IA carecen de comprensi¨®n sem¨¢ntica o sentido com¨²n y, por tanto, no pueden ser realmente inteligentes. ?Cree que eso cambiar¨¢ en alg¨²n momento?

R. Es posible. No hay ninguna raz¨®n por la que no podamos conseguir desarrollar una m¨¢quina as¨ª. La pregunta es, ?c¨®mo llegamos hasta all¨ª? ChatGPT se ha entrenado con todos los libros y textos digitales disponibles, as¨ª como con todos los v¨ªdeos e im¨¢genes de internet. Pero hay cosas que tienen que ver con el sentido com¨²n y el conocimiento y que no est¨¢n codificadas en el lenguaje y los datos: solo se pueden captar a trav¨¦s de la experiencia. Quiz¨¢s las m¨¢quinas no podr¨¢n pensar de forma m¨¢s humana hasta que no experimenten el mundo como nosotros hacemos. Hay un gran debate en la disciplina de la IA acerca de esto. Sospecho que el gran salto se producir¨¢ cuando la m¨¢quina no solo sea entrenada pasivamente en el lenguaje, sino que tambi¨¦n experimente activamente el mundo como lo hace un ni?o.

La historia de la IA ha demostrado que nuestras intuiciones sobre la vida y la inteligencia a menudo son err¨®neas, que en realidad todo es mucho m¨¢s complejo de lo que pens¨¢bamos

P. Cuando tengan forma de robot.

R. S¨ª. Una IA insertada en un robot podr¨ªa tener el mismo tipo de educaci¨®n o desarrollo que un ni?o. Es algo con lo que ya especul¨® en los a?os 50 Alan Turing, uno de los padres de la inform¨¢tica. Esa idea cobra m¨¢s sentido ahora.

P. Usted describe en el libro c¨®mo funciona la IA y lo poco que tiene eso que ver con nuestra forma de razonar. ?Importa el proceso si cumple su funci¨®n?

R. Depende de para qu¨¦ quieras usar el sistema. El GPS de mi coche puede encontrar una ruta de ida y vuelta a donde quiero ir. No entiende el concepto de carretera o tr¨¢fico, pero hace un buen trabajo. La pregunta es si realmente queremos que los sistemas interact¨²en de manera m¨¢s general con el mundo humano. ?Hasta qu¨¦ punto tendr¨¢n que entenderlo? Hubo un caso en el que un veh¨ªculo aut¨®nomo frenaba de golpe en un momento determinado, y el conductor no sab¨ªa por qu¨¦. Result¨® que hab¨ªa una valla publicitaria con un anuncio que ten¨ªa una se?al de stop. ?Podr¨¢ evitar errores como ese? Solo cuando comprenda el mundo como nosotros.

P. ?Hasta d¨®nde cree que puede llegar la IA?

R. No veo que haya ninguna raz¨®n por la que no podamos desarrollar m¨¢quinas con una inteligencia equiparable a la del ser humano. Pero va a ser muy dif¨ªcil llegar hasta ah¨ª, no estamos cerca de ello. En la d¨¦cada de 1970 se pensaba que cuando las m¨¢quinas pudieran jugar al ajedrez al nivel de un gran maestro se habr¨ªa logrado igualar la inteligencia humana. Result¨® no ser as¨ª. Luego se dijo que cuando fueran capaces de traducir textos o mantener conversaciones. Tampoco ha pasado. Toda la historia de la IA ha demostrado que nuestras intuiciones sobre la vida y la inteligencia a menudo son err¨®neas, que en realidad todo es mucho m¨¢s complejo de lo que pens¨¢bamos. Y creo que eso seguir¨¢ siendo as¨ª. Vamos a aprender mucho m¨¢s sobre lo que realmente significa ser inteligente.

Decir que los sistemas de IA podr¨ªan desmadrarse y destruirnos es, como m¨ªnimo, una afirmaci¨®n muy improbable y especulativa

P. Entonces habr¨¢ merecido la pena.

R. Uno de los objetivos de la IA es ayudar a entender qu¨¦ entendemos por inteligencia. Y, al tratar de implementarlo en m¨¢quinas, nos solemos dar cuenta de que realmente incluye muchos elementos que no consideramos.

P. Algunos pioneros de la IA, como Geoffrey Hinton, creen que esta tecnolog¨ªa se puede volver dif¨ªcil de controlar. ?Usted qu¨¦ opina?

R. La IA conlleva muchos tipos de peligros. Se puede usar para producir desinformaci¨®n y deepfakes. Hay sesgos algor¨ªtmicos, como el que coment¨¦ en el caso del reconocimiento facial. Hinton y otros van m¨¢s all¨¢ y dice que estos sistemas podr¨ªan desmadrarse y destruirnos. Esta afirmaci¨®n es, como m¨ªnimo, muy improbable y especulativa. Si llegamos a desarrollar un sistema superinteligente, dudo que no le importen nuestros valores, como que matar a todos los humanos no est¨¢ bien. Centrarse tanto en esta idea tan dram¨¢tica de las amenazas existenciales para la humanidad solo consigue desviar la atenci¨®n de cosas que son realmente importantes en este momento.

P. ?Cree que, como sociedad, estamos abordando adecuadamente esas amenazas a las que nos enfrentamos hoy?

R. S¨ª, aunque a la legislaci¨®n siempre le cuesta llevar el ritmo de la innovaci¨®n. La UE ha dado un primer paso con el Reglamento Europeo de la IA. Una de las cosas que estamos viendo en EE UU son las demandas por derechos de autor. Todos estos sistemas est¨¢n entrenados con enormes cantidades de texto e im¨¢genes. Si no se ha pagado por su uso, ?estamos ante una infracci¨®n de derechos de autor? La ley no est¨¢ clara porque se promulg¨® mucho antes del desarrollo de esta tecnolog¨ªa. Veremos c¨®mo se resuelve esto.

Los neurocient¨ªficos no entienden c¨®mo funciona el cerebro y hacen experimentos para tratar de encontrarle sentido a lo que ven. Eso es lo que pasa ahora con la IA generativa

P. ?Cu¨¢l es la aplicaci¨®n de IA m¨¢s impresionante que ha visto ¨²ltimamente?

R. Lo que m¨¢s me entusiasma es la aplicaci¨®n de estos sistemas a problemas cient¨ªficos. DeepMind, por ejemplo, trabaja en el uso de IA para predecir la estructura de las prote¨ªnas. Tambi¨¦n se est¨¢ usando para desarrollar nuevos materiales y medicamentos. Estamos en una especie de nueva era de la ciencia, puede que tan importante como la que se inaugur¨® con la llegada de los ordenadores.

P. Dice en el libro que quienes calibran los sistemas de aprendizaje profundo, la t¨¦cnica m¨¢s avanzada de IA, parecen alquimistas en vez de cient¨ªficos, porque ajustan par¨¢metros en las m¨¢quinas sin saber exactamente lo que hacen.

R. Poco despu¨¦s de escribir el libro se empez¨® a hablar de los ingenieros de prompts [las instrucciones que se le da las herramientas de IA generativa]. Su trabajo es tratar de hacer que el sistema tenga el mejor rendimiento posible. Resulta que hay gente que est¨¢ ganando mucho dinero haciendo ese trabajo. Y es pura alquimia, no hay ciencia alguna detr¨¢s. Solo se trata de probar cosas. Algunas funcionan y otras no, y no tenemos ni idea de por qu¨¦.

P. Resulta ir¨®nico que quienes tratan de optimizar una de las tecnolog¨ªas m¨¢s sofisticadas de la historia de la humanidad lo hagan a ciegas.

R. Estos sistemas son, en cierto sentido, cajas negras. Son sistemas de software enormemente complejos que no se han programado expl¨ªcitamente para hacer cosas, sino que se han entrenado, han aprendido de los datos y nadie puede averiguar por qu¨¦ funcionan de la manera en que lo hacen. Los neurocient¨ªficos tampoco entienden c¨®mo funciona el cerebro, y hacen experimentos para tratar de encontrarle sentido a lo que ven. Eso es lo que pasa ahora con la IA generativa.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.