Gary Marcus, investigador en IA: ¡°El futuro de la inteligencia artificial es m¨¢s oscuro con Trump en la Casa Blanca¡±

Gary Marcus (Baltimore, EE UU, 54 a?os) no se ha cansado de predicar en redes sociales en los ¨²ltimos meses los peligros de que Donald Trump llegara a la Casa Blanca, especialmente si lo hac¨ªa de la mano de Elon Musk. Al final ha sucedido, y eso le deprime. La suya es una de las voces m¨¢s escuchadas en EE UU sobre inteligencia artificial (IA) y sus peligros. Testific¨® el a?o pasado junto a Sam Altman, director general de OpenAI, empresa desarrolladora de ChatGPT, en el subcomit¨¦ del Senado que exploraba formas de controlar la IA. Seg¨²n sostiene en su ¨²ltimo libro, ...

Gary Marcus (Baltimore, EE UU, 54 a?os) no se ha cansado de predicar en redes sociales en los ¨²ltimos meses los peligros de que Donald Trump llegara a la Casa Blanca, especialmente si lo hac¨ªa de la mano de Elon Musk. Al final ha sucedido, y eso le deprime. La suya es una de las voces m¨¢s escuchadas en EE UU sobre inteligencia artificial (IA) y sus peligros. Testific¨® el a?o pasado junto a Sam Altman, director general de OpenAI, empresa desarrolladora de ChatGPT, en el subcomit¨¦ del Senado que exploraba formas de controlar la IA. Seg¨²n sostiene en su ¨²ltimo libro, Taming Silicon Valley (The MIT Press, sin traducci¨®n al castellano), si no hacemos nada, la IA generativa (la que est¨¢ detr¨¢s de herramientas como ChatGPT o Gemini) convertir¨¢ el mundo en un lugar peor.

Profesor de psicolog¨ªa y neurociencia en la Universidad de Nueva York, su investigaci¨®n se ha centrado en las ¨²ltimas d¨¦cadas en la intersecci¨®n entre psicolog¨ªa cognitiva e inteligencia artificial (IA). Paralelamente, ha fundado dos startups. La primera de ellas, Geometric Intelligence, fue adquirida por Uber en 2016 y convertida en un laboratorio de investigaci¨®n sobre aprendizaje profundo. La segunda, Robust.AI, la ha puesto en marcha junto a uno de los inventores de las aspiradoras autom¨¢ticas Roomba y pretende contribuir al desarrollo abierto de software para robots aut¨®nomos.

Marcus es muy activo en redes como X, donde critica diariamente a Musk y se enzarza en discusiones con personajes como Yann LeCun, considerado uno de los padrinos de la IA moderna y actual responsable de esa tecnolog¨ªa en Meta. ¡°LeCun es un eg¨®latra intelectualmente deshonesto que hizo todo lo posible por desprestigiarme cuando critiqu¨¦ por primera vez los grandes modelos de lenguaje [LLM, por sus siglas inglesas], solo para dar marcha atr¨¢s y hacer suyas mis cr¨ªticas cuando ChatGPT eclips¨® el trabajo de Meta¡±, dice sin pelos en la lengua.

Pregunta. ?C¨®mo ve el futuro tras la victoria de Trump en las presidenciales?

Respuesta. Oscuro. La IA generativa conlleva muchos riesgos, a corto y largo plazo, y creo que las perspectivas de una regulaci¨®n significativa bajo la administraci¨®n Trump son escasas. La UE tiene su ley de IA; EE UU tiene muy poca regulaci¨®n espec¨ªfica sobre IA para proteger a sus ciudadanos, y no veo que eso vaya a cambiar en los pr¨®ximos a?os.

P. Ha habido algunos intentos en California. ?Considera la posibilidad de que algunos Estados aprueben sus propias leyes sobre IA?

R. California aprob¨® algunas leyes sobre aspectos como la transparencia de los datos, pero los grupos de presi¨®n de Silicon Valley ayudaron a bloquear la SB-1047, que habr¨ªa hecho a las empresas responsables de ¡°da?os catastr¨®ficos¡±. En mi opini¨®n, esto fue un error. Todav¨ªa podemos esperar que algunos estados lo intenten, pero va a ser una batalla cuesta arriba, a menos que los ciudadanos se movilicen para defender su derecho a estar protegidos frente a esta tecnolog¨ªa. De lo contrario, podr¨ªa ser necesario un gran desastre, como un gigantesco ciberataque alimentado por IA, antes de que ocurra algo significativo en el frente legislativo.

P. Es pronto para saber qu¨¦ papel tendr¨¢ Elon Musk en la Administraci¨®n Trump, pero estar¨¢ ah¨ª. ?Qu¨¦ espera de ¨¦l?

R. Elon fue una de las primeras personas en advertir sobre los riesgos de la IA, pero ahora ha invertido mucho dinero en el ¨¦xito de esa tecnolog¨ªa, y es dif¨ªcil pensar que eso no influya en sus recomendaciones a Trump. Imagino que har¨¢ todo lo posible para que el Gobierno subvencione el desarrollo de la IA, incluidas sus propias empresas, a pesar de los riesgos sobre los que antes advert¨ªa. Cabe recordar que este es el tipo que firm¨® la carta que ped¨ªa una moratoria de seis meses en el desarrollo de la IA y que pas¨® ese tiempo acumulando un cl¨²ster gigante de procesadores GPU para poner en marcha su propia IA.

Tambi¨¦n es ir¨®nico que Musk haya ganado la mayor parte de su dinero, poder e influencia con Tesla, que fabrica coches el¨¦ctricos y, en principio, es respetuosa con el medio ambiente. Es ir¨®nico porque la forma de IA que entusiasma a Musk no es muy respetuosa con el medio ambiente, ya que consume enormes cantidades de energ¨ªa y agua y genera emisiones masivas. Y, sin embargo, espero que la Administraci¨®n Trump presione con fuerza para relajar las regulaciones medioambientales, para permitir una mayor generaci¨®n de energ¨ªa con el fin de alimentar la IA.

Estamos dando a los creadores de IA un poder extraordinario

P. Microsoft, Amazon, Google y Meta est¨¢n interesadas en usar centrales nucleares, en algunos casos propias, para alimentar sus centros de datos. Algunas de estas empresas hablaron de ello con la Administraci¨®n Biden. ?Ve ese plan m¨¢s factible con Trump?

R. Estoy bastante seguro de que la Administraci¨®n Trump lo apoyar¨¢, a menos que haya algo que se me escape. En realidad creo que la energ¨ªa nuclear tiene mucho sentido, pero verter toda esa energ¨ªa en gigantescos modelos ling¨¹¨ªsticos probablemente no sea el mejor uso de esa energ¨ªa, como s¨ª lo ser¨ªa reducir nuestra dependencia de los combustibles f¨®siles.

P. Volviendo a Musk, ?qu¨¦ le parece que el Gobierno fiche al hombre m¨¢s rico del mundo? ?Puede un miembro del Gobierno poseer una importante plataforma de medios sociales?

R. El propio Trump tiene una gran participaci¨®n en una empresa de medios de comunicaci¨®n. No creo que Trump tenga noci¨®n de conflicto de intereses, y en general ha hecho caso omiso de todo tipo de normas. No es una buena idea para nuestro pa¨ªs, pero dudo que eso disuada a Trump de seguir adelante. ?Qui¨¦n se lo va a impedir? EE UU ser¨¢ casi con total seguridad un pa¨ªs muy distinto en 2025 respecto a a?os anteriores.

P. ?A qu¨¦ se refiere?

R. Trump har¨¢ caso omiso de las normas y hasta cierto punto de las leyes en general. Nombrar¨¢ a un fiscal general que ser¨¢ enormemente comprensivo con sus causas, y el Tribunal Supremo ha ampliado recientemente en gran medida la inmunidad presidencial. Trump se tomar¨¢ todo eso como un mandato para hacer lo que le d¨¦ la gana, sea cual sea la ley escrita, y no espero que se le cuestione significativamente por ello.

Si la IA generativa no se vuelve rentable relativamente r¨¢pido, la burbuja estallar¨¢ y ni Trump ni Musk podr¨¢n arreglar eso

P. ?Qu¨¦ hay de las grandes tecnol¨®gicas? ?Cree que prosperar¨¢n bajo su mandato? En su primer mandato, Trump consideraba a Facebook o Twitter empresas de tendencia liberal.

R. Twitter (ahora X) ha cambiado enormemente desde que es propiedad de Elon. No creo que Meta haya cambiado tanto. Creo que el mayor problema para las grandes tecnol¨®gicas es que han invertido mucho en IA generativa, bajo la fantas¨ªa de que nos traer¨¢ la IA general [la que te¨®ricamente iguale o supere las capacidades humanas], cuando la realidad es que no es lo suficientemente s¨®lida como para apoyar las revoluciones que la gente est¨¢ imaginando. Si la IA generativa no se vuelve rentable relativamente r¨¢pido, la burbuja estallar¨¢ y ni Trump ni Musk podr¨¢n arreglar eso.

P. Las redes sociales acabaron con la privacidad y trajeron el capitalismo de la vigilancia. ?Qu¨¦ podemos esperar de la IA?

R. La IA generativa har¨¢ avanzar el capitalismo de la vigilancia. Algunas personas vuelcan sus secretos m¨¢s ¨ªntimos en los chatbots, y sus creadores esperan poder acceder a los archivos, correos electr¨®nicos, calendarios e incluso contrase?as de todo el mundo. Los propios modelos de lenguaje, por la forma en que responden, pueden moldear sutilmente las creencias de la gente, e incluso, seg¨²n un estudio reciente de Elizabeth Lofus, implantar creencias falsas. Estamos dando a los creadores de estas herramientas un poder extraordinario. Mientras tanto, estos modelos ya se est¨¢n utilizando para generar desinformaci¨®n, tomar decisiones sesgadas en la contrataci¨®n laboral, alimentar la ciberdelincuencia y mucho m¨¢s. La tecnolog¨ªa tiene algunas ventajas, pero no est¨¢ nada claro que supongan un beneficio neto para la humanidad. Por el contrario, la mayor¨ªa de los beneficios ir¨¢n a parar a las grandes empresas que crean estos sistemas, mientras que la mayor parte de los costes los absorber¨¢ la sociedad.

P. Sostiene en su libro que los oligarcas tecnol¨®gicos tendr¨¢n cada vez un mayo control sobre la sociedad estadounidense. ?Cu¨¢ndo lo escribi¨® ya pensaba en la victoria de Trump?

R. Me preocupaba que Trump pudiera ganar, s¨ª, aunque creo que tambi¨¦n nos habr¨ªamos enfrentado a grandes desaf¨ªos si se hubiera impuesto Harris. Pero el punto b¨¢sico del libro es ahora m¨¢s urgente si cabe: no podemos confiar en que las grandes tecnol¨®gicas se regulen a s¨ª mismas, y el Gobierno estadounidense est¨¢ demasiado cautivado por las grandes tecnol¨®gicas como para que haga lo que necesitamos. La ¨²nica forma de que los ciudadanos estadounidenses puedan protegerse de la IA es haciendo mucho, mucho ruido, quiz¨¢ mediante boicots.

P. Uno de los miembros de esa oligarqu¨ªa tecnol¨®gica que dice tiene pie y medio en el gabinete del Presidente.

R. Correcto. Y podemos esperar que Musk tenga una voz extremadamente fuerte en la pol¨ªtica, mucho m¨¢s fuerte de la que han tenido nunca otros multimillonarios. No ser¨ªa sorprendente ver a Trump delegar en gran medida la pol¨ªtica tecnol¨®gica a Musk, a pesar de los inmensos conflictos de intereses aparentes. El mundo del que advert¨ª ha llegado. Lo que hagamos al respecto depende de nosotros.

P. ?C¨®mo podemos domar Silicon Valley?

R. La gente tiene que unirse y decir: no queremos IA que destruya el medio ambiente, estafe a artistas y escritores, difame a la gente y suscriba la propaganda de masas, especialmente cuando los fabricantes no asumen ninguna responsabilidad real por los da?os que causan. Solo si insistimos en que la gran tecnolog¨ªa mejore, veremos un cambio real.