Lila Ibrahim, directora de operaciones de Google DeepMind: ¡°La tecnolog¨ªa solo tiene sentido si mejora la vida de las personas¡±

Los pasillos de las oficinas de Google DeepMind, en el c¨¦ntrico barrio londinense de King¡¯s Cross, est¨¢n casi des¨¦rticos. Esta empresa, referencia mundial en el desarrollo de la inteligencia artificial (IA), aglutina a algunos de los mejores cient¨ªficos de esta disciplina, que trabajan afanosamente a puerta cerrada en modernas estancias ba?adas en luz natural a las que el visitante no puede siquiera asomarse. Lo que se cuece en las m¨²ltiples pantallas de esos ordenadores es el presente y futuro de la IA, la tecnolog¨ªa llamada a cambiarlo todo. El secretismo es tal que hasta acompa?an al ba?o a las visitas.

La estadounidense Lila Ibrahim, de 54 a?os, camina pausada pero decididamente mientras despliega con el periodista una cercan¨ªa californiana muy bienvenida entre tanto formalismo brit¨¢nico. Puede abrir con su tarjeta corporativa cualquiera de las decenas de puertas de seguridad sembradas a modo de cortafuegos por el edificio, incluyendo las de acceso restringido. Ibrahim es la directora de operaciones de DeepMind, uno de los cargos clave de la start-up fundada en 2010 por tres j¨®venes cient¨ªficos y adquirida por Google en 2014. Sus nuevos due?os decidieron dejar que la compa?¨ªa londinense siguiera siendo una especie de laboratorio avanzado de la IA dedicado a la investigaci¨®n b¨¢sica multidisciplinar. No les fue mal. Ya en 2016 desarrollaron un robot capaz de vencer a los mejores maestros de Go, el juego m¨¢s complejo que se conoce y en el que la intuici¨®n, un atributo te¨®ricamente inalcanzable para la IA, es clave. Han sido capaces de predecir la estructura de 200 millones de prote¨ªnas, abriendo un nuevo horizonte en la cura de enfermedades. Han descubierto centenares de miles de nuevos materiales y trabajan en un prometedor proyecto de fusi¨®n nuclear.

Criada en Indiana por padres libaneses, Ibrahim est¨¢ acostumbrada a ser ¡°el bicho raro¡±. Fue una de las tres mujeres de su promoci¨®n cuando se licenci¨® en Ingenier¨ªa Electr¨®nica y El¨¦ctrica en la Universidad Purdue (West Lafayette, Indiana). En el campus la conoc¨ªan como la chica de la caja morada. ¡°Sol¨ªa llevar a todas partes una cajita con mis transistores y resistencias¡±, recuerda entre risas. La primera etapa de su carrera la pas¨® en Intel. Tras trabajar en el dise?o de los procesadores Pentium, apost¨® luego por dos tecnolog¨ªas novedosas, hoy en desuso: USB y DVD. ¡°Entonces nadie pod¨ªa imaginarse poder ver una pel¨ªcula en el ordenador. Hoy, mis hijas no saben qu¨¦ es un DVD¡±. A sus gemelas de 14 a?os las ha llevado a ver mundo: han visitado 40 de los 106 pa¨ªses en los que ha estado Ibrahim. ¡°Aprend¨ª de mis padres que hay que trabajar duro, pero tambi¨¦n jugar duro¡±.

M¨¢s tarde se pas¨® a una gran firma de capital riesgo y, en 2018, la ficharon en Google DeepMind. Echa de menos el sol de California, poco presente en Londres, pero le encandila la diversidad y acervo hist¨®rico de la capital brit¨¢nica, que en su opini¨®n se traduce tambi¨¦n en una visi¨®n de la IA m¨¢s c¨¢lida que la de Silicon Valley. ¡°Tenemos la posibilidad de desarrollar la IA de manera responsable para cambiar el mundo¡±. A eso ¨²ltimo dedica tambi¨¦n parte de su tiempo libre. Mont¨® un laboratorio inform¨¢tico en el orfanato liban¨¦s en el que se crio su padre, fallecido el a?o pasado. Luego vinieron otros tres centros. ¡°La tecnolog¨ªa solo tiene sentido si mejora la vida de las personas¡±, subraya.

?C¨®mo ha llegado la IA a convertirse en la tecnolog¨ªa del momento?

Creo que est¨¢n sucediendo varias cosas a la vez. La primera es que la IA, desde una perspectiva tecnol¨®gica, se ha vuelto m¨¢s avanzada. Y ahora tenemos la potencia de c¨¢lculo suficiente como para explotarla, as¨ª que podemos empezar a imaginar c¨®mo usarla para resolver problemas. Nos enfrentamos a grandes desaf¨ªos globales, y estamos teniendo dificultades para encontrar soluciones. Parte de la raz¨®n por la que estoy aqu¨ª tiene que ver con la misi¨®n de Google DeepMind: c¨®mo podemos usar la IA para ayudarnos a promover soluciones y proporcionar ciencia avanzada.

?Debemos temer a la IA? ?Qu¨¦ amenazas implica su uso generalizado?

La IA tiene el potencial de ser la tecnolog¨ªa m¨¢s transformadora de nuestro tiempo. Y, por eso, debemos tener un cuidado excepcional con ella. Pensamos en los riesgos a lo largo de todo el camino. A corto plazo difunde sesgos e ideas err¨®neas, malentendidos. Y eso es muy real, ya que podr¨ªa perpetuar estereotipos que siguen existiendo en el mundo. A largo plazo hablamos de qui¨¦n tiene el control de esta tecnolog¨ªa, de c¨®mo podemos entender lo que est¨¢ sucediendo y de c¨®mo asegurarnos de que no se vuelva tan poderosa que los humanos no puedan controlarla. Somos conscientes de que nuestro deber para con la humanidad es asegurarnos de que desarrollamos y pastoreamos cuidadosamente esta tecnolog¨ªa.

?C¨®mo se aborda eso exactamente en el d¨ªa a d¨ªa?

Nos hemos esforzado mucho en desarrollar una cultura de responsabilidad. Lo mejor de DeepMind es que, desde su fundaci¨®n en 2010, hemos adoptado un enfoque realmente responsable. Hay que preguntarse si tienes la gobernanza adecuada y los procesos correctos, pero tambi¨¦n si cuentas con el talento y los puntos de control id¨®neos. Nosotros enfocamos el problema en t¨¦rminos de una cultura de liderazgo responsable. Y lo analizamos en funci¨®n de tres elementos diferentes. Primero, si tenemos la cadena de responsabilidad correcta, un buen sistema de gobernanza. Segundo, si nuestra investigaci¨®n es responsable y segura. Y tercero, ?c¨®mo pensamos en nuestro impacto a medida que lanzamos la tecnolog¨ªa al mundo? ?Cu¨¢les son los riesgos y las oportunidades? ?Qu¨¦ hacemos para mitigar los posibles efectos negativos?

?En qu¨¦ consisten los puntos de control que menciona?

En la fase de investigaci¨®n, evaluamos varios aspectos. ?C¨®mo se comportan los modelos en comparaci¨®n con lo previsto? ?Estamos haciendo equipos piloto para empezar realmente a probar el modelo e intentar encontrar los puntos de quiebre? Este proceso lo llevamos a cabo internamente, pero tambi¨¦n con el apoyo de grupos externos que podr¨ªan ayudarnos a hacer esas pruebas con una mirada no contaminada por nuestro propio enfoque. Tras la fase de investigaci¨®n, la segunda ¨¢rea en la que nos centramos es en la t¨¦cnica: lo que estamos incorporando en los modelos para asegurarnos de que se tienen en cuenta los controles correctos. Luego tambi¨¦n hacemos pruebas sociot¨¦cnicas. Y lo ¨²ltimo es evaluar el impacto responsable de la tecnolog¨ªa. A pesar de que hemos logrado tantos avances, la IA a¨²n est¨¢ en una fase muy temprana de su desarrollo, como si estuvi¨¦ramos en el primer tramo de una escalera muy larga. Y es importante que, cuando realicemos las pruebas, adoptemos una mentalidad de mejora continua. Cuantas m¨¢s personas accedan a la tecnolog¨ªa, m¨¢s se probar¨¢. Tenemos que poder responder muy r¨¢pido cuando nos enteremos de que las cosas no van como esper¨¢bamos.

Deme un ejemplo concreto.

Cuando lanzamos AlphaFold [la herramienta que ha predicho la estructura de 200 millones de prote¨ªnas], hablamos con m¨¢s de 50 expertos en la materia porque quer¨ªamos asegurarnos de que entend¨ªamos cu¨¢les podr¨ªan ser los posibles riesgos y tambi¨¦n las oportunidades. Aunque tenemos especialistas en bio¨¦tica, hablamos con otros, incluyendo ganadores del Premio Nobel, que nos animaron a lanzarlo. La primera versi¨®n la sacamos en asociaci¨®n con el Instituto Europeo de Bioinform¨¢tica.

Google llevaba a?os trabajando en su propio gran modelo de lenguaje, pero permaneci¨® en fase experimental porque se consider¨® que todav¨ªa hab¨ªa que probarlo m¨¢s. De repente, llega OpenAI, saca ChatGPT y, tan solo tres meses despu¨¦s, Google presenta Bard. ?En tan poco tiempo se resolvieron todas las dudas?

Bueno, desde mi punto de vista, mucho de eso tuvo que ver con la aceptaci¨®n de la herramienta y la demanda del mercado. Pensamos que la tecnolog¨ªa necesitaba m¨¢s innovaci¨®n, estar m¨¢s basada en la realidad y m¨¢s factualidad. Nos sorprendi¨® que el mercado estuviera realmente preparado para esta tecnolog¨ªa. Por eso, cuando lo lanzamos, nos preguntamos: ?c¨®mo nos aseguramos de tener claro qu¨¦ es esto y qu¨¦ alternativas se pueden ofrecer? Gemini [el modelo que sustituy¨® a Bard] sigue siendo una tecnolog¨ªa experimental. Se trata de defender nuestros propios principios y valores al mismo tiempo que brindamos acceso a la tecnolog¨ªa que las personas desean. Efectivamente, nosotros ten¨ªamos un extenso documento t¨¦cnico sobre grandes modelos ling¨¹¨ªsticos antes de que se lanzara ChatGPT. El primero que hicimos en Google DeepMind es de 2021, pero no lo publicamos hasta que terminamos el documento sociot¨¦cnico.

?Hasta qu¨¦ punto han cambiado estos pesos y contrapesos con la irrupci¨®n de la IA generativa? ?Es esta variante de la IA m¨¢s ind¨®mita que las otras?

La tecnolog¨ªa se est¨¢ desarrollando muy r¨¢pido. Cuando identificamos algo que ocurre y que nos resulta inesperado, tomamos medidas r¨¢pidas y tratamos de entender la causa principal. Y creo que eso es lo que ocurri¨® recientemente con la situaci¨®n de la aplicaci¨®n Gemini [en referencia a que un intento por corregir sus sesgos hizo que generase im¨¢genes de nazis negros]. Estamos aprendiendo como industria. El algoritmo Transformer, la piedra de toque de los modelos ling¨¹¨ªsticos, se desarroll¨® en Google en 2017. Hemos tenido esta tecnolog¨ªa durante a?os. Para m¨ª, que no procedo del mundo de la IA, cuando empec¨¦ a interactuar con modelos ling¨¹¨ªsticos fue incre¨ªble. Pero no pod¨ªa dec¨ªrselo a nadie porque no estaba disponible en el mundo exterior. Y no est¨¢bamos seguros de la capacidad de lanzar esta tecnolog¨ªa porque a¨²n ten¨ªa alucinaciones [cuando se inventa cosas], daba errores. Me ha sorprendido ver que la sociedad est¨¢ casi dispuesta a tolerar que haya fallos en la tecnolog¨ªa para poder seguir prob¨¢ndola. Y realmente necesitamos que el mundo nos ayude a hacer las pruebas.

En torno a la IA se produce un fen¨®meno extra?o. Por un lado, las propias empresas ponen en marcha mecanismos para hacer que los usuarios se sientan seguros con estas herramientas. Pero, por otro, los ejecutivos de algunas de esas compa?¨ªas, como la suya, firman manifiestos como la Declaraci¨®n sobre el riesgo de extinci¨®n, en la que se proclama que la IA es potencialmente tan da?ina como las pandemias o una guerra nuclear.

Yo lo firm¨¦, s¨ª.

?Se puede decir que no hay nada que temer y al mismo tiempo advertir de que esta tecnolog¨ªa nos puede aniquilar?

Bueno, puedo hablar de mi propia experiencia al respecto. D¨¦jeme contarle c¨®mo termin¨¦ aqu¨ª. Cuando me entrevistaron para este puesto, no ten¨ªa experiencia en IA o aprendizaje autom¨¢tico. Me dediqu¨¦ 30 a?os a la tecnolog¨ªa. Viv¨ªa en Silicon Valley, pero hab¨ªa recorrido mucho mundo y pens¨¦: ?por qu¨¦ Londres, por qu¨¦ IA? Un mentor m¨ªo me anim¨® a hablar con Demis [Hassabis, cofundador y consejero delegado de Google DeepMind]. Cuanto m¨¢s hablaba con ¨¦l, m¨¢s me emocionaba porque pensaba que, si pudi¨¦ramos hacerlo bien, la IA podr¨ªa cambiar muchas cosas. As¨ª que estaba muy entusiasmada y me sent¨ªa optimista. Cuanto m¨¢s aprend¨ªa, m¨¢s me gustaba, pero m¨¢s me preocupaba tambi¨¦n. Y pens¨¦ que, si pudiera aportar mis 30 a?os de experiencia llevando ordenadores a nuevas comunidades o internet a ciudades y pa¨ªses que no hab¨ªan tenido acceso antes a este momento clave en el que se encuentra la IA, quiz¨¢s tendr¨ªa un impacto real en todo esto. Tras la entrevista, vi a mis hijas y pens¨¦: ?puedo hacer que duerman tranquilas todas las noches? As¨ª que fue una decisi¨®n muy seria para m¨ª. Al final decid¨ª entrar porque siento que tengo la obligaci¨®n moral de tratar de hacer que la IA mejore nuestras vidas.

?C¨®mo enfoca los riesgos existenciales incluidos en la declaraci¨®n?

Cuando la firm¨¦, sent¨ª que hab¨ªa muchas cosas que pod¨ªan salir bien y otras que pod¨ªan salir mal. Espero que nunca nos acerquemos ni de lejos al riesgo existencial, pero para poder sentir que hago mi trabajo como l¨ªder tengo que firmar el documento, porque dejo por escrito que debemos tomarnos en serio los riesgos y que tenemos que tener una conversaci¨®n abierta al respecto. Si lo hacemos, evitaremos la cat¨¢strofe. Hay que manejar esta tecnolog¨ªa transformadora y extraordinaria con el cuidado que requiere. Eso incluye colaboraci¨®n internacional y regulaci¨®n.

?Qu¨¦ proyecto destacar¨ªa de los que tiene ahora mismo Google DeepMind en marcha?

Creo que gran parte del trabajo en el ¨¢rea de la ciencia es particularmente emocionante. Gracias a AlphaFold estamos viendo los avances que supone la comprensi¨®n de las prote¨ªnas en sus interacciones internas con el ADN, el ARN y los ligandos para la comprensi¨®n de las enfermedades, pero tambi¨¦n para la salud de los cultivos o las enzimas que se alimentan de pl¨¢sticos y residuos industriales. La comprensi¨®n de la estructura de las prote¨ªnas ha desbloqueado una nueva forma de pensar para los cient¨ªficos que abordan desaf¨ªos realmente importantes. Tambi¨¦n destacar¨ªa nuestro descubrimiento cient¨ªfico de materiales del a?o pasado: pasamos de 40.000 materiales conocidos a quiz¨¢s cientos de miles. Eso podr¨ªa significar, por ejemplo, una tecnolog¨ªa nueva y mejor para las bater¨ªas de los veh¨ªculos el¨¦ctricos. Tambi¨¦n hemos aportado modelos capaces de hacer pron¨®sticos meteorol¨®gicos muy precisos a 10 d¨ªas vista, lo cual nos ayudar¨¢ a navegar los fen¨®menos clim¨¢ticos extremos.

Cuando Google decidi¨® integrar DeepMind en su divisi¨®n de IA, mucha gente pens¨® que la investigaci¨®n b¨¢sica se sustituir¨ªa por el desarrollo de herramientas para el gran p¨²blico, como Astra. ?Ha sido as¨ª?

Siempre hemos trabajado en productos, aunque era algo no necesariamente conocido entre el p¨²blico. Hemos aumentado la duraci¨®n de la bater¨ªa de los tel¨¦fonos Android. Colaboramos con nuestros colegas de Google para optimizar el consumo energ¨¦tico de los centros de datos. Al mismo tiempo que adopt¨¢bamos un enfoque mucho m¨¢s activo en IA generativa con Gemini, lanzamos Alpha Missense [una herramienta que predice el efecto de mutaciones de las prote¨ªnas]. Creemos que a¨²n queda mucho por investigar sobre la IA para mejorar los modelos. Mi trabajo consiste tambi¨¦n en pensar en c¨®mo organizamos nuestros equipos de manera que puedan contratar talentos fant¨¢sticos. Les damos el espacio para que prosperen en su ¨¢rea de especializaci¨®n. Y, luego, esas investigaciones se traducen en productos y servicios.

Ya que habla de talento, no he visto demasiadas mujeres por los pasillos.

Nos hemos esforzado mucho para crear una organizaci¨®n m¨¢s diversa. Tenemos grupos de recursos para empleados en torno a, ya sabes, de todo, desde padres y madres hasta mujeres y personas LGBTQ y tambi¨¦n de diferentes etnias. Tratamos de fomentar la naturaleza colaborativa del equipo. ?Lo podr¨ªamos hacer mejor? Sin duda. Uno de mis principales empe?os en este momento es que debemos seguir poniendo el list¨®n muy alto en el reclutamiento y en desarrollar internamente el talento. Tambi¨¦n debemos asegurarnos de conectarnos con las comunidades que est¨¢n infrarrepresentadas externamente, porque es importante hacer o¨ªr su voz en el trabajo que realizamos, especialmente en lo que respecta a nuestras aspiraciones en torno a la IA.

?C¨®mo abordan la creciente huella medioambiental de la IA, que es altamente demandante de energ¨ªa, agua y minerales?

Es algo en lo que pensamos mucho. Estamos creando modelos m¨¢s peque?os y eficientes, con menos procesamiento, como Gemini 1.5 Flash. Tambi¨¦n hemos podido reducir el consumo de energ¨ªa en los centros de datos de Google en aproximadamente un 40%, simplemente utilizando la IA como una herramienta de optimizaci¨®n. Intentaremos seguir reduciendo nuestra huella.