El ingeniero espa?ol que tiene un plan para desarrollar una inteligencia artificial ¡°humilde¡±

La inteligencia artificial est¨¢ pecando de soberbia. No es que lo est¨¦ haciendo adrede, porque no piensa ni razona, pero los algoritmos que le dan cuerda a herramientas como ChatGPT o DALL-E est¨¢n calibrados de tal manera que, cuando se les hace un pedido o se les plantea una pregunta, terminan arrojando respuestas muy detalladas aunque no tengan una base clara para generarlas. ¡°Exceso de confianza¡±, ese es el diagn¨®stico de Pablo Mart¨ªnez Olmos (Granada, 40 a?os), un doctor en Ingenier¨ªa de Telecomunicaciones que plantea el desarrollo de una inteligencia artificial ¡°humilde¡±, capaz de declarar el nivel de incertidumbre sobre los resultados que arroja.

¡°Me gust¨® la idea de humilde porque nosotros pensamos que una persona con esta virtud es alguien consciente de sus limitaciones y se frena a la hora de responder cuando no tiene idea de un tema¡±, dice Mart¨ªnez, sentado en su despacho en el Departamento de Teor¨ªa de la Se?al y Comunicaciones de la Universidad Carlos III de Madrid. El ingeniero acaba de ser reconocido con una de las Becas Leonardo que la Fundaci¨®n BBVA entrega para impulsar ¡°proyectos innovadores¡± en ¨¢reas de la ciencia y la cultura. La humildad es, por lo tanto, saber no dar una soluci¨®n muy detallada ni muy elaborada cuando realmente no se conoce su respuesta. Algo en lo que la inteligencia artificial est¨¢ fallando.

Alcanza con pedirle a DALL-E ¡ªel programa de inteligencia artificial de OpenIA que crea im¨¢genes a partir de descripciones textuales¡ª que genere un mapa detallado de Espa?a para que este sesgo quede en evidencia. Mart¨ªnez lo ha probado. ¡°La forma del pa¨ªs est¨¢ bien captada, pero luego el mapa incluye aspectos muy pormenorizados de la geograf¨ªa, como monta?as, r¨ªos o nombres de regiones, que son totalmente falsos¡±, apunta. Luego, agrega: ¡°Los algoritmos est¨¢n entrenados con ciertos sesgos de dise?o que los llevan a cometer lo que llamamos alucinaciones, salidas muy detalladas que no tienen ninguna base real¡±. Estas alucinaciones hacen que, ante un mismo pedido, en este caso, un mapa de Espa?a, la herramienta genere resultados muy distintos. ¡°Aisladamente, cada mapa parece tener sentido, porque est¨¢n construidos de forma muy fina, pero si se los observa bien est¨¢n plagados de errores¡±.

Esto acarrea varios problemas. Uno de ellos es la falta de rigor en las soluciones que ofrece la IA. Otro, que las herramientas generativas est¨¢n m¨¢s expuestas a un uso malintencionado. Los algoritmos en estas plataformas cuentan con varios mecanismos de control para limitar algunas respuestas que puedan dar informaci¨®n potencialmente peligrosa o privada, como las instrucciones para fabricar un explosivo casero. Sin embargo, Mart¨ªnez detalla que ¡°el coraz¨®n del algoritmo sigue siendo poco fiable cuando se trata de alucinaciones y, por lo tanto, es muy confiado en el nivel de detalle de sus respuestas¡±. Funciona igual que con las personas: cuanta m¨¢s confianza tenga en s¨ª mismo un algoritmo, m¨¢s f¨¢cil ser¨¢ encontrarle ¡°las cosquillas y enga?arlo¡±. Si se lo preguntas directamente no te lo dir¨¢, pero, con un poco de ma?a, ChatGPT puede terminar explicando c¨®mo cocinar metanfetaminas en casa.

Reformular los algoritmos

Mart¨ªnez apunta que su l¨ªnea de investigaci¨®n hacia una inteligencia artificial humilde se basa en pensar c¨®mo reformular los algoritmos para restringir esa capacidad de dar soluciones arbitrariamente detalladas y que no se basan en informaci¨®n fiable. El objetivo final es volverla m¨¢s ¨²til, confiable y segura. Lograrlo implica varios retos computacionales. ¡°Una de las ideas que proponemos es hacerle la vida m¨¢s complicada a la red neuronal durante su entrenamiento, utilizando ataques malintencionados y contradictorios¡±, apunta. Tambi¨¦n lo es aumentar las restricciones que el algoritmo tiene para almacenar toda la informaci¨®n en la que basa sus respuestas para que haya ¡°cierto orden¡±.

Mart¨ªnez pone como ejemplo el cuarto de juguetes de un ni?o peque?o. All¨ª conviven ca¨®ticamente piezas de Legos, mu?ecos de acci¨®n, pinturas y barajas de cartas. A simple vista todo est¨¢ desperdigado por la habitaci¨®n sin ning¨²n criterio, pero el ni?o, con una gran capacidad para recordar detalles, sabe perfectamente d¨®nde est¨¢ cada cosa, por lo que cuando quiera armar un puzle en particular, sabr¨¢ a d¨®nde ir a buscar las piezas. Solo que tambi¨¦n, por el desorden, utilizar¨¢ partes de otros juegos que, en esta ocasi¨®n, no tendr¨¢n sentido para el puzle que quiere armar. Sin embargo, si cada juego se guardara en una cajonera o estuche concreto, ser¨ªa menos probable que se cuelen elementos de otros juegos. Con la informaci¨®n que almacenan los algoritmos sucede igual, hace falta un poco de orden para acortar el margen de error. Al igual que es complicado educar a un ni?o para que mantenga esta estructura, con la red neuronal de una inteligencia artificial generativa ocurre algo similar en t¨¦rminos computacionales y matem¨¢ticos.

El ingeniero sabe que no puede competir con el desarrollo de las grandes compa?¨ªas tecnol¨®gicas, pero su proyecto intenta proponer una metodolog¨ªa de entrenamiento de algoritmos m¨¢s robusta, que derive en el desarrollo de herramientas m¨¢s fiables. Aunque ninguna soluci¨®n es m¨¢gica. ¡°La palabra ¡®inteligencia¡¯ en todo esto es muy confusa. A m¨ª me gusta m¨¢s hablar de funciones matem¨¢ticas que estamos interpolando y que, por ahora, no pueden prescindir de la capacidad cr¨ªtica o la supervisi¨®n del ser humano¡±, dice.

Esta idea de una inteligencia artificial humilde, segura, trazable y controlada tendr¨ªa, cree Mart¨ªnez, una aplicaci¨®n concreta en el ¨¢mbito m¨¦dico. Detectar biomarcadores desconocidos, dise?ar efectos terap¨¦uticos personalizados, disminuir las consecuencias negativas de ciertos tratamientos y mejorar la calidad de vida de las personas son algunos de los potenciales usos que el dise?o de los algoritmos podr¨ªan tener si fueran un poco m¨¢s humildes.