El premio Fronteras del Conocimiento reconoce el desarrollo de sistemas de inteligencia artificial transparentes

La inteligencia artificial ha progresado notablemente en los ¨²ltimos 10 a?os. Tanto que, por extra?o que parezca, los ingenieros a menudo no saben c¨®mo toman las decisiones los algoritmos de algunos de estos sistemas (el deep learning o aprendizaje profundo). El premio Fundaci¨®n BBVA Fronteras del Conocimiento en la categor¨ªa de Tecnolog¨ªas de la Informaci¨®n y Comunicaci¨®n reconoci¨® este mi¨¦rcoles el trabajo del ingeniero Judea Pearl, una de las personas que m¨¢s han contribuido a la trazabilidad de los sistemas de inteligencia artificial.

Este profesor estadounidense de 85 a?os nacido en Tel Aviv, mundialmente conocido en su disciplina, desarroll¨® un lenguaje matem¨¢tico ¡°primero para los conceptos de razonamiento probabil¨ªstico y despu¨¦s para inferir relaciones causales por medio de datos observados y ordenados¡±, se?ala el jurado, aportando as¨ª ¡°una base moderna a la inteligencia artificial¡±.

Una de las grandes cuestiones a las que se enfrentaban los cient¨ªficos en los a?os ochenta era c¨®mo pod¨ªan afrontar sus modelos la incertidumbre. La respuesta de Pearl fue la estad¨ªstica. En un mundo en el que todo est¨¢ interconectado hace falta orientar a las m¨¢quinas para que no empiecen de cero cada vez que se enfrenten a un problema, de la misma forma que los humanos desarrollamos los prejuicios o a priori que nos gu¨ªan en nuestras acciones. Si el suelo est¨¢ mojado y llevamos suela plana es probable, pensamos autom¨¢ticamente, que podamos resbalar si no andamos con cuidado. Si detr¨¢s de un seto o¨ªmos un rugido, quiz¨¢s haya un tigre.

Pearl llev¨® este razonamiento a las m¨¢quinas de la mano de las llamadas redes bayesianas. ¡°Se representan en un grafo las variables por nodos, de manera que solo aparezcan los arcos que en realidad tienen cierta relevancia en t¨¦rminos probabil¨ªsticos¡±, explica Pedro Larra?aga, catedr¨¢tico de Inteligencia Artificial en la Universidad Polit¨¦cnica de Madrid (UPM). Es decir, eliminas de la ecuaci¨®n todo un conjunto de situaciones que se consideran muy improbables que sucedan (por ejemplo, que el rugido provenga de un caracol).

¡°El sistema propuesto por Pearl es capaz de elaborar a partir de datos esa estructura de interdependencia condicional, entre los nodos. Es decir, te quedas con la esencia del problema¡±, contin¨²a Larra?aga. Pearl cre¨® una escuela de investigadores en los a?os ochenta que r¨¢pidamente se fue distribuyendo por todo el mundo y que en los noventa colabor¨® mucho con Microsoft, la empresa m¨¢s avanzada de la ¨¦poca. Su modelo fue asumido por la ciencia e integrado en los principales proyectos de investigaci¨®n de la disciplina.

Derribar las cajas negras

La investigaci¨®n relacionada con la inteligencia artificial dio un vuelco importante en 2015. Desde ese a?o, las redes neuronales, que emplean algoritmos de aprendizaje profundo (deep learning), dominan los principales avances producidos en la disciplina. Estas t¨¦cnicas consisten no en programar al ordenador exactamente con lo que queremos que haga, sino mostrarle las reglas del juego y dejar que el sistema se entrene con una serie de bases de datos para que ¨¦l mismo dise?e sus estrategias para cumplir ciertos objetivos.

El problema de esta aproximaci¨®n es que nadie sabe c¨®mo razonan (si se puede usar ese t¨¦rmino) los algoritmos: es imposible interpretar c¨®mo han resuelto el problema, solo vemos que lo han hecho. ¡°Frente a ello est¨¢ la l¨ªnea que considera que la interpretabilidad debe estar en la base de la inteligencia artificial, y ah¨ª nos situamos quienes trabajamos con las redes bayesianas de Pearl¡±, explica Pedro Larra?aga, catedr¨¢tico de Inteligencia Artificial en la Universidad Polit¨¦cnica de Madrid (UPM).

Los m¨¦todos de Pearl se ense?an hoy en todas las facultades de Inform¨¢tica y sus libros ¡°han inspirado avances trascendentales en la comprensi¨®n del razonamiento y el pensamiento¡±, destaca el jurado. Su ¡°amplio y profundo impacto¡± se percibe en multitud de ¨¢reas y aplicaciones, como ¡°en el desarrollo de ensayos cl¨ªnicos m¨¦dicos no sesgados y eficaces, en la psicolog¨ªa, la rob¨®tica y la biolog¨ªa¡±, a?ade.

El jurado de esta categor¨ªa ha estado presidido por Joos Vandewalle, presidente de honor de la Real Academia Flamenca de Ciencias y Artes de B¨¦lgica y catedr¨¢tico em¨¦rito del Departamento de Ingenier¨ªa El¨¦ctrica de la Universidad Cat¨®lica de Lovaina (B¨¦lgica); y ha contado como secretario con Ron Ho, director de Ingenier¨ªa de Silicio en Meta (Estados Unidos). Los vocales han sido Regina Barzilay, Distinguished Professor de Inteligencia Artificial y Salud en la Escuela de Ingenier¨ªa del Instituto Tecnol¨®gico de Massachusetts (Estados Unidos); Georg Gottlob, catedr¨¢tico de Inform¨¢tica en la Universidad de Oxford (Reino Unido) y en la Universidad Tecnol¨®gica de Viena (Austria); Oussama Khatib, catedr¨¢tico de Ciencias de la Computaci¨®n y director del Laboratorio de Rob¨®tica en la Universidad de Stanford (Estados Unidos); Rudolf Kruse, catedr¨¢tico em¨¦rito en la Facultad de Ciencias de la Computaci¨®n de la Universidad Otto von Guericke de Magdeburgo (Alemania); y Mario Piattini, catedr¨¢tico de Lenguajes y Sistemas Inform¨¢ticos de la Universidad de Castilla-La Mancha (Espa?a).

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.