El proyecto que utiliza la teor¨ªa de la evoluci¨®n de Darwin para explicar la Inteligencia Artificial

La Inteligencia Artificial (IA) est¨¢ por todas partes. Gracias a todo este mecanismo oculto, una m¨¢quina es capaz de aprender hasta 1.000 millones de par¨¢metros y usarlos luego para dar la respuesta acertada en cuesti¨®n de segundos. ?C¨®mo la hace? La explicaci¨®n no siempre es evidente y eso es lo que genera desconfianza a muchos de los usuarios. Este es el objetivo que persigui¨® Marc Sch?nauer, principal investigador en el laboratorio de Investigaci¨®n Inform¨¢tica en el Instituto Nacional de Investigaci¨®n en Ciencia de la Inform¨¢tica y Matem¨¢ticas Aplicadas (INRIA), en Par¨ªs, cuando se uni¨® al proyecto europeo TRUST- IA. El programa, de cuatro a?os, se dedica a lo que se llama la inteligencia artificial explicable y empieza en octubre gracias a una financiaci¨®n de hasta cuatro millones de euros por parte del Consejo Europeo de la Innovaci¨®n de la Comisi¨®n Europea.

La base est¨¢ en las redes neuronales artificiales. Esta red es un modelo computacional inspirado en el cerebro humano. Est¨¢ constituido por un conjunto de unidades (neuronas artificiales) conectadas entre s¨ª por nodos para transmitir las se?ales. Estos nodos son puntos de intersecci¨®n del cual parten algo que se asemeja a ramas de un ¨¢rbol. De un punto (o nodo), salen dos otras posibilidades, de estas dos, otras cuatro y as¨ª, una y otra vez.

¡°Si hubiese menos nodos, el usuario podr¨ªa entender mejor el funcionamiento y c¨®mo el algoritmo llega a su conclusi¨®n. Nuestro mayor desaf¨ªo es lograr unos sistemas m¨¢s sencillos y que puedan, por lo tanto, ser entendidos manteniendo un rendimiento similar a los que existen ahora¡±, cuenta el experto franc¨¦s. El proyecto har¨¢ un uso extensivo de la programaci¨®n gen¨¦tica (PG), que optimiza modelos computacionales complejos representados como ¨¢rboles, con nodos y ramas. Esta imagen ilustra el proceso de decisi¨®n de la m¨¢quina, por ejemplo. De este punto, salen dos otras posibilidades, de estas dos, otras cuatro y as¨ª, una y otra vez, hasta llegar a la soluci¨®n final.

La idea es inspirarse de la biolog¨ªa y de la teor¨ªa de la evoluci¨®n de Charles Darwin para construir de manera gradual redes cada vez mejores y hacer un mayor seguimiento del proceso. ¡°Por ejemplo, el ¨¢rbol que representa la segunda ley de movimiento de Newton se representar¨ªa con un nodo (producto) y dos hojas (masa y aceleraci¨®n), dando salida a la fuerza. Con estas reglas sencillas podemos entender lo que pasa¡±, comenta Sch?nauer. La Segunda Ley de Movimiento de Newton establece (de forma muy resumida) que la aceleraci¨®n que adquiere un cuerpo es proporcional a la fuerza neta aplicada sobre el mismo.

Ventajas

Gracias a la PG, se crean algoritmos evolutivos: estos algoritmos har¨¢n mutaciones o posibles cruces con la poblaci¨®n actual, de cuya mezcla saldr¨¢n los que mejor comportamiento presenten. Estos mejores se guardar¨¢n para hacer la siguiente poblaci¨®n, y as¨ª sucesivamente. ¡°Es una caricatura de la resistencia del m¨¢s resistente, pero esa es la idea. Vamos a intentar reproducir los resultados de la red neuronal con unos modelos probablemente mucho m¨¢s comprensibles¡±, precisa el cient¨ªfico franc¨¦s.

Este m¨¦todo tiene ventajas, pues permite que intervenga directamente el usuario. En general, un algoritmo se programa con un objetivo preciso y la persona que vaya a interaccionar con ¨¦l no tiene influencia en al resultado. La PG permite, sin embargo, pedir la opini¨®n a la gente y que valore cu¨¢les de las opciones son las m¨¢s comprensibles. ¡°Esto permite al algoritmo actuar en funci¨®n del usuario para que tengan mayor confianza en el sistema. Adem¨¢s la buena explicaci¨®n depende de a qui¨¦n nos dirigimos¡±, argumenta el investigador que lleva a?os buscando c¨®mo mejorar eso y esperando esa financiaci¨®n.

Otra de las virtudes de este tipo de algoritmos evolutivos es su gran capacidad para solventar m¨²ltiples objetivos a la vez, pues encuentra la mejor compensaci¨®n frente a todos los conflictos que se generan. Los expertos de este nuevo programa quieren que los resultados sean los mejores y a la vez comprensibles. Sin embargo, si solo se basa en algunos par¨¢metros para aumentar su legibilidad, es posible que no tome en cuenta todas las variables posibles. ?C¨®mo lograr entonces un equilibro entre sencillez y exactitud? ¡°Eso queremos saber. Eso buscamos¡±, contesta Sch?nauer.

Aplicaciones a la vida real

Para llevar a cabo el programa de investigaci¨®n y confirmar su respuesta a esa pregunta, el equipo se centrar¨¢ en tres casos concretos aunque sus algoritmos tengan como objetivo un uso generalista: los tratamientos m¨¦dicos, el env¨ªo de productos a domicilio y el consumo de energ¨ªa de los edificios. ¡°Estos tres ¨¢mbitos nos van a ayudar a llevar a cabo el proceso a los datos del mundo real. No solo queremos un buen rendimiento de media, pero queremos tambi¨¦n evitar malos escenarios¡±, comenta Gon?alo Figueira, coordinador del proyecto e investigador del Instituto de Ciencia, Tecnolog¨ªa e Ingenier¨ªa de Sistemas y Computaci¨®n de Portugal (INESC TEC). ¡°Podremos prevenir los problemas y el impacto negativo de la IA si somos capaces de explicar estos modelos. De lo contrario, ser¨ªa dif¨ªcil predecir su comportamiento y confiar en ellas¡±, afirma antes de detallar el programa.

En primer lugar, quieren incidir en la medicina, uno de los ¨¢mbitos que se ve muy afectado por el progreso de la tecnolog¨ªa y la llegada de la IA: desde los diagn¨®sticos hasta saber cu¨¢ndo es mejor tomar el tratamiento o hacer la cirug¨ªa. En este ¨²ltimo punto, TRUST-IA va a actuar como una herramienta para predecir. Su uso se destinar¨¢ a un tratamiento espec¨ªfico para un c¨¢ncer concreto y con pacientes con sus propias caracter¨ªsticas. ¡°La idea es que el algoritmo anuncie cu¨¢ndo es el mejor momento para dar el tratamiento e indique qu¨¦ se debe hacer para cada caso particular¡±, describe Figueira. Un poco en la misma l¨ªnea, otro caso de uso utilizar¨¢ los modelos de IA para pronosticar la demanda de energ¨ªa en los edificios. El objetivo final es simular el uso y el precio.

Adem¨¢s de predecir, los modelos matem¨¢ticos generados por la IA tambi¨¦n pueden prescribir. Es el tercer caso en que se probar¨¢ el proyecto: la entrega de mercanc¨ªas. La intenci¨®n es que el usuario se beneficie de un mejor servicio. Para ello, deber¨¢ buscar las opciones m¨¢s eficientes desde el punto de vista operativo, lo que servir¨¢ tanto para evitar retrasos como para que el cliente reciba el producto en el mejor momento y al mejor precio.

Barreras y transparencia

Para Sch?nauer, que las IA llegar¨¢ a controlarnos en un futuro pr¨®ximo, es una fantas¨ªa. ¡°Siempre hay un hombre detr¨¢s del programa¡±, recuerda. El experto insiste, sin embargo, en que debemos asegurarnos de que no suceda y empezar a proteger al ciudadano introduciendo restricciones y controles en los algoritmos para que sean ¨¦ticos y evitar que da?en al ser humano. Adem¨¢s, ¡°el hecho de ser inteligente no significa que pueda tomar el control sobre nosotros¡±, opina Figueira. Los programas est¨¢n hechos para hacer algo concreto, muy espec¨ªfico y son m¨¢s inteligentes que el ser humano, quiz¨¢s, en una sola cosa, as¨ª como jugar al ajedrez, o calcular en medio segundo la regla de tres. En definitiva, el objetivo de todo esto es hacer una Inteligencia Artificial transparente que deje ver qu¨¦ ocurre en las zonas ocultas de su red y qu¨¦ camino emprende para dar una sola y ¨²nica soluci¨®n.

Richard Benjamins, co-fundador de OdiseIA, el Observatorio espa?ol para el Impacto ?tico y Social de la Inteligencia Artificial, opina que el tema de este nuevo proyecto europeo es muy pertinente debido al creciente uso de la IA en muchos sectores. ¡°La IA explicable tiene especial importancia cuando las decisiones tomadas por los sistemas tienen un impacto significativo en la vida de las personas, como ocurre con en el diagn¨®stico m¨¦dico, la inscripci¨®n en los servicios p¨²blicos, la solicitud de pr¨¦stamos, entre otras¡±. Cuenta Benjamins que el a?o pasado, la agencia de defensa de los Estados Unidos (DARPA, por sus siglas en ingl¨¦s) lanz¨® un gran proyecto al respecto, por lo que un proyecto europeo es ¡°m¨¢s que bienvenido¡±. El experto de OdiseIA precisa que, sin embargo, no todos los algoritmos de IA son cajas negras, y que ya existen algunas t¨¦cnicas parecidas para hacer m¨¢s transparentes los que s¨ª lo son, como el SHAP (SHapley Additive exPlanations) y el LIME (Local Interpretable Model-Agnostic Explanations). ¡°M¨¢s all¨¢ de ello, este es definitivamente un proyecto importante¡±, concluye.

Puedes seguir a EL PA?S TECNOLOG?A RETINA en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra Newsletter.