La pr¨®xima frontera de la inteligencia artificial: sistemas que dudan de s¨ª mismos

Avanzamos sin darnos cuenta hacia una sociedad en la que las m¨¢quinas tomar¨¢n decisiones cada vez m¨¢s complicadas. De su presencia en tareas altamente automatizables hasta su introducci¨®n en las llamadas compa?¨ªas data driven ¡ªgobernadas por datos informatizados¡ª, el potencial de los algoritmos para sustituir el control humano es tan enorme que asusta.

Al margen de los miedos que despierta la posibilidad de que sistemas de inteligencia artificial nos quiten el trabajo ¡ªy si permitimos sus virtudes en la medida en que nos simplifiquen la vida¡ª, es vital que, al menos, respondan correctamente y de forma eficiente si les vamos a dejar tomar cierto tipo de decisiones. Porque las m¨¢quinas tambi¨¦n son susceptibles de equivocarse.

Quienes dise?an sus algoritmos parten de suposiciones basadas en sus propios datos sobre c¨®mo deber¨ªan hacerlos funcionar, y estas suposiciones no son siempre acertadas. ¡°Como hemos aprendido de los grandes bancos durante el colapso financiero, los modelos matem¨¢ticos basados en suposiciones equivocadas ?pueden ser peligrosos cuando depositamos demasiada confianza en sus predicciones sin considerar lo que podr¨ªa ir mal¡±, afirma Jennifer Wortman, investigadora senior en Microsoft especializada en aprendizaje autom¨¢tico y econom¨ªa algor¨ªtmica.

• Afrontando el problema

Pero, ?qu¨¦ pasar¨ªa si estos sistemas fueran conscientes de ello? ?Si supieran que pueden haber cometido un error y fueran capaces de enmendarlo? Una de las ramas m¨¢s interesantes que se est¨¢n desarrollando actualmente en aprendizaje autom¨¢tico est¨¢ destinada a este prop¨®sito: que las m¨¢quinas puedan lidiar con la incertidumbre. Compa?¨ªas como Uber o Google ya trabajan en modificar los marcos tradicionales de aprendizaje profundo ¡ªm¨¢s conocido por su denominaci¨®n inglesa, deep learning¡ª para construir programas de inteligencia artificial que midan su confianza en una decisi¨®n para saber cu¨¢ndo deber¨ªan dudar de s¨ª mismos y sean menos propensos a fallar.

¡°Si un autom¨®vil que se conduce solo no sabe que es capaz de equivocarse, puede cometer un error fatal, y eso puede ser catastr¨®fico¡±, afirmaba durante un congreso en California Dustin Tran, que trabaja en el desarrollo de este tipo de sistemas en Google. Normalmente, el veh¨ªculo reconoce objetos en las im¨¢genes que captura por sus c¨¢maras y estima la distancia a la que se encuentran. Con esta nueva aproximaci¨®n, calcular¨ªa la probabilidad de que sus estimaciones fueran correctas y la de cada una de las posibles consecuencias de sus decisiones, y lo tendr¨ªa en cuenta antes de actuar.

En este sentido, la aplicaci¨®n de dichas mec¨¢nicas tambi¨¦n es relevante en ¨¢mbitos como la salud, donde los algoritmos podr¨ªan determinar la posibilidad de acierto en el diagn¨®stico de un paciente y sus potenciales respuestas al aplicarle un determinado tratamiento.

Para alcanzar este ideal, que se enmarca como la pr¨®xima frontera de la inteligencia artificial ¡ªm¨¢quinas capaces de realizar labores complejas teniendo en cuenta par¨¢metros de incertidumbre a la hora de establecer sus predicciones¡ª es necesaria la combinaci¨®n de modelos de aprendizaje profundo con sistemas probabil¨ªsticos.

• La uni¨®n hace la fuerza

¡°El aprendizaje profundo es un tipo de machine learning que utiliza redes neuronales. Adem¨¢s de aplicarse en el campo de la investigaci¨®n, lo emplean Google, Facebook, Microsoft, Amazon, Netflix, Spotify y Uber para describir con lenguaje natural el contenido de una imagen o para el reconocimiento de voz¡±, ilustra Francisco Rodr¨ªguez Ruiz, investigador en las universidades de Columbia y Cambridge con experiencia en estos sistemas. ¡°Su principal ventaja es que permite modelar relaciones complejas entre entradas y salidas (inputs y outputs)¡±.

Por su parte, los sistemas probabil¨ªsticos son modelos estad¨ªsticos que introducen una serie de par¨¢metros para estimar la incertidumbre. ¡°Esto es particularmente ¨²til a la hora de entender lo que puede pasar. Si el modelo duda de s¨ª mismo, este hecho se reflejar¨¢ en sus predicciones para que puedan tenerlo en cuenta¡±, aclara Rodr¨ªguez.

Pero estos sistemas no encajan tan f¨¢cilmente y su combinaci¨®n presenta varios retos t¨¦cnicos en el medio plazo. La complejidad que a?ade el aprendizaje autom¨¢tico cuando se aplica a modelos probabil¨ªsticos dificulta que el c¨¢lculo sobre la incertidumbre de los par¨¢metros fijados sea preciso. ¡°Esto representa un problema en aplicaciones en tiempo real donde sea necesaria una respuesta en un per¨ªodo limitado de tiempo¡±, expone Rodr¨ªguez. ¡°Por ejemplo, un veh¨ªculo aut¨®nomo necesitar¨ªa responder a determinados est¨ªmulos en cuesti¨®n de una fracci¨®n de segundo¡±.

El camino a recorrer se antoja largo y empinado. El tiempo determinar¨¢ si este enfoque permitir¨¢ disfrutar de las ventajas de ambos modelos y desarrollar sistemas cuyas dudas les ayuden a ser m¨¢s eficientes.