Regina Barzilay: ¡°Tenemos que aprender a vivir en un mundo en el que la tecnolog¨ªa toma decisiones que no podemos supervisar¡±

En 2017, el cient¨ªfico del MIT Max Tegmark public¨® Vida 3.0, un libro en el que reconoc¨ªa las posiblidades de la inteligencia artificial para mejorar la existencia humana, pero advert¨ªa sobre los grandes riesgos que entra?aba si no se desarrollaba correctamente. ¡°Hay una gran presi¨®n econ¨®mica para hacer obsoletos a los humanos¡±, dec¨ªa entonces a este peri¨®dico. Una parte importante de la revoluci¨®n de las m¨¢quinas inteligentes que ped¨ªa vigilar Tegmark se est¨¢ produciendo, precisamente, en el MIT, en Boston, y all¨ª, una de sus l¨ªderes es Regina Barzilay (Chisinau, Moldavia, 52 a?os). Barzilay, que se mud¨® con sus padres a Israel en los a?os noventa, cuando la ca¨ªda de la Uni¨®n Sovi¨¦tica inund¨® el pa¨ªs de los jud¨ªos de talento inmigrante, cree que a veces se habla demasiado de los riesgos de la inteligencia artificial y no de sus posibilidades, no para hacer obsoletos a los humanos, sino para ayudarles a ser mejores.

Barzilay, que la semana pasada particip¨® en Madrid en la reuni¨®n anual de GEICAM, el grupo espa?ol de investigaci¨®n en c¨¢ncer de mama, tiene una experiencia personal que le hizo muy consciente de las limitaciones humanas. En 2014 fue diagnosticada con c¨¢ncer de mama. Entonces, como muchas pacientes tras una noticia que le llen¨® de miedo e incertidumbre, pens¨® en por qu¨¦ su problema no se hab¨ªa detectado antes. La investigadora decidi¨® entonces aprovechar su experiencia ense?ando a los ordenadores a aprender para desarrollar una tecnolog¨ªa que les permita analizar las im¨¢genes que surgen de las mamograf¨ªas y detectar, mucho antes de lo que ser¨ªa posible para el ojo humano, pautas que indiquen que algo puede ir mal.

¡°Hay un ¨¦nfasis excesivo en los riesgos de esta tecnolog¨ªa, pero si observas los sistemas sanitarios de todo el mundo, no suelen incluirla. Solo est¨¢ en algunos hospitales donde se hace investigaci¨®n¡±, explica, durante una entrevista realizada en Madrid. ¡°Es como hablar de los peligros que tiene una casa en Marte cuando nadie est¨¢ construyendo casas en Marte. El peligro de la inteligencia artificial est¨¢ en retrasar su aplicaci¨®n a la medicina, porque hay mucha gente que sufre por el cuidado insuficiente, por los errores m¨¦dicos o los elevados costes de la sanidad¡±, remata.

Pregunta. Dice su colega Tegmark que la inteligencia artificial tiene muchas posibilidades, pero precisamente por eso, tambi¨¦n hay muchas cosas que pueden ir mal.

Respuesta. Sucede con cualquier tecnolog¨ªa. Por un lado, hay cosas que puede hacer la inteligencia artificial que no pueden hacer los humanos. Ah¨ª el problema est¨¢ en que ning¨²n experto puede comprobar si lo que ha hecho la m¨¢quina est¨¢ bien. E incluso si la m¨¢quina hace bien la tarea en el 95% de los casos, hay un 5% de error que podemos tardar mucho tiempo en detectar. Un ejemplo es lo que pas¨® con Anne Hathaway, la actriz, y Berkshire Hathaway, el fondo del inversor Warren Buffet. Un bloguero del Huffington Post vio que, durante muchos a?os, cada vez que la actriz Anne Hathaway aparec¨ªa en los medios, las acciones de Berkshire Hathaway sub¨ªan porque el robot trader se confund¨ªa. El problema es que sigui¨® pasando durante mucho tiempo hasta que alguien se dio cuenta. Y esos errores pueden suceder en sanidad.

Hay un caso muy famoso descrito por colegas de Berkeley. En el sistema para seleccionar a los pacientes que llegan a los hospitales en EE UU, para ver si est¨¢s muy enfermo y necesitas un cuidado especial o puedes volver a casa a seguir con tu vida, observaron que si introduces la misma informaci¨®n de dos personas que est¨¢n en la misma situaci¨®n, pero de razas diferentes, el sistema evaluar¨ªa como m¨¢s enfermo a la blanca que a la negra. Y hab¨ªa una raz¨®n que ten¨ªa que ver con la forma en que se hab¨ªa entrenado al sistema. Para decidir qui¨¦n estaba m¨¢s enfermo, hab¨ªan metido entre otros valores el coste de los tratamientos que recib¨ªa. En EE UU, si est¨¢s muy enfermo, recibes tratamientos muy caros, y esto hac¨ªa que se etiquetase como m¨¢s enfermos a los que hab¨ªan recibido esos tratamientos. Pero por cuestiones socioecon¨®micas, algunos afroamericanos no hab¨ªan recibido los tratamientos que necesitaban. As¨ª que durante su aprendizaje, el sistema integr¨® este sesgo tambi¨¦n y fueron necesarios a?os para darse cuenta del problema. Lo que quiero decir es que tenemos sistemas que ya son m¨¢s listos que nosotros y nuestra capacidad para ver si est¨¢n haciendo algo mal es m¨ªnima. Tenemos que aprender a vivir en este mundo en el que la tecnolog¨ªa toma muchas decisiones que no podemos supervisar.

¡°El peligro de la inteligencia artificial est¨¢ en retrasar su aplicaci¨®n a la medicina¡±

P. ?Qu¨¦ puede aportar la inteligencia artificial a la medicina?

R. Si hoy vas al m¨¦dico, como una persona sana, y preguntas cu¨¢l es el riesgo de tener una enfermedad determinada, el m¨¦dico no te lo va a saber decir. Puede saber c¨®mo est¨¢s ahora, pero no te puede decir la probabilidad de desarrollar una enfermedad. Eso nos deja en un estado de desprotecci¨®n, porque no sabemos lo que va a venir, y ah¨ª la m¨¢quina nos puede ayudar. La pregunta no es si la m¨¢quina es perfecta, la pregunta es si puede aportarnos capacidades distintas de las de los humanos.

La mayor¨ªa de diagn¨®sticos de c¨¢ncer se hacen hoy a trav¨¦s de im¨¢genes y la ¨²nica respuesta que puede ofrecer un m¨¦dico es si tienes c¨¢ncer hoy. Pero sabemos que hace falta mucho tiempo para desarrollar c¨¢ncer. As¨ª que, aunque el paciente llegue hoy y no observes rastros de c¨¢ncer, y en una revisi¨®n un a?o despu¨¦s lo veas, seguramente hubiese se?ales ya la primera vez y se pasaron por alto. De hecho, hay estudios que muestran que en m¨¢s del 30% de las mujeres diagnosticadas, el c¨¢ncer, incluso para el ojo humano, era visible un a?o antes. As¨ª que hay un retraso significativo entre el momento en que se desarrolla el c¨¢ncer y el momento en que se detecta. Lo que las m¨¢quinas pueden hacer es detectar esas pautas sutiles en los cambios en los tejidos y adelantar el diagn¨®stico.

P. ?Qu¨¦ aspectos de la inteligencia artificial est¨¢n perfeccionando?

R. Cuando miras a los algoritmos de aprendizaje para las m¨¢quinas, lo que m¨¢s preocupa a la gente es la precisi¨®n en el test. Eso es algo muy importante, pero en aplicaciones cr¨ªticas, como las de medicina, tambi¨¦n es importante que, cuando se les hace una pregunta, las m¨¢quinas puedan decir: eso no lo s¨¦. Es como cuando vas en tu coche, que no sabes exactamente c¨®mo funciona, pero si tienes un piloto rojo sabes que lo tienes que llevar al garaje. Sorprendentemente, los modelos de aprendizaje de las m¨¢quinas no tienen esta capacidad de avisarnos de que hay que corregir algo. Muchas veces pecan de exceso de confianza. As¨ª que es necesario a?adir soluciones tecnol¨®gicas para resolverlo.

¡°Hay estudios que muestran que en m¨¢s del 30% de las mujeres diagnosticadas, el c¨¢ncer, incluso para el ojo humano, era visible un a?o antes¡±

P. ?C¨®mo puede mejorar el tratamiento ese adelanto en el diagn¨®stico?

R. En primer lugar, la inteligencia artificial puede servir como un aviso para despu¨¦s hacer un estudio m¨¢s a fondo. Por ejemplo, una resonancia magn¨¦tica tiene m¨¢s resoluci¨®n que una mamograf¨ªa, pero es mucho m¨¢s cara y hay una capacidad m¨¢s limitada para hacerlas. Y en segundo lugar, hay f¨¢rmacos preventivos que son una opci¨®n.

Otro ejemplo de lo que puede aportar est¨¢ en el c¨¢ncer de pulm¨®n, que es de alg¨²n modo a¨²n m¨¢s horrible que el de mama, porque al menos en el de mama hay cribado. En pulm¨®n, solo se hace cribado para gente que fuma mucho, al menos en EE UU. Y las tasas de supervivencia son muy bajas, principalmente porque esos tumores se diagnostican cuando ya se est¨¢n extendiendo y no los puedes controlar. Y est¨¢n apareciendo cada vez m¨¢s tumores en personas que no fuman. Lo que se podr¨ªa hacer es incluir cribados tambi¨¦n a esa gente que no fuma, aunque no fuese con la frecuencia de las mamograf¨ªas o de las que se hacen a los fumadores. Podr¨ªamos decir, estos pacientes no tienen riesgo, no necesitan volver, pero detectar¨ªamos a muchos que s¨ª tienen riesgo y podr¨ªan requerir un seguimiento parecido al de los fumadores.

P. ?Esta tecnolog¨ªa puede ayudar a hacer m¨¢s asequibles los tratamientos para el c¨¢ncer?

R. Creo que si miramos a la evaluaci¨®n de riesgo, por ejemplo, reducir¨¢ mucho el coste del cuidado, porque para hacer este cribado no necesitas un equipamiento extra. La mayor parte del coste en c¨¢ncer viene del tratamiento de los c¨¢nceres m¨¢s avanzados, porque los f¨¢rmacos y los cuidados son muy caros. As¨ª que, si detectas el c¨¢ncer antes, puedes aplicar tratamientos m¨¢s cortos y menos costosos.

Y tambi¨¦n, ahora para los cribados tenemos unas pol¨ªticas generales, con recomendaciones por edades y para todo el mundo igual, pero la verdad es que hay muchas mujeres que no necesitan hacerse la mamograf¨ªa todos los a?os o incluso cada dos a?os, porque tienen un riesgo muy bajo. El modelo puede calcular un r¨¦gimen de vigilancia espec¨ªfico para ti y eso permitir¨ªa ser mucho m¨¢s eficientes con el presupuesto que tenemos para cribados en toda la poblaci¨®n que teniendo la misma pol¨ªtica para todo el mundo.

P. Adem¨¢s de aplicar la inteligencia artificial, ustedes la utilizan para descubrir nuevos f¨¢rmacos.

R. No creo que la inteligencia artificial vaya a sustituir a los humanos en la b¨²squeda de f¨¢rmacos, pero ayuda en todas las etapas. Hemos desarrollado tecnolog¨ªas que las grandes farmac¨¦uticas utilizan en ciertos aspectos de su trabajo. Ahora, cuando tienes una mol¨¦cula y quieres ver si es t¨®xica o si tiene propiedades antibacterianas, necesitas fabricarla y despu¨¦s hacer los test necesarios y gastar mucho dinero. Pero hay miles de millones de mol¨¦culas y no puedes fabricarlas todas para ponerlas a prueba. Como resultado, estamos limitados a una peque?a proporci¨®n de ellas. Los modelos te pueden ayudar a probar en ordenadores la mol¨¦cula y ver si tiene las propiedades que buscas, antibacterianas, por ejemplo. As¨ª se desarroll¨® un antibi¨®tico muy potente, la halicina, que funciona contra muchos pat¨®genos resistentes a otros antibi¨®ticos.

P. ?Cree que la inteligencia artificial acabar¨¢ por sustituir a los m¨¦dicos o a los investigadores?

R. La inteligencia artificial puede ser un apoyo para mejorar el trabajo de m¨¦dicos o investigadores. Es como los ordenadores en los setenta o los ochenta. La gente dej¨® de escribir en papel, pero los ordenadores no sustituyeron a los profesionales, solo les hizo m¨¢s efectivos.

Puedes seguir a EL PA?S Salud y Bienestar en Facebook, Twitter e Instagram.