Doctor, ?y si le pedimos una segunda opini¨®n a la m¨¢quina?

La IA multiplica sus promesas. Empieza a introducirse en los hospitales, con posibles usos en la interpretaci¨®n de biopsias o lesiones en la piel, dise?o de nuevos medicamentos y selecci¨®n de tratamientos, en detectar problemas de salud mental, ayudar a los radi¨®logos y hasta hacer diagn¨®sticos mediante ChatGPT, o similares, que dialogan con los pacientes.

Para Josep Munuera, jefe de Diagn¨®stico por la Imagen del Hospital Sant Pau de Barcelona y experto en tecnolog¨ªas digitales aplicadas a la salud, ¡°estamos en el momento de empezar a conocer su verdadero valor¡±, de ver qu¨¦ promesas se hacen realidad y de qu¨¦ manera. ¡°Su revoluci¨®n es irreversible¡±, apunta V¨ªctor Maojo, catedr¨¢tico de Inteligencia Artificial y director del Grupo de Inform¨¢tica Biom¨¦dica de la Universidad Polit¨¦cnica de Madrid, pero ¡°debe hacerse de forma seria y donde pueda haber un beneficio claro¡±, porque existen ¡°intereses en ganar dinero de forma r¨¢pida y eso genera riesgos¡±. Como dec¨ªa la periodista cient¨ªfica Christie Aschwanden, ¡°moverse r¨¢pido y romper cosas puede ser bueno para Facebook, pero no lo es demasiado en medicina¡±.

Estos son, agrupados, algunos de los principales campos en los que gana protagonismo, sus pros y sus contras, la realidad actual¡­ Y las dudas ¨¦ticas de viejo y nuevo cu?o.

El ojo cl¨ªnico que le quita la m¨¢scara a las enfermedades

Si en un ¨¢rea lleva ventaja, parece ser la interpretaci¨®n de im¨¢genes gracias a su capacidad para detectar patrones, el entrenamiento de los modelos en los ¨²ltimos a?os y el hecho de que la radiolog¨ªa se digitalizara ya a principios sel siglo XXI. No se trata de algoritmos universales que puedan diagnosticar cualquier anomal¨ªa a partir de una imagen, porque suelen ¡°estar entrenados para un solo tipo de lesi¨®n, por ejemplo fracturas o n¨®dulos tumorales¡±, precisa Munuera, para quien ¡°el objetivo es que lo hagan mejor que un humano, pero no se trata solo de la precisi¨®n, sino de que aporte un beneficio real¡±. Se puede dar la paradoja de que un diagn¨®stico m¨¢s preciso no suponga una ventaja. ?Un ejemplo? Los cribados de c¨¢ncer de pulm¨®n: las nuevas t¨¦cnicas de imagen son capaces de detectarlo antes que las radiograf¨ªas, pero con ambas herramientas se pueden cometer equivocaciones e interpretar como tumorales n¨®dulos que no lo son. Destinados a aplicarse a un gran n¨²mero de personas, podr¨ªan llegar a producir m¨¢s da?o que beneficio, de ah¨ª las dudas acerca de implantarlo.

No es la ¨²nica promesa que despierta reservas. Muchos de los proyectos publicados muestran que funcionan bien en los lugares donde se realizan las pruebas, pero no fuera de all¨ª. Algunas herramientas parecen trabajar con alta precisi¨®n, pero no se prueban en condiciones reales, no se comparan con el acierto humano o funcionan en el hospital que las desarrolla, no en otros, simplemente porque usan m¨¢quinas distintas o atienden a otro tipo de pacientes. Munuera compara este momento con los primeros pasos de los asistentes de conducci¨®n: ¡°Al principio, si los segu¨ªas a ciegas, pod¨ªan llevarte a un lago. De lo que se trata ahora es conseguir que la navegaci¨®n sea fiable¡±.

Ciertos algoritmos ya identifican alteraciones en una radiolog¨ªa de t¨®rax, por ejemplo, y ayudar¨¢n a interpretar biopsias, fondos de ojo o lesiones de piel. Los profesionales expertos en IA seguramente desplazar¨¢n a los que no se reciclen a tiempo

Sin embargo, est¨¢ convencido de sus ventajas. Los hospitales empiezan a integrar algunas herramientas, ¡°aunque todav¨ªa de forma puntual¡±. Sin ir m¨¢s lejos, el propio centro de Munuera est¨¢ probando algunos recursos. ¡°Trabajamos de forma que un asistente basado en IA analiza im¨¢genes y le ofrece ayuda al especialista, en caso de que este la solicite, o bien le indica previamente d¨®nde debe fijarse. Tambi¨¦n puede preparar informes de tipo descriptivo, como en el seguimiento y evoluci¨®n de un tratamiento contra el c¨¢ncer¡±. Otra opci¨®n es que en el futuro facilite la priorizaci¨®n de los an¨¢lisis. ¡°Aunque los algoritmos sirven generalmente para cosas concretas, algunos identifican con mayor o menor precisi¨®n hasta 20 alteraciones diferentes en una radiograf¨ªa de t¨®rax. Eso puede servir para seleccionar, a primera hora, las m¨¢s graves o urgentes, esas que el especialista antes deber¨ªa revisar¡±.

Ante toda tecnolog¨ªa, surge siempre la pregunta de los recursos humanos. ?Destruir¨¢ puestos de trabajo? ?O permitir¨¢ que las personas se dediquen a aquello en que sean m¨¢s ¨²tiles? En 2016, Geoffrey Hinton, conocido como ¡°el padrino de la IA¡±, dijo que nadie deber¨ªa preparase para ser radi¨®logo, porque la nueva tecnolog¨ªa los sustituir¨ªa en poco tiempo. ¡°Es muy dif¨ªcil predecir el futuro, y nos solemos equivocar¡±, opina, sin embargo, Maojo, y prefiere esta otra frase frecuente en el entorno: ¡°No sustituir¨¢ a los radi¨®logos, pero los radi¨®logos que usen IA sustituir¨¢n a los que no lo hagan¡±.

Munuera se declara optimista. ¡°Radi¨®logos faltan, y har¨¢n falta m¨¢s. No solo interpretan las im¨¢genes, sino que deciden la mejor prueba, realizan intervenciones, hacemos muchas m¨¢s cosas. La IA nos va a permitir que lleguemos a m¨¢s y mejor¡±.

Si hablamos de su aplicaci¨®n a la imagen, los estudios van mucho m¨¢s all¨¢ de la radiolog¨ªa, como en interpretaci¨®n de biopsias para discernir posibles tumores, an¨¢lisis del fondo de ojo, lesiones de la piel, lecturas de electrocardiogramas... Pero Munuera advierte: ¡°Debemos asegurarnos de que mejora nuestra pr¨¢ctica m¨¦dica en el lugar en el que la realizamos. Eso es lo realmente importante¡±.

Un laboratorio que radiograf¨ªa prote¨ªnas y crea medicinas de precisi¨®n

Uno de los problemas m¨¢s dif¨ªciles de resolver en biolog¨ªa es c¨®mo predecir la forma de las prote¨ªnas, c¨®mo sus ladrillos (los amino¨¢cidos) van pleg¨¢ndose sobre s¨ª mismos hasta adoptar una estructura en el espacio. No es algo trivial, ni un mero juego de ingenio estilo Tetris. La estructura implica tambi¨¦n su funci¨®n, y conocerla puede servir para entender el mecanismo de las enfermedades, encontrar o fabricar nuevos f¨¢rmacos, sintetizar incluso prote¨ªnas de funciones desconocidas.

Resolver la forma de una prote¨ªna pod¨ªa llevar a?os a los cient¨ªficos. Ahora la IA acelera el proceso de forma radical, lo reduce a minutos. El programa AlphaFold, de Google DeepMind, ha descrito ya la estructura de m¨¢s de 200 millones de prote¨ªnas, incluidas la pr¨¢ctica totalidad de las humanas. Sus inventores han recibido el premio Lasker, ¡°considerado un anticipo del Nobel en Medicina¡±, asegura Maojo. Con el mismo objetivo, Meta ha desarrollado la herramienta ESMFold, que usa modelos de lenguaje similares a los de ChatGPT. Aunque algo menos precisa, es a¨²n m¨¢s r¨¢pida que AlphaFold y ya ha descrito cerca de 700 millones de prote¨ªnas, incluidas mutaciones.

Tambi¨¦n contribuye a encontrar o desarrollar nuevos f¨¢rmacos. Por ejemplo, en el campo de los antibi¨®ticos, donde ya est¨¢ ayudando a descubrir nuevos tipos, a sintetizar nuevas mol¨¦culas o a buscar entre medicamentos aprobados para otras enfermedades aquellos que por su estructura podr¨ªan servir tambi¨¦n como bactericidas. A esto ¨²ltimo se le llama reposicionamiento de f¨¢rmacos y, al estar aprobados previamente, podr¨ªa acortar los plazos de evaluaci¨®n. ¡°La IA puede ser beneficiosa en la lucha contra las resistencias a los antibi¨®ticos, un campo donde no hay grandes inversiones de los laboratorios por no ser muy rentable y en el que no ha habido muchas novedades¡±, explica Mar Gomis-Pastor, farmac¨¦utica cl¨ªnica y directora del Centro de Validaci¨®n Cl¨ªnica de Soluciones Digitales, en el Sant Pau-Campus Salut Barcelona.

Otra ¨¢rea importante: la predicci¨®n de enfermedades y tratamientos, dentro de la medicina de precisi¨®n. Herramientas IA ayudan a calcular de forma personalizada el riesgo de desarrollar una determinada enfermedad, o pueden combinar datos de la historia cl¨ªnica con, por ejemplo, datos gen¨¦ticos para escoger el tratamiento m¨¢s eficaz. Ahora bien, ¡°la inmensa mayor¨ªa de estos proyectos a¨²n est¨¢n en fase de investigaci¨®n¡±, reconoce Maojo. Los riesgos quedaron patentes cuando en 2018 la herramienta Watson, desarrollada por IBM, cometi¨® graves errores en sus recomendaciones, con contraindicaciones evidentes. Siguiendo la met¨¢fora del navegador, es preciso asegurarse de que no nos conduzca hasta un lago.

Casi cada propuesta lleva en alg¨²n lugar escritas esas dos iniciales. Y si no lo hace, es posible que la IA haya ayudado a redactar el proyecto o a comunicar los resultados.

Los ¡®chatbots¡¯ podr¨ªan superar y sustituir al doctor Google

A principios de 2023, un estudio comprob¨® que la versi¨®n ChatGPT de aquel entonces podr¨ªa aprobar los ex¨¢menes para obtener la licencia de m¨¦dico en EEUU, o al menos estaba a punto de alcanzar la habilidad necesaria para lograrlo. Apenas unos meses despu¨¦s, otro trabajo lo puso a prueba con preguntas m¨¦dicas de un foro p¨²blico en Internet. Cuando se compararon sus respuestas con las de los m¨¦dicos, las de ChatGPT tend¨ªan a recibir mejores valoraciones tanto en fondo como en forma.

Uno de los ¨²ltimos casos que ha copado titulares emple¨® una herramienta parecida, desarrollada por Google. En cerca de 150 consultas m¨¦dicas simuladas online, los participantes en el estudio ignoraban si estaban hablando con el chatbot o un m¨¦dico. Resultado: la precisi¨®n de los diagn¨®sticos fue muy similar, y en algunas especialidades la m¨¢quina superaba al humano. Adem¨¢s, y esta fue la mayor sorpresa, los participantes tend¨ªan a considerar sus respuestas m¨¢s educadas, explicativas y emp¨¢ticas. Como reconocen sus autores, la herramienta est¨¢ dise?ada para ¡°componer r¨¢pidamente respuestas largas y bellamente estructuradas, puede responder de forma considerada y sin cansarse¡±.

¡°Que genere un texto emp¨¢tico es bueno¡±, puntualiza Munuera, ¡°pero no es m¨¢s que eso, un texto. La experiencia de la empat¨ªa humana completa va mucho m¨¢s all¨¢ y tiene una gran parte no verbal. La herramienta no puede mirar a los ojos, ni tocar un hombro¡±. ¡°Adem¨¢s, la precisi¨®n del diagn¨®stico en estos estudios se eval¨²a en unas pruebas cerradas y limitadas que no son la realidad. Un paciente no es una pregunta MIR [el examen para acceder a una especialidad en Espa?a]¡±.

El papel de estas tecnolog¨ªas ¡°no tiene que ser el de hacer diagn¨®sticos. Deben usarse para lo que son mejores, es decir, hacer textos, mejorar la comunicaci¨®n entre el m¨¦dico y el paciente¡±, y sus aplicaciones han de estudiarse caso por caso, completa Munuera. Por ejemplo, ¡°son muy buenas traduciendo conversaciones reales, pueden servir para ayudarnos en la historia cl¨ªnica o en los informes de alta. Si nos hacen ganar ese tiempo, los m¨¦dicos podremos hacer m¨¢s cosas, hablar m¨¢s tiempo con el paciente, mirarle m¨¢s a los ojos¡±.

Coincide Gomis-Pastor, para quien la IA ser¨¢ ¨²til especialmente ¡°en tareas automatizables y burocr¨¢ticas, m¨¢s que en la pr¨¢ctica cl¨ªnica, al menos en un principio¡±.

Su mayor peligro, que los humanos le tengan fe ciega

La tecnolog¨ªa rara vez es neutral, puede arrastrar dudas ¨¦ticas ya presentes e inaugurar otras. La de la caja negra es una de las asociadas a la IA, que parte de sus algoritmos puedan resultar opacos para quienes los usan, o que en su mara?a de procesos no puedan conocerse todas las reglas usadas, en qu¨¦ se fija y c¨®mo llega a su conclusi¨®n. En un campo como la medicina, pueden introducir sesgos y llevar a errores dif¨ªciles de identificar y cuya causa no es posible establecer. Esto se une a un debate sobre la responsabilidad: si confiamos en la m¨¢quina, ?su error es achacable al m¨¦dico o a sus programadores?

Seg¨²n Munuera, se trabaja duro para que los algoritmos sean transparentes. ¡°Debemos conocer c¨®mo funcionan, c¨®mo est¨¢n construidos y qu¨¦ datos han utilizado, y eso se puede hacer incluso respetando patentes¡±. Maojo comparte que ¡°los algoritmos deben ser todo lo explicables que sea posible, pero probablemente no siempre lo ser¨¢n de forma completa, adem¨¢s se da una paradoja, que los m¨¢s precisos suelen ser m¨¢s opacos¡±. El cardi¨®logo y genetista estadounidense Eric Topol escrib¨ªa en un art¨ªculo que ¡°el debate sobre si es aceptable o no usar algoritmos opacos sigue abierto, pero tambi¨¦n es cierto que muchos aspectos en la pr¨¢ctica m¨¦dica siguen sin explicaci¨®n, como cuando se receta un medicamento sin que se conozca su mecanismo de acci¨®n¡±.

La opacidad de los datos y de los algoritmos aumenta el riesgo de sesgos. Se debe conocer c¨®mo funcionan, c¨®mo est¨¢n construidos y qu¨¦ datos han utilizado, y eso se puede hacer incluso respetando las patentes

La transparencia, en cualquier caso, resulta preferible, porque la opacidad de los algoritmos y los datos es una fuente posible de sesgos. Por ejemplo, la mayor parte de la investigaci¨®n biom¨¦dica se ha hecho con pacientes hombres blancos. Como las nuevas tecnolog¨ªas no son ajenas a ello, ya existen riesgos fruto de esa distorsi¨®n: una aplicaci¨®n de IA para detectar lesiones de melanoma en la piel lo hac¨ªa mucho mejor con poblaci¨®n blanca que negra, y herramientas para estimar el riesgo cardiovascular pueden funcionar mejor en hombres que en mujeres. Adem¨¢s, como explica Munuera, ¡°la mayor¨ªa de los datos que usan proceden de EEUU y China, dos pa¨ªses donde el acceso a la sanidad no es universal¡±. Por eso se han dado casos de sesgos socioecon¨®micos.

De fondo, el problema a?adido de la privacidad de los datos, como cuando se transfirieron sin consentimiento los historiales de m¨¢s de 1,5 millones de personas desde el Servicio Nacional de Salud del Reino Unido a la empresa DeepMind, un caso juzgado y condenado. ¡°Debemos asegurarnos de que las grandes compa?¨ªas no los usen en su ¨²nico beneficio sin consentimiento¡±, reclama Gomis-Pastor. Munuera pide calma: ¡°Los algoritmos deben seguir la ley de protecci¨®n de datos y pasan por un proceso para asegurar que no trascienden y se usan ¨²nicamente con su prop¨®sito original. Los hospitales dedicamos mucho esfuerzo a velar por su privacidad, las personas no deber¨ªan preocuparse¡±. Se?ala que a menudo entregamos datos, incluso sobre salud, al aceptar ¡°condiciones y formularios en aplicaciones digitales de empresas privadas¡±.

?Es posible una revoluci¨®n sin prisa?

Si el nombre hace la cosa, fue el matem¨¢tico e ingeniero John McCarthy quien cre¨® la IA en 1955. Sin embargo, cuando a principios de los noventa le preguntaron por sus aplicaciones en medicina, su respuesta, cuenta Maojo, fue: ¡°No me interesa¡±.

Este art¨ªculo cita ejemplos que quiz¨¢ le hubieran interesado, y sin embargo son solo unos pocos en un paisaje cada vez m¨¢s amplio. Pr¨¢cticamente cualquier disciplina m¨¦dica o ¨¢rea de investigaci¨®n juega con la IA: en gesti¨®n de hospitales, en prevenci¨®n de demencias o problemas de salud mental, en ensayos cl¨ªnicos, en interpretaci¨®n de datos que env¨ªan relojes inteligentes, en proyectos de salud p¨²blica o de respuesta a posibles pandemias...

¡°La revoluci¨®n es segura, pero las prisas pueden dar lugar a problemas serios. Creo que con este tipo de tecnolog¨ªas estamos pasando de tener bastante desconfianza a una confianza excesiva¡±, alerta Maojo. Topol dec¨ªa: ¡°El riesgo que suponen unos algoritmos defectuosos es exponencialmente mayor que el que implica una sola interacci¨®n m¨¦dico-paciente (¡­) La IA no puede ser una excepci¨®n, necesita estudios rigurosos¡±. En medicina, los humanos seguir¨¢n siendo necesarios porque ¡°la salud es demasiado valiosa como para relegarla a las m¨¢quinas¡±.

Es decir, habr¨¢ que dise?ar los navegadores para que nos ayuden, no para que nos hundan, y seguir vigilantes por si alguna vez nos llevan al lago. ¡°Es un momento excepcional, estamos viendo c¨®mo irrumpe una evoluci¨®n de tecnolog¨ªas que van a mejorar la velocidad, la precisi¨®n y nos van a permitir a los sanitarios ser mucho m¨¢s humanos¡±, augura Munuera. ¡°Porque la tecnolog¨ªa no es un fin, es un veh¨ªculo¡±.