Roxana Daneshjou: ¡°Un sesgo muy claro en dermatolog¨ªa es que la IA no se entrena con im¨¢genes de pieles morenas o negras¡±

Profesora, doctora e investigadora Roxana Daneshjou es una referencia presente proyectada al futuro. M¨¦dica en una cl¨ªnica de Palo Alto (no lejos de la californiana Universidad de Stanford donde se form¨®), y al mismo tiempo es una experta en la aplicaci¨®n de los modelos IA en su especialidad en particular, dermatolog¨ªa, y en la salud en general, con numerosos art¨ªculos cient¨ªficos publicados sobre sus promesas y peligros.

Todav¨ªa no son comunes perfiles como el suyo, que combina la pr¨¢ctica de la medicina con la investigaci¨®n en IA...

Estudi¨¦ bioingenier¨ªa en la universidad y ya entonces me interesaba el uso de la tecnolog¨ªa para mejorar la atenci¨®n m¨¦dica. Cuando aprend¨ª sobre aprendizaje profundo y las formas tempranas de IA, me di cuenta de que, como la dermatolog¨ªa es muy visual, la visi¨®n computerizada podr¨ªa tener un gran impacto en nuestro campo. Por eso quise entender c¨®mo se construyen y prueban los modelos, y comprender los aspectos t¨¦cnicos mientras practicaba la medicina. Es algo que me ayuda a entender los problemas del mundo real y a pensar c¨®mo podemos usar la tecnolog¨ªa para abordarlos.

?Tambi¨¦n en este campo existe un exceso de expectativas?

Todo lo que sea afirmar que vamos a reemplazar a los m¨¦dicos se puede considerar hype [abreviatura en ingl¨¦s de hip¨¦rbole, que ha pasado a la jerga tecnol¨®gica como sin¨®nimo de reacci¨®n emocional exagerada]. Pero tambi¨¦n existen muchas oportunidades, como en herramientas que ayuden con las tareas administrativas o sirvan de apoyo a la toma de decisiones. Muchas, si se prueban correctamente, ser¨¢n ¨²tiles.

?Cu¨¢les tienen m¨¢s potencial?

Por ejemplo, el modelo que pueda escuchar la conversaci¨®n entre m¨¦dico y paciente y luego adjuntar autom¨¢ticamente la documentaci¨®n m¨¦dica necesaria. Permitir¨ªa a los sanitarios dedicarle m¨¢s tiempo al paciente en lugar de preocuparse por el papeleo. Tambi¨¦n son interesantes las herramientas que visionan im¨¢genes como rayos X o resonancias magn¨¦ticas para ayudar a identificar enfermedades y asistir al m¨¦dico que lee esas im¨¢genes. Existen muchas m¨¢s posibilidades, pero lo m¨¢s importante es que todo est¨¦ validado y para ello hacen falta ensayos cl¨ªnicos prospectivos de seguimiento a los pacientes para asegurarnos de que no hay efectos da?inos y todo funciona bien. Tambi¨¦n hacen falta evaluaciones para ver qu¨¦ tal funcionan esas herramientas en el mundo real.

Me preocupan las aplicaciones que usan directamente los pacientes. Por ejemplo, en dermatolog¨ªa hemos visto ¡®apps¡® m¨®viles que aseguran diagnosticar c¨¢nceres de piel. De la mayor¨ªa no sabemos si funcionan, si han sido probadas o validadas

?Algunas de esas herramientas podr¨ªan resultar peligrosas?

Me preocupan las aplicaciones que usan directamente los pacientes. Por ejemplo, en dermatolog¨ªa hemos visto apps m¨®viles que aseguran diagnosticar c¨¢nceres de piel. De la mayor¨ªa no sabemos si funcionan, si han sido probadas o validadas como es debido, pero se pueden descargar f¨¢cilmente y tienen el potencial de causar mucho da?o si fallan al tranquilizar al paciente o le preocupan sin necesidad. No existen modelos dermatol¨®gicos capaces de identificar estas cosas de forma aut¨®noma, sin un m¨¦dico que revise las im¨¢genes.

?Siempre debe existir la supervisi¨®n de un doctor?

Ciertos modelos IA en dermatolog¨ªa pueden ayudar al m¨¦dico de atenci¨®n primaria y aumentar su precisi¨®n, pero la intuici¨®n y la sabidur¨ªa de ese doctor siguen teniendo la decisi¨®n final. Por ejemplo, un estudio ha mostrado c¨®mo estas herramientas pueden mejorar la habilidad de los sanitarios generalistas para detectar enfermedades de la piel. Que estas herramientas ayuden al m¨¦dico de cabecera a hacer un mejor trabajo y descubrir qui¨¦n necesita cita, puede ser muy ¨²til.

?La IA destruir¨¢ puestos de trabajo?

No lo creo, al menos en este sector y de momento. Se integrar¨¢ en el sistema de atenci¨®n m¨¦dica para trabajar en colaboraci¨®n con los profesionales sanitarios, pero para nada estamos cerca de la precisi¨®n necesaria para que desplace a m¨¦dicos y sanitarios.

Hay ejemplos de IA impresionantes, pero todav¨ªa estamos en las primeras fases de descubrir c¨®mo aplicarla al cuidado del paciente

Quiz¨¢ no los sustituya, ?pero les obligar¨¢ a actualizarse y aprender a manejarla?

S¨ª, tendr¨¢n que entrenarse. Siempre se dice que los m¨¦dicos ser¨¢n desplazados por otros m¨¦dicos, los que entiendan y sepan usar la tecnolog¨ªa. Es emocionante ver c¨®mo las nuevas generaciones de m¨¦dicos y sanitarios muestran inter¨¦s por estas herramientas. Hace falta m¨¢s, pero ya existe cierta conciencia de que van a ser algo importante, que hay que entenderlas y a ayudar a construirlas.

?Y los ingenieros? ?Tendr¨¢n que formarse en ¨¦tica y medicina?

Precisamente, como persona que trabaja entre esa parte tecnol¨®gica y la pr¨¢ctica de la medicina, me parece extraordinariamente importante, a la hora de dise?ar un algoritmo, entender el problema que est¨¢s intentando solucionar y c¨®mo se manifiesta en el mundo real. Varios estudios ya demuestran que, si no tienes en cuenta los sesgos y el factor social, puedes construir algoritmos que causen da?o a poblaciones vulnerables.

?Puede poner un ejemplo?

Uno muy claro en dermatolog¨ªa es que muchos modelos no se entrenan con im¨¢genes de enfermedades en pieles morenas y negras, y por eso son muy malos identificando enfermedades y c¨¢nceres en esos pacientes. Es un caso de sesgo en su dise?o, porque s¨ª pueden hacerlo con pieles blancas.

?Los pacientes est¨¢n preparados para entender que el doctor ChatGPT no existe?

Ya exist¨ªa desinformaci¨®n en Google, obviamente, pero cuando hablas con ChatGPT puede que te d¨¦ datos err¨®neos o alucine diciendo cosas que no son verdad. Es un riesgo grande con este tipo de modelos de lenguaje.

?Supone un problema para la privacidad que se sumen empresas como Google o Microsoft?

La privacidad de los pacientes es enormemente importante y cualquier compa?¨ªa que trabaje en este campo debe ser consciente y protegerla. C¨®mo se va a usar la informaci¨®n de los pacientes, qui¨¦n va a tener acceso a ella¡­ todo debe tratarse con la m¨¢xima transparencia.

?Deber¨ªan estar informados si se usa IA en los diagn¨®sticos?

Tambi¨¦n aqu¨ª es necesaria la transparencia, los pacientes deber¨ªan saber exactamente cu¨¢ndo se usa la IA y tener el derecho a pedir una segunda opini¨®n humana, sin IA.

?Y podr¨¢n tener esa segunda opini¨®n?

Es una buena pregunta. Creo que a¨²n no lo sabemos. Por ejemplo, algunas compa?¨ªas de seguros est¨¢n utilizando IA para denegar coberturas y hasta ahora no hay mecanismos para anular esas denegaciones generadas por IA. De hecho, ya hay un litigio al respecto en EEUU.

?Existe el riesgo de dos niveles de cobertura sanitaria, uno con acceso a m¨¦dicos humanos y otro con acceso solo a modelos IA?

Puede ser un problema en pa¨ªses sin sanidad p¨²blica universal, como EE UU. Es decir, que poblaciones vulnerables, sin acceso a la atenci¨®n m¨¦dica, tengan una especie de valoraciones con IA, mientras que las personas con recursos accedan a la mejor cobertura. La tecnolog¨ªa puede ser un lujo solo al alcance de personas con capacidad de acceso, pero tambi¨¦n puede usarse para prestar una atenci¨®n peor que las interacciones humanas recibidas por las personas que no tienen ese acceso.

A pesar de estas cautelas, ?estamos al comienzo de una revoluci¨®n?

Creo que la IA cambiar¨¢ la atenci¨®n m¨¦dica y espero que para bien. En el mejor escenario posible, reduciremos la carga de los profesionales, les ayudaremos a ofrecer una atenci¨®n m¨¢s precisa y puntual, justa y no da?ina para los pacientes, con un mejor resultado. Esa es la esperanza. El peor escenario es el de herramientas que no funcionan o tienen sesgos y terminan da?ando a poblaciones vulnerables con una atenci¨®n de calidad inferior¡­ Respecto al futuro, no soy ni optimista ni pesimista, soy realista. Veo las oportunidades y soy consciente de los peligros potenciales.