Vanesa Guerrero, matem¨¢tica: ¡°Nos hace vulnerables no saber qu¨¦ hay detr¨¢s de la inteligencia artificial¡±

¡°?Es mejor un reloj parado que no funciona en absoluto u otro que se atrasa un minuto cada d¨ªa?¡±. Esta adivinanza aparece en la obra del matem¨¢tico Lewis Carroll cuando el Sombrerero Loco toma el t¨¦ con Alicia en el Pa¨ªs de las Maravillas. Tambi¨¦n es una de las preguntas que le plante¨® Vanesa Guerrero (Guadalcanal, Sevilla, 25 a?os) a ChatGPT de dos maneras distintas. Primero, la inteligencia artificial (IA) eligi¨® el reloj que se atrasaba un minuto cada d¨ªa, pero al reformular la pregunta, la herramienta cambi¨® de opini¨®n.

Esta escena literaria sirvi¨® de ejemplo a Guerrero para explicar que ChatGPT elija una respuesta o la contraria en funci¨®n de c¨®mo est¨¦ formulada la pregunta. Lo mismo ocurre con los modelos matem¨¢ticos con los que ella trabaja. ¡°Con mi investigaci¨®n busco desarrollar herramientas, algoritmos, metodolog¨ªa, modelos, ecuaciones que te permitan, a trav¨¦s de unos datos, tomar decisiones informadas, que sean interpretables y coherentes y que no discriminen¡±, explica. Guerrero ha sido una de las ganadoras de los premios L¡¯Or¨¦al-Unesco For Women in Science por su labor sobre la equidad algor¨ªtmica en datos funcionales. Es doctora en matem¨¢ticas por la Universidad de Sevilla y profesora de Estad¨ªstica en la Universidad Carlos III de Madrid.

Guerrero busca que sus algoritmos ¡°tomen decisiones justas¡± partiendo de datos funcionales, como son por ejemplo el salario de una persona o su presi¨®n arterial. La forma de hacerlo es primero definir qu¨¦ significa equidad en un contexto y luego escribir la formulaci¨®n matem¨¢tica, ver c¨®mo resolverla y c¨®mo aplicarla, seg¨²n relata. En su d¨ªa a d¨ªa, Guerrero lidia con profesionales de otros sectores ¡ªcomo empresas de seguros o bancos¡ª para dar forma a sus ecuaciones y resolver distintos problemas. El abanico de dificultades en su mundo algor¨ªtmico es muy amplio: ¡°Muchas veces lo m¨¢s complicado es el uso del lenguaje en s¨ª, el ser capaz de entender cu¨¢les son las necesidades que existen, incluso dentro de la propia matem¨¢tica¡±, admite.

Ecuaciones justas

?Pueden llegar a ser los algoritmos totalmente justos? Guerrero dice que est¨¢ trabajando en ello, pero explica que los sesgos son inherentes a los datos. ¡°La inteligencia artificial est¨¢ reproduciendo aquellos sesgos que est¨¢n en los datos. Va a ir evolucionando, igual que est¨¢ evolucionando la sociedad. Igual que ahora hablamos en un lenguaje m¨¢s inclusivo, que hace 20 a?os era impensable, de la misma manera va a ocurrir con este tipo de herramientas basadas en la inteligencia artificial¡±. Tanto en estad¨ªstica como en los modelos de IA, Guerrero advierte de que la selecci¨®n de datos es crucial para que ¡°sean representativos de lo que se quiere estudiar¡±.

En los casos donde ChatGPT ha dado resultados sesgados por g¨¦nero, como por ejemplo, los de predicci¨®n de enfermedad, Guerrero propone a los creadores un compromiso con los datos: ¡°Si quieres que tu algoritmo o tu modelo sea preciso a la hora de predecir una enfermedad, pero tambi¨¦n que [sea preciso] entre los grupos sensibles que tienes, como hombres y mujeres, tienes que balancear el error total de predicci¨®n con el error de los grupos¡±. Es decir, saber c¨®mo se comporta el algoritmo en un grupo concreto, de manera global y corregir los errores que encuentra entre los ¡°grupos sensibles¡±. Adem¨¢s, Guerrero tambi¨¦n apuesta por la igualdad de ge?nero en los equipos tecnol¨®gicos: ¡°A d¨ªa de hoy hay m¨¢s hombres que mujeres. Hacen falta equipos donde haya hombres, mujeres y personas de distintas religiones. Cada uno ha vivido una cosa que despu¨¦s vuelca en su trabajo¡±.

El hecho de no controlar las respuestas de la inteligencia artificial supone un riesgo tambi¨¦n para el conocimiento en general. Las nuevas generaciones ¡°se van a educar leyendo lo que ChatGPT les devuelve¡±, se?ala Guerrero. Dos profesores de Tecnolog¨ªa en A Coru?a reconocieron a EL PA?S en diciembre del a?o pasado que ChatGPT ¡°es una herramienta valios¨ªsima¡± que se puede utilizar en las aulas ¡°como un gu¨ªa o un asesor¡±. Los profesores hacen hincapi¨¦ en que los alumnos hagan buenas preguntas a para obtener mejores resultados de la herramienta. Guerrero, como docente, es partidaria de que se use la herramienta, sin embargo, se enfoca en la arquitectura algor¨ªtmica: ¡°Hace falta investigaci¨®n y desarrollar modelos y m¨¦todos que hagan la correcci¨®n [de sesgos] hasta que no se alcance de manera natural¡±.

Regular las cajas negras

Otra manera de afrontar los problemas de la inteligencia artificial es con la gobernanza ¨¦tica de los sistemas. El martes pasado, la Uni¨®n Europea aprob¨® definitivamente la ley de inteligencia artificial, que se aplicar¨¢ de forma progresiva hasta 2026. La norma establece distintas obligaciones a las aplicaciones de IA en funci¨®n de los riesgos de su uso. La creaci¨®n de im¨¢genes o noticias falsas, y la posibilidad de no distinguir entre lo que es real y lo que no lo es, como los llamados deepfakes, son algunas de sus consecuencias. ¡°No hay que parar la evoluci¨®n de esa tecnolog¨ªa, ni mucho menos, sino valorar los riesgos y regular para que no afecte de mala manera a la sociedad¡±, matiza.

Guerrero define como ¡°cajas negras¡± a los modelos de inteligencia artificial creados por las grandes tecnol¨®gicas, como OpenAI o Google. Estos dispositivos se caracterizan por su gran almacenamiento y su opacidad. ¡°El no saber qu¨¦ hay detr¨¢s te hace vulnerable, ?por qu¨¦ me est¨¢n diciendo esto? Quiz¨¢s est¨¢n usando mis datos privados. Que todas estas herramientas est¨¦n en manos de grandes compa?¨ªas tecnol¨®gicas privadas tambi¨¦n es un riesgo¡±. Guerrero cree en la ¡°ciencia abierta¡±, y en el c¨®digo abierto, para que todo el que quiera saber, contribuir y desarrollar sobre esa metodolog¨ªa, est¨¦ disponible. Y sostiene al respecto: ¡°Hace falta regulaci¨®n para que no puedan hacer lo que quieran sin pasar por alg¨²n control¡±, afirma Guerrero.

¡°?Es mejor un reloj que da la hora exacta una vez cada dos a?os o un reloj que es puntual dos veces al d¨ªa?¡±. En esta ocasi¨®n, ChatGPT eligi¨® el reloj parado, y es que aunque puede parecer que un reloj que se atrasa un minuto al d¨ªa es mejor que uno estropeado, el reloj tard¨ªo da la hora exacta una vez cada dos a?os, mientras que el parado lo hace dos veces al d¨ªa.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.