Paula Gordaliza, matem¨¢tica: ¡°Los algoritmos no funcionan solos. Quien los utiliza debe saber qu¨¦ est¨¢n haciendo y por qu¨¦ se toman estas decisiones¡±

Paula Gordaliza (Valladolid, 29 a?os) usa la matem¨¢tica para intentar que la sociedad sea un poco m¨¢s justa. La joven investigadora, galardonada con el premio Vicent Caselles otorgados anualmente por la Real Sociedad Matem¨¢tica Espa?ola (RSME) y la Fundaci¨®n BBVA, ha desarrollado un sistema para corregir el sesgo de los algoritmos de la inteligencia artificial (IA), capaces de formular predicciones m¨¢s precisas que una persona experta. ¡°El problema es que no siempre estas decisiones son socialmente responsables¡±, explica Gordaliza en una videollamada. Investigadora en el Basque Center for Applied Mathematics en Bilbao y profesora asociada en la Universidad P¨²blica de Navarra, empez¨® a estudiar una forma para eliminar los sesgos algoritmos durante su doctorado en la Universidad de Toulouse en cotutela internacional con la Universidad de Valladolid, cuando la IA a¨²n no se encontraba bajo la lupa de reguladores y de la opini¨®n p¨²blica. ¡°Las cosas han evolucionado muy r¨¢pido durante estos ¨²ltimos cinco a?os. Ahora m¨¢s que nunca es importante trabajar en los efectos que la inteligencia artificial tiene en la vida de la gente¡±, asegura la investigadora.

Pregunta. ?Usa mucho la inteligencia artificial en su trabajo?

Respuesta. Me gusta recordar que yo, antes de todo, soy matem¨¢tica, y lo que hago es investigaci¨®n en matem¨¢ticas. Mi trabajo consiste en la fundamentaci¨®n de las bases te¨®ricas que se necesitan para desarrollar cualquier tecnolog¨ªa, en particular la inteligencia artificial. Entonces yo me ocupo m¨¢s bien de estudiar problemas matem¨¢ticos y c¨®mo, una vez resueltas estas cuestiones desde el punto de vista te¨®rico, se pueden aplicar a problemas reales. En mi caso, se habla del aprendizaje autom¨¢tico y la equidad algor¨ªtmica, que est¨¢n englobados en el campo de la inteligencia artificial.

P. ?C¨®mo se relacionan las matem¨¢ticas y la inteligencia artificial?

R. Las matem¨¢ticas est¨¢n detr¨¢s de todos los avances cient¨ªficos y tecnol¨®gicos, y en estos ¨²ltimos a?os la IA es la forma de avance m¨¢s de moda. Lo que hace la matem¨¢tica es establecer las bases te¨®ricas para llegar a resolver los problemas a los que nos enfrentamos, que en el caso de mi investigaci¨®n ser¨ªan los sesgos algor¨ªtmicos de la inteligencia artificial.

P. ?Qu¨¦ es un sesgo algor¨ªtmico?

R. Es algo complejo de explicar, porque son palabras que se han utilizado tanto, se le han dado muchos significados dependiendo del contexto. En estad¨ªstica, algo sesgado es algo que no se comporta como lo esperado. Mientras que, si nos vamos al ¨¢mbito de la inteligencia artificial, donde se emplea mucho esta palabra, se refiere m¨¢s a las inclinaciones o a los prejuicios en favor o en contra de un colectivo o de un individuo sobre la base de determinadas caracter¨ªsticas, como el g¨¦nero o el color de piel. Quiz¨¢s es esto que contribuye a que los algoritmos provocan miedo y desconfianza en la gente.

P. ?A qu¨¦ se debe?

R. Estamos asistiendo a un uso generalizado de los sistemas de inteligencia artificial, en particular de los algoritmos, y esto se est¨¢ viendo en aspectos que afectan directamente a la vida de las personas. La concesi¨®n de cr¨¦ditos, en la selecci¨®n del personal para un trabajo o en el ¨¢mbito cl¨ªnico, para decidir a qui¨¦n aplicar un tratamiento o hacer un diagn¨®stico. Hay muchos m¨¢s ejemplos, pero estos quiz¨¢s son los m¨¢s comunes. Y claro, el hecho de que los algoritmos puedan decidir sobre estas cuestiones genera temores y desasosiego en la poblaci¨®n. Esto suceder¨¢ mientras no reciban garant¨ªas de que estos algoritmos son justos, son confiables y son interpretables.

P. ?Qu¨¦ se puede hacer para que desaparezca este miedo?

R. Aqu¨ª es donde se ve la importancia de la matem¨¢tica, que nos sirve para entender c¨®mo est¨¢n funcionando los algoritmos y que es la herramienta para abrir la caja negra de la inteligencia artificial. Es importante que llegue el mensaje de que los algoritmos no funcionan solos, que quien los utiliza sabe qu¨¦ est¨¢n haciendo y por qu¨¦ se est¨¢n tomando estas decisiones. Esto ayudar¨ªa mucho a reducir la desconfianza que la gente le tiene.

R. Ha hablado de prejuicios y discriminaciones. ?Los algoritmos son racistas?

P. Los algoritmos no son racistas, ni machistas. Los algoritmos aprenden de datos. El aprendizaje autom¨¢tico es una forma de inteligencia artificial que es capaz de hacer predicciones y de establecer conexiones a partir de bases de datos enormes, que es capaz de gestionar a gran velocidad. El problema viene cuando estos datos no son de calidad. Por eso es fundamental apostar por tener bases de datos de calidad y que no est¨¦n sesgadas con respecto a variables que pueden conllevar informaci¨®n sensible, como la raza, el g¨¦nero, las discapacidades, la orientaci¨®n sexual o cualquier otra informaci¨®n que pueda ser susceptible de discriminaci¨®n.

P. De esto va su investigaci¨®n.

R. La idea era tratar de crear dos subgrupos de poblaci¨®n, por ejemplo, de hombres y mujeres, que fueran lo m¨¢s parecidos posible en el resto de caracter¨ªsticas. De esta forma, intent¨¦ borrar la informaci¨®n del g¨¦nero para que los algoritmos no sean capaces de aprender sobre el g¨¦nero de las personas y se queden con la informaci¨®n que les proporciona el resto de la base de datos.

P. La sociedad ha mejorado cuando se habla de discriminaci¨®n. ?Por qu¨¦ siguen existiendo tantos sesgos?

R. No es un problema de la sociedad. Al final se est¨¢ utilizando una herramienta que aprende de datos hist¨®ricos y esos est¨¢n sesgados, as¨ª es como el algoritmo lo aprende. Lo que habr¨ªa que hacer para avanzar es fomentar la investigaci¨®n, porque se trata de un asunto del conocimiento y la frontera del conocimiento es cada vez m¨¢s compleja. Si queremos mejorar, se necesitan equipos multidisciplinares formados por matem¨¢ticos, estad¨ªsticos, inform¨¢ticos y m¨¢s profesionales que aporten su parte a la causa. Se necesitan todos los puntos de vista, no solamente la mirada matem¨¢tica, que tambi¨¦n necesitar¨ªa mejorar mucho.

P. ?De qu¨¦ forma?

R. Seguramente habr¨ªa que fomentar la carrera acad¨¦mica e investigadora, para tener una investigaci¨®n de calidad centrada exclusivamente en inteligencia artificial, pero con bases matem¨¢ticas muy s¨®lidas que aseguren que lo que se est¨¢ haciendo con los algoritmos sea confiable, seguro y justo. Para lograr esto, es necesario que haya una motivaci¨®n para que los j¨®venes se sientan atra¨ªdos por esta carrera, lo cual en estos tiempos es bastante dif¨ªcil. Es importante mejorar las condiciones de esta profesi¨®n, sobre todo en las primeras etapas. Antes con 30 a?os ya eras profesor titular, mientras que ahora, con 29, todav¨ªa voy a empezar en la plaza de ayudante.

P. ?Cu¨¢ndo habla de motivaci¨®n se refiere a recursos econ¨®micos?

R. En parte, pero hay tambi¨¦n otros factores a tener en cuenta. Por ejemplo, sentir que vas avanzando en tu carrera y que vas consiguiendo plazas cada vez m¨¢s relevantes. Sentirse valorados es fundamental para quedarse en Espa?a y seguir intent¨¢ndolo.

P. Usted ha hecho el doctorado en Francia. ?Cree que en el extranjero hay m¨¢s posibilidades?

R. Hay muchas posibilidades, pero tambi¨¦n en Espa?a. Las matem¨¢ticas que se hacen aqu¨ª y la investigaci¨®n que hay es de gran calidad. Yo ya he pasado por esta experiencia de vivir en el extranjero y estoy segura de que a lo largo de mi carrera tambi¨¦n se me presentar¨¢n otras oportunidades para hacer estudios internacionales, lo cual es indudablemente algo que da gran valor a tu carrera y que proporciona mucha proyecci¨®n. Pero mi objetivo final es quedarme en Espa?a, donde la investigaci¨®n, al menos en mi campo, est¨¢ avanzando mucho, y la importancia que est¨¢ ganando la inteligencia artificial nos va a dar mucho en lo que trabajar.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.