Emilio Carrizosa, matem¨¢tico: ¡°El liderazgo de la inteligencia artificial no lo tienen ahora mismo los gobiernos, sino empresas privadas¡±

A Emilio Carrizosa, cordob¨¦s de 58 a?os, le apasionan las matem¨¢ticas desde peque?o, le parec¨ªan ¡°un ejercicio mental muy interesante¡±. Pero frente a esa devoci¨®n ve¨ªa siempre la distante orilla de la vida cotidiana, lo que le llev¨® a buscar un puente entre los n¨²meros y su aplicaci¨®n en la resoluci¨®n de problemas. Duda si fue ¡°un flechazo o una revelaci¨®n m¨ªstica¡±, pero encontr¨® el enlace en la investigaci¨®n operativa, que define como ¡°esa disciplina que ayuda a decidir con recursos limitados¡±. Ha participado en investigaciones sobre ¨ªndices clim¨¢ticos de las sequ¨ªas, estad¨ªsticas de personas sin hogar, diagn¨®stico del c¨¢ncer o cu¨¢l es el camino m¨¢s iluminado para volver a casa de noche a partir de la distancia efectiva del reconocimiento facial.

Salt¨® del pupitre de alumno a la mesa de profesor de la Facultad de Matem¨¢ticas de la Universidad de Sevilla, donde ha podido conjugar su inquebrantable vocaci¨®n docente (es hijo de dos maestros de Primaria) con la pasi¨®n por investigar. Sus trabajos en matem¨¢tica aplicada y en ciencia de datos han sido premiados por la Sociedad de Estad¨ªstica y la Fundaci¨®n BBVA.

Pregunta. ?Le obsesiona llevar las matem¨¢ticas a la vida cotidiana?

Respuesta. Me divert¨ªa mucho con el reto intelectual que supon¨ªan las matem¨¢ticas, hasta que, a mitad de carrera, tuve algunas asignaturas que ten¨ªan una componente m¨¢s aplicada, donde se intu¨ªa lo que hab¨ªan sido las matem¨¢ticas en otros tiempos, cuando eran una herramienta para resolver problemas. Entonces empec¨¦ a cursar estad¨ªstica y optimizaci¨®n matem¨¢tica con la intenci¨®n de no quedarme solo en el ejercicio intelectual, que era fascinante y lo sigue siendo, sino tambi¨¦n de dar un paso m¨¢s, que esas cosas que yo aprend¨ªa pudieran servir como reglas para un nuevo juego, para intentar modelar la realidad e intentar, de alguna manera, participar en la ayuda a la toma de decisiones. Podr¨ªamos decir que s¨ª, que es un poco una obsesi¨®n que se ha acrecentado con la inteligencia artificial, con la que parece que la ciudadan¨ªa est¨¢ cediendo el derecho a decidir informadamente y delegamos en una m¨¢quina que toma las decisiones por nosotros. Esta, igual acierta m¨¢s veces que un humano porque, entre otras cosas, ha tenido una base de datos para aprender que est¨¢ en muchos ¨®rdenes de magnitud por encima de la que un humano puede manejar, pero al mismo tiempo conlleva una serie de vicios que no controlamos.

P. ?Los datos despejan la incertidumbre?

R. No, pero ayudan a controlarla. La incertidumbre no voy a poder eliminarla, pero s¨ª voy a tener una idea bastante precisa de qu¨¦ cabe que me encuentre ma?ana. Igual no puedo saber si va a llover o no, pero s¨ª puedo saber la probabilidad de que ma?ana llueva y, en funci¨®n de eso, tomar las decisiones. La matem¨¢tica, cuando se aplica, se fundamenta en modelos donde la clave es la relaci¨®n entre los distintos ingredientes y un par de par¨¢metros por ah¨ª sueltos. Los modelos recogen un mont¨®n de informaci¨®n para reducir la incertidumbre. No puedo predecir que esto va a ocurrir, pero s¨ª puedo, por ejemplo, tener unas buenas estimaciones de las probabilidades de que cada cosa ocurra y tenerlo en cuenta para tomar una decisi¨®n compatible o coherente con la informaci¨®n que estamos sacando de los datos.

No puedo predecir que esto va a ocurrir, pero s¨ª puedo, por ejemplo, tener unas buenas estimaciones de las probabilidades de que cada cosa ocurra y tenerlo en cuenta para tomar una decisi¨®n compatible o coherente con la informaci¨®n que estamos sacando de los datos

P. Si los datos son el ingrediente, ?qu¨¦ es el algoritmo?

R. Ser¨ªa la receta. El algoritmo es como una receta para hacer un puchero para el que vas echando los ingredientes en un determinado orden.

P. Y siguiendo con ese s¨ªmil, ?qu¨¦ son los sesgos?

R. Cuando me han dicho que la carne era de primera y era de segunda o que los garbanzos eran tiern¨ªsimos y que no iban a dejar el pellejo. Es un reto important¨ªsimo porque el sesgo existe y, con la inteligencia artificial, no sabemos c¨®mo han aprendido esas herramientas. Seguramente han bebido de todos los sesgos existentes que, a veces, son inocentes, pero otras veces conllevan discriminaci¨®n de personas. Es un peligro que afortunadamente las matem¨¢ticas pueden detectar, corregir o reducir. Volviendo al s¨ªmil de los garbanzos, ser¨ªa ponerlos en agua un buen tiempo para que est¨¦n blanditos. Los sesgos son un problema altamente preocupante. La inteligencia artificial ahora mismo nos plantea muchos retos en positivo y es una herramienta bastante democr¨¢tica en el sentido de que no tienes que estar en el grupo de los elegidos para poder usarla, pero el peligro al que nos enfrentamos es la posible falta de transparencia y equidad para la toma de decisiones. El ejemplo m¨¢s famoso es el programa para ayudar a los jueces a determinar la libertad provisional de un acusado. Si eras afroamericano, te dejaba en la c¨¢rcel y si era cauc¨¢sico, con una alt¨ªsima probabilidad, te dec¨ªa ¡°usted no va a reincidir, salga a la calle¡±. Adem¨¢s, no podemos perder de vista que el liderazgo de la inteligencia artificial no lo tienen ahora mismo los gobiernos, sino empresas privadas que miran su inter¨¦s comercial. No sabemos qui¨¦n est¨¢ decidiendo por nosotros.

P. ?Hay decisiones que no se deben dejar a la inteligencia artificial?

R. Hay ciertas pruebas diagn¨®sticas m¨¦dicas, por ejemplo, basadas en imagen, donde la m¨¢quina es capaz de detectar un c¨¢ncer en una fase previa mejor que el especialista. Puede ser, por lo tanto, una herramienta de ayuda a la toma de decisiones, pero a m¨ª me gustar¨ªa que la decisi¨®n ¨²ltima la tomara una persona con conciencia, a la que yo pudiera mirar a los ojos en el caso de que se equivoque, que pudiera decir que lo siente porque tenga moral.

P. Porque los datos no tienen moral.

R. Los datos son a fin de cuenta ceros y unos dentro del ordenador y reflejan una realidad, pero es como hablar de la moral de un cuchillo: puedo usarlo para comer o para agredir a alguien. Los datos son neutros, pero no el uso que podemos hacer de ellos. Y no podemos pensar que empresas privadas o un Gobierno ajeno van a hacer un uso neutro de los datos cuando est¨¢n ayud¨¢ndonos a la toma de decisi¨®n. Me puedo fiar del criterio de un m¨¦dico que me haga un diagn¨®stico, pero si ese m¨¦dico tiene un inter¨¦s comercial en el diagn¨®stico que me est¨¢ dando, igual deber¨ªa tom¨¢rmelo con mucha precauci¨®n. Es un problema que tenemos con la toma de decisiones basada en datos, con si la ¨²ltima palabra la sigue teniendo la m¨¢quina y no alguien con alma.

P. ?La IA puede predecir una dana como la de Valencia?

R. Ese es otro tema, el de los fen¨®menos raros no estacionarios. No tenemos una muestra suficiente como para poder predecir con certeza el resultado. Estamos hablando de fen¨®menos para los que no tenemos datos similares o id¨¦nticos a los que queremos estudiar sino solo parecidos y ah¨ª podemos tener un sesgo que igual no podemos controlar y que es determinante en el fen¨®meno.

P. Tampoco se puede predecir la criminalidad.

R. Trabajo con un grupo de la Universidad de Chile que colabora con los carabineros de Chile haciendo mapas de intensidad de cr¨ªmenes para poder predecir y tomar la decisi¨®n de d¨®nde hay que patrullar m¨¢s o menos, para poder conocer c¨®mo de probable es que haya m¨¢s cr¨ªmenes.

P. Pero si se aplican los datos, por ejemplo, a las becas, la m¨¢quina puede decidir quitarlas donde haya m¨¢s abandono escolar, donde es fundamental invertir recursos.

R. Por eso es tan importante la transparencia de los procedimientos y que la clase pol¨ªtica sea consciente de que la toma de decisiones tiene que ser transparente, de cu¨¢les son las reglas de juego cuando se est¨¢n dedicando recursos desde las Administraciones P¨²blicas. Me gustar¨ªa ver, objetivamente, cu¨¢l es la funci¨®n que han intentado optimizar cuando han tomado una decisi¨®n. Le estamos exigiendo a las m¨¢quinas una transparencia que despu¨¦s no le exigimos a las personas que utilizan los datos para tomar decisiones.

P. ?Cu¨¢l es el algoritmo m¨¢s necesario para la sociedad?

R. El reto pendiente en las sociedades occidentales, y desgraciadamente no parece que apuntemos del todo en esa direcci¨®n, es un algoritmo con unos criterios transparentes para la distribuci¨®n de los recursos. Nos hablan siempre de la renta per c¨¢pita y a m¨ª no me interesa. Eso es una media. Si un magnate multimillonario y yo vivimos en la misma aldea, esta va a tener una renta per c¨¢pita alt¨ªsima cuando el magnate tiene el 99,99% de todo.

P. ?Las matem¨¢ticas podr¨ªan prevenir el fraude?

R. Lo hacen. De hecho, los mecanismos de predicci¨®n en ese sentido son bien sencillos, se puede detectar con mecanismos estad¨ªsticos de los ochenta. Los auditores no van a ciegas. Ahora se puede predecir con cierto tino cu¨¢ndo una transacci¨®n es fraudulenta. En un taller, en funci¨®n del n¨²mero de empleados que tiene, las horas de alta Seguridad Social, la luz empleada, el agua consumida y el material que ha comprado, por ejemplo, es f¨¢cil hacer una predicci¨®n de cu¨¢nto ha facturado realmente.

P. ?Pero se vulnera la privacidad?

R. Es un problema sobre el que tenemos que decidir como ciudadan¨ªa: hasta qu¨¦ punto estoy dispuesto a ceder informaci¨®n, como pacto social, para sentirnos m¨¢s seguros y tener un mundo m¨¢s justo.