El proyecto que une a gobiernos y empresas para conseguir una IA m¨¢s ¨¦tica

Marcelo Cabrol lleva cerca de seis meses viajando por medio mundo en busca de respuestas. Su jefe, el presidente del Banco Interamericano de Desarrollo (BID), Luis Alberto Moreno, le ha encargado que explore c¨®mo podr¨ªa ser el futuro de una entidad que se dedica a financiar proyectos en Am¨¦rica Latina. La gran pregunta que se ha propuesto responder este economista de origen argentino es: ?puede la tecnolog¨ªa ser justa y cumplir con la promesa de mejorar las pol¨ªticas sociales? Para averiguarlo el BID va a lanzar en octubre fAIr LAC, un proyecto pionero donde gobiernos y empresas tecnol¨®gicas trabajar¨¢n juntos buscando la f¨®rmula que permita a la inteligencia artificial (IA) contribuir al bienestar social.

Cabrol, que antes dirig¨ªa la comunicaci¨®n del banco, habla con pasi¨®n sobre la tecnolog¨ªa e insiste mucho en la importancia de la ¨¦tica. ¡°En la educaci¨®n, la salud, las pol¨ªticas de g¨¦nero, de diversidad¡­ se manejan datos muy personales. Por eso tenemos que hablar de ¨¦tica y de regulaci¨®n cuando hablamos de IA¡±, explica. ¡°Al final del d¨ªa, la tecnolog¨ªa puede llegar a romper el contrato social¡±.

P. ?Qu¨¦ compa?¨ªas han dicho ya que s¨ª a participar en fAIr LAC?

R. Google, Microsoft, NTT y Telef¨®nica, que, de momento, es nuestro ¨²nico socio europeo. Vamos a juntar datos p¨²blicos y privados.

P. ?Hay precedentes de algo parecido en el terreno de las pol¨ªticas sociales?

R. No, nadie lo ha hecho hasta ahora y, por eso, nos ha llevado tanto tiempo lanzar este programa.

P. ?Los gobiernos est¨¢n de acuerdo en compartir sus datos con estas tecnol¨®gicas?

R. Algunos, s¨ª. Hemos cerrado ya programas con Uruguay y M¨¦xico. En el Estado de Jalisco hay en marcha un proyecto para la detecci¨®n precoz con IA de la retinopat¨ªa diab¨¦tica, la primera causa de ceguera en el pa¨ªs.

P. ?Qu¨¦ gana una empresa como Google con todo esto?

R. A nadie se le escapa que no ha sido un buen a?o y creo que podr¨ªan ganar legitimidad. Tambi¨¦n pueden acceder a conocimiento sobre mercados y poblaciones a las que ahora no llegan. Pero para conseguir las promesas de la inteligencia artificial hay que discutir la parte ¨¦tica de todo esto.

P. Pero si la ciudadan¨ªa no est¨¢ muy informada sobre los datos que tienen las compa?¨ªas¡­

R. Si un modelo basado en IA se aplica a programas p¨²blicos, la ciudadan¨ªa empieza a pedir cuentas. En Argentina, por ejemplo, se hizo un estudio que acertaba con un 75% la probabilidad de un embarazo adolescente. Cuando la sociedad empez¨® a hacer preguntas, result¨® que el modelo estaba basado solo en respuestas de chicas de familias pobres. Estaba muy sesgado y no pod¨ªa explicar c¨®mo llegaba a sus conclusiones.

P. ?Eso no pasa con todos los algoritmos?

R. S¨ª, pero hablamos de embarazos adolescentes no de vender un pantal¨®n. Si t¨² puedes establecer con certeza que una chica se va a quedar embaraza y no tienes pol¨ªticas para evitarlo, entonces es el gobierno quien tiene un problema ¨¦tico. Lo mismo ocurre con un modelo capaz de predecir qu¨¦ alumnos dejar¨¢n la escuela. Ahora es cuando viene el cambio: c¨®mo incorporar las soluciones pol¨ªticas a todos estos problemas.

P. ?Son pol¨ªticas basadas en evidencia?

R. Son mucho m¨¢s porque est¨¢s operando sobre el resultado antes de que pase. Eso es lo interesante. Para el BID es fundamental ayudar a los pa¨ªses a completar este trabajo y lograr que la inversi¨®n en salud y educaci¨®n sea m¨¢s equitativa.

P. ?C¨®mo juega el BID ese papel?

R. Creando evidencia. Necesitamos mucha experimentaci¨®n. Y eso consiste en que no haya sesgos, que exista transparencia, privacidad en los datos y asegurarnos de que el programa funciona. Nuestra vocaci¨®n no son los programas piloto sino llevar a escala estas soluciones.

P. ?Incluso con la diversidad de Latinoam¨¦rica?

R. Creemos que s¨ª. Es mucho m¨¢s barato ajustar el modelo que no empezar de cero.

P. ?Un ejemplo de proyecto en los que est¨¦ pensando el banco?

R. Queremos implantar el diagn¨®stico de c¨¢ncer de mama por imagen aplicando IA en poblaciones del Amazonas que no tienen acceso a este tipo de servicios. La idea no es nueva, pero tratamos de pensarlo ¨¦ticamente. Para empezar, ?qui¨¦n y d¨®nde guarda la informaci¨®n?

P. ?Y la aplicaci¨®n de IA a la educaci¨®n en Latinoam¨¦rica?

R. Acabo de estar en Finlandia. Conocemos sus claves de ¨¦xito: tienen profesores muy buenos, un aprendizaje personalizado y 8.000 euros de gasto por ni?o. Nosotros no podemos esperar a tener todo eso. Ojal¨¢, pero no creo que yo viva para verlo. La tecnolog¨ªa permite poder saltar unos cuantos pasos.

P. Personalizar la educaci¨®n¡­

R. Es la gran promesa por la que estamos apostando. YouTube ya est¨¢ tomando decisiones por ti cuando te sugiere el pr¨®ximo v¨ªdeo para ver. La idea es utilizar ese mismo enfoque. Si cada chico aprende distinto y tiene habilidades diferentes, con la IA deber¨ªamos poder dise?ar contenidos m¨¢s adaptados.

P. Esto est¨¢ muy relacionado con las habilidades para luego buscar trabajo.

R. S¨ª, pero adem¨¢s est¨¢n las cosas que no se ven. Cuando uno rellena un formulario para solicitar empleo, las preguntas no sirven para decirte: ¡°Ser¨ªas muy bueno en este trabajo¡±. Pero si complemento esa informaci¨®n con habilidades socioemocionales tendr¨¦ una fotograf¨ªa m¨¢s clara de cu¨¢l ser¨ªa tu pr¨®xima profesi¨®n y c¨®mo deber¨ªas formarte.

P. ?Dejar tantas decisiones en manos de la IA es complicado?

R. Ese es el gran desaf¨ªo. Hoy la gran cr¨ªtica que le hacemos a la tecnolog¨ªa es: ?Qui¨¦n decide el modelo? ?Sabemos si est¨¢n manipulando los resultados? Cuando hablamos de IA nos ponemos en alerta: ¡°Cuidado, aqu¨ª viene una tecnolog¨ªa que va a tomar decisiones con un marco moral que nadie conoce ni se explica en ninguna parte¡±. Es un problema ¨¦tico y moral tambi¨¦n. Por eso estamos pensando en un enfoque interdisciplinar: hacen falta polit¨®logos, antrop¨®logos, soci¨®logos, fil¨®sofos... No es precisamente el perfil de la plantilla del banco.

P. ?Piensan integrar estos perfiles profesionales en el banco?

R. S¨ª, son los perfiles que estamos buscando. No es que el BID quiera convertirse en el palad¨ªn de la ¨¦tica. Nuestra intenci¨®n es trabajar con gobiernos y tecnol¨®gicas. Es verdad que todas las grandes tecnol¨®gicas tienen sus principios ¨¦ticos. Sin embargo, creemos que es importante mantener una conversaci¨®n industrial, adem¨¢s de lo que imponga la legislaci¨®n. Es un proyecto ambicioso, pero necesario.

P. ?Qu¨¦ presupuesto tiene el proyecto fAIr LAC?

R. Contamos con 15 millones, ampliables a cinco m¨¢s, y queremos lanzar 20 programas piloto.

P. Y este enfoque de las pol¨ªticas, ?c¨®mo est¨¢ encajando dentro del BID?

R. No va a suponer necesariamente un cambio radical, aunque el futuro del banco no va a estar en la financiaci¨®n. Hoy, el BID presta 13.000 millones de d¨®lares y lo hace muy bien. Podr¨ªa seguir as¨ª, dando cr¨¦ditos para hospitales, escuelas¡­ y todav¨ªa tendr¨ªa negocio. No obstante, mucha de la inversi¨®n que hacemos tiene que ver con la capacitaci¨®n de las personas en estos sectores. ?Cu¨¢les son las formas no tradicionales de hacerlo? El fAIr LAC nos lo va a decir. ?Esto ocurrir¨¢ ma?ana? No, pero yo tengo que prepararme.