Gabriela Ramos: ¡°La cuesti¨®n no es si se tiene que regular la inteligencia artificial, sino c¨®mo¡±

Gabriela Ramos lleg¨® en 2020 a la Unesco, la agencia de Naciones Unidas para la Educaci¨®n, la Ciencia y la Cultura, con una misi¨®n: deb¨ªa sacar adelante una especie de Declaraci¨®n Universal de la Inteligencia Artificial (IA). El documento, que finalmente se llam¨® ...

Gabriela Ramos lleg¨® en 2020 a la Unesco, la agencia de Naciones Unidas para la Educaci¨®n, la Ciencia y la Cultura, con una misi¨®n: deb¨ªa sacar adelante una especie de Declaraci¨®n Universal de la Inteligencia Artificial (IA). El documento, que finalmente se llam¨® Recomendaci¨®n sobre la ?tica en la Inteligencia Artificial, se present¨® en 2021 y ha sido firmado por 193 pa¨ªses, aunque solo 24 lo est¨¢n implementando. De car¨¢cter no vinculante, ofrece pautas de actuaci¨®n en asuntos como la gobernanza de los datos, las tecnolog¨ªas de espionaje masivo, el abuso de los sesgos cognitivos el control de la neurotecnolog¨ªa. Cuenta, entre otros, con el visto bueno de la Comisi¨®n Europea o Jap¨®n y de empresas como Microsoft o Telef¨®nica.

La iniciativa de la Unesco corr¨ªa el peligro de caer en la irrelevancia. Pero entonces lleg¨® ChatGPT. Los temores que despierta esta herramienta propici¨® la publicaci¨®n hace tres semanas de una carta firmada por miles de expertos en IA que piden una moratoria en el desarrollo de esta tecnolog¨ªa. Ese toque de atenci¨®n de algunos de los padres de la disciplina ha renovado el inter¨¦s en el trabajo de la agencia de la ONU. ¡°Ha habido un crecimiento exponencial de consultas de pa¨ªses que quieren reunirse con nosotros. Tenemos conversaciones avanzadas con 18 pa¨ªses. All¨ª donde nos lo solicitan, desarrollamos una medici¨®n del impacto ¨¦tico de la IA. Ayudamos a hacer diagn¨®sticos, a evaluar los equipos de los gobiernos y a pensar qu¨¦ tipo de instituci¨®n tendr¨ªa que supervisar el desarrollo de estas regulaciones¡±, explica por videoconferencia Ramos, nacida en Michoac¨¢n hace 59 a?os.

La mexicana cuenta con una extensa carrera como funcionaria internacional, desarrollada principalmente en la OCDE y el G20. Desde 2020 es subdirectora general de Ciencias Sociales y Humanas de la Unesco. ¡°Toda la incertidumbre que rodea a ChatGPT respecto de su impacto y de su desarrollo nos est¨¢ ayudando a que haya una mayor conciencia sobre un tema clave. Ese es el ¨²nico lado positivo de todo esto¡±.

Pregunta. ?Qu¨¦ opina de ChatGPT y del boom de la inteligencia artificial generativa?

Respuesta. ChatGPT confirma lo que ven¨ªamos diciendo: que hay un crecimiento exponencial de estas tecnolog¨ªas. Antes est¨¢bamos muy preocupados en entender que los algoritmos de machine learning [aprendizaje autom¨¢tico] tuvieran solidez en sus definiciones y en asegurarnos de que los datos que usaban fueran de calidad. Los grandes modelos de lenguaje en los que se apoyan los chatbots hacen a¨²n m¨¢s dif¨ªcil entender c¨®mo funcionan. Y yo creo que este es el tema fundamental. Es una pena, porque estamos ante una tecnolog¨ªa espectacular. Pero tiene los mismos problemas que la IA menos masiva: cuando llegan al mercado, no siempre son seguros, confiables ni transparentes. Todos estos desarrollos se dan en un vac¨ªo regulatorio en general. Europa est¨¢ avanzando sus directivas. El propio presidente Biden ya llam¨® ahora una consulta para ver si se tienen que certificar estos desarrollos antes de que lleguen al mercado. China ha establecido normas para quienes quieran sacar productos basados en esta tecnolog¨ªa.

P. ?Hace falta regular la IA?

R. Necesitamos un marco que nos permita medir ex ante. Se necesita una evaluaci¨®n del impacto ¨¦tico en las libertades, en los derechos, en los resultados inclusivos, y todo eso debe suceder antes de que el producto est¨¦ en el mercado. Debe haber ciertos procedimientos que permitan asegurarnos que estos desarrollos est¨¦n totalmente probados y que al menos entendemos cu¨¢l puede ser su impacto. Pero seguimos en el mundo al rev¨¦s: primero los sueltas y luego te preguntas cu¨¢les son sus consecuencias. Me parece rid¨ªculo tener que estar diciendo que necesitamos regulaciones. Todos los mercados est¨¢n regulados. Imag¨ªnate si las farmac¨¦uticas pudieran comercializar cualquier medicina sin ning¨²n tipo de chequeo. O si pudieras abrir un restaurante y servir comida de la calidad que quieras. El tema no es si va a haber o no va a haber regulaci¨®n, sino de qu¨¦ tipo.

P. Miles de expertos firmaron hace tres semanas una carta en la que piden una moratoria en la investigaci¨®n en IA generativa. ?Est¨¢ de acuerdo con ella?

R. Lo que nos confirma esa carta es que no nos sentimos capaces de manejar estos sistemas. Creo que la carta tiene sentido. Todo el mundo ha puesto el ¨¦nfasis en la pausa, pero lo que se pide tambi¨¦n es que no haya m¨¢s desarrollos antes de que contemos con marcos regulatorios s¨®lidos. En eso ha estado trabajando la Unesco durante los ¨²ltimos dos a?os, desde que los 193 pa¨ªses miembros nos aprobaron la Recomendaci¨®n sobre la ?tica en la Inteligencia Artificial. La pregunta que cabe aqu¨ª es si los gobiernos cuentan con las competencias, las instituciones y las legislaciones para moderar y para gobernar la IA. La carta de los expertos ha hecho que mucha gente se est¨¦ informando m¨¢s ahora sobre el tema. Que estos se?ores, que son quienes han desarrollado esta tecnolog¨ªa, digan que se necesita una pausa quiere decir que ni ellos mismos conf¨ªan en que puedan manejarla. Yo no creo que la moratoria sea una opci¨®n realista. Lo que tenemos es que acelerar las regulaciones. Y ah¨ª s¨ª estoy de acuerdo: necesitamos mecanismos de gobernanza de la inteligencia artificial.

Queremos establecer una hoja de ruta sobre c¨®mo entender la IA, c¨®mo enfocar estos desarrollos, c¨®mo prevenir los impactos negativos, c¨®mo definirlos y c¨®mo avanzar regulaciones e instituciones¡±

P. ?Qu¨¦ propone la Recomendaci¨®n de la ?tica en la IA de la Unesco?

R. Decimos que las tecnolog¨ªas tienen que apuntalar los derechos humanos, tienen que contribuir a la transici¨®n clim¨¢tica y ofrecer resultados justos y s¨®lidos. Tambi¨¦n deben ser transparentes y tiene que haber rendici¨®n de cuentas. El 60% de estas tecnolog¨ªas las desarrollan actores estadounidenses, y otro 20%, empresas chinas. Esta concentraci¨®n luego deriva en falta de diversidad, en resultados discriminatorios, con sesgos. Todo este modelo de negocio tiene que cambiar.

P. ?El enfoque de la Unesco es que la IA la regule cada estado o que de ello se encargue alg¨²n ¨®rgano supranacional?

R. Nuestra Recomendaci¨®n no es vinculante, pero la han firmado 193 pa¨ªses. Al final son los gobiernos quienes tienen que definir sus marcos regulatorios. Lo que estamos haciendo ahora en la Unesco, a partir de la definici¨®n que ya tenemos de los est¨¢ndares y mejores pr¨¢cticas, es pensar qu¨¦ instituciones y regulaciones ayudan a que converjan los pa¨ªses. Estados Unidos, que est¨¢ considerando regresar a la Unesco, tambi¨¦n ha dicho que nuestro debate sobre qu¨¦ tipo de reglas internacionales deben regir la IA es importante. Cuando alguien ve asaltados sus derechos fundamentales, cuando alguien es discriminado y no le muestran una oferta de trabajo porque la IA no lo ten¨ªa en sus bases de datos, cuando la tecnolog¨ªa de reconocimiento facial no te detecta porque eres una persona de color o una mujer, entonces, por muchos acuerdos multilaterales que haya, los gobiernos tienen la responsabilidad de actuar.

P. ?Es realista tratar de impulsar reg¨ªmenes internacionales para regular una tecnolog¨ªa como la IA?

R. Se est¨¢n tomando millones de decisiones con el apoyo de la inteligencia artificial sin transparencia alguna. Si eres discriminado, ni siquiera sabes si fue por culpa de una persona o de un algoritmo. A nosotros nos compete dar contexto, y luego los pa¨ªses avanzar¨¢n en su propia toma de decisiones. En mis 20 a?os de experiencia en organismos multilaterales he aprendido que se puede avanzar con evidencia concreta, mostrando cu¨¢les son los pron¨®sticos de ciertos desarrollos y se?alando c¨®mo los pa¨ªses que tienen buena regulaci¨®n no se quedan atr¨¢s en la competencia tecnol¨®gica.

P. Los tratados de no proliferaci¨®n de armas nucleares de la Guerra Fr¨ªa tuvieron sentido porque se implicaron Estados Unidos y la Uni¨®n Sovi¨¦tica. ?Qu¨¦ suceder¨ªa en el caso de la IA si se queda fuera alg¨²n actor clave?

R. Cuando yo llegue a la Unesco hace tres a?os, mucha gente me dijo: ?de qu¨¦ sirve que trabajes en un marco ¨¦tico de la IA si EE UU, que es el principal desarrollador, no es miembro de la Unesco? La recomendaci¨®n la firmaron 193 pa¨ªses, incluyendo China. EE UU va a tomar nota porque lo que estamos haciendo no es imponer un modelo ¨²nico, sino crear conciencia. Queremos establecer una hoja de ruta sobre c¨®mo entender la IA, c¨®mo enfocar estos desarrollos, c¨®mo prevenir los impactos negativos, c¨®mo definirlos y c¨®mo avanzar regulaciones e instituciones.

P. En el desarrollo de la IA, el plano geopol¨ªtico es importante.

R. S¨ª, estamos en plena carrera tecnol¨®gica. Se est¨¢ decidiendo ahora qu¨¦ tipo de tecnolog¨ªa se va a adoptar. Todos los pa¨ªses est¨¢n adquiriendo paquetes de IA para administrar la educaci¨®n, la salud o la seguridad. ?C¨®mo te aseguras de que entiendan lo que est¨¢n comprando? Los que son productores de estas tecnolog¨ªas y tienen inter¨¦s en que haya un mayor n¨²mero de usuarios de su tecnolog¨ªa est¨¢n tomando nota de lo que est¨¢ sucediendo en materia de regulaci¨®n. China es parte del consenso de la Unesco. ?Cumplir¨¢ lo acordado? Bueno, lo firmaron, ?no?

P. ChatGPT, que apenas tiene seis meses de vida, ha colocado la IA generativa entre los grandes temas de actualidad. ?Cu¨¢nto tiempo tenemos para desarrollar mecanismos de gobernanza adecuados para regular esta tecnolog¨ªa?

R. Ya estamos en ello. La Uni¨®n Europea ya avanz¨® suficientemente con sus directivas, con su enfoque basado en riesgos. Es una aproximaci¨®n distinta a la de la Unesco, pero muy complementaria para analizar qu¨¦ tipo de desarrollos conllevan mayor riesgo. Yo dir¨ªa que si las directivas de la Uni¨®n Europea estuvieran ya plenamente vigentes, ChatGPT no hubiera entrado al mercado. ?Por qu¨¦? Porque tendr¨ªa las caracter¨ªsticas de los desarrollos que implican grandes riesgos y que necesitan una atenci¨®n especial por parte del regulador. Lo que ha sucedido con ChatGPT nos ha hecho darle este sentido de urgencia a lo que ya est¨¢bamos haciendo. La recomendaci¨®n de la Unesco se adopt¨® entre 2020 y 2021. Las directivas de la UE, entre 2020 y 2022. Vamos bien.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.