Un grupo de expertos en inteligencia artificial rompe con el Gobierno por discrepancias ¨¦ticas

Las relaciones entre el Gobierno espa?ol y los m¨¢ximos especialistas del pa¨ªs en inteligencia artificial (IA) se est¨¢n enturbiando. La semana pasada dimitieron tres miembros del Consejo Asesor de Inteligencia Artificial, un ¨®rgano consultivo constituido en 2020 para ¡°garantizar un uso seguro y ¨¦tico de la IA¡±, ¡°compuesto por expertos espa?oles de reconocido prestigio internacional¡±, tal y como lo describe la web de La Moncloa. Seg¨²n ha podido saber EL PA?S, otros integrantes del grupo se han planteado tambi¨¦n la salida, aunque no la han concretado.

El detonante ha sido la firma de un convenio de colaboraci¨®n entre el Gobierno espa?ol y un instituto de investigaci¨®n de Emiratos ?rabes Unidos, ADIA Lab. La Secretar¨ªa de Estado de Digitalizaci¨®n e Inteligencia Artificial (Sedia), dependiente del Ministerio de Asuntos Econ¨®micos y Transformaci¨®n Digital, anunci¨® la semana pasada que el citado laboratorio de Emiratos hab¨ªa elegido Granada como ubicaci¨®n para su sede europea. El centro recibir¨¢ una inversi¨®n inicial de cinco millones de euros, si bien los socios emirat¨ªes se comprometen a aumentar esa cuant¨ªa poniendo en marcha varios proyectos de investigaci¨®n.

El acuerdo ¡°causa gran preocupaci¨®n, pues contradice los principios de ¨¦tica y seguridad con los que el Gobierno espa?ol se comprometi¨® a desarrollar nuevas tecnolog¨ªas¡±, lee una carta abierta que publica este martes este peri¨®dico, firmada por cuatro destacados investigadores en la disciplina, dos de ellos miembros hasta la semana pasada del consejo asesor. ADIA Lab es un centro cient¨ªfico ¡°financiado por un Gobierno que no reconoce la independencia de la ciencia, que pisotea los derechos humanos, en especial de mujeres, de las comunidades LGTBQI+ e inmigrantes¡±, recuerda el texto.

La decisi¨®n del ministerio de aliarse con Emiratos ?rabes Unidos caus¨® malestar entre un grupo amplio de miembros del consejo asesor, molestos ya por su papel testimonial en las decisiones estrat¨¦gicas relacionadas con la IA. Las reacciones no tardaron en producirse. Algunos propusieron una dimisi¨®n en masa, aunque esa opci¨®n se enfri¨® con el paso de las horas. El primero en renunciar al puesto fue Carles Serra, director del Instituto de la IA del CSIC. Comunic¨® su decisi¨®n el mi¨¦rcoles, 24 horas despu¨¦s de conocerse el acuerdo con ADIA Lab.

Consciente de que la situaci¨®n lo requer¨ªa, el ministerio convoc¨® una ¡°reuni¨®n urgente¡± del consejo al d¨ªa siguiente. La dirigi¨® la secretaria de Estado, Carme Artigas. ¡°Algunos de los miembros nos pidieron conocer el detalle del acuerdo y se organiz¨® una videoconferencia informal¡±, explican desde el ministerio. ¡°Dos de sus miembros manifestaron su disconformidad y se les explic¨® con todo detalle el acuerdo y el impacto que supondr¨ªa para el conocimiento cient¨ªfico¡±.

Lo que ah¨ª se dijo no evit¨® que se fueran dos expertos m¨¢s de ese ¨®rgano. Esa misma noche present¨® su dimisi¨®n Lorena Jaume-Palas¨ª, experta en ¨¦tica y filosof¨ªa del derecho aplicadas a la tecnolog¨ªa y fundadora de centros como Algorithm Watch o The Ethical Society. Al d¨ªa siguiente lo hizo Ricardo Baeza-Yates, director de Investigaci¨®n en el Instituto de IA Experimental de Northwestern University, en Silicon Valley (San Francisco), catedr¨¢tico de la Universidad Pompeu Fabra (Barcelona) y Premio Nacional de Inform¨¢tica. Ninguno de los tres expertos ha recibido comunicaci¨®n alguna por parte de la Secretar¨ªa de Estado tras presentar su dimisi¨®n.

¡°Debido a la heterogeneidad de sus miembros, es complejo encontrar posturas consensuadas, lo que enriquece el debate y aporta nuevos puntos de vista. Por lo que la disparidad de criterios entre los miembros es habitual, siempre desde el respeto a todas las opiniones¡±, argumentan fuentes de la Secretar¨ªa de Estado. ¡°Consideramos muy positivo que una instituci¨®n de prestigio cient¨ªfico que cuenta en su consejo con premios Nobel elija instalarse en Espa?a antes que en otros pa¨ªses europeos como Francia o Alemania. Respetamos la decisi¨®n de los miembros del consejo asesor que consideren que ya no quieren seguir aportando su visi¨®n a este ¨®rgano y agradecemos su aportaci¨®n hasta la fecha¡±, a?aden desde Sedia.

¡°Un acuerdo gubernamental para instalar un laboratorio de IA en Espa?a financiado por un pa¨ªs autocr¨¢tico que viola los derechos humanos, en particular los de la mujer, no es ¨¦ticamente aceptable¡±, explica Baeza-Yates. ¡°De hecho, es incompatible con el esp¨ªritu mismo del consejo asesor, que tiene como una de sus misiones velar por la ¨¦tica de la IA en Espa?a. Por estas razones no puedo legitimar con mi silencio iniciativas que vulneran principios b¨¢sicos de la ¨¦tica cient¨ªfica y por ende renunci¨¦ al consejo¡±.

¡°La decisi¨®n de firmar un convenio con ADIA Lab no solo ha sido una gota muy grave que colm¨® el vaso: es un indicador de la din¨¢mica defectiva del consejo asesor y de un posicionamiento por parte de la Secretar¨ªa de Estado que se halla en profunda contradicci¨®n con los objetivos de ¨¦tica y seguridad por los que se cre¨® el consejo asesor¡±, se?ala por su parte Jaume-Palas¨ª.

Seg¨²n ha podido saber este peri¨®dico, un grupo de ONG enfocadas en derechos humanos, derechos digitales e inmigraci¨®n prepara tambi¨¦n una carta abierta en la que dejar patente su rechazo al convenio firmado entre el Gobierno y el centro de investigaci¨®n de Emiratos ?rabes Unidos.

Otra queja recurrente entre algunos miembros del grupo de expertos es que el Gobierno no acud¨ªa a ellos para que lo asesorase antes de tomar decisiones estrat¨¦gicas. ¡°El consejo ha tenido principalmente un rol decorativo. No hemos sido consultados para evaluar el impacto de sistemas de IA o emitir recomendaciones en los temas realmente relevantes¡±, se queja la fil¨®sofa. ¡°Desde hace dos a?os, los pocos encuentros que hemos mantenido han tenido m¨¢s bien un car¨¢cter declarativo en el que se nos informaba con presentaciones muy condensadas sobre los proyectos de la Secretar¨ªa de Estado¡±.

Los firmantes de la carta, entre los que se encuentran Ramon L¨®pez de M¨¢ntaras, uno de los pioneros de la IA en Europa, y Carmela Troncoso, experta en seguridad algor¨ªtmica y desarrolladora del protocolo t¨¦cnico que se us¨® en las apps de rastreo de la covid, reconocen la valent¨ªa que tuvo el Gobierno al identificar los desaf¨ªos que supone la IA para la sociedad y en querer tomar cartas en el asunto. El consejo asesor se cre¨® en 2020 para ¡°proporcionar recomendaciones independientes sobre las medidas a adoptar para garantizar un uso seguro y ¨¦tico de la IA¡±. Pero lamentan que, al aliarse con Emiratos ?rabes Unidos, se ignoren ¡°los principios ¨¦ticos en la econom¨ªa, en la ciencia en general y en la IA en concreto¡±.

Aguas turbulentas en la Secretar¨ªa de Estado

La salida de 3 de los 18 expertos que conforman el consejo asesor no es el primer conflicto que se genera en la Secretar¨ªa de Estado. El departamento ha vivido varias convulsiones desde que vio la luz en enero de 2020. La titular del departamento, Carme Artigas, ha tenido tres jefes de gabinete en menos de tres a?os. Varios asesores han abandonado el equipo en este tiempo, incluyendo fichajes realizados a petici¨®n expresa de Artigas, como es el caso de la cient¨ªfica de datos Mara Balestrini, quien abandon¨® el puesto a los tres meses de llegar.

Tambi¨¦n hubo bajas entre funcionarios de alto nivel, que buscaron acomodo en otros ministerios, tal y como public¨® El Confidencial. Entre ellos Fernando de Pablo, secretario general hasta el 12 de mayo de 2020; Mar¨ªa Jos¨¦ G¨®mez, subdirectora general de Talento y Emprendimiento Digital; David P¨¦rez, coordinador del ¨¢rea de Tecnolog¨ªa y Emprendimiento Digital, o Amparo Peris, subdirectora general adjunta para la Sociedad Digital.

A los dos meses de constituirse el departamento dirigido por Artigas, Espa?a fue confinada. La Secretar¨ªa de Estado lider¨® el proyecto de desarrollar una aplicaci¨®n de rastreo de los casos de covid, que implic¨® la coordinaci¨®n de varios ministerios y grupos de trabajo. La mayor¨ªa de las salidas del equipo de Artigas se produjeron durante ese proceso. La aplicaci¨®n tan solo fue capaz de notificar 150.000 contagios en casi dos a?os.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.