M¨¢s transparencia para una Administraci¨®n algor¨ªtmica

Viog¨¦n, Saler, Veripol, Bosco, RisCanvi, Hermes, Send@... estos son solo algunos de los nombres con los que se ha bautizado a algoritmos y sistemas de inteligencia artificial (IA) que utilizan las administraciones p¨²blicas para la gesti¨®n de sus procedimientos. Sin ahondar en cuestiones tecnol¨®gicas m¨¢s complejas, la administraci¨®n camina actualmente hacia un funcionamiento cada vez m¨¢s automatizado para aumentar su eficiencia ante el gran volumen de datos que debe tratar. Los poderes p¨²blicos est¨¢n abandonando poco a poco el mundo anal¨®gico para sumergirse en la llamada ¡°revoluci¨®n industrial...

Viog¨¦n, Saler, Veripol, Bosco, RisCanvi, Hermes, Send@... estos son solo algunos de los nombres con los que se ha bautizado a algoritmos y sistemas de inteligencia artificial (IA) que utilizan las administraciones p¨²blicas para la gesti¨®n de sus procedimientos. Sin ahondar en cuestiones tecnol¨®gicas m¨¢s complejas, la administraci¨®n camina actualmente hacia un funcionamiento cada vez m¨¢s automatizado para aumentar su eficiencia ante el gran volumen de datos que debe tratar. Los poderes p¨²blicos est¨¢n abandonando poco a poco el mundo anal¨®gico para sumergirse en la llamada ¡°revoluci¨®n industrial 4.0¡å que nos ha tra¨ªdo el internet de las cosas (IoT) y los sistemas de aprendizaje automatizado que, imitando redes neuronales, pueden convertirse en verdaderas black boxes o cajas negras de las que poco o nada se sabe sobre su forma de operar.

D¨ªganme si no es inquietante que un sistema de inteligencia artificial fuera el tercer candidato m¨¢s votado en las elecciones a la alcald¨ªa de un distrito de Tokio en 2018 o que el Parlamento Europeo se est¨¦ planteando la necesidad de regular un estatuto de persona electr¨®nica. Con tales ejemplos, se entiende mejor que la Carta de Derechos Digitales haya preferido hablar de derechos de las personas ¡°ante¡± la inteligencia artificial y no de un derecho a la inteligencia artificial. En este caso, la preposici¨®n cobra indudablemente todo sentido.

Sacudidos y, casi dir¨ªa, alarmados por esta vertiginosa evoluci¨®n, surge una preocupaci¨®n por incorporar a esta gran transformaci¨®n digital una visi¨®n m¨¢s humanista y ¨¦tica de la tecnolog¨ªa. Cobra ahora m¨¢s sentido aquello que hace tiempo escrib¨ªa en un documento sobre retos para la administraci¨®n p¨²blica del futuro: ¡°Necesitamos, s¨ª, m¨¢s tecnolog¨ªa e innovaci¨®n en la administraci¨®n, pero no nos olvidemos de empaparla no solo de inteligencia artificial y algoritmos, sino tambi¨¦n de ¨¦tica, que es a aquellas como el alma al cuerpo¡±.

Desde hace un par de a?os asistimos en Espa?a a una superproducci¨®n de documentos de soft law que hablan de la necesidad de incrementar la transparencia en el uso de estas tecnolog¨ªas: la Gu¨ªa de la Agencia Espa?ola de Protecci¨®n de Datos sobre adecuaci¨®n al Reglamento General de Protecci¨®n de Datos de tratamientos que incorporan IA, Espa?a Digital 2025 (redatada 2026, despu¨¦s de su revisi¨®n en julio pasado), la Estrategia Nacional de Inteligencia Nacional (ENIA), la Carta de Derechos Digitales o la Gu¨ªa pr¨¢ctica y herramienta sobre la obligaci¨®n empresarial de informaci¨®n sobre el uso de algoritmos en el ¨¢mbito laboral, obra del Ministerio de Trabajo y Econom¨ªa Social. Incluso, tenemos ya algunas normas de derecho positivo que hablan de ello, como la llamada Ley rider o la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminaci¨®n, buenos ejemplos del tsunami regulador en esta materia que, en buena medida, procede de la Uni¨®n Europea y que tendr¨¢ su m¨¢xima culminaci¨®n con la pr¨®xima aprobaci¨®n del Reglamento de normas armonizadas sobre inteligencia artificial (Ley de Inteligencia Artificial).

El objetivo no es otro que garantizar que las decisiones p¨²blicas que se toman utilizando este tipo de recursos tecnol¨®gicos sean motivadas y explicables como lo ven¨ªa siendo obligado hasta ahora. Nada nuevo bajo el sol: las normas exigen que los fundamentos de las resoluciones de la Administraci¨®n sean expl¨ªcitos. Si ahora las razones de esa decisi¨®n son f¨®rmulas algor¨ªtmicas, estas deber¨ªan ser igualmente conocidas y entendidas si queremos garantizar el derecho fundamental de cualquier persona a defenderse frente a posibles arbitrariedades.

Pero, ?puede traducirse en algoritmos la gesti¨®n de ese espacio de discrecionalidad que las normas atribuyen en ocasiones a quienes tienen la responsabilidad de ejercer ciertas competencias p¨²blicas? ?C¨®mo puede administrar una m¨¢quina la subjetividad inherente al ejercicio de determinadas potestades, resolver qu¨¦ es y qu¨¦ no equitativo, dar contenido preciso a conceptos jur¨ªdicos indeterminados cuando han de aplicarse a un caso concreto, etc.? Al menos de momento, este margen intangible de apreciaci¨®n que pertenece a las personas sigue siendo inalienable. Y esto me recuerda a la reciente publicidad de una conocida marca de refrescos en la que se representaba una entrevista de trabajo entre un candidato humano y un androide. Despu¨¦s del consabido interrogatorio ¡°inteligente¡± para contrastar las capacidades del aspirante, el sistema concluye diciendo que ¡°ustedes¡±, refiri¨¦ndose a la raza humana, ¡°no pueden aportar nada que nosotros no hagamos ya¡±, a lo que el joven responde diciendo que ellos jam¨¢s podr¨¢n sentir ¡°ganas¡±, ni podr¨¢n reafirmarse, reenamorarse y renacer. Una forma po¨¦tica y sugerente de expresar que hay otra inteligencia, esencialmente emocional, que nunca ser¨¢ posible escribir en lenguaje de programaci¨®n.

El acceso a los algoritmos es imprescindible por diversos motivos, pero uno de los m¨¢s relevantes es poder saber si la decisi¨®n es sesgada porque los datos (inputs) que utiliza el algoritmo o con los que se entrena para crear patrones no representan toda la realidad o se basan en estereotipos y prejuicios (caso COMPAS). En otros supuestos, el sesgo puede estar en el propio dise?o del algoritmo, ya que sus autores tienen tambi¨¦n su propia escala de valores, experiencias y opini¨®n, lo que puede influir, sin duda alguna, en los resultados que arroja la operaci¨®n automatizada (casos BOSCO, DELIVEROO o SyRI).

De momento, la inflaci¨®n de planes, estrategias y cartas a la que antes hemos hecho referencia est¨¢ resultando ser poco efectiva, dado que siguen siendo frecuentes las resoluciones que deniegan el acceso al c¨®digo fuente u otra documentaci¨®n relacionada con los algoritmos que utilizan las administraciones. Lo de siempre: del dicho (compromiso) al hecho (respuesta), sigue existiendo un trecho.

Son los comisionados y consejos de transparencia los que est¨¢n defendiendo con mayor tes¨®n la apertura de esta informaci¨®n, partiendo de experiencias comparadas como la de la Commission d¡¯acc¨¨s aux documents administratifs francesa. Nuestro Consejo de Transparencia y Buen Gobierno ha resuelto en varias ocasiones que ¡°mientras no se instauren otros mecanismos que permitan alcanzar los fines se?alados con garant¨ªas equivalentes, como podr¨ªan ser, por ejemplo, auditor¨ªas independientes u ¨®rganos de supervisi¨®n, el ¨²nico recurso eficaz a tales efectos es el acceso al algoritmo propiamente dicho, a su c¨®digo, para su fiscalizaci¨®n tanto por quienes se puedan sentir perjudicados por sus resultados como por la ciudadan¨ªa en general en aras de la observancia de principios ¨¦ticos y de justicia¡±. En sentido parecido se ha pronunciado la Comisi¨®n de Garant¨ªa del Derecho de Acceso a la Informaci¨®n P¨²blica catalana.

Esta defensa de la transparencia algor¨ªtmica es absolutamente compatible con la aceptaci¨®n de l¨ªmites, algo consustancial a cualquier derecho. Mucho se ha hablado de la propiedad intelectual e industrial o de los secretos comerciales, l¨ªmites dif¨ªcilmente comprensibles cuando de productos generados in-house por la propia administraci¨®n o sobre los que posee los derechos de explotaci¨®n se trata. M¨¢s justificado est¨¢ invocar la seguridad p¨²blica, pero muy restringida su aplicaci¨®n a un pu?ado de casos donde los riesgos son claramente identificables.

Con todos estos antecedentes y partiendo de algunas de las acciones planificadas en la ENIA, hay que avanzar con mayor decisi¨®n en la concreci¨®n del r¨¦gimen jur¨ªdico del uso por la Administraci¨®n de algoritmos y sistemas de IA. Y deber¨ªamos empezar por poner encima de la mesa una de las reivindicaciones m¨¢s reiteradas sobre la que las administraciones e, incluso, la propia estrategia mencionada, guardan absoluto silencio, y es la necesidad de dar publicidad a la relaci¨®n de algoritmos que se utilizan en la gesti¨®n p¨²blica, en qu¨¦ procesos operan o cu¨¢les son sus reglas esenciales. Por lo general, de la existencia de ¡°algoritmos p¨²blicos¡± nos enteramos por sorpresa por los medios de comunicaci¨®n dada la gran dificultad de localizar en las plataformas de contrataci¨®n del sector p¨²blico las adjudicaciones para llevar a cabo este tipo de creaciones. Y esto es as¨ª en el mejor de los casos, ya que en el supuesto de desarrollos tecnol¨®gicos con medios propios puede que ni nos enteremos.

La reciente Ley de Transparencia y Buen Gobierno de la Comunitat Valenciana es un buen paso en esta l¨ªnea, ya que obliga a publicar la relaci¨®n de sistemas algor¨ªtmicos o de inteligencia artificial que tengan impacto en los procedimientos administrativos o la prestaci¨®n de los servicios p¨²blicos. Esta publicaci¨®n deber¨¢ incluir la descripci¨®n de manera comprensible del dise?o y funcionamiento de estos instrumentos, el nivel de riesgo que implican y el punto de contacto al que poder dirigirse en cada caso, de acuerdo con los principios de transparencia y explicabilidad (entrar¨¢ en vigor en mayo de 2023).

En el ¨¢mbito internacional, ?msterdam o Helsinki son algunas de las ciudades que ya est¨¢n publicando desde hace tiempo el registro de sus algoritmos, la mayor parte de ellos chatbots, que utilizan en algunos de los servicios que prestan. De alguno de ellos y de otros tanto puede conocerse m¨¢s gracias al Observatorio Global de Inteligencia Artificial Urbana.

Es hora de soltarse los botones de los pu?os, remangarse y, con o sin corbatas, ponerse manos a la obra.

Joaqu¨ªn Meseguer Yebra es acad¨¦mico correspondiente de la Real Academia de Jurisprudencia y Legislaci¨®n, coordina el grupo de trabajo de transparencia y acceso a la informaci¨®n de la FEMP y es secretario ejecutivo del cap¨ªtulo espa?ol de la Red Acad¨¦mica de Gobierno Abierto Internacional. Ha sido Subdirector General de Transparencia del Ayuntamiento de Madrid y Director General de Transparencia y Buen Gobierno en la Junta de Castilla y Le¨®n.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.