El Gobierno prepara mecanismos para medir el impacto social de los algoritmos

Los algoritmos cada vez afectan a m¨¢s esferas de nuestras vidas. Y, en ocasiones, perjudican a la ciudadan¨ªa. El Gobierno ha decidido pasar a la acci¨®n: ha puesto en marcha una bater¨ªa de medidas que tienen como meta analizar el impacto social de los sistemas de inteligencia artificial (IA) antes de que entren en funcionamiento. Con ese objetivo en mente, y para precipitar los cambios con m¨¢s empuje, Espa?a se ha propuesto para ser el conejillo de indias del proyecto de Reglamento de la IA presentado por la Comisi¨®n Europea, que previsiblemente entrar¨¢ en vigor en 2023.

La prueba piloto implicar¨ªa adelantar la implantaci¨®n de la normativa un a?o, a 2022. Y ello conllevar¨ªa evaluar el riesgo que plantea la aplicaci¨®n de cada algoritmo (el reconocimiento facial o los sistemas de puntaje, por ejemplo, son considerados de alto riesgo y por tanto est¨¢n proscritos con algunas excepciones) y preparar mecanismos de auditor¨ªa para asegurarse de que no discriminan por raza, g¨¦nero o renta (los llamados sesgos algor¨ªtmicos).

Espa?a ser¨ªa el ¨²nico pa¨ªs que se adelante en la aplicaci¨®n de este reglamento europeo. Con este movimiento, el Gobierno pretende colocar al pa¨ªs en la vanguardia de esta importante normativa y acelerar ¡°los cambios que tarde o temprano tendr¨¢n que darse¡±, se?alan fuentes de la Secretar¨ªa de Estado de Digitalizaci¨®n e Inteligencia Artificial (Sedia): preparar equipos de an¨¢lisis, definir est¨¢ndares, desarrollar procedimientos de actuaci¨®n, etc¨¦tera. Esas mismas fuentes confirman que el acuerdo entre el Gobierno y la Comisi¨®n Europea est¨¢ muy avanzado. Si no hay contratiempos, se anunciar¨¢ a la vuelta de vacaciones.

La aplicaci¨®n temprana del borrador de reglamento europeo no implicar¨ªa obligaciones legales adicionales para las empresas que operen los algoritmos que se supervisar¨¢n. El sector, de hecho, ha recibido de buen grado la iniciativa y se ha ofrecido para colaborar en lo que sea necesario con Sedia, dependiente del Ministerio de Asuntos Econ¨®micos y Transformaci¨®n Digital que dirige la vicepresidenta primera Nadia Calvi?o. La idea del Gobierno es crear un sandbox o banco de pruebas en un entorno seguro similar al que ya se desarroll¨® para las fintech.

Evaluaci¨®n de riesgos

Tanto la Estrategia Nacional de la Inteligencia Artificial, presentada a finales del a?o pasado, como el reglamento europeo de la IA contemplan la figura de la auditor¨ªa algor¨ªtmica como uno de los pilares del sistema de evaluaci¨®n de riesgos.

El Gobierno todav¨ªa no tiene claro qu¨¦ organismo se encargar¨¢ de realizar en Espa?a esas auditor¨ªas. ¡°No hemos llegado a esa discusi¨®n¡±, se?alan desde la Secretar¨ªa de Estado que dirige Carme Artigas. Una opci¨®n ser¨ªa crear una oficina independiente, como ya sucede en el ¨¢mbito de la privacidad con la Agencia Espa?ola de Protecci¨®n de Datos (AEPD).

Antes de llegar a ese punto, y para preparar el terreno, se acaba de poner en marcha el Observatorio sobre el Impacto Social de los Algoritmos (Obisal). Dependiente a su vez del Observatorio Nacional de Tecnolog¨ªa y Sociedad (Ontsi), esta entidad ser¨¢ la encargada de desarrollar los indicadores de referencia que se usar¨¢n en las auditor¨ªas. El Obisal est¨¢ ahora mismo en proceso de captaci¨®n de expertos y de constituci¨®n de grupos de trabajo sectoriales para analizar los sistemas de IA. ¡°Los algoritmos no son sectoriales, pero su impacto s¨ª¡±, subrayan desde Sedia.

Este observatorio producir¨¢ informes que contribuir¨¢n a que el a?o que viene vea la luz una metodolog¨ªa concreta para realizar las auditor¨ªas algor¨ªtmicas. A ello contribuir¨¢ tambi¨¦n un registro de algoritmos del sector p¨²blico que est¨¢ impulsando la propia Secretar¨ªa de Estado. El objetivo, seg¨²n fuentes del Gobierno, es que este proceso de evaluaci¨®n del impacto social de los sistemas pueda materializarse en una especie de sello de calidad de los algoritmos. ¡°Todo este trabajo est¨¢ preparando el terreno para dentro de 10 o 15 a?os¡±, aseguran desde Sedia.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.