El Parlamento Europeo vota una ¡°hist¨®rica¡± ley de inteligencia artificial sin resolver dilemas clave

Este mi¨¦rcoles se vota en la Euroc¨¢mara el reglamento europeo de la Inteligencia Artificial (IA), acordado el pasado 8 de diciembre por la Comisi¨®n, el Consejo y el propio Parlamento Europeo, tras una maratoniana sesi¨®n de negociaciones de 38 horas, la m¨¢s larga en la historia de la UE. El redactado final de la normativa, que no ha trascendido hasta esta semana, constata lo que ya se pod¨ªa entrever en diciembre, cuando se cerr¨® el acuerdo provisional, que tambi¨¦n requiere a¨²n la ratificaci¨®n final de los Estados miembros antes de que pueda entrar en vigor: el reglamento marca el camino de lo que se puede y no se puede hacer, pero no concreta c¨®mo deber¨¢n resolverse cuestiones clave, como la defensa de los derechos de autor.

La normativa se considera la primera regulaci¨®n sobre IA que protege las libertades y derechos b¨¢sicos (China puso en marcha su propia ley el verano pasado). En el ¨²ltimo debate antes de la votaci¨®n, el comisario de Mercado Interior, Thierry Breton, impulsor de la normativa, la defendi¨® el martes en Estrasburgo como la ¡°primera regulaci¨®n de IA del mundo equilibrada y destinada a proteger de los excesos de una mala utilizaci¨®n de la IA, pero promoviendo al mismo tiempo la innovaci¨®n¡±. La normativa, insisti¨® Breton al pedir un apoyo mayoritario de la Euroc¨¢mara, supone un ¡°compromiso hist¨®rico a prueba de tiempo¡±.

El reglamento establece distintos requisitos y obligaciones a las aplicaciones de IA en funci¨®n de los riesgos que presenta su uso. Las m¨¢s inocuas, como los filtros de spam o los detectores de duplicados de textos, se pueden usar sin restricci¨®n alguna. Se les denomina sistema de riesgos limitados y el ¨²nico requisito que se les pone a los proveedores es que informen a los usuarios de que est¨¢n manejando una herramienta de IA.

El grueso de la negociaci¨®n consisti¨® en determinar cu¨¢les son de riesgo inaceptable y, por tanto, est¨¢n totalmente prohibidas; y cu¨¢les de alto riesgo, lo que implica una supervisi¨®n permanente. Entran en la primera categor¨ªa los sistemas ¡°que trasciendan la conciencia de una persona o t¨¦cnicas deliberadamente manipuladoras¡±, las que exploten sus vulnerabilidades o las que infieran emociones, raza u opiniones pol¨ªticas de las personas.

Quedan encuadrados en el ep¨ªgrafe de alto riesgo los sistemas de identificaci¨®n biom¨¦trica remota, que un amplio sector del Parlamento quer¨ªa prohibir terminantemente, los sistemas de categorizaci¨®n biom¨¦trica o el reconocimiento de emociones. Tambi¨¦n los sistemas que afecten a la seguridad de las infraestructuras cr¨ªticas y los relacionados con la educaci¨®n (evaluaci¨®n de comportamientos, sistemas de admisi¨®n y ex¨¢menes), el empleo (selecci¨®n de personal) y la prestaci¨®n de servicios p¨²blicos esenciales, la aplicaci¨®n de la ley o la gesti¨®n de la migraci¨®n.

El documento, de 460 p¨¢ginas, no incorpora sorpresas relevantes, si bien constata que sigue sin concretarse la indefinici¨®n que rodeaba algunos de los asuntos m¨¢s sensibles de la normativa. ¡°Es una regulaci¨®n m¨¢s bien escueta. Como instrumento legal, requiere m¨¢s explicitaci¨®n. Hay definiciones muy ambivalentes, algunas de ellas colindantes a las de otras normativas¡±, se?ala Lorena Jaume-Palas¨ª, experta en ¨¦tica y filosof¨ªa del derecho aplicadas a la tecnolog¨ªa y asesora del Parlamento Europeo en cuestiones relacionadas con la IA. ¡°Se ve venir que, igual que ha sucedido con el Reglamento General de Protecci¨®n de Datos (RGPD), necesitaremos jurisprudencia para saber con qu¨¦ metodolog¨ªa se va a implementar todo esto¡±.

Identificaci¨®n biom¨¦trica: en casos excepcionales

Una de las cuestiones m¨¢s controvertidas, que m¨¢s horas de negociaciones acapar¨®, es la regulaci¨®n de los llamados sistemas de identificaci¨®n biom¨¦trica remota en tiempo real. En esa categor¨ªa entrar¨ªa, por ejemplo, la extensa red de c¨¢maras de reconocimiento facial repartidas por las grandes ciudades chinas y que permite localizar a cualquiera en pocos minutos. Los primeros borradores de la normativa europea de IA eran muy restrictivos con esta tecnolog¨ªa.

En la ¨²ltima versi¨®n del documento, sin embargo, se fijan una serie de supuestos en los que se podr¨¢n utilizar, siempre bajo autorizaci¨®n judicial: ¡°La b¨²squeda de determinadas v¨ªctimas de un delito, incluidas personas desaparecidas; determinadas amenazas para la vida o para la seguridad f¨ªsica de las personas f¨ªsicas o amenazas de atentado terrorista; y la localizaci¨®n o identificaci¨®n de los autores o sospechosos de [una lista de 32] infracciones penales¡±.

El texto final, adem¨¢s, incluye una excepci¨®n sobre las excepciones: ¡°En casos de urgencia debidamente justificados, se podr¨¢ empezar a utilizar tales sistemas sin el registro en la base de datos de la UE, siempre que dicho registro se lleve a cabo sin demora indebida. [...] Los Estados miembros notificar¨¢n dichas normas a la Comisi¨®n, a m¨¢s tardar 30 d¨ªas despu¨¦s de su adopci¨®n¡±. Es decir, las autoridades pueden saltarse la normativa y actuar, aunque posteriormente se declare que el uso del sistema haya sido inapropiado.

¡°Cuantas m¨¢s excepciones tiene una prohibici¨®n, menos dura es. Lo que estamos viendo es que se est¨¢n naturalizando tecnolog¨ªas que deber¨ªan cuestionarse¡±, opina Jaume-Palas¨ª.

Durante el ¨²ltimo debate en la Euroc¨¢mara, los principales responsables de la negociaci¨®n de la normativa han defendido, no obstante, el Reglamento de la IA como un instrumento que permitir¨¢ a los ciudadanos usar estas nuevas tecnolog¨ªas sin miedo a que se vulneren sus derechos fundamentales.

Derechos de autor: protecci¨®n, pero sin concretar

Otra de las cuestiones del reglamento que m¨¢s atenci¨®n ha acaparado es c¨®mo se protegen los derechos de autor, consagrados en la UE a trav¨¦s de 13 directivas y dos reglamentos. En EE UU hay una serie de demandas colectivas interpuestas contra grandes plataformas por usar, sin permiso, creaciones de particulares para entrenar modelos de IA; el resultado de esos procesos puede marcar el futuro de la IA generativa (la que genera textos, im¨¢genes, v¨ªdeos o m¨²sica a partir de instrucciones aportadas por el usuario).

El Reglamento Europeo de IA repite a lo largo de su articulado que todos los sistemas deben garantizar el cumplimiento de los derechos de autor, pero no dice c¨®mo, m¨¢s all¨¢ de que ser¨¢ competencia de la Oficina de la IA, el ¨®rgano que supervisar¨¢ el cumplimiento de la normativa. Seg¨²n Breton, esta oficina empezar¨¢ a funcionar lo antes posible una vez entre en vigor el reglamento y contar¨¢ con ¡°el talento necesario para apoyar la implementaci¨®n de la ley y para servir como centro de experiencia mundial en IA¡±.

En cuanto a los derechos de autor de los contenidos usados para entrenar algoritmos ya en funcionamiento, ¡°el reglamento es bastante garantista y aportar¨¢ mucha seguridad jur¨ªdica a los ciudadanos. M¨¢s que un marco jur¨ªdico es una declaraci¨®n de principios y de valores democr¨¢ticos¡±, subraya Iban Garc¨ªa del Blanco, eurodiputado socialista y negociador de la ley de IA. ¡±En algunos casos, la Comisi¨®n tendr¨¢ que desarrollar m¨¢s de 20 actos derivados de estas provisiones para hacerlas concretas. Por ejemplo, en materia de derechos de autor: elaborar¨¢ una serie de propuestas tipo para que las empresas sepan en qu¨¦ sentido van a tener que hacer esas declaraciones de transparencia sobre los contenidos que han utilizado en el entrenamiento de los modelos¡±, explica.

Esto no impide, dice Garc¨ªa del Blanco, que en el futuro haya una serie de demandas y que mediante jurisprudencia se vayan fijando criterios. Jaume-Palas¨ª recuerda que eso es lo que sucedi¨® con el reglamento de protecci¨®n de datos: ¡°Los primeros fallos est¨¢n saliendo ahora, cinco a?os despu¨¦s de que entrara en vigor¡±.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.