La UE aprueba la primera ley de inteligencia artificial del mundo

La Uni¨®n Europea ser¨¢ la primera regi¨®n del mundo en regular de forma completa los usos de la inteligencia artificial (IA). Los Estados y el Parlamento Europeo han llegado, casi en la medianoche del viernes al s¨¢bado, y despu¨¦s de tres d¨ªas de intensas y duras negociaciones, a un acuerdo provisional, un texto final que todav¨ªa deber¨¢ ser ratificado por las dos partes antes de entrar en vigor, previsiblemente a finales de 2026, aunque algunas partes empezar¨¢n a funcionar antes. Este texto define las obligaciones y normas por las que deber¨¢ regirse una tecnolog¨ªa que est¨¢ aqu¨ª para quedarse y que est¨¢ transformando completamente la vida diaria, pero que conlleva tantas posibilidades como riesgos, muchos de ellos ni siquiera a¨²n imaginables.

¡°El reglamento tiene como objetivo garantizar que los sistemas de IA utilizados en la UE sean seguros y respeten los derechos fundamentales y los valores europeos¡±, ha asegurado en X (antes Twitter) la Presidencia espa?ola del Consejo de la UE. Cerrar esta ley, que quiere convertirse en una referencia o est¨¢ndar para otras regiones m¨¢s all¨¢ de las fronteras comunitarias, era una de las prioridades fijadas por Espa?a para su semestre europeo, que acaba este mes de diciembre.

Los Veintisiete aseguran que quieren garantizar las posibilidades y limitar al m¨¢ximo los riesgos, para lo que han negociado una ley ¡°a prueba del futuro¡± que contenga la flexibilidad suficiente como para poder regular funciones o tecnolog¨ªas hoy por hoy desconocidas, o para amoldarse a los cambios que experimenten las ya existentes. Pero el diablo, como siempre, est¨¢ en los detalles, y las negociaciones, ¡°apasionadas¡±, como las calificaron testigos de los interminables tira y afloja que comenzaron el mi¨¦rcoles y acabaron rozando la medianoche del viernes al s¨¢bado, se alargaron debido al pulso entre Estados y eurodiputados ¡ªy a veces entre cada parte entre s¨ª¡ª sobre qu¨¦ es un riesgo o no y qu¨¦ excepciones y salvaguardias poner para garantizar que los derechos fundamentales individuales no se arriesgan en aras de no perjudicar la econom¨ªa o los intereses de los Estados. La letra peque?a est¨¢ a¨²n por conocerse, pero, tras 36 horas de negociaciones, una de las m¨¢s largas que se recuerdan de estos formatos, todas las partes se declararon satisfechas por el ¡°equilibrio¡± logrado entre los dos objetivos.

¡°Es una ley muy buena que impulsar¨¢ la innovaci¨®n y de forma compatible con los derechos fundamentales¡±, ha asegurado la secretaria de Estado de Digitalizaci¨®n e Inteligencia Artificial, Carme Artigas.

¡°La UE se convierte en el primer continente que pone reglas claras para el uso de la IA¡±, ha se?alado mientras tanto el comisario de Mercado Interior, Thierry Breton, uno de los grandes impulsores de la normativa y para quien la ley propuesta es ¡°mucho m¨¢s que un paquete de normas, es una lanzadera para que las startups europeas y los investigadores lideren la carrera global por la IA¡±.

Sobre todo, ha acotado Artigas, porque da una ¡°certeza legal y t¨¦cnica¡± a los ciudadanos y a las empresas que ahorrar¨¢ previsiblemente muchas acciones legales. Para ello, la normativa quiere tener dientes suficientes como para no quedar en papel mojado, para lo que prev¨¦ un sistema de sanciones, bien un porcentaje del volumen total de negocios de la compa?¨ªa infractora el a?o fiscal previo o incluso una cantidad predeterminada ¡°a¨²n mayor¡±. Adem¨¢s, se establece la creaci¨®n de un ente supervisor independiente, una Oficina de IA ligada a la Comisi¨®n Europea y que estar¨¢ asesorada por un panel cient¨ªfico y la sociedad civil.

La presidenta de la Comisi¨®n, Ursula von der Leyen, ha celebrado una normativa ¡°pionera en el mundo¡±. Un marco legal ¡°¨²nico para el desarrollo de una IA en el que se puede confiar¡±, ha saludado en X la jefa del Ejecutivo europeo. ¡°Europa ha liderado y ha cumplido¡±, ha acotado la presidenta del Parlamento Europeo, Roberta Metsola, seg¨²n la cual la AI Act, como se la conoce en ingl¨¦s, es una legislaci¨®n ¡°vanguardista y responsable que impone est¨¢ndares globales¡±.

Junto a la satisfacci¨®n por cerrar un acuerdo que muchas veces parec¨ªa escaparse, hab¨ªa tambi¨¦n gestos de alivio entre los principales responsables de las negociaciones, y no solo porque por fin pod¨ªan irse a casa, sino porque, subrayaron todos, lo hac¨ªan seguros de que han hecho bien unos deberes con muchas trabas.

Entre ellos, los m¨¢s espinosos fueron, como se preve¨ªa, la cuesti¨®n de c¨®mo regular los modelos de IA de prop¨®sito general (la IA generativa o modelos fundacionales) en los que se basan populares herramientas como el ChatGPT, as¨ª como los sistemas de vigilancia biom¨¦trica (como el reconocimiento facial), que al final acab¨® siendo el punto m¨¢s arduamente negociado y prolong¨® las discusiones hasta este viernes, debido a los fuertes recelos que despiertan estas tecnolog¨ªas que potencialmente ¡ªy en algunos casos ya realmente, como se ve en algunos pa¨ªses con poco m¨²sculo democr¨¢tico¡ª permiten una supervisi¨®n y control estatal que puede colisionar directamente con los derechos fundamentales de los ciudadanos.

Finalmente, se ha evitado el fracaso de las negociaciones, que Espa?a insisti¨® en concluir ya, temerosa de un calendario que, con elecciones europeas en seis meses, podr¨ªa hacer peligrar una ley largamente elaborada y discutida. El Parlamento Europeo ha celebrado que la ley ¡°busca garantizar que los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental est¨¢n protegidos de IA de alto riesgo, a la par que se impulsa la innovaci¨®n y se hace de Europa un l¨ªder en el sector¡±.

El texto final recoge, aseguran los eurodiputados, sus principales l¨ªneas rojas, al confirmar que quedar¨¢n prohibidos varios sistemas de vigilancia biom¨¦trica que consideraban inaceptables: los sistemas de categorizaci¨®n biom¨¦trica (por creencias pol¨ªticas, religiosas, filos¨®ficas o por orientaci¨®n sexual o raza); los sistemas para expandir o crear bases de datos faciales captando datos de manera indiscriminada a trav¨¦s de internet o de grabaciones audiovisuales y televisi¨®n; el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas; el social scoring (sistemas que punt¨²an a las personas en funci¨®n de su comportamiento social o caracter¨ªsticas personales); sistemas que manipulan comportamiento humano y la IA usada para explotar las vulnerabilidades de las personas (por ejemplo por su edad o situaci¨®n social o econ¨®mica).

Vigilancia biom¨¦trica

Por otro lado, aunque se permitir¨¢n los sistemas de vigilancia biom¨¦trica en tiempo real en espacios p¨²blicos, solo podr¨¢n ser empleados por las fuerzas del orden y estar¨¢n muy limitados y rodeados de estrictas salvaguardias: se requerir¨¢ una autorizaci¨®n judicial y la lista de cr¨ªmenes que lo autoricen ser¨¢ muy restrictiva. En el caso del uso ¡°ex post¡±, solo se permitir¨¢ para la b¨²squeda de una persona condenada o sospechosa de haber cometido un crimen grave. En el caso de la vigilancia en tiempo real, su uso estar¨¢ limitado en ¡°tiempo y locaci¨®n¡± y solo se permitir¨¢ para la b¨²squeda de v¨ªctimas de secuestro, tr¨¢fico humano o explotaci¨®n sexual, para la prevenci¨®n de una amenaza terrorista ¡°genuina y previsible¡± o ¡°genuina y presente¡±, es decir, que se est¨¢ produciendo en el mismo momento, o para la localizaci¨®n o identificaci¨®n de un sospechoso de cr¨ªmenes espec¨ªficos: terrorismo, tr¨¢fico, asesinato, secuestro, violaci¨®n, robo armado o un crimen medioambiental, entre otros).

En cuanto al otro gran punto de las negociaciones, la regulaci¨®n de los sistemas de inteligencia artificial generativa en los que se basan modelos como ChatGPT, estos tendr¨¢n que cumplir criterios de transparencia, como especificar que si un texto, una canci¨®n o una fotograf¨ªa se han generado a trav¨¦s de la inteligencia artificial, as¨ª como garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.

Se trata de una tecnolog¨ªa que apenas se conoc¨ªa cuando Bruselas propuso la ley, en abril de 2021, por lo que ha habido que incorporar medidas y salvaguardias a posteriori, lo que ha constituido a la vez un recordatorio de que la legislaci¨®n debe ser adaptable a sistemas del futuro a¨²n inimaginables. El reglamento no proh¨ªbe su uso, pero s¨ª establece una serie de criterios para detectar los modelos que pueden generar un alto riesgo en funci¨®n del contexto en el que se usen y obliga a sus desarrolladores a cumplir unas salvaguardas m¨¢s estrictas antes de sacarlos al mercado.

Ning¨²n otro pa¨ªs tiene a¨²n una regulaci¨®n tan completa como la europea. El presidente de EE UU, Joe Biden, firm¨® un octubre un decreto que obliga a las tecnol¨®gicas a notificar al Gobierno cualquier avance que suponga un ¡°riesgo grave para la seguridad nacional¡±. D¨ªas despu¨¦s, el primer ministro brit¨¢nico, Rishi Sunak, convoc¨® a una cumbre de la que surgi¨® el primer compromiso de 28 pa¨ªses y de la UE sobre estos sistemas (Declaraci¨®n de Bletchley) y la creaci¨®n de un grupo de expertos para el seguimiento de sus avances.

Si no ocurren imprevistos, es decir, si ninguna de las partes se echa atr¨¢s y tanto los Estados como la Euroc¨¢mara ratifican la ley en los pr¨®ximos meses (los negociadores no creen que el proceso pueda empezar antes de febrero, ya bajo presidencia europea belga), la Ley de IA deber¨ªa poder entrar totalmente en vigor hacia finales de 2026, aunque algunas partes lo har¨¢n antes: est¨¢ previsto que la Oficina de IA empiece a funcionar en cuanto se ratifique el reglamento, mientras que la prohibici¨®n de los sistemas prohibidos de inteligencia artificial llegar¨¢ a los seis meses y los requisitos para los sistemas y modelos de IA generativa, a los 12.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.