Ley de IA: qui¨¦n vigila a los vigilantes

Cuando Bruselas propuso la ley de inteligencia artificial (IA) en abril de 2021, no exist¨ªa ChatGPT. Rehicieron el trabajo muchas veces, con los lobbies resoplando en su nuca. Mientras predicaba el evangelio de la regulaci¨®n en su gira por el continente, el consejero delegado de OpenAI presionaba a los reguladores para esquivar el control de sus productos en Europa, igual que Google y Microsoft. ¡°El actual borrador ser¨ªa excesivo¡±, dijo en Londres, ¡°pero he o¨ªdo que se van a retractar¡±. Hace dos semanas, Francia y Alemania se plantaron contra la regulaci¨®n de modelos fundacionales. Son los dos pa¨ªses de la UE que m¨¢s han invertido en empresas locales de IA. Sus modelos quieren competir en el mercado globalizado sin las manos atadas, como es natural.

Todo el mundo ha cumplido su papel: los gobiernos de los pa¨ªses quieren m¨¢s libertad, y el Parlamento quiere m¨¢s protecciones. La presidencia debe poner de acuerdo a las partes. La ley nace tras un parto de 36 horas, semanas antes de que la presidencia espa?ola se convierta en calabaza. Los belgas que nos suceden ya han dicho que para ellos la IA no es una prioridad.

Las buenas noticias: los modelos tendr¨¢n que publicar un resumen detallado de sus datos de entrenamiento ¡°sin perjuicio de los secretos comerciales¡±, y todo contenido sint¨¦tico deber¨¢ manifestarse como tal. Ya veremos c¨®mo. Las empresas que entrenan modelos generativos como GPT o Gemini deber¨¢n garantizar que lo hacen respetando los derechos de autor. ?Ya veremos c¨®mo! Tambi¨¦n deber¨¢n facilitar informaci¨®n sobre la energ¨ªa que consumen sus modelos. Un gol, teniendo en cuenta que la industria ya estar¨ªa consumiendo el equivalente anual a Irlanda. Se proh¨ªbe el rastreo masivo de im¨¢genes faciales en la red o de circuitos cerrados de televisi¨®n para crear bases de datos de reconocimiento facial. O sea, lo que hizo Clearview. La pol¨¦mica est¨¢ en el uso de sistemas de vigilancia e identificaci¨®n biom¨¦trica.

El Parlamento quer¨ªa prohibirlos todos y los gobiernos quieren usarlos todos. Especialmente Francia, primer pa¨ªs europeo en institucionalizar el uso masivo de sistemas inteligentes de vigilancia en tiempo real. El Parlamento franc¨¦s los aprob¨® el pasado marzo como parte de su ley de seguridad para los Juegos Ol¨ªmpicos de 2024. Francia no est¨¢ sola dentro de la UE. En consecuencia, la ley de IA proh¨ªbe el uso de identificaci¨®n biom¨¦trica en tiempo real con muchas excepciones.

Est¨¢n exentos los usos militares y de defensa. Las fuerzas del orden podr¨¢n usarla en espacios p¨²blicos previa autorizaci¨®n judicial no retroactiva para prevenir amenazas de terrorismo, tr¨¢fico de personas, explotaci¨®n sexual, asesinato, secuestro, violaci¨®n, robo a mano armada, participaci¨®n en organizaci¨®n criminal y delito ambiental. Tambi¨¦n se proh¨ªben los sistemas de reconocimiento de emociones en entornos laborales y educativos pero no en entornos policiales y migratorios. Aqu¨ª hay doble preocupaci¨®n.

Primero, porque son contextos que favorecen el abuso de personas vulnerables. Segundo, porque son tecnolog¨ªas insolventes, basadas en ideolog¨ªas ¨¦tica y cient¨ªficamente repugnantes como la eugenesia, o entrenadas con bases de datos atravesadas por el racismo y la discriminaci¨®n. Pero, sobre todo, porque la vigilancia biom¨¦trica en tiempo real es invisible, irreversible e incompatible con los derechos civiles. Qui¨¦n vigilar¨¢ a los vigilantes que la usan, esa es la cuesti¨®n.