Bruselas quiere que los contenidos generados por inteligencia artificial lleven una advertencia espec¨ªfica

La r¨¢pida evoluci¨®n de las nuevas tecnolog¨ªas hace que, cada vez con m¨¢s frecuencia, sea pr¨¢cticamente imposible distinguir si un contenido ha sido generado por un ser humano o por una m¨¢quina. Italia acaba de prohibir el uso de ChatGPT alegando que no cumple la normativa europea de protecci¨®n de datos, pero los riesgos de estas y otras nuevas tecnolog¨ªas generativas pueden ser m¨¢s sofisticados a¨²n. Bruselas quiere asegurarse de que haya...

La r¨¢pida evoluci¨®n de las nuevas tecnolog¨ªas hace que, cada vez con m¨¢s frecuencia, sea pr¨¢cticamente imposible distinguir si un contenido ha sido generado por un ser humano o por una m¨¢quina. Italia acaba de prohibir el uso de ChatGPT alegando que no cumple la normativa europea de protecci¨®n de datos, pero los riesgos de estas y otras nuevas tecnolog¨ªas generativas pueden ser m¨¢s sofisticados a¨²n. Bruselas quiere asegurarse de que haya la confusi¨®n m¨ªnima posible y, para ello, recuerda que busca, entre otros, que todo contenido generado por inteligencia artificial (IA) est¨¦, de manera obligatoria, debidamente advertido.

¡°En todo lo que sea generado por inteligencias artificiales, ya sean textos ¡ªtodo el mundo conoce ahora ChatGPT¡ª o im¨¢genes, habr¨¢ una obligaci¨®n de notificar que ha sido creado por una inteligencia artificial¡±, ha dicho este lunes el comisario de Mercado Interior, Thierry Breton, en la emisora gala Franceinfo. El alto responsable europeo ha recordado al respecto que el Ejecutivo europeo present¨®, hace ahora casi exactamente dos a?os, una propuesta de reglamento sobre inteligencia artificial que busca ¡°proporcionar a los desarrolladores, implementadores y usuarios de IA requisitos y obligaciones claros en relaci¨®n con los usos espec¨ªficos de la IA¡±, seg¨²n resume la propia Comisi¨®n su propuesta.

Breton, que ha subrayado que, de aprobarse, los europeos ser¨¢n ¡°los primeros¡± en proponer una legislaci¨®n de este tipo, ha manifestado su esperanza de que el texto sea votado y aprobado este mismo mes en el Parlamento Europeo, requisito indispensable para que avance la normativa y pueda ser adoptada por los Veintisiete lo antes posible. Seg¨²n fuentes parlamentarias, la Euroc¨¢mara tiene en su agenda la presentaci¨®n del plan en la ¨²ltima semana de abril y su voto final en mayo. Si se cumple este calendario, podr¨ªa conseguirse el objetivo del comisario franc¨¦s, responsable entre otros de aumentar la soberan¨ªa tecnol¨®gica europea y de la aplicaci¨®n de las normas para regular este vasto campo, que quiere que el reglamento pueda entrar en vigor en 2025.

Los r¨¢pidos avances de la IA preocupan desde hace tiempo a Europa. De hecho, cuando Bruselas present¨® la propuesta de reglamento, en abril de 2021, no se hab¨ªan desarrollado todav¨ªa en todo su esplendor las herramientas basadas en IA generativa, capaz de crear textos, im¨¢genes o m¨²sica a partir de una serie de instrucciones que ha alcanzado su m¨¢xima expresi¨®n ¡ªpor ahora¡ª con ChatGPT.

La propuesta europea de reglamento ¡ªlegislaci¨®n que se aplica directamente en los Veintisiete, sin necesidad de trasponerlo a la normativa nacional¡ª prev¨¦ cuatro tipos de ¡°riesgos¡±: en lo m¨¢s alto est¨¢ el ¡°inaceptable¡± y, por lo tanto, prohibido, categor¨ªa en la que entran las aplicaciones que permiten, como en China, el denominado social scoring, el sistema de puntuaci¨®n social que determina la credibilidad o reputaci¨®n de una persona de acuerdo con varios factores, incluidos datos o actividades por internet. Le sigue el ¡°alto riesgo¡±, en donde entran tecnolog¨ªas como la herramienta de escaneo de CV para evaluar y jerarquizar a solicitantes de empleo o algunas aplicaciones m¨¦dicas, que deber¨¢n estar sujetas a determinados requisitos legales. Una tercera categor¨ªa ser¨ªa la de ¡°IA con obligaciones espec¨ªficas de transparencia¡±, en la que se incluyen los bots de suplantaci¨®n como ser¨ªa ChatGPT (aunque sin menci¨®n espec¨ªfica a este, que todav¨ªa no exist¨ªa) y, finalmente, aquellos de riesgo ¡°m¨ªnimo o inexistente¡± que ser¨¢n permitidos sin restricci¨®n alguna.

El recordatorio de Breton sobre la necesidad de advertir claramente de que un contenido ha sido generado por una IA se aplica tanto para la categor¨ªa de riesgo ¡°alto¡± como la tercera, que reclama obligaciones espec¨ªficas (ambas categor¨ªas no son mutuamente excluyentes, subraya la Comisi¨®n). En concreto, las tecnolog¨ªas que entren en estas categor¨ªas deber¨¢n notificar a los usuarios que est¨¢n interactuando con un sistema de IA, salvo que sea algo evidente, as¨ª como si se les aplican sistemas de reconocimiento emocional o categorizaci¨®n biom¨¦trica. Adem¨¢s, los denominados deep fakes (contenido que imita la voz o apariencia de una persona) deber¨¢n tener una etiqueta informando de ello.

El ¨²ltimo ejemplo de lo f¨¢cil que es enga?ar a medio mundo (o m¨¢s) con un contenido creado por IA se produjo este mismo fin de semana, cuando se hizo viral una foto del papa Francisco vestido con un abrigo blanco de plumas de Balenciaga, que result¨® un deep fake realizado con la herramienta de inteligencia artificial generativa Midjourney. Su creador es un trabajador de la construcci¨®n de Chicago de 31 a?os que, seg¨²n declar¨® a la publicaci¨®n BuzzFeed, solo buscaba ¡°divertirse haciendo arte psicod¨¦lico¡±.

Poco antes, la semana pasada, la alarma surg¨ªa de los propios generadores de este tipo de tecnolog¨ªas y contenidos: m¨¢s de un millar de empresarios, intelectuales e investigadores de primer nivel relacionados con la IA generativa firmaron una carta abierta en la que solicitan una moratoria de seis meses en el desarrollo de esta tecnolog¨ªa para recapacitar sobre sus consecuencias. Entre los signatarios figura Elon Musk, due?o de Twitter, pero tambi¨¦n fundador de OpenAI, la empresa que ha desarrollado ChatGPT.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.