C¨®mo y por qu¨¦ quiere Europa regular ChatGPT

Todas las instituciones quieren regular ChatGPT. El c¨¦lebre robot conversacional basado en inteligencia artificial (IA) generativa empieza a levantar suspicacias por el mundo. Se temen sus efectos sobre la privacidad de los usuarios, su potencial para difundir desinformaci¨®n y la posible destrucci¨®n de empleo que puede traer consigo si se implanta en el entorno laboral y realiza funciones de trabajadores.

M¨¢s de un millar de especialistas reclamaron hace dos semanas en una carta conjunta una moratoria de seis meses en el desarrollo de estos programas. Y los gobiernos han respondido a esa llamada de socorro. Estados Unidos abri¨® este martes un periodo de dos meses para recoger ideas sobre c¨®mo regular este tipo de herramientas. China ya ha presentado una normativa para regular la IA generativa, seg¨²n avanz¨® Reuters: las empresas que quieran usar esa tecnolog¨ªa deber¨¢n acreditar ante Pek¨ªn que cumplen una serie de requisitos de seguridad.

?Qu¨¦ pasa en Europa? En el Viejo Continente, la situaci¨®n es m¨¢s compleja. El asunto avanza a otro ritmo y por varios flancos a la vez. Estas son algunas de las claves del debate que se est¨¢ viviendo en la UE estos d¨ªas:

?C¨®mo funciona ChatGPT?

ChatGPT4 es la ¨²ltima versi¨®n de un gran modelo de lenguaje (LLM en sus siglas inglesas). Ese es el nombre que reciben sistemas de inteligencia artificial, o m¨¢s concretamente de aprendizaje profundo, entrenados con cantidades ingentes de datos (en este caso, textos) para poder mantener di¨¢logos con el usuario. El programa procesa millones de textos (en el caso de ChatGPT4, todo internet) y aplica una serie de algoritmos para tratar de predecir cu¨¢l es la palabra que tiene m¨¢s probabilidades de suceder a las anteriores en una frase coherente. Por ejemplo, si se teclea ¡°el cielo es de color¡±, el sistema se ha entrenado leyendo los suficientes textos como para poder decir ¡°azul¡±.

El aumento de la potencia computacional de los ¨²ltimos a?os, la sofisticaci¨®n de los algoritmos encargados de realizar ese entrenamiento y las enormes bases de datos empleadas en el proceso han conseguido que la operaci¨®n vaya mucho m¨¢s all¨¢ de predecir una palabra. ChatGPT, igual que otros modelos similares, es capaz de escribir textos enteros coherentes y sin faltas de ortograf¨ªa. El algoritmo tiene en cuenta 175.000 millones de par¨¢metros cada vez que se le formula una pregunta. El resultado puede resultar asombroso.

?Qu¨¦ amenaza supone para los usuarios?

El problema de las respuestas que aporta ChatGPT es que son coherentes, pero no necesariamente ciertas. As¨ª lo advierte el propio programa seg¨²n se inicia: ¡°Puede generar ocasionalmente informaci¨®n incorrecta¡±, as¨ª como ¡°instrucciones da?inas o contenidos sesgados¡±. Tambi¨¦n se avisa de que el sistema ¡°tiene un conocimiento limitado del mundo despu¨¦s de 2021¡å, fecha hasta la que abarca la base de datos con la que se entren¨® el modelo.

Adem¨¢s de la calidad de la informaci¨®n (o desinformaci¨®n) que genera la herramienta, existe el miedo de que la creciente sofisticaci¨®n del modelo (se acaba de presentar ChatGPT4 y ya se est¨¢ trabajando en la versi¨®n 5) pueda acabar realizando el trabajo desempe?ado hasta ahora por personas.

?Qu¨¦ se ha hecho hasta ahora en la UE?

La Agencia Espa?ola de Protecci¨®n de Datos (AEPD) y sus hom¨®logos europeos se reunieron este jueves en el Comit¨¦ Europeo de Protecci¨®n de Datos (EDPB por sus siglas inglesas), el organismo en el que coordinan fuerzas. Decidieron poner en marcha ¡°un grupo de trabajo¡± para intercambiar informaci¨®n al respecto. Las instituciones comunitarias no han adoptado ninguna medida concreta respecto a ChatGPT.

Quienes s¨ª lo han hecho son algunos de los pa¨ªses miembros. El ¨²ltimo de ellos, Espa?a: la AEPD anunci¨® el jueves por la tarde el ¡°inicio de oficio de actuaciones previas de investigaci¨®n¡± a OpenAI, la empresa que ha desarrollado ChatGPT. Seg¨²n fuentes de la agencia, eso no implica que se vayan a tomar medidas contra la compa?¨ªa, sino que se est¨¢ explorando si la situaci¨®n ¡°justifica la tramitaci¨®n de un procedimiento¡±. Italia, por su parte, bloque¨® hace dos semanas la aplicaci¨®n hasta dirimir si infringe la normativa europea de protecci¨®n de datos. Las autoridades francesa, irlandesa y alemana tambi¨¦n investigan esa posibilidad.

Por otra parte, el comisario de Mercado Interior, Thierry Breton, adelant¨® la semana pasada que los contenidos creados por IA deber¨¢n llevar una advertencia espec¨ªfica de su origen. ¡°En todo lo que sea generado por inteligencias artificiales, ya sean textos o im¨¢genes, habr¨¢ una obligaci¨®n de notificar que ha sido originado por estas¡±, se?al¨®.

?Por qu¨¦ se quiere regular?

Hasta el momento, la amenaza m¨¢s inmediata sobre los intereses de los ciudadanos europeos se ha detectado en materia de privacidad. El propio ChatGPT avisa a sus usuarios de que no introduzcan en el sistema ¡°datos personales¡±. Pero eso no es suficiente.

Preguntadas sobre los motivos que le han llevado a iniciar ¡°actuaciones previas de investigaci¨®n¡±, fuentes de la AEPD dicen que no pueden revelar detalles para no perjudicar la tramitaci¨®n del expediente. Seg¨²n expertos consultados, las posibles infracciones de la normativa podr¨ªan tener que ver con el uso de las conversaciones que mantienen los usuarios de ChatGPT con la propia herramienta para entrenarlo, as¨ª como con una custodia de los datos personales y de pago de estos que no cumpla con todas las garant¨ªas de seguridad exigidas en la UE.

?C¨®mo se quiere regular?

En Bruselas hay un debate de puertas adentro sobre cu¨¢l es la mejor forma de afrontar la situaci¨®n. La opini¨®n mayoritaria es que la UE ya est¨¢ (o estar¨¢) dotada de regulaciones suficientes como para controlar los posibles efectos adversos de la IA generativa.

La punta de lanza de esta estrategia es el Reglamento Europeo de la IA (AI Act), un documento que se viene negociando desde 2019 y cuyo texto definitivo a¨²n debe ser aprobado por todas las instituciones europeas. No se cuenta con que pueda entrar en vigor antes de finales del a?o que viene o incluso de 2025. El texto clasifica las tecnolog¨ªas en funci¨®n del riesgo que ofrecen a los ciudadanos y asigna limitaciones en consecuencia. Las m¨¢s inofensivas puede operar sin problemas, pero las de alto riesgo est¨¢n prohibidas. Entran en este ¨²ltimo cap¨ªtulo, por ejemplo, el uso de sistemas autom¨¢ticos de reconocimiento facial en espacios p¨²blicos o los sistemas de puntuaciones de cr¨¦dito social, algo que ya funciona en China.

Durante la presidencia rotatoria francesa de la UE se hizo la recomendaci¨®n de que la IA generativa se incluyese en la categor¨ªa de alto riesgo. ¡°Me parece razonable, pero est¨¢ habiendo mucha presi¨®n de las tecnol¨®gicas para que no se incluya ah¨ª¡±, asegura a EL PA?S un eurodiputado que ha participado en la negociaci¨®n y redacci¨®n del borrador de reglamento de la IA.

Otro europarlamentario involucrado tambi¨¦n en el proceso, el rumano Dragos Tudorache, dijo esta semana en una conferencia que la respuesta de la UE a los desaf¨ªos de ChatGPT se deber¨ªa encauzar por el reglamento AI Act, y no a trav¨¦s del Reglamento General de Protecci¨®n de Datos (RGPD), la normativa a la que se ha acogido Italia para prohibir la herramienta. ¡°Estoy convencido de que necesitamos una respuesta unificada¡±, subray¨®.

?Hace falta una nueva normativa?

Fuentes de la Comisi¨®n consideran que el futuro reglamento de la IA ¡°est¨¢ dise?ado a prueba de retos futuros¡±. Al regular los usos, no las tecnolog¨ªas en s¨ª, la normativa puede adaptarse a retos como la s¨²bita explosi¨®n del fen¨®meno de la IA generativa, de cuya existencia somos plenamente conscientes desde el lanzamiento en abierto de ChatGPT en noviembre del a?o pasado.

De acuerdo con este enfoque, la tecnolog¨ªa que est¨¢ detr¨¢s de ChatGPT no se prohibir¨ªa a menos que se considerara de alto riesgo. ¡°Pero si alguien la usa, por ejemplo, para procesar datos de salud, entonces s¨ª se le aplicar¨ªa la normativa¡±, apunta Jan Philipp Albrecht, presidente de la fundaci¨®n alemana Heinrich B?ll, vinculada a Los Verdes. ¡°Ese es el problema que aparece ahora: si queremos regular con m¨¢s fuerza la IA generativa, habr¨ªa que introducir una categor¨ªa nueva que diga que la IA de prop¨®sito general se debe considerar de alto riesgo si puede interceder en campos de riesgo¡±, a?ade. Eso es lo que quieren evitar a toda costa las tecnol¨®gicas; para eso organizan reuniones con los legisladores europeos.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.