La Unesco pide a las tecnol¨®gicas que revisen el entrenamiento de sus IA para frenar la distorsi¨®n del Holocausto entre los j¨®venes

El 80% de los j¨®venes usa diariamente herramientas de inteligencia artificial tanto en el ¨¢mbito educativo como en su tiempo de ocio. A partir de este dato de un informe de la ONU de 2022, la Unesco ha publicado este martes un nuevo documento en el que alerta de que las aplicaciones de inteligencia artificial generativa ¡ªcomo ...

El 80% de los j¨®venes usa diariamente herramientas de inteligencia artificial tanto en el ¨¢mbito educativo como en su tiempo de ocio. A partir de este dato de un informe de la ONU de 2022, la Unesco ha publicado este martes un nuevo documento en el que alerta de que las aplicaciones de inteligencia artificial generativa ¡ªcomo ChatGPT o Bard de Google¡ª est¨¢n propagando e incluso ¡°inventando de forma involuntaria¡± hechos hist¨®ricos falsos relacionados con el Holocausto que est¨¢n distorsionando la percepci¨®n de los menores, y ha urgido a las tecnol¨®gicas a revisar la forma en la que se entrena a esas herramientas y a incorporar protocolos ¨¦ticos en el dise?o de las mismas.

El trabajo contiene ejemplos concretos de esas alteraciones de la realidad, como el concepto ¡°Holocausto por ahogamiento¡±, inventado por ChatGPT, que asume que los nazis llevaron a cabo campa?as de asesinatos en masa de jud¨ªos por ahogamiento en r¨ªos y lagos, o aplicaciones como Historical Figures, que permite a los usuarios chatear con altos cargos nazis y difunde afirmaciones como que Joseph Goebbels ¡ªministro nazi de Propaganda¡ª no particip¨® de forma intencionada en el Holocausto e intent¨® evitar la violencia contra los jud¨ªos.

¡°Estas herramientas generan contenido que imita la evidencia hist¨®rica, como testimonios de supervivientes o reflexiones personales de los perpetradores, de forma que consiguen de forma f¨¢cil que esos materiales parezcan convincentes para personas no expertas¡±, denuncia el informe La IA y el Holocausto: ?reescribir la historia? C¨®mo gestionar el impacto de la inteligencia artificial en la comprensi¨®n del Holocausto, que se ha publicado este martes, dos a?os despu¨¦s de otro trabajo tambi¨¦n de la Unesco que analiz¨® el antisemitismo propagado por las redes sociales. Otro de los ejemplos que cita el documento es el uso de im¨¢genes de Anna Frank ¡ªla autora adolescente del Diario m¨¢s famoso del Holocausto¡ª para crear memes ofensivos y su distribuci¨®n en internet por sistemas de IA.

¡°La IA se tiene que entrenar usando datos. A menudo, esos datos proceden de Internet, y pueden incluir contenidos err¨®neos, o da?inos, y eso tiene una influencia en c¨®mo esa IA interpreta un fen¨®meno espec¨ªfico¡±, se?ala el informe, que denuncia c¨®mo la falta de transparencia sobre c¨®mo se entrenan los sistemas de inteligencia artificial generativa y sobre las pol¨ªticas de moderaci¨®n para bloquear contenidos falsos, impide a los usuarios evaluar c¨®mo se abordan cuestiones delicadas como la historia del Holocausto. ¡°No est¨¢ claro qu¨¦ bases de datos se utilizan para el entrenamiento de los sistemas de inteligencia artificial o c¨®mo deciden los algoritmos qu¨¦ contenidos recuperan, generan o priorizan cuando el usuario hace una b¨²squeda¡±, denuncia el informe, que alerta sobre c¨®mo se pueden estar nutriendo de webs negacionistas del Holocausto.

Karel Fracapane, coautor del estudio y especialista de la Unesco en la lucha contra los discursos de odio, aclara que el organismo no dispone de datos concretos sobre c¨®mo ha aumentado la propagaci¨®n en Internet de esos hechos falsos en los ¨²ltimos a?os, y preguntado por c¨®mo puede estar afectando el actual escenario internacional y las acciones del Gobierno de Israel contra la poblaci¨®n palestina en Gaza responde que, ¡°en primer lugar¡±, la responsabilidad recae en los grupos extremistas que promueven el antisemitismo. ¡°La situaci¨®n actual de conflicto provee un entorno que puede ser utilizado por los grupos radicales para promover sus ideas y su discurso del odio, utilizan los canales que ofrece la tecnolog¨ªa para dividir y desestabilizar los sistemas¡±, indica. Fracapane considera que para frenar esos movimientos, los gobernantes ¡°tienen la obligaci¨®n de establecer los par¨¢metros legales para asegurar que se respetan los derechos humanos, tambi¨¦n en las redes sociales¡±, y para ello ¡°es necesaria la regulaci¨®n¡±.

El documento incide en que no est¨¢ claro por qu¨¦ ciertas fuentes de informaci¨®n sobre el Holocausto alcanzan m¨¢s visibilidad que otras, aunque sobre este aspecto los autores indican que los algoritmos de las redes sociales y los buscadores ¡°priorizan¡± y ¡°promueven¡± contenido (incluyendo la desinformaci¨®n) que atrae la atenci¨®n y es propenso a los sesgos, ¡°lo que potencialmente va en contra de la precisi¨®n¡±. Ponen un ejemplo: alguien que buscara en Google en 2020 ¡°carrito de beb¨¦ jud¨ªo¡±, probablemente encontrar¨ªa im¨¢genes de hornos port¨¢tiles.

¡°Estos resultados de los motores de b¨²squeda, que glorifican y se burlan de la historia del Holocausto, probablemente fueron el resultado de esfuerzos coordinados de trolls antisemitas que utilizaron webs marginales para promover estas im¨¢genes de modo que la IA les diera prioridad¡±, denuncia el trabajo de la Unesco, que destaca que la IA generativa se puede manipular para ¡°generar distorsi¨®n y negaci¨®n¡± del Holocausto mediante una t¨¦cnica conocida como jailbreaking.

Sesgos seg¨²n el idioma

Otra de las problem¨¢ticas que presenta la IA se da cuando no puede recuperar datos sobre un episodio espec¨ªfico de la historia, en este caso del Holocausto, en un idioma en particular. En 2020, se?ala el informe, el 36% de los resultados en la b¨²squeda de im¨¢genes sobre el Holocausto en BaiBaidu, un importante motor de b¨²squeda en chino, estaban relacionados con pel¨ªculas y m¨²sica death rock. Al hacer la misma b¨²squeda en ruso, entre los 50 primeros resultados no aparec¨ªa ninguna imagen relacionada con el Holocausto.

¡°Las tecnol¨®gicas deben contar con la comunidad jud¨ªa, con los supervivientes del Holocausto y con sus descendientes, con educadores, expertos en antisemitismo e historiadores para el dise?o de los modelos de IA generativa¡±, destaca el informe de la Unesco, que enfatiza su obligaci¨®n de asegurarse de que sus productos no socavan los esfuerzos de educadores e historiadores al ¡°simplificar el pasado o al describirlo de manera inexacta¡±. Y de forma m¨¢s urgente, contin¨²a el documento, ¡°deben esforzarse por introducir vigilancia y supervisi¨®n para evitar que se promueva la negaci¨®n del Holocausto y el antisemitismo en todos los idiomas¡±. ¡°Los desarrolladores de sistemas de IA inevitablemente tienen que tomar decisiones sobre qu¨¦ tipos de contenido legal sobre el Holocausto deben priorizarse o degradarse al recuperar o generar informaci¨®n¡±, enfatiza.

Organizaciones como el Starling Lab for Data Integrity de la Universidad de Stanford, financiado por la USC Shoah Foundation, y la Coalition for Content Provenance and Authenticity, est¨¢n trabajando en m¨¦todos para certificar criptogr¨¢ficamente que el contenido es aut¨¦ntico y certificar aquel que ha sido generado por IA. Otro ejemplo es el proyecto Decoding Antisemitism, que ha reunido a un equipo de acad¨¦micos de Alemania, Francia y el Reino Unido para detectar y analizar contenido antisemita online para crear una gu¨ªa para entrenar a la IA en la identificaci¨®n del discurso de odio.