Ni EE UU suelta cocodrilos para frenar la migraci¨®n ni el Louvre se ha incendiado: c¨®mo detectar si una imagen ha sido generada con IA

Ni Estados Unidos ha soltado ¡°8.000 cocodrilos en el R¨ªo Bravo¡± para evitar el cruce de migrantes ni se ha incendiado la pir¨¢mide del Museo del Louvre. Tampoco han encontrado este pulpo gigante en la orilla de una playa, a Big Foot ni al monstruo del Lago Ness. Todas estas desinformaciones surgen de im¨¢genes generadas con inteligencia artificial. Mientras que compa?¨ªas tecnol¨®gicas como Google, Meta y OpenAI tratan de detectar contenidos creados por IA y crear marcas de agua resistentes a manipulaciones, los usuarios se enfrentan a un dif¨ªcil reto: el de discernir si las im¨¢genes que circulan en redes sociales son reales o no. Si bien algunas veces es posible hacerlo a simple vista, existen herramientas que pueden ser de ayuda en casos m¨¢s complejos.

Generar im¨¢genes con inteligencia artificial es cada vez m¨¢s sencillo. ¡°Hoy en d¨ªa cualquiera, sin ninguna habilidad t¨¦cnica, puede escribir una oraci¨®n en una plataforma como DALL-E, Firefly, Midjourney u otro modelo basado en mensajes y crear una pieza de contenido digital hiperrealista¡±, afirma Jeffrey McGregor, CEO de Truepic, una de las compa?¨ªas fundadoras de la Coalici¨®n para la Procedencia y Autenticidad del Contenido (C2PA), que busca crear un est¨¢ndar que permita verificar la autenticidad y la procedencia del contenido digital. Algunos servicios son gratuitos y otros ni siquiera requieren una cuenta.

¡°La IA puede crear im¨¢genes incre¨ªblemente realistas de personas o eventos que nunca sucedieron¡±, afirma Neal Krawetz, fundador de Hacker Factor Solutions y FotoForensics, una herramienta para verificar si una imagen puede haber sido manipulada. En 2023 se viraliz¨®, por ejemplo, una imagen del papa Francisco con un abrigo de plumas de Balenciaga y otras del expresidente de Estados Unidos, Donald Trump, huyendo de la polic¨ªa para no ser arrestado. Krawetz destaca que este tipo de im¨¢genes pueden usarse para influir en las opiniones, da?ar la reputaci¨®n de alguien, crear desinformaciones y proporcionar un contexto falso en torno a situaciones reales. De esta forma, ¡°pueden erosionar la confianza en fuentes que de otro modo ser¨ªan fiables¡±.

Las herramientas de IA tambi¨¦n se pueden utilizar para representar falsamente a personas en posiciones sexualmente comprometedoras, cometiendo delitos o acompa?adas de delincuentes, como se?ala V.S. Subrahmanian, profesor de inform¨¢tica en la Universidad Northwestern. El a?o pasado decenas de menores de Extremadura denunciaron que circulaban fotos de falsos desnudos suyos creadas por IA. ¡°Estas im¨¢genes se pueden usar para extorsionar, chantajear y destruir la vida de l¨ªderes y ciudadanos comunes¡±, cuenta Subrahmanian.

Y no s¨®lo eso. Las im¨¢genes generadas por IA pueden representar una grave amenaza para la seguridad nacional: ¡°Pueden utilizarse para dividir a la poblaci¨®n de un pa¨ªs enfrentando a un grupo ¨¦tnico, religioso o racial contra otro, lo que podr¨ªa conducir a largo plazo a disturbios y agitaciones pol¨ªticas¡±. Josep Albors, director de investigaci¨®n y concienciaci¨®n de la compa?¨ªa de seguridad inform¨¢tica ESET en Espa?a, explica que muchos bulos se basan en este tipo de im¨¢genes para generar controversia y suscitar reacciones. ¡°En un a?o electoral en muchos pa¨ªses, esto puede decantar la balanza hacia uno u otro lado¡±, afirma.

Trucos para detectar im¨¢genes generadas con IA

Expertos como Albors aconsejan sospechar de todo en el mundo online. ¡°Tenemos que aprender a convivir con que esto existe, con que la IA genera realidades paralelas, y simplemente tener eso en la cabeza cuando recibimos un contenido o vemos algo en redes sociales¡±, afirma Tamoa Calzadilla, editora jefa de Factchequeado, una iniciativa de Maldita.es y Chequeado para combatir la desinformaci¨®n en espa?ol en Estados Unidos. Saber que una imagen puede haber sido generada por IA ¡°es un gran paso para no ser enga?ados y compartir desinformaci¨®n¡±.

Algunas im¨¢genes de este tipo son f¨¢ciles de detectar con s¨®lo fijarse en detalles de las manos, los ojos o los rostros, como cuenta Jonnathan Pulla, fact-checker de Factchequeado. Es el caso de una imagen creada con IA del presidente Joe Biden vistiendo un uniforme militar: ¡°Uno se puede dar cuenta por los tonos de piel diferentes en su rostro, los cables de tel¨¦fono que no van a ning¨²n lado y la frente de un tama?o desproporcionado de uno de los soldados que aparecen en la imagen¡±.

Tambi¨¦n pone como ejemplo unas im¨¢genes manipuladas del actor Tom Hanks posando con camisetas con mensajes a favor o en contra de la reelecci¨®n de Donald Trump. ¡°Que [Hanks] tenga la misma pose y solo cambie el texto de la camiseta, que su piel sea muy lisa y su nariz irregular indican que pueden haber sido creadas con herramientas digitales, como inteligencia artificial¡±, explican los verificadores de Maldita.es sobre estas im¨¢genes, que se viralizaron a principios de 2024.

Muchas im¨¢genes generadas por IA pueden ser identificadas a simple vista por un usuario entrenado, especialmente aquellas generadas por herramientas gratuitas, seg¨²n Albors: ¡°Si nos fijamos en los colores, muchas veces notaremos que estos no son naturales, que todo tiene aspecto como de plastilina y que, incluso, algunos componentes de estas im¨¢genes se funden entre ellos, como el pelo en la cara o varias prendas entre s¨ª¡±. Si la imagen es de una persona, el experto sugiere fijarse adem¨¢s en si hay algo an¨®malo en sus extremidades.

Si bien los generadores de im¨¢genes de primera generaci¨®n comet¨ªan ¡°errores simples¡±, con el tiempo han mejorado notablemente. As¨ª lo indica Subrahmanian, que destaca que antes representaban con frecuencia a personas con seis dedos y sombras antinaturales. Tambi¨¦n plasmaban incorrectamente los letreros de calles y tiendas, cometiendo ¡°errores ortogr¨¢ficos absurdos¡±. ¡°Hoy en d¨ªa, la tecnolog¨ªa ha superado en gran medida estas deficiencias¡±, asegura.

Herramientas para identificar im¨¢genes falsas

El problema es que ahora ¡°una imagen generada por IA ya es pr¨¢cticamente indistinguible de una real para muchas personas¡±, como se?ala Albors. Existen herramientas que pueden ayudar a identificar este tipo de im¨¢genes como AI or NOT, Sensity, FotoForensics o Hive Moderation. OpenAI tambi¨¦n est¨¢ creando su propia herramienta para detectar contenido creado por su generador de im¨¢genes, DALL-E, seg¨²n anunci¨® el pasado 7 de mayo en un comunicado. En el ¨¢mbito de los deepfakes sonoros, el programa VerificAudio ayuda a identificar voces sint¨¦ticas.

Este tipo de herramientas, seg¨²n Pulla, resultan ¨²tiles como complemento a la observaci¨®n, ¡°ya que a veces no son muy precisas o no detectan algunas im¨¢genes generadas por IA¡±. Los verificadores de Factchequeado suelen recurrir a Hive Moderation y FotoForensics. Ambas pueden usarse de forma gratuita y funcionan de forma similar: el usuario sube una foto y solicita que se examine. Mientras que Hive Moderation ofrece un porcentaje de c¨®mo de probable es que el contenido haya sido generado por IA, los resultados de FotoForensics son m¨¢s dif¨ªciles de interpretar para alguien sin conocimientos previos.

Al subir la imagen de los cocodrilos que supuestamente han sido enviados por EE UU al R¨ªo Bravo para evitar el cruce de migrantes, del Papa con el abrigo de Balenciaga o una de un happy meal de McDonald¡¯s sat¨¢nico, Hive Moderation da un 99,9% de probabilidades de que ambas hayan sido generadas por IA. Sin embargo, con la foto manipulada de Kate Middleton, la princesa de Gales, indica que la probabilidad es del 0%. En este caso, a Pulla le resultaron ¨²tiles Fotoforensics e Invid, que ¡°pueden mostrar ciertos detalles alterados en una imagen que no son visibles¡±.

Pero, ?por qu¨¦ resulta tan dif¨ªcil saber si una imagen ha sido generada con inteligencia artificial? La principal limitaci¨®n de dichas herramientas, seg¨²n Subrahmanian, es que carecen de contexto y conocimientos previos. ¡°Los humanos utilizan su sentido com¨²n todo el tiempo para separar las afirmaciones reales de las falsas, pero los algoritmos de aprendizaje autom¨¢tico para la detecci¨®n de im¨¢genes deepfake han avanzado poco en este sentido¡±, afirma. El experto considera que cada vez ser¨¢ m¨¢s improbable saber con un 100% de certeza si una foto es real o generada por IA.

Incluso si una herramienta de detecci¨®n fuera precisa el 99% de las veces al determinar si el contenido fue generado por IA o no, ¡°esa brecha del 1% a escala de internet es enorme¡±. S¨®lo en un a?o la IA gener¨® 15.000 millones de im¨¢genes. As¨ª lo indica un informe de Everypixel Journal, que destaca que ¡°la IA ya ha creado tantas im¨¢genes como las que han tomado los fot¨®grafos en 150 a?os¡±. ¡°Cuando todo lo que se necesita es una imagen convincentemente fabricada para degradar la confianza, 150 millones de im¨¢genes no detectadas es una cifra bastante inquietante¡±, afirma McGregor.

Aparte de los p¨ªxeles manipulados, McGregor subraya que tambi¨¦n es casi imposible identificar si los metadatos de una imagen ¡ªla hora, la fecha y la ubicaci¨®n¡ª son precisos despu¨¦s de su creaci¨®n. El experto considera que ¡°la procedencia del contenido digital, que utiliza criptograf¨ªa para marcar im¨¢genes, ser¨¢ la mejor manera para que los usuarios identifiquen en el futuro qu¨¦ im¨¢genes son originales y no han sido modificadas¡±. Su compa?¨ªa, Truepic, dice haber lanzado el primer deepfake transparente del mundo con estas marcas ¡ªcon informaci¨®n sobre su origen¡ª.

Hasta que estos sistemas est¨¦n ampliamente implementados, es fundamental que los usuarios adopten una postura cr¨ªtica. En una gu¨ªa elaborada por Factchequeado, con apoyo del Instituto de Periodismo Reynolds, figuran 17 herramientas para combatir la desinformaci¨®n. Entre ellas, hay varias para verificar fotos y videos. La clave, seg¨²n Calzadilla, est¨¢ en ser consciente de que ninguna de ellas es infalible y 100% fiable. Por ello, para detectar si una imagen ha sido generada con IA, no vale una ¨²nica herramienta: ¡°La verificaci¨®n se realiza mediante varias t¨¦cnicas: la observaci¨®n, el uso de herramientas y las cl¨¢sicas del periodismo. Es decir, contactar con la fuente original, revisar sus redes sociales y verificar si la informaci¨®n que se le atribuye es cierta¡±.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.