?Por qu¨¦ nos hemos cre¨ªdo la foto del Papa con el abrigo blanco?

¡°Ya no puedes creer en NADA que provenga de un dispositivo digital. Contr¨¢stalo todo¡±, dice el periodista Robert Scoble en un tuit que acompa?a a una presunta imagen de Elon Musk cogiendo la mano de la pol¨ªtica estadounidense Alexandria Ocasio-Cortez, conocida como AOC. Es uno de los muchos mensajes de alerta que se han visto en unos d¨ªas llenos de fakes en internet. Im¨¢genes de Donald Trump arrestado y su eventual huida de la c¨¢rcel y del papa Francisco con un sofisticado abrigo de plumas de Balenci...

¡°Ya no puedes creer en NADA que provenga de un dispositivo digital. Contr¨¢stalo todo¡±, dice el periodista Robert Scoble en un tuit que acompa?a a una presunta imagen de Elon Musk cogiendo la mano de la pol¨ªtica estadounidense Alexandria Ocasio-Cortez, conocida como AOC. Es uno de los muchos mensajes de alerta que se han visto en unos d¨ªas llenos de fakes en internet. Im¨¢genes de Donald Trump arrestado y su eventual huida de la c¨¢rcel y del papa Francisco con un sofisticado abrigo de plumas de Balenciaga, las im¨¢genes falsas e hiperrealistas que circulan en las redes desde la semana pasada han mostrado que la informaci¨®n entra en una nueva era.

La inteligencia artificial (IA) generativa ya est¨¢ suficientemente desarrollada para hacernos caer, al menos a simple vista, en unos bulos que hasta casi nada requer¨ªan de tecnolog¨ªas complejas y usuarios expertos en manipulaci¨®n digital. Hoy, prevenir que seamos enga?ados por las pantallas ser¨¢ cada vez m¨¢s dif¨ªcil, seg¨²n los expertos. El blockchain se presenta como una soluci¨®n compleja y a largo plazo, pero por ahora no hay m¨¢s que un remedio de toda la vida: comprobar las fuentes, estar atento a los detalles y dudar de todo.

No es la primera vez que las im¨¢genes generadas por la herramienta de IA Midjourney se han vuelto virales, pero ninguna se ha difundido tanto como el Papa de Balenciaga. Primero, porque parece mucho m¨¢s veros¨ªmil que los dem¨¢s supuestos de personas que ten¨ªan un aspecto artificial, como si fuera de un videojuego o con muchos filtros. Tambi¨¦n porque el contexto que rodea al pont¨ªfice puede suponer que quiz¨¢ se vestir¨ªa de tal manera.

Sin embargo, al hacer zoom, se puede notar el tama?o de la oreja, la mano cortada que no est¨¢ del todo agarrando la taza de caf¨¦, la deformidad de las gafas o el crucifijo donde no se ve a Jesucristo esculpido y sin parte de la cadena que lo sostiene. Estos detalles indican que no es una fotograf¨ªa real, sino que matizan los fallos de la IA: una herramienta que conoce bien la superficie de la realidad, pero no c¨®mo interact¨²an los objetos f¨ªsicos ni todas las caracter¨ªsticas del cuerpo humano. Al menos por ahora.

Aun as¨ª, son factores que pasan desapercibidos, sobre todo si se est¨¢ escroleando r¨¢pido y en el formato del m¨®vil. En algunas im¨¢genes del falso arresto de Trump, que circularon en las redes unos d¨ªas antes, las evidencias de que se trata de un fake fueron m¨¢s notables. El primer aspecto tambi¨¦n es contextual: la detenci¨®n del expresidente estadounidense ser¨ªa portada en los grandes medios de comunicaci¨®n, y no lo fue. Segundo, como ya hab¨ªan afirmado algunos artistas, las herramientas generativas carecen de la habilidad de representar detalles del cuerpo humano, especialmente las manos. En algunas im¨¢genes de Trump, las proporciones de su cuerpo pueden verse distorsionadas o incluso derretidas y hay un aspecto borroso. En otras, se observan textos distorsionados.

Pero estas herramientas est¨¢n mejorando y es cuesti¨®n de tiempo que dejen de fallar en esos detalles y pasen a crear im¨¢genes falsas que parecen extremamente reales, seg¨²n los especialistas. La nueva versi¨®n del Midjourney ya es capaz de generar manos humanas realistas, eliminando lo que hasta ahora era la forma m¨¢s f¨¢cil de identificar una imagen artificial.

La velocidad a la que se producen las mejoras es lo que genera inquietud. Elena Verd¨², miembro del grupo de investigaci¨®n Inteligencia Artificial y Rob¨®tica de la Universidad Internacional de La Rioja, ha explicado a Maldita.es que tan solo un mes es suficiente para que queden obsoletas algunas de estas recomendaciones para identificar a im¨¢genes falsas. Estamos ante una preocupaci¨®n colectiva sobre el poder que esas herramientas ejercen sobre la sociedad. Tanto es as¨ª, que expertos en inteligencia artificial reclamaron el mi¨¦rcoles en una carta abierta que se frenara seis meses la ¡°carrera sin control¡± de los ChatGPT, que tambi¨¦n utiliza IA generativa.

El periodista Robert Scoble explica en el tuit otras formas de poder identificar los deepfakes. Lo primero es contrastar con m¨²ltiples fuentes, de buena reputaci¨®n, y verificar su credibilidad. Tambi¨¦n valorar el contexto. ¡°Use el pensamiento cr¨ªtico: analice la informaci¨®n que recibe y considere el contexto, la consistencia y la l¨®gica detr¨¢s de ella¡±, sugiere el autor.

Cuando el contenido se viraliza, tambi¨¦n sirve comprobar lo que se puede ver en internet. Google, por ejemplo, proporciona una herramienta de b¨²squeda inversa de im¨¢genes, d¨®nde es posible cargar una foto y chequear d¨®nde ya se ha compartido y qu¨¦ dice la gente al respecto. Si una foto supuestamente tomada por un fotoperiodista fue publicada por primera vez por desconocido an¨®nimo en las redes, es una gran raz¨®n para desconfiar.

En Twitter tambi¨¦n existe la opci¨®n de calificar un contenido como falso, aunque es necesario que mucha gente lo haga para que haya un alerta en la publicaci¨®n. Seg¨²n recopila la revista Times, existe un abanico de software en el mercado que dice ser capaz de detectar a los deepfakes. Sin embargo, hay pocas herramientas gratuitas y fiables, o que no est¨¢n disponibles para el usuario final. Uno de los detectores, que est¨¢ alojado en la plataforma de IA Hugging Face, pudo decir ¡°con un 69% de certeza¡± que la imagen del Papa fue generada por IA. Pero cuando se le present¨® la presunta imagen de Musk con OAC, la herramienta fall¨® al contestar que la foto era 54% verdadera.

Otros expertos hablan de c¨®mo el blockchain podr¨ªa ayudar a combatirlos. Conocida por ser la tecnolog¨ªa detr¨¢s de las criptomonedas como Bitcoin, el F¨®rum Econ¨®mico Mundial apunt¨® su capacidad de proporcionar una validaci¨®n de la autenticidad y una cadena de custodia clara que ¡°la hace potencialmente eficaz¡± para rastrear y comprobar todo tipo de contenido, no solo financieros. La clave es que esta tecnolog¨ªa tiene un mecanismo que no permite la alteraci¨®n del mensaje, ni del momento de publicaci¨®n o el origen. Pero no es una soluci¨®n para el presente: de la teor¨ªa a la pr¨¢ctica, todav¨ªa queda un largo recorrido.

El art¨ªculo se?ala que el blockchain tambi¨¦n tiene sus limitaciones. Mientras que es capaz de verificar la existencia de un documento, no puede probar la propiedad intelectual, por ejemplo. Adem¨¢s, para que sea realmente efectiva para el usuario final, deber¨¢ integrarse en los chips que alimentan los tel¨¦fonos inteligentes y los ordenadores. Algo que depende tambi¨¦n de una cohesi¨®n entre las comunidades internacionales, los gobiernos, las empresas y la sociedad civil para dar forma a un modelo de gobernanza al consumo de contenido digital.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.