Todo comenz¨® con la pornograf¨ªa

A finales del a?o pasado comenzaron a circular por Internet v¨ªdeos pornogr¨¢ficos cuyas principales protagonistas eran algunas de las actrices y cantantes m¨¢s famosas de estos tiempos. Naturalmente, los v¨ªdeos se hicieron virales y fueron vistos por millones de personas en todo el mundo. A los pocos d¨ªas se supo que Scarlett Johansson, Taylor Swift, Katy Perry y otras artistas de renombre no eran las verdaderas protagonistas de estos v¨ªdeos, sino las v¨ªctimas de una nueva tecnolog¨ªa que, utilizando inteligencia artificial y otros avanzados instrumentos digitales, permite insertar la imagen facial de cualquier persona en un v¨ªdeo.

Ese fue solo el comienzo. Muy pronto Angela Merkel, Donald Trump y Mauricio Macri tambi¨¦n fueron v¨ªctimas de lo que se conoce como deepfake o falsificaci¨®n profunda. Barack Obama fue utilizado, sin su consentimiento, para ejemplificar los posibles usos nefastos de esta tecnolog¨ªa. Vemos a Obama diciendo en un discurso lo que el falsificador quer¨ªa que ¨¦l dijera, y que el expresidente jam¨¢s hab¨ªa dicho. Pero el resultado es un v¨ªdeo muy real.

La manipulaci¨®n de im¨¢genes no es nada nuevo. Los gobiernos autoritarios tienen un largo historial haciendo ¡°desaparecer¡± de las fotos oficiales a l¨ªderes ca¨ªdos en desgracia. Y ya desde 1990 Photoshop permite al usuario alterar fotograf¨ªas digitales.

Pero deepfake es diferente. Y mucho m¨¢s peligroso. Diferente porque, desde que circularon los v¨ªdeos falsos de las actrices hasta hoy, esa tecnolog¨ªa ha mejorado much¨ªsimo. La imagen corporal y la expresi¨®n de la cara son hiperrealistas y la imitaci¨®n de la voz y la gestualidad de la persona son tan exactas que resulta imposible descubrir que es una falsificaci¨®n, a menos que se cuente con sofisticados programas de verificaci¨®n digital. Y el peligro de deepfake es que esta tecnolog¨ªa est¨¢ al alcance de cualquier persona.

Un exnovio despechado y psic¨®pata puede producir y diseminar an¨®nimamente por las redes sociales un v¨ªdeo que imite perfectamente la voz, los gestos y la cara de la mujer que lo dej¨® y en el cual ella aparece haciendo o diciendo las m¨¢s vergonzosas barbaridades. Las im¨¢genes de polic¨ªas propinando una brutal paliza a una anciana que participa en una protesta antigubernamental puede provocar violentos enfrentamientos entre los manifestantes y los agentes policiales. El respetado l¨ªder de un grupo racial o religioso puede instigar a sus seguidores a atacar a miembros de otra raza o religi¨®n. Algunos estudiantes pueden producir un comprometedor v¨ªdeo de un profesor a quien repudian. Extorsionadores digitales pueden amenazar a una empresa con divulgar un v¨ªdeo que da?ar¨¢ su reputaci¨®n si la empresa no paga lo que le piden.

Los posibles usos de deepfake en la pol¨ªtica, la econom¨ªa o las relaciones internacionales son tan variados como siniestros. La divulgaci¨®n de un v¨ªdeo mostrando a un candidato a la presidencia de un pa¨ªs diciendo o haciendo cosas reprobables poco antes de los comicios se volver¨¢ una artima?a electoral m¨¢s com¨²nmente usada. Aunque el rival de este candidato no haya aprobado el uso de este indecente truco, sus seguidores m¨¢s radicales pueden producir el v¨ªdeo y distribuirlo sin pedirle permiso a nadie.

El potencial de los v¨ªdeos falsificados para enturbiar las relaciones entre pa¨ªses y exacerbar los conflictos internacionales tambi¨¦n es enorme.

Y esto no es hipot¨¦tico; ya ha ocurrido. El a?o pasado el emir de Qatar, Tamim bin Hamad al-Thani, apareci¨® en un v¨ªdeo elogiando y apoyando a Ham¨¢s, Hezbol¨¢, a los Hermanos Musulmanes y a Ir¨¢n. Esto provoc¨® una furibunda reacci¨®n de Arabia Saud¨ª, los Emiratos ?rabes Unidos, Bahr¨¦in y Egipto, que ya ven¨ªan teniendo fuertes fricciones con Qatar. Denunciaron el discurso del emir como un apoyo al terrorismo y rompieron relaciones diplom¨¢ticas, cerraron las fronteras y le impusieron un bloqueo de aire, mar y tierra. La realidad, sin embargo, es que el emir de Qatar nunca dio ese discurso; el v¨ªdeo que escal¨® el conflicto era falso. Lo que es muy real es el boicot que sigue vigente.

La amenaza que constituye deepfake para la armon¨ªa social, la democracia y la seguridad internacional es obvia. Los ant¨ªdotos contra esta amenaza lo son mucho menos, aunque hay algunas propuestas. Todas las organizaciones que producen o distribuyen fotograf¨ªas o v¨ªdeos deben obligarse a usar bloqueos tecnol¨®gicos que hagan que su material visual sea inalterable. Las personas tambi¨¦n deben tener acceso a tecnolog¨ªas que los protejan de ser v¨ªctimas de deepfakes. Las leyes deben adaptarse para que quienes difamen o causen da?os a otros a trav¨¦s del uso de estas tecnolog¨ªas tengan que responder ante la justicia. Hay que hacer m¨¢s dif¨ªcil el uso del anonimato en la red. Todo esto es necesario, pero insuficiente. Habr¨¢ que hacer mucho m¨¢s.

Hemos entrado en una era en que la capacidad para diferenciar la verdad de la mentira, los hechos de las falsedades, se ha ido erosionando. Y con ello la confianza en las instituciones y en la democracia. Deepfake es otra nueva y potente arma en el arsenal que tienen a su disposici¨®n los mercaderes de la mentira. Hay que enfrentarlos.

@moisesnaim