Los gigantes de internet se movilizan contra los v¨ªdeos falsos

El humorista estadounidense James Meskimen mira hacia la c¨¢mara y empieza su n¨²mero. Imita las voces y los gestos de varios personajes famosos: John Malkovich, Colin Firth, Robert De Niro¡­ Sin embargo, a medida que cambia de personaje su rostro tambi¨¦n lo hace y en lugar de su cara aparece la de aquellos a los que imita: Arnold Schwarzenegger, George Bush o incluso Morgan Freeman. El espectacular resultado no se debe a las habilidades sobrehumanas de este imitador norteamericano, sino a su colaboraci¨®n con un popular creador de deepfakes. Los algoritmos para manipular videos son cada vez m¨¢s accesibles y precisos y consiguen resultados tan espectaculares como el de Meskimen. Sin embargo, no todas las manipulaciones son tan l¨²dicas y varios gigantes de internet creen que estos enga?os podr¨ªan utilizarse para manipular a la opini¨®n p¨²blica en procesos de gran importancia social, como lo son unas elecciones, por lo que han empezado a invertir en m¨¦todos para detectar este tipo de videos falsos.

El pasado mes de septiembre Google public¨® una base de datos de c¨®digo abierto que contiene unos 3.000 v¨ªdeos manipulados, mientras que, pocas semanas antes, Facebook hab¨ªa anunciado que publicar¨ªa una similar a finales de este mismo a?o. Estas bases de datos servir¨¢n para que varios proyectos de inteligencia artificial aprendan a identificar de forma autom¨¢tica los videos falsos y poder poner as¨ª coto a la propagaci¨®n de mentiras a trav¨¦s de la red.

La situaci¨®n ha cambiado enormemente desde 2017, cuando un usuario de Reedit llamado Deepfakes public¨® varios videos pornogr¨¢ficos manipulados. Hasta entonces, el coste computacional de crear un video falso de cierta calidad era muy elevado, por lo que solo estaba al alcance de equipos profesionales. Sin embargo, ¡°el problema ha evolucionado mucho a lo largo del ¨²ltimo a?o¡±, explica el investigador de la Universidad T¨¦cnica de Munich, Andreas Roessler, y ¡°hoy en d¨ªa, existen m¨²ltiples m¨¦todos en l¨ªnea que permiten a cualquiera crear videos faciales manipulados¡±.

La realizaci¨®n de un deepfake requiere normalmente de dos clips de v¨ªdeo que se fusionan haciendo uso de una t¨¦cnica de inteligencia artificial denominada aprendizaje profundo o deep learning

La realizaci¨®n de un deepfake requiere normalmente de dos clips de v¨ªdeo que se fusionan haciendo uso de una t¨¦cnica de inteligencia artificial denominada aprendizaje profundo o deep learning, de ah¨ª el nombre de estos videos. Los algoritmos aprenden la apariencia de cada cara para pegar una sobre la otra, manteniendo los movimientos de ciertas partes, como las cejas, la boca o los ojos, pero intercambiando los rasgos.

Uno de los motivos que han facilitado la propagaci¨®n de este tipo de videos se encuentra en los avances tecnol¨®gicos desarrollados durante los ¨²ltimos a?os, especialmente en el campo del reconocimiento facial. "Estos m¨¦todos son el fruto de la investigaci¨®n de la realidad virtual y aumentada y del hecho de que disponemos de m¨¦todos cada vez m¨¢s poderosos para analizar las caras¡±, afirma Roessler.

Una batalla de inteligencias artificiales

Actualmente existen varios m¨¦todos para detectar estos videos manipulados, pero la mayor¨ªa requieren la supervisi¨®n de un ser humano, lo que ralentiza mucho el proceso, as¨ª que se est¨¢n desarrollando varios proyectos cuyo objetivo es generar herramientas de detecci¨®n autom¨¢tica y uno de ellos es FaceForensics, del que Roessler es uno de los principales responsables.

Creado de forma conjunta por investigadores de la Universidad T¨¦cnica de Munich y la Universidad Federico II de N¨¢poles, los miembros de este proyecto han generado casi 1.000 v¨ªdeos falsos mediante cuatro m¨¦todos comunes de manipulaci¨®n facial. La idea es que estos videos sirvan para entrenar una inteligencia artificial, tambi¨¦n basada en aprendizaje profundo, para que aprenda a detectar los deepfakes sin intervenci¨®n humana. En esencia, es una batalla entre dos inteligencias artificiales, la que genera los videos manipulados y la que trata de detectarlos.

Seg¨²n Roessler, ¡°estos modelos de aprendizaje autom¨¢tico han producido resultados superiores en comparaci¨®n con otros enfoques¡±, sin embargo, aclara este investigador, ¡°tienen el inconveniente de que necesitamos proporcionar muchos datos para poder entrenarlos adecuadamente¡± y ah¨ª es donde entran en juego los gigantes de internet, que pueden generar bases de datos con miles de videos manipulados para ayudar a entrenar a estas nuevas herramientas.

Este proyecto concreto recibe el apoyo directo de Google, que ha creado una base de datos de deepfakes trabajando con 28 actores con los que grabaron cientos de v¨ªdeos realizando diferentes acciones. Posteriormente, utilizaron diferentes modelos de generaci¨®n videos manipulados de c¨®digo abierto para crear aproximadamente los 3.000 videos que han a?adido a la base de datos de FaceForensics.

Una lucha a medias contra las mentiras

Tambi¨¦n Facebook ha centrado su atenci¨®n en la detecci¨®n de estos videos manipulados y el mes pasado anunci¨®, junto con Microsoft, Amazon e investigadores de varias instituciones internacionales, el lanzamiento del Deepfake Detection Challenge, un proyecto que ofrecer¨¢ recompensas en efectivo para los mejores m¨¦todos de detecci¨®n autom¨¢tica.

La gente ha manipulado im¨¢genes desde que existe la fotograf¨ªa, pero ahora casi todo el mundo puede crear y distribuir im¨¢genes falsas a una audiencia masiva

"La gente ha manipulado im¨¢genes desde que existe la fotograf¨ªa, pero ahora casi todo el mundo puede crear y distribuir im¨¢genes falsas a una audiencia masiva¡±, asegura Antonio Torralba, miembro de este proyecto y director del laboratorio de inteligencia artificial IBM Watson en el Instituto Tecnol¨®gico de Massachusetts (MIT, por sus siglas en ingl¨¦s). "El objetivo de este concurso es construir sistemas de IA que puedan detectar las peque?as imperfecciones de una imagen manipulada y exponer as¨ª la falsedad de estos videos".

Sin embargo, estos m¨¦todos est¨¢n lejos de resolver el problema de fondo, ya que una vez que un m¨¦todo de detecci¨®n ha conseguido identificar los peque?os errores de un video manipulado, el algoritmo de generaci¨®n puede ser actualizado para corregir dichas imperfecciones. Por este motivo, algunos investigadores sostienen que la lucha contra los deepfakes no se puede basar ¨²nicamente en medios t¨¦cnicos, sino que tambi¨¦n requerir¨¢ medidas pol¨ªticas y sociales para limitar los incentivos que fomentan su creaci¨®n, un entorno en el que el papel de los gigantes de internet no est¨¢ tan claro.

A principios de este a?o, Facebook se neg¨® a eliminar varios v¨ªdeos en los que la presidenta del Congreso de EEUU, la dem¨®crata Nancy Pelosi, parec¨ªa tener problemas de salud y, este mismo mes, hizo lo propio con un anuncio comprado por el equipo de campa?a de Trump con informaci¨®n falsa sobre el precandidato dem¨®crata Joe Biden. Estos hechos demuestran que, aunque la red social haya decidido invertir en la detecci¨®n autom¨¢tica de videos manipulados, no tiene ninguna intenci¨®n de retirar las informaciones falsas que circulan por su plataforma.