Ver para no creer

Donald Trump anunci¨® la erradicaci¨®n del sida en el mundo hace un par de semanas. En realidad no fue ¨¦l, sino un deepfake, un v¨ªdeo falseado con herramientas de inteligencia artificial. Una ONG francesa manipul¨® la imagen y la voz del presidente estadounidense para transmitir un mensaje que jam¨¢s sali¨® de su boca. Al final del v¨ªdeo, un r¨®tulo indicaba que se trataba de un montaje. A sus responsables les llovieron cr¨ªticas por haber basado su campa?a en un fraude, pero consiguieron millones de visitas en Internet.

M¨¢s informaci¨®n

Esto que ves no es Tom Cruise, sino el producto de una tecnolog¨ªa tan incre¨ªble como inquietante

La nueva ola de la desinformaci¨®n: la irrupci¨®n de los ¡®deepfakes¡¯; por S. Pacheco

Los deepfake, falsedades ultrarrealistas, nacieron apenas hace dos a?os. Se basan en la tecnolog¨ªa GAN (Generative Adversarial Networks, en ingl¨¦s) o redes generativas antag¨®nicas: en una explicaci¨®n de brocha gorda, hay dos agentes que compiten entre s¨ª. Uno genera contenido e intenta enga?ar al otro para que piense que es real; el otro discrimina lo que no le resulta cre¨ªble. Y as¨ª el sistema se va perfeccionando, aprende a crear contenido cada vez m¨¢s realista.

No se sabe c¨®mo van a evolucionar estas redes de creaci¨®n y suplantaci¨®n. No existen est¨¢ndares, no hay reglas sobre qu¨¦ se puede simular y qu¨¦ no. Unas GAN son buen¨ªsimas generando rasgos de personalidad en v¨ªdeo, otras imitando inflexiones de voz¡­ En medicina, por ejemplo, se est¨¢n usando para generar radiograf¨ªas sint¨¦ticas casi indistinguibles de las reales con las que investigar.

El gran negocio con el uso de GAN, por ahora, es la pornograf¨ªa. Miles de actrices y cantantes americanas, coreanas y brit¨¢nicas se han visto protagonizando v¨ªdeos sexuales falsos en Internet. Aterroriza pensar en c¨®mo esta tecnolog¨ªa pueda ser usada por abusones de instituto para humillar a compa?eras.

Tambi¨¦n empiezan a hacerse p¨²blicos timos financieros. En marzo, el responsable de una empresa energ¨¦tica en el Reino Unido recibi¨® una llamada de su jefe en la que le ped¨ªa que hiciese una transferencia de 200.000 euros a un proveedor h¨²ngaro. En realidad la voz que orden¨® el tr¨¢mite hab¨ªa sido generada por ordenador, pero imitaba perfectamente el acento y la cadencia del jefe real. No exist¨ªa el proveedor h¨²ngaro, era un ladr¨®n, seg¨²n inform¨® The Wall Street Journal.

El Estado de California ha prohibido crear y distribuir v¨ªdeos deepfake 60 d¨ªas antes de unas elecciones. Argumentan que bastante desafecci¨®n existe ya en el electorado como para que proliferen mensajes falsos. Pero puede quedar en un parche in¨²til si no se educa a los ciudadanos para que tengan claro de qui¨¦n se f¨ªan y por qu¨¦. Como tantos avances tecnol¨®gicos, este nos pone en un aprieto filos¨®fico: cuando la realidad es indistinguible de la ficci¨®n, ?c¨®mo validamos lo que es real? Nuestros sentidos pronto nos enga?ar¨¢n, y nos veremos obligados a reflexionar antes de compartir, a contrastar antes de opinar. Tendremos que aprender a verificar lo que nos parec¨ªa evidente. @anafuentesf