El enga?oso olor de la verdad

Este es un a?o electoral en medio mundo, y los intoxicadores de masas ya tienen afiladas sus armas para interferir con los procesos a mayor bien de sus sombr¨ªos intereses. La fiesta ya ha empezado en Estados Unidos. Los votantes de New Hampshire para las primarias recibieron la semana pasada una llamada rob¨®tica donde el presidente Joe Biden les animaba a abstenerse. Se trataba en realidad de un deepfake (mentira profunda), una t¨¦cnica de inteligencia artificial (IA) que permite imitar la voz, la cara o los gestos de cualquier personaje. Todos hemos visto ejemplos experimentales en el ¨²ltimo a?o. En este caso se hab¨ªa usado un sistema de ElevenLabs, una startup de inteligencia artificial norteamericana, que ya ha anunciado el bloqueo de la cuenta del intoxicador. Pero hacer esto es ya tan f¨¢cil y barato que cada cuenta yugulada generar¨¢ siete nuevas, como las cabezas de la hidra mitol¨®gica.

Las mentiras profundas no suponen un salto filos¨®fico respecto a las mentiras a secas (fakes) que ya distorsionaron impunemente la elecci¨®n en la que Donald Trump lleg¨® al poder y la campa?a que sac¨® al Reino Unido de la Uni¨®n Europea, por citar sus dos mayores ¨¦xitos. Los fundamentos psicol¨®gicos de ambas modalidades son los mismos: la gente tiende a creerse, y a propagar, cualquier mentira que coincida con sus prejuicios; etiquetar un bulo como tal no impide que se lo sigan creyendo y lo sigan diseminando; la repetici¨®n machacona de una falsedad la convierte en verdad para las audiencias acr¨ªticas. Pero un v¨ªdeo bien falsificado funciona a¨²n mejor que una mentira escrita. Ver es creer, al fin y al cabo. Nos podemos preparar para lo peor.

Nuestra confianza en que somos capaces de distinguir los v¨ªdeos reales de los falsos carece de apoyo emp¨ªrico. Una investigaci¨®n de psicolog¨ªa experimental presentada en iScience con 210 voluntarios muestra que no distinguimos los deepfakes de los v¨ªdeos verdaderos, que encima tendemos a considerar falsos los que son aut¨¦nticos, y que todos sobrestimamos nuestra habilidad de discernimiento. Por muy listo que te creas, puedes hundirte hasta las trancas en las arenas movedizas de la mentira profunda.

Los cient¨ªficos de la computaci¨®n llevan tiempo buscando formas de distinguir un v¨ªdeo real de uno falso, y cada vez resulta m¨¢s dif¨ªcil. Es verdad que, incluso con la IA m¨¢s moderna, suele haber detalles que delatan el fraude. Todos nos quedamos at¨®nitos con el deepfake del papa Francisco envuelto en un impresionante papa-plumas blanco. Aquello parec¨ªa de verdad. Un experto puede detectar que no lo es, porque la sombra de sus gafas est¨¢ en un lugar de la cara que no encaja con el resto de la iluminaci¨®n de la escena. De modo similar, el habla generada por IA falla en los titubeos, las respiraciones y las sutilezas del movimiento de los labios. Pero hay que ser un experto para darse cuenta. Los dem¨¢s no nos fijamos en esas cosas, y es demasiado pedirnos que lo hagamos.

Hay muchas empresas grandes y peque?as desarrollando software para detectar deepfakes, pero los intoxicadores tampoco se est¨¢n quietos. El resultado va a ser una carrera de armamentos, como la que mantienen las conchas cada vez m¨¢s duras de los caracoles y las pinzas cada vez m¨¢s fuertes de las langostas. Pura biolog¨ªa.