India se suma al uso de las deepfakes en campa?as pol¨ªticas

En la pol¨ªtica india todo vale: desinformaci¨®n, mentiras y apolog¨ªa de la violencia. A lo que se suma el uso de la forma m¨¢s avanzada de inteligencia artificial. As¨ª ocurri¨® este mes, en la crispada campa?a electoral a la asamblea regional de Delhi, estado al norte del pa¨ªs donde se ubica la capital, Nueva Delhi. Entonces, dos sorprendentes v¨ªdeos de un candidato se hicieron virales entre usuarios de WhatsApp al noreste de la ciudad.

Lo extraordinario del mensaje no fue que se difundiese un d¨ªa antes de la apertura de las urnas; en contra de la norma. Ni que el contenido solo criticase a su opositor; algo com¨²n en pol¨ªtica. Sino porque el emisor se comunicaba en dos lenguas que no sabe hablar, gracias a la creaci¨®n artificial deepfake. La irrupci¨®n en India de la mediafake m¨¢s sofisticada no solo pone en jaque a verificadores de datos en el contexto pol¨ªtico, donde todo vale, sino que es un peligro para una sociedad que ha registrado decenas de muertes por las fake news.

¡°Nos han estafado con sus promesas. Pero Delhi puede de cambiar. Pulsa el bot¨®n de la flor de loto [s¨ªmbolo del partido] el 8 de febrero para un gobierno liderado por Modi¡±, dec¨ªa el v¨ªdeo en perfecto ingl¨¦s de Manoj Tiwari, presidente en Delhi del Bharatiya Janata Party (BJP), grupo del Primer Ministro Modi que lidera India pero fue alternativa en los comicios regionales. Difundido el 7 de febrero en WhatsApp, su existencia no se conoci¨® hasta esta semana, cuando VICE news inform¨® del uso de algoritmos para manipular la expresi¨®n facial del v¨ªdeo original del pol¨ªtico; confirm¨¢ndolo con fuentes del partido y de The Ideaz Factory, la empresa tecnol¨®gica que lo fabric¨®. Contactado por El Pa¨ªs, el jefe de estrategia de la compa?¨ªa, Sagar Vishnoi, rehusa hablar del mismo por el revuelo causado. Mientras, plataformas locales de verificaci¨®n de informaci¨®n est¨¢n indignadas por el uso de esta peligrosa arma pol¨ªtica para manipular la opini¨®n p¨²blica.

¡°La historia parece muy fiable. Ser¨ªa la primera vez que se usa deepfake en India, algo muy peligroso para nuestra democracia¡±, confirma a El Pa¨ªs, Karen Rebelo, adjunta de BoomLive, una de las principales redes de verificaci¨®n de datos del pa¨ªs asi¨¢tico. Basado en la tecnolog¨ªa deep learning (inteligencia artificial), el deepkafe es un modelo computacional en el que las im¨¢genes son generadas matem¨¢ticamente v¨ªa algoritmos a partir de fotos y v¨ªdeos de la persona a la que se quiere recrear, de forma que el resultado final muestra a una persona haciendo o diciendo algo que nunca hizo o dijo; como en el caso del pol¨ªtico indio. ¡°Este tipo de desarrollo es muy preocupante porque ni los periodistas ni nosotros tenemos herramientas para demostrar si es deepfake o no¡±, explica a este diario, Pratik Sinha, co-fundador de AltNews, la otra gran plataforma de verificaci¨®n de informaci¨®n en India. ¡°A¨²n peor, es pr¨¢cticamente imposible convencer a la gente de que lo que ven no es real sino falso, incluso si tuvi¨¦semos la tecnolog¨ªa para hacerlo¡±.??

Un camino sin retorno en un terreno sin ley

¡°Toda organizaci¨®n tiene la responsabilidad de no desinformar. No existen campa?as positivas con deepfake. Eso es solo una forma de marketing para que no suene tan grave¡±, critica Sinha, en respuesta a la unidad tecnol¨®gica partido en el gobierno de India, que justifica la fabricaci¨®n del v¨ªdeo falso como parte de una campa?a positiva para votantes de diferentes lenguas. Los deepfakes, seg¨²n estas fuentes, se enviaron a 5.800 grupos de WhatsApp, alcanzando a 15 millones de personas de la regi¨®n de Delhi, con una poblaci¨®n de unos 20 millones. ¡°Quiz¨¢ esta vez no hayan manipulado a pol¨ªticos de otro partido. Pero si lo hiciesen, nunca lo dir¨ªan¡±, razona Rebelo. ¡°Adem¨¢s, los r¨¦cords de desinformaci¨®n difundida por representantes de este partido en redes nos hace pensar que incurrir¨¢n en un uso nocivo, si no lo han hecho a¨²n¡±. Rebelo insiste en que una vez se abre esta caja de Pandora, es imposible volverla a cerrar. Peor a¨²n, si cabe, en India.

El uso de deepfakes para manipular a la opini¨®n p¨²blica -hasta ahora hab¨ªan sido usados m¨¢s en el ¨¢mbito del humor o de la pornograf¨ªa- es un problema para todas las democracias. El estado de California prohibi¨® su uso en las pr¨®ximas elecciones estadounidenses, como tambi¨¦n lo hizo Facebook. Sin embargo, India es terreno f¨¦rtil para toda 'mediafake': al analfabetismo digital de 250 millones de nuevos internautas indios que se han sumado a otros tantos en el ¨²ltimo lustro, se une la inmensa laguna legal e ineficacia institucional ante el uso de este tipo de desinformaci¨®n. ¡°La comisi¨®n electoral es in¨²til a la hora de lidiar con la inmensa cantidad de noticias falsas. La desinformaci¨®n durante la campa?a electoral de 2019 estaba delante de sus narices. Pero solo pidi¨® a las compa?¨ªas propietarias de redes sociales que se encargasen¡±, resume Rebelo; subrayando que los partidos indios no tienen obligaci¨®n de publicar sus gastos en publicidad electoral.

Los informes sobre datos de Facebook, Google y Youtube indican que los partidos invirtieron 7 millones en anuncios durante las generales indias de 2019 -las m¨¢s caras de la historia seg¨²n los analistas. Entonces, los medios locales acu?aron el t¨¦rmino 'cheapfake' para las noticias falsas creadas con pocos medios, que aumentaron en un 40% durante el proceso electoral. Seg¨²n Pratik Sinha, hay ¡°un esfuerzo sistem¨¢tico por desinformar¡±. Adem¨¢s, el fen¨®meno de las fake news trasciende la pol¨ªtica. En 2017, los linchamientos a causa de un v¨ªdeo en redes sociales causaron 20 muertos en toda India. Y hace poco menos de un a?o, los bulos del movimiento anti-vacunas llegaron a los usuarios de redes de este pa¨ªs, donde vive casi un tercio de la poblaci¨®n infantil mundial no vacunada. Con m¨¢s de 200 millones de usuarios de WhatsApp, la intrusi¨®n de la sofisticada t¨¦cnica del deepfake supone el final de la noci¨®n de la realidad en India ya que, seg¨²n un estudio de BBC, el 72% de estos no sabe diferenciar informaci¨®n b¨¢sica falsa en esta red de mensajer¨ªa.