As¨ª se descubre a un ¡®bot¡¯: algoritmos que cazan mentiras

?Puede la inteligencia artificial acabar con la estupidez humana? La respuesta corta es no. Para desarrollar la larga, debemos remontarnos al pasado mes de junio. Con las protestas de Black Lives Matters incendiando las calles de medio EE UU, un peque?o fuego en Twitter llam¨® la atenci¨®n de Lyric Jain, fundador de Logically, una startup inglesa que utiliza distintos algoritmos de inteligencia artificial para detectar informaciones y perfiles falsos en redes sociales. Una usuaria se hab¨ªa rapado la cabeza para solidarizarse con el movimiento y animaba a otras mujeres blancas a imitarla bajo el hashtag #gobaldforblm. La propuesta levant¨® iras a uno y otro lado del espectro ideol¨®gico, que se extendieron de forma viral. As¨ª que Jain decidi¨® poner a su empresa a investigar el tuit.

Con m¨¢s de 100 ingenieros y periodistas a sus ¨®rdenes, Jain asegura capitanear al equipo de verificaci¨®n de datos m¨¢s grande del mundo. Quiz¨¢ por ello no les cost¨® determinar que la tuitera rapada era en realidad un bot creado por el foro 4chan. Lo descubrieron monitoreando la forma de relacionarse con otras cuentas. El caso, reconoce, no fue especialmente complicado, pero s¨ª muy representativo del problema al que se enfrentan. ¡°Estas investigaciones son fundamentales para comprender c¨®mo actores malintencionados pueden cambiar la narrativa utilizando bots¡±, explica Jain por correo electr¨®nico.

La palabra bot ha perdido parte de su significante (es una af¨¦resis de robot) pero no de su significado: designa a un programa inform¨¢tico que realiza actividades repetitivas y mec¨¢nicas. Hay bots que difunden informaci¨®n falsa en Twitter. Y hay bots que la desmienten en la aplicaci¨®n de Logically. La tecnolog¨ªa que utiliza uno y otro bando lleva a?os sofistic¨¢ndose. Es una carrera armament¨ªstica de la inteligencia artificial, una guerra fr¨ªa de la desinformaci¨®n. Y el resultado, en un mundo en que la verdad puede pasar de rebatida a relativa en cuatro tuits, puede ser determinante para el futuro de las sociedades democr¨¢ticas.

Fundada en 2017, Logically tiene alrededor de 20.000 usuarios habituales, la mayor¨ªa de ellos en India y Reino Unido. Est¨¢ preparando su desembarco en EEUU, donde prev¨¦ un aumento de las fake news de cara a las pr¨®ximas presidenciales. Fue precisamente durante unas elecciones, las del Brexit, cuando su due?o se plante¨® la necesidad de crear esta plataforma. Gracias a una beca del MIT pudo poner en pr¨¢ctica su idea: fundar una empresa de fact checking basada en la tecnolog¨ªa. No fue una idea especialmente original.

Detectando la ingenier¨ªa de la viralidad

Los bots tambi¨¦n tienen sentimientos. Al menos en Twitter. Estos propagan, en una proporci¨®n aplastante, informaci¨®n falsa y alarmista, apelan a los instintos m¨¢s primarios para provocar la interacci¨®n de los humanos. ¡°Por eso sus mensajes suelen contener exclamaciones y may¨²sculas¡±, explica Juan G¨®mez Romero, investigador de ciencias de la computaci¨®n e inteligencia artificial en la Universidad de Granada.

Romero ha creado un algoritmo que detecta estos caracteres, as¨ª como ciertas palabras y construcciones sint¨¢cticas propias de las fake news. Lo ha hecho junto a su compa?ero Miguel Molina Solana, y a varios colaboradores del Imperial College de Londres, para publicar el estudio Not all lies are equal. ¡°Nuestro algoritmo funciona como el filtro de spam (el que filtra los mensajes enviados de forma masiva) del correo electr¨®nico¡±, explica en conversaci¨®n por videoconferencia. ¡°Encuentra construcciones sint¨¢cticas del pasado y las busca en los mensajes nuevos. Si hay patrones que se repiten, las posibilidades de que el mensaje sea spam, o en nuestro caso una informaci¨®n no verdadera, va a ser alto¡±. Tecnolog¨ªas como la que describe ya se usan en las redes sociales. ¡°Twitter es bastante herm¨¦tico respecto a lo que hace, pero se puede intuir viendo las empresas que compra¡±, se?ala el investigador. Por eso ya se est¨¢ trabajando en la siguiente generaci¨®n de algoritmos.

El propio Romero est¨¢ entrenando a una IA basada en el aprendizaje autom¨¢tico, capaz de se?alar, sin direcci¨®n previa, nuevos patrones de las noticias falsas. ¡°Est¨¢ detectando sutilezas que de alg¨²n modo est¨¢n ah¨ª, pero que no son apreciables por nosotros¡±, comenta. A pesar de los buenos resultados, este ingeniero cree que sus herramientas deben ser entendidas como un complemento, nunca como un sustituto, de la comprobaci¨®n por parte de humanos.

Esto mismo defiende Clara Jim¨¦nez, directora y cofundadora de Maldita.es. Esta periodista, pionera del fact checking en Espa?a, no reniega de la tecnolog¨ªa. Su compa?¨ªa hace uso de bots, algoritmos y extensiones de navegador. Los paralelismos con Logically son evidentes, pero ella prefiere hacer hincapi¨¦ en la vertiente period¨ªstica de su compa?¨ªa. Por eso matiza y mucho la utilidad de la actual inteligencia artificial: ¡°La realidad es que a d¨ªa de hoy las herramientas no est¨¢n bien engrasadas¡±, explica en entrevista telef¨®nica, ¡°fallan mucho porque el comportamiento humano respecto a las pasiones, que es lo que mueve las fakes, es muy err¨¢tico¡±.

Jim¨¦nez se?ala otro problema. Todos estos sistemas se prueban en Twitter, que es la red m¨¢s abierta (y m¨¢s colaborativa, se?alan los investigadores). ¡°Pero es m¨¢s probable que te env¨ªe una fake news tu padre a que lo veas en el mensaje de un bot¡±, destaca. Los n¨²meros parecen darle la raz¨®n. Seg¨²n Statista, en Espa?a hay cuatro millones y medio de cuentas en Twitter. Whatsapp tiene 38 millones.

En su libro, The Reality Game: How the Next Wave of Technology Will Break the Truth, el experto en inteligencia artificial Samuel Woolley lamenta que las grandes plataformas est¨¦n cometiendo el error de combatir los bots, ¨²nicamente, con m¨¢s tecnolog¨ªa. ¡°Ser¨¢ una combinaci¨®n de trabajo humano e inteligencia artificial lo que finalmente logre tener ¨¦xito¡±, vaticina el autor, aunque los grandes CEOs de Silicon Valley solo parecen estar mirando a esta ¨²ltima. Woolley apunta al aprendizaje autom¨¢tico y el aprendizaje profundo como posibles herramientas de futuro. Pero subraya una verdad que han ido se?alando varios expertos desde hace a?os. Lo cierto es que a d¨ªa de hoy, sin la ayuda de los humanos, la inteligencia artificial sigue siendo bastante est¨²pida.

Puedes seguir a EL PA?S TECNOLOG?A RETINA en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra Newsletter.