C¨®mo acabar con los ¡®bots¡¯ que contaminan internet

En 2014, Filippo Menczer se vio metido en el ojo del hurac¨¢n, en el centro de una envenenada controversia pol¨ªtica, por un modesto proyecto de investigaci¨®n que dirig¨ªa en la Universidad de Indiana. Algunos pol¨ªticos republicanos cargaron con todo contra la financiaci¨®n p¨²blica de su proyecto, Truthy, dedicado a investigar el papel de los bots de las redes sociales en la manipulaci¨®n pol¨ªtica. ¡°Fuimos atacados por poderosos legisladores que etiquetaron nuestra investigaci¨®n como pol¨ªticamente motivada y contraria a la libertad de expresi¨®n, y trabajaron activamente para tumbarla¡±, recuerda Menczer. Hoy esos pol¨ªticos republicanos tienen un presidente en la Casa Blanca y todo el mundo se pregunta c¨®mo parar la intoxicaci¨®n pol¨ªtica de los bots.

M¨¢s informaci¨®n

La maquinaria de injerencias rusa penetra la crisis catalana

Facebook, contra las noticias falsas en Espa?a

Twitter detecta en torno a 3,3 millones de cuentas sospechosas a la semana y algunos c¨¢lculos se?alan que habr¨ªa unos cincuenta millones de bots. ?C¨®mo frenar la amenaza de estas cuentas fraudulentas, usadas para influir en procesos democr¨¢ticos, sin interferir en el funcionamiento de redes con millones de usuarios leg¨ªtimos? Menczer, cuya investigaci¨®n sigue dedicada al dise?o de mejores algoritmos de detecci¨®n (con un ¨¦xito del 75%-95%), aplaude que las plataformas ya est¨¦n tomando medidas para suspender cuentas que violan sus t¨¦rminos de servicio. ¡°Pero no anuncian sus algoritmos de detecci¨®n, ni comparten datos sobre estas acciones, por lo que no hay forma de que los investigadores eval¨²en de forma independiente la efectividad de sus m¨¦todos¡±, critica.

EL PA?S ha contactado a media docena de especialistas, adem¨¢s de la propia Twitter, para analizar qu¨¦ puede hacerse para afrontar este problema y sugerir posibles mejoras. Algunas son sencillas, otras podr¨ªan chocar contra el modelo de negocio de la multinacional y otras ser¨ªan controvertidas, como las que sugiere Menczer: ¡°Dado que los usuarios propagan informaci¨®n de baja calidad como noticias falsas, la plataforma podr¨ªa limitar las actividades de publicaci¨®n de cuentas autom¨¢ticas y dificultar a los usuarios compartir art¨ªculos que no han le¨ªdo¡±.

Twitter detecta en torno a 3,3 millones de cuentas sospechosas a la semana y algunos c¨¢lculos se?alan que habr¨ªa unos 50 millones de bots

Otro especialista, el investigador de Wellesley y Harvard Takis Metaxas, no niega que ¡°Twitter deber¨ªa ser m¨¢s agresivo para detener bots maliciosos¡±, pero considera injusto que se carguen las tintas en esta plataforma, precisamente porque es m¨¢s abierta. ¡°El verdadero problema vino a trav¨¦s de Facebook. Es una red mucho m¨¢s grande y popular y tiene control total sobre lo que sus usuarios ven y lo que no ven. Me parece ir¨®nico que nos estemos centrando en Twitter, que permite ver sus datos, e ignorar Facebook, que los oculta todos¡±, critica. Como Facebook no deja trastear en su motor, se publican muchos menos estudios que le saquen los colores por su opaco papel en la intoxicaci¨®n pol¨ªtica.

Metaxas propone una medida clara: exigir la verificaci¨®n a trav¨¦s de un n¨²mero de tel¨¦fono, que podr¨ªa ralentizar el crecimiento de bots, aunque es una opci¨®n que podr¨ªa chocar con otros aspectos como la privacidad. La mayor¨ªa de los especialistas se?ala una posibilidad que podr¨ªa ser muy ¨²til: del mismo modo que hay una marca para identificar a los usuarios verificados, podr¨ªa incluirse otra que etiquete los bots como cuentas automatizadas para que, al menos, todos puedan reconocerlas de inmediato.

Me parece ir¨®nico que nos estemos centrando en Twitter. El verdadero problema vino a trav¨¦s de Facebook", denuncia Metaxas

Para ello, Twitter podr¨ªa dejarse ayudar por los propios usuarios, como propone Ben Nimmo, del laboratorio de investigaci¨®n forense digital del Consejo Atl¨¢ntico, aunque tambi¨¦n propone que se contrate m¨¢s personal. ¡°Algunos son absurdamente f¨¢ciles de detectar a simple vista, pero son suficientemente inteligentes como para superar las barreras autom¨¢ticas¡±, se?ala este investigador citado por ProPublica por su trabajo cazando bots. ¡°Por eso se deber¨ªa facilitar que los usuarios reporten bots, no solo spam¡±. Adem¨¢s, sugiere, la plataforma deber¨ªa encontrar alguna forma de se?alar las publicaciones individuales que se han publicado autom¨¢ticamente, ¡°de modo que los usuarios puedan detectar los bots por s¨ª mismos¡±.

Los especialistas tambi¨¦n se?alan que se utilicen durante el registro sistemas de verificaci¨®n tipo reCAPTCHA, que detectan si es un humano quien abre la cuenta o es un proceso automatizado con intenciones aviesas. Desde Twitter responden que han creado sistemas para identificar intentos sospechosos de iniciar sesi¨®n, incluidos los que podr¨ªan ser automatizados. Estas t¨¦cnicas permiten a la compa?¨ªa detectar unos 450.000 inicios de sesi¨®n sospechosos cada d¨ªa gracias a sistemas de inteligencia artificial contra el spam. Adem¨¢s, desde junio de 2017 han suspendido m¨¢s de 117.000 aplicaciones maliciosas por abusar de su API (interfaz para programar aplicaciones ajenas), responsables de m¨¢s de 1.500 millones de tuits "de baja calidad" solo este a?o.

La Wikipedia como ejemplo

Los expertos tambi¨¦n reclaman que estas plataformas sean m¨¢s abiertas al an¨¢lisis externo y que no se limiten a borrar definitivamente las cuentas fraudulentas, sino que las mantengan vivas pero ocultas a los usuarios, para que los investigadores puedan seguir estudiando su comportamiento. Otros ponen a la Wikipedia como ejemplo: la popular enciclopedia online cuenta con una estricta pol¨ªtica que todos los bots deben cumplir. Otros creen que es una carrera sin fin en la que los malos siempre llevar¨¢n la delantera, por lo que la soluci¨®n no puede ser tecnol¨®gica. Facebook acaba de proponer que los usuarios suban un selfie para demostrar que no son bots.

Lisa-Maria Neudert, de la Universidad de Oxford, recuerda que el problema es complejo, puesto que hay bots mal¨¦volos, pero tambi¨¦n bienintencionados. Sirven para alertar de desastres naturales, para advertir de los niveles de calidad del aire o para avisar de aver¨ªas en el transporte p¨²blico, por poner unos ejemplos. Tambi¨¦n ayudan a hacer m¨¢s transparente la democracia, como en el caso de Canad¨¢, donde hay bots que tuitean cada vez que alguien con una direcci¨®n IP del gobierno intenta alterar una entrada de Wikipedia sobre un problema gubernamental.

El investigador Filippo Menczer sugiere que se limite el n¨²mero de tuits que puede publicar una cuenta automatizada

¡°Twitter ya est¨¢ eliminando varios millones de cuentas cada mes para tratar problemas de odio y propaganda¡±, explica Neudert, pero advierte de que la din¨¢mica del problema es un campo minado para la compa?¨ªa: ¡°Si Twitter elimina bots, afectar¨¢ a los bots positivos. Si Twitter elimina por error cuentas de usuarios leg¨ªtimos, corren el riesgo de perder usuarios¡±, afirma la especialista.

La propia compa?¨ªa destaca esta idea: ¡°Somos conscientes de las implicaciones de que una persona sea acusada falsamente de ser un bot o asociada con interferencias electorales, y nos tomamos muy en serio nuestra obligaci¨®n de proteger la privacidad y seguridad del usuario¡±, explican fuentes de la empresa. Twitter recuerda que est¨¢ prohibido ¡ªy se suspenden las cuentas de forma proactiva¡ª crear m¨²ltiples cuentas, la publicaci¨®n repetida de temas en tendencia (Trending Topics) para tratar de llamar la atenci¨®n o la publicaci¨®n repetida de actualizaciones duplicadas, por ejemplo.

Menczer sigue desarrollando herramientas p¨²blicas que permitan a los usuarios diagnosticar y lidiar con este problema. Por ejemplo, en la web Botometer cualquiera puede analizar cuentas de Twitter y hacerse una idea si se comportan como bots o como humanos. ¡°Botometer se puede utilizar junto con otras herramientas de nuestro laboratorio para estudiar c¨®mo los memes o los hashtags se difunden en Twitter y qui¨¦n los comparte¡±, se?ala Menczer. Ahora est¨¢n trabajando en una nueva versi¨®n de otra herramienta, Hoaxy, que se dedica a rastrear la propagaci¨®n de desinformaci¨®n. La idea es integrarla a partir de 2018 con Botometer para estudiar el papel de los robots sociales en su difusi¨®n.