Amordazados por los robots inform¨¢ticos

Se proclama a menudo que la ¡°desintermediaci¨®n¡± es el rasgo definitorio de la era digital. Gracias al car¨¢cter renovador de las nuevas tecnolog¨ªas, a los mediadores de todo tipo se les considera en v¨ªas de extinci¨®n. Por lo visto, una vez desaparecidos los redactores, los editores y las librer¨ªas, nuestra vida p¨²blica se liberar¨ªa de los puntos de vista sesgados, incompetencias y agendas ocultas de todos ellos. Seg¨²n Jeff Bezos, fundador y director de Amazon, ¡°hasta los moderadores mejor intencionados son un freno para la innovaci¨®n. Cuando una plataforma consiste en un autoservicio, hasta las ideas m¨¢s inveros¨ªmiles pueden ponerse a prueba, ya que no hay moderador, por experto que sea, que vaya a decir: ¡®eso nunca funcionar¨¢¡±. Incluso aunque tenga raz¨®n, Bezos ignora un aspecto importante del asunto: la digitalizaci¨®n de nuestra vida p¨²blica tambi¨¦n est¨¢ dando origen a muchos nuevos mediadores.

Pongamos por caso los blogs. Cuando la primera generaci¨®n de blogueros entr¨® en la Red, los ¨²nicos intermediarios con los que se encontraban eran su entidad anfitriona y su proveedor de servicios de Internet. Cualquiera que empiece un blog en 2012 probablemente ir¨¢ a parar a una plataforma comercial como Tumblr o Word Press, y con los comentarios a su blog encauzados por un tercero, por ejemplo una compa?¨ªa como Disqus. La propia Disqus, adem¨¢s, colabora con una empresa llamada Impermium, que cuenta con diversas herramientas autom¨¢ticas que comprueban si los comentarios enviados son spam. Es la proliferaci¨®n, no la eliminaci¨®n, de intermediarios lo que ha hecho del blogging algo tan extendido; aqu¨ª el t¨¦rmino adecuado es ¡°hiperintermediaci¨®n¡±, no ¡°desintermediaci¨®n¡±.

Impermium, adem¨¢s, sostiene haber desarrollado una tecnolog¨ªa capaz de ¡°identificar no solo el spam y los v¨ªnculos maliciosos, sino tambi¨¦n todo tipo de contenidos da?inos ¡ªtales como violencia, racismo, irreverencia flagrante e incitaci¨®n al odio¡ª, que permite a los propietarios actuar contra ellos en tiempo real, antes de que llegue a los lectores¡±. Afirma tener a 300.00 p¨¢ginas web como clientes. As¨ª es: una sola empresa californiana est¨¢ tomando decisiones sobre qu¨¦ se considera incitaci¨®n al odio y qu¨¦ se considera irreverencia para 300.000 sitios.

El modelo de Impermium es interesante porque a?ade una capa de big data (sistemas que manejan grandes conjuntos de datos) al proceso de tachar algo como spam o como incitaci¨®n al odio. Sol¨ªa suceder que cualquiera que mencionase Viagra en su comentario o en su entrada de blog ser¨ªa bloqueado inmediatamente; Impermium afirma que haciendo uso de los datos de usuario que le llegan de su red de 300.000 sitios web en los que participa, puede realmente distinguir las bromas sobre Viagra del spam sobre Viagra.

Los 'spambots' han logrado inutilizar en Twitter las etiquetas relacionadas con el T¨ªbet

Eso podr¨ªa parecer liberador. En otros contextos, sin embargo, ese matrimonio entre big data y moderaci¨®n autom¨¢tica de contenidos podr¨ªa tener un lado m¨¢s oscuro, en particular en los reg¨ªmenes no democr¨¢ticos, para los que una guerra al spam es tan solo un pretexto para suprimir las opiniones disidentes.

Los blogueros de China, por ejemplo, emplean regularmente eufemismos y alusiones para hacerles trampa a sus censores algor¨ªtmicos. Una expresi¨®n aparentemente inocua como ¡°cangrejo de r¨ªo¡± suele querer significar ¡°censura de Internet¡±, en tanto que ¡°terapia vacacional¡± se ha utilizado para referirse a detenciones de autoridades del Gobierno. Dejadas sin censurar tales expresiones se convierten r¨¢pidamente en memes (unidades m¨ªnimas de informaci¨®n cultural transmisible), desencadenando debates cr¨ªticos sobre la pol¨ªtica china.

Con la ayuda de los big data, el software de filtraci¨®n de contenidos puede comprobar la frecuencia relativa con la que tales expresiones son utilizadas en otros sitios populares e investigar qu¨¦ comentadores las utilizan realmente para descubrir eufemismos sospechosos. O podr¨ªan investigar de qu¨¦ puntos geogr¨¢ficos proceden algunas de esas entradas: imaginen qu¨¦ tipo de posibilidades censoras se abrir¨¢n una vez que las decisiones moderadoras puedan incorporar informaci¨®n sobre localizaci¨®n espacial: ?Por qu¨¦ no bloquear comentarios, v¨ªdeos o fotos cargados por usuarios situados en, digamos, la plaza de Tahrir o en alg¨²n otro lugar pol¨ªticamente explosivo?

En el seguimiento de las revueltas de la primavera ¨¢rabe, cualquiera que introdujera en Twitter comentarios cr¨ªticos sobre Bahr¨¦in o Siria es probable que recibiera airadas correcciones de los leales al Gobierno o, m¨¢s probablemente a¨²n, de sus bots (robots inform¨¢ticos). Asimismo, los activistas tibetanos lamentan que varias etiquetas de Twitter relacionadas con T¨ªbet tienen tanta propaganda creada por spambots (robots portadores de spam) que han conseguido inutilizarlos.

Para los Gobiernos, la pr¨®xima frontera es la de aprender a identificar, adelantarse y desbaratar posibles memes emergentes. As¨ª, una de las agencias de seguridad rusas ha adjudicado recientemente un concurso para crear robots inform¨¢ticos que pueden tanto reconocer la formaci¨®n de memes como trastocarlos y contrarrestarlos en tiempo real mediante ¡°la distribuci¨®n masiva de mensajes en las redes sociales con vistas a la formaci¨®n de la opini¨®n p¨²blica¡±. Aqu¨ª Mosc¨² est¨¢ aprendiendo de Washington: el a?o pasado el Pent¨¢gono adjudic¨® un contrato a una empresa de San Diego para la producci¨®n de un software para crear m¨²ltiples identidades falsas en la Red y ¡°contrarrestar la propaganda enemiga extremista y violenta fuera de Estados Unidos¡±.

El PRI fue acusado de manipular la Red para lograr convertir en un 'trending topic' un mensaje preestablecido

?Por qu¨¦ habr¨ªa de preocuparse alguien por semejante t¨¢ctica, dado lo dif¨ªcil que podr¨ªa resultar para un bot persuadir a humanos? En primer lugar, la persuasi¨®n podr¨ªa no ser el objetivo. Algunos de tales robots existen solo para que sea m¨¢s dif¨ªcil descubrir la oportuna informaci¨®n f¨¢ctica sobre, digamos, protestas pol¨ªticas que se est¨¦n llevando a cabo. Toda esa inversi¨®n en bots puede haber sido rentable para el Kremlin: durante las protestas que siguieron a las disputadas elecciones parlamentarias de diciembre de 2011, Twitter rebosaba de cuentas falsas que pretend¨ªan aplastar a las etiquetas populares con informaci¨®n in¨²til. Un reciente estudio sostiene que de 46.846 cuentas en Twitter que participaron en la discusi¨®n de las disputadas elecciones rusas, 25.860 eran bots, que emitieron 440.793 tuits sobre el tema.

En segundo lugar, los bots pueden a?adir lastre num¨¦rico a los memes que ya han sido promovidos por humanos prominentes con el fin de situarlos a la cabeza del ranking de virus. Durante las elecciones presidenciales mexicanas de este a?o, el PRI (cuyo candidato gan¨® la elecci¨®n) fue acusado de programar miles de bots para enviar tuits con palabras y frases espec¨ªficas con objeto de hacer aparecer un mensaje preestablecido en los trending topics de Twitter.

En tercer lugar, los bots m¨¢s sofisticados pueden cumplir otra funci¨®n muy interesante: pueden hacer que unos humanos se presenten el uno al otro, por ejemplo mencionando en un mismo tuit sus respectivos nombres de usuarios de Twitter. Un experimento hecho en 2011 por PacSocial, una empresa de anal¨ªtica centrada en los bots, revel¨® que estos, de hecho, pueden hacer aumentar las conexiones entre usuarios. As¨ª que, con tan solo algunas manipulaciones inteligentes, los bots pueden hacer que sigas a los humanos adecuados, y son los humanos, no los bots, los que luego influir¨¢n en tu manera de pensar.

La digitalizaci¨®n har¨¢ que aumente ¡ª?no que disminuya!¡ª el n¨²mero de mediadores en nuestra vida p¨²blica. No hay nada intr¨ªnsecamente malo en los intermediarios mientras nos acordemos de mantenerlos a raya. De ese modo, en vez de celebrar el m¨ªtico nirvana de la desintermediaci¨®n, deber¨ªamos esforzarnos por ver el interior de las cajas negras de los algoritmos del spam y de los bots propagand¨ªsticos. Puede que nuestro debate p¨²blico no est¨¦ a la altura de nuestros memes, pero no deber¨ªamos olvidar que no todos son creados iguales: algunos ni siquiera son creados, mientras que otros son producto de considerables dosis de astuta e insidiosa planificaci¨®n.

Evgeny Morozov es profesor visitante en la Universidad de Stanford y profesor en la New America Foundation. Su ¨²ltimo libro publicado en Espa?a es El desenga?o de Internet. Los mitos de la libertad en la Red (Destino).

Traducci¨®n de Juan Ram¨®n Azaola