Nuevos documentos filtrados de Facebook muestran el peligro de la viralidad

El Partido Patriota empez¨® a reclutar partidarios en Facebook despu¨¦s del asalto al Capitolio del 6 de enero. Pretend¨ªan convertirse en una alternativa al Partido Republicano. ¡°Crec¨ªamos r¨¢pido, ten¨ªamos muchos seguidores¡±, dice el tesorero de la organizaci¨®n. Hasta que Facebook decidi¨® cortarles la cabeza: ¡°Logramos decapitar brotes como las palabras Partido Patriota antes de su adopci¨®n masiva¡±, dice un documento interno de Facebook.

Este viernes un grupo de medios estadounidenses entre los que est¨¢n el Wall Street Journal, el Washington Post, el New York Times o la CNN han empezado a publicar nuevos art¨ªculos a partir del material extra que la garganta profunda Frances Haugen se llev¨® de la empresa, tambi¨¦n compartido con la Comisi¨®n de Bolsa y Valores de EE UU. El Journal hizo una larga serie llamada ¡°Facebook Files¡± en septiembre. Ahora, a petici¨®n de Haugen, el resto de documentos se ha compartido con un grupo mayor de periodistas. Las miles de p¨¢ginas completas de los documentos originales, de momento, no han sido publicados. Haugen comparece este lunes en el Parlamento brit¨¢nico.

Los nuevos documentos no contiene por ahora ninguna revelaci¨®n espectacular que vaya a hundir a Facebook de un solo golpe. Pero significan docenas nuevas de indicios que ayudan a entender la complejidad y las decisiones pol¨¦micas de una red como Facebook. Tambi¨¦n ha podido saberse que Haugen, para no ser detectada, captur¨® muchos de estos documentos con fotos de su m¨®vil a la pantalla del ordenador, no con pantallazos.

Cada medio ha escogido el enfoque que ha preferido sobre los documentos. Pero todos incluyen la historia de Carol Smith, una madre conservadora moderada de 41 a?os de Carolina del Norte. Smith abri¨® una cuenta en Facebook en 2019, estaba interesada en ¡°ni?os, crianza, cristianismo y comunidad¡± y sigui¨® las cuentas oficiales de la cadena Fox News y del entonces presidente Donald Trump.

El primer d¨ªa el algoritmo le recomendaba seguir a grupos conservadores y memes. En un par de d¨ªas sus recomendaciones empezaron a radicalizarse. Al quinto d¨ªa, la plataforma hab¨ªa arrastrado a Smith hasta QAnon, el grupo conspiranoico que cree que el mundo est¨¢ dirigido por una red de ped¨®filos y que Trump es el salvador. Smith no sigui¨® esas recomendaciones pero igualmente su cronolog¨ªa acab¨® llena de posts vinculados a teor¨ªas conspirativas, que violaban las normas de la compa?¨ªa.

Smith sin embargo no era una usuaria real. Era un experimento interno de Facebook, que repiti¨® con usuarios ficticios progresistas que acaban en pozos similares. El experimento no es nuevo y se ha hecho con otras redes. Aunque esta vez es distinto porque es obra de investigadores dentro de la compa?¨ªa, con todas las herramientas y la capacidad de avisar de los peligros internamente.

La mayor¨ªa de medios se ha centrado en c¨®mo Facebook celebr¨® su ¨¦xito en controlar la desinformaci¨®n en las elecciones de noviembre, pero luego ignor¨® el embrollo que llev¨® al asalto del Capitolio en enero. El debate interno sobre las consecuencias de la viralidad es sin embargo un tema de mayor calado en los documentos. De momento solo lo ha cubierto en profundidad el Journal.

El amigo de Mark

Kang-Xing Jin es amigo de Mark Zuckerberg desde sus d¨ªas en la Universidad de Harvard. Es uno de los primeros empleados de la compa?¨ªa. Tambi¨¦n, seg¨²n los documentos, es uno de los quien m¨¢s ha alertado sobre el peligro de la viralidad: ¡°Hay un surtido creciente de investigaci¨®n que muestra que los canales virales se usan m¨¢s para lo malo que para lo bueno¡±, escribe Jin en uno de los documentos para advertir sobre los peligros de elecciones de 2020 y de lo que llama ¡°viralidad perjudicial rampante¡±.

En docenas de documentos internos, revisados siempre seg¨²n el Journal, ingenieros y cient¨ªficos de datos de Facebook detectan que el contenido viral favorece teor¨ªas de la conspiraci¨®n, bulos y discurso de odio. Tambi¨¦n, cuando m¨¢s ampliamente compartido era un mensaje, la probabilidad de que fuera un contenido t¨®xico crec¨ªa. Los usuarios que postean muy a menudo son especialmente peligrosos seg¨²n esos mismos estudios. De alg¨²n modo, parece, el algoritmo premia la constancia y la insistencia.

Durante la campa?a electoral de 2020, Facebook impuso reglas que limitaran la expansi¨®n del contenido viral. Un ingeniero llego a proponer la eliminaci¨®n del bot¨®n de compartir, que no fructific¨®.

El problema de fondo en este debate es que la viralidad implica negocio. Los usuarios est¨¢n m¨¢s tiempo en la plataforma, y ven m¨¢s anuncios, si el contenido les resulta llamativo. Como dijo Haugen en el Congreso, el debate se resume en si Facebook antepone los beneficios a la democracia.

El Journal describe este debate en t¨¦rminos muy concretos. Las palabras de Jin, el amigo universitario de Zuckerberg, encontraron un duro rival: el jefe de los anuncios, John Hegeman. ¡°Si quitamos un porcentaje peque?o de compartidos de la cronolog¨ªa de los usuarios, deciden volver menos a Facebook¡±, escribi¨® en un documento ahora revelado. Ir menos a Facebook implica l¨®gicamente ir m¨¢s a otras plataformas o simplemente no ver anuncios en Facebook, lo que limita la capacidad de negocio de la compa?¨ªa. Adem¨¢s, defend¨ªa Hegeman, la mayor parte del contenido viral es aceptable.

Los documentos muestran que la compa?¨ªa se puso siempre del lado de Hegeman, excepto durante la campa?a electoral para evitar un descalabro parecido a 2016. El ¨¦xito inicial sin embargo se complic¨® con el asalto al Capitolio.

Despu¨¦s de ese asalto, la compa?¨ªa empez¨® a investigar a 700.000 partidarios de Stop the Steal, el movimiento digital que defiende sin pruebas que Joe Biden gan¨® gracias a fraude. Con ese grupo de ¡°usuarios susceptibles¡± mapeado, Facebook ten¨ªa la opci¨®n de vigilar nuevas complicaciones y mandarle un tipo de contenido m¨¢s inocuo: sacarles de pol¨ªtica y darles gatitos. Estos detalles muestran el enorme poder de dirigir gustos e intereses de una plataforma tan usada como Facebook.

Investigadores en Facebook han identificado algunos llamados ¡°pasillos de informaci¨®n¡± de cuentas p¨¢ginas y redes que distribuyen contenido da?ino. De este modo tambi¨¦n puede vigilar qui¨¦n ve qu¨¦ y detectar a los m¨¢s peligrosos.

La alternativa a tener que actuar contra entidades puntuales como el Partido Patriota es activar l¨ªmites a la viralidad para todos. As¨ª ser¨ªa m¨¢s dif¨ªcil que organizaciones basadas en odio o mentiras emergieran con tanta facilidad gracias a viralizar sus inventos. Pero Facebook prefiere disparar contra quienes se portan mal, a riesgo de seleccionar grupos que son inocuos o menos peligrosos de lo que parece. El poder que esta estrategia confiere a Facebook es enorme.

Facebook ha actuado tambi¨¦n contra la organizaci¨®n alemana Querdenken [pensamiento lateral] que no viola constantemente las pol¨ªticas de Facebook y promueve la no violencia pero que las autoridades alemanas vigilan. Estas decisiones acaban finalmente en preguntas imposibles, como la que hace un investigador en un documento: hay movimientos que siguen las reglas comunitarias de Facebook pero tambi¨¦n distribuyen contenido que ¡°es inherentemente perjudicial y viola el esp¨ªritu de nuestras normas. ?Qu¨¦ hacemos cuando movimientos aut¨¦nticos hablan de odio o deslegitiman elecciones libres?¡±

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.