Las reglas secretas de Facebook para moderar contenido violento, sexual y amenazas racistas

Facebook permite a sus usuarios publicar im¨¢genes de una persona autolesion¨¢ndose porque la red ¡°no quiere censurar o castigar a quienes est¨¢n sufriendo¡± y solo elimina fotograf¨ªas de actos de crueldad contra animales si son ¡°extremadamente perturbadoras¡±. As¨ª lo demuestran los documentos secretos de la organizaci¨®n, revelados por el diario The Guardian, y que tambi¨¦n incluyen directrices para moderar contenido violento, de odio, relacionado con el terrorismo, pornogr¨¢fico o racista.

La filtraci¨®n incrementa la tensi¨®n sobre la red creada por Mark Zuckerberg y que usan 1.700 millones de personas al mes. Facebook se autodefine como una red social que conecta a ciudadanos de todos los rincones del mundo, pero en los ¨²ltimos a?os ha recibido presiones para que sea regulada como una plataforma de contenido similar a la de los medios de comunicaci¨®n. El reto no es sencillo y a cada paso que da Facebook para moderar internamente sus actividades, tambi¨¦n debe caminar sobre la delgada l¨ªnea que separa la censura de la libertad de expresi¨®n.

Los documentos revelados por The Guardian no hab¨ªan visto la luz hasta ahora y permiten ver seguir el c¨®digo que impone Facebook a sus moderadores de contenido, las personas encargadas de determinar si una foto, v¨ªdeo o mensaje deben ser eliminados de la red. Una de las fuentes an¨®nimas consultadas por el diario afirman que ¡°Facebook no puede controlar su propio contenido. Ha crecido demasiado y demasiado r¨¢pido¡±. Otro afirma que deben tomar la decisi¨®n de eliminar el material ¡°en apenas 10 segundos¡±.

Las gu¨ªas ofrecen recomendaciones para varios tipos de contenido, desde im¨¢genes de abuso no sexual a menores de edad, amenazas de violencia, hasta actos de crueldad con animales e im¨¢genes con violencia expl¨ªcita. En todos ellos, los documentos detallan lo que se puede publicar y lo que no. En el caso de abusos a animales, por ejemplo, se puede compartir fotograf¨ªas ¡°en general¡± de estos actos ¡°para concienciar sobre ello y condenarlos¡±, pero se elimina cuando se considera que el usuario ¡°celebra¡± ese abuso o que se percibe como ¡°extremadamente perturbador¡±.

En el caso de amenazas, los manuales indican que se debe eliminar un posible mensaje con las palabras ¡°que alguien dispare a Trump¡± porque el presidente pertenece a una categor¨ªa protegida. Facebook tambi¨¦n considera que los v¨ªdeos de muertes violentas pueden llevar un aviso para los espectadores pero no siempre se deben eliminar porque sirven para ¡°concienciar sobre problemas mentales¡±. La red s¨ª permite, por ejemplo, publicar un mensaje indicando que ¡°para partirle el cuello a una zorra, aseg¨²rate de que presionas todo lo que puedes en el centro de su garganta¡±.

En muchos de los casos, las indicaciones pueden dejar espacio para la interpretaci¨®n de cada uno de los moderadores, que deben identificar si el usuario est¨¢ haciendo una amenaza real a otra persona. Uno de los manuales considera que se debe eliminar el mensaje ¡°apu?ala y convi¨¦rtete en el terror del Sionista¡± pero se puede publicar ¡°vamos a dar palizas a ni?os gordos¡± o ¡°peguemos a un pelirrojo¡± porque ¡°el lenguaje violento casi nunca es cre¨ªble a menos que se espec¨ªfico como para que nos de pie a pensar que no es una expresi¨®n sin m¨¢s sino que la persona puede actuar¡±.

Facebook tambi¨¦n establece que ¡°no tomamos medidas en el caso de fotograf¨ªas de abusos a ni?os. Marcamos como perturbadores los v¨ªdeos de abusos a ni?os. Eliminamos las im¨¢genes de abusos a ni?os si se comparten con sadismo y celebraci¨®n¡±. La red a?ade, seg¨²n The Guardian, que algunas de esas im¨¢genes deben permanecer publicadas ¡°para que el menor pueda ser identificado y rescatado, pero a?adimos protecciones para salvaguardar a la audiencia¡±.

Monika Bickert, responsable de pol¨ªticas globales de la red social ha contestado por escrito a EL PA¨ªS. Reitera la dificultad que entra?a la moderaci¨®n en su empresa: "Mantener Facebook como un lugar seguro es lo m¨¢s importante. Trabajamos duro para ello, sin sacrificar la libertad de expresi¨®n. Esto requiere bastante reflexi¨®n y nos hacemos muchas preguntas. Nos lo tomamos muy en serio". A las m¨¢s de 4.500 personas en el equipo de moderaci¨®n se van a sumar 3.000 m¨¢s. Piden tambi¨¦n ayuda a los propios usuarios: "Vamos a hacer m¨¢s sencillo avisarnos, para que nuestro equipo llegue m¨¢s r¨¢pido y decidan si algo es o no violento. Y, si fuese necesario, contactar con las autoridades".

Uno de los documentos filtrado de su filial australiana ha dejado al descubierto c¨®mo Facebook analiza su contenido tanto para moderarlo como para rentabilizar a sus usuarios, con especial incidencia en los que muestran tener estados de ¨¢nimo m¨¢s bajos. En el texto se detalla c¨®mo se pueden ofrecer publicidad a aquellos que est¨¢n inseguros o faltos de confianza, se buscan los estados con situaciones como ¡°estresado, derrotado, ansioso, nervioso, in¨²til, est¨²pido o tonto¡±. Las l¨ªneas maestras para crear anuncios estos anuncios se hicieron a partir observar el comportamiento de 6,4 millones de adolescentes en secundaria.

Los menores son uno de los agujeros m¨¢s sensibles de Facebook. Los de Zuckerberg saben que ser duros con ellos hace que se marchen a otras plataformas, como Snapchat con su propuesta ef¨ªmera y privada, tambi¨¦n que son uno de los vectores de consumo m¨¢s rentables, por lo que mantienen una posici¨®n ambigua al respecto. Se supone que los menores no pueden tener un perfil propio con menos de 14 a?os y es necesario tener control parental. Una restricci¨®n que se saltan con solo cambiar la fecha de nacimiento. Para continuar porque son muy activos y vulnerables a la presi¨®n entre pares. Facebook es un lugar en el que se muestran logros y se busca impresionar a los amigos. No es dif¨ªcil a?adir un filtro para alejar a los padres del contenido publicados por menores, basta con especificar qui¨¦nes no podr¨¢n ver la publicaci¨®n.

La red ha tenido que responder en los ¨²ltimos meses a varias crisis por el material que decidi¨® censurar, como la fotograf¨ªa de una ni?a desnuda, v¨ªctima de la guerra de Vietnam, o la retransmisi¨®n en directo del asesinato de un hombre en Cleveland. En este ¨²ltimo caso, la red elimin¨® la grabaci¨®n despu¨¦s de que el autor anunciase que seguir¨ªa matando a m¨¢s personas elegidas al azar, pero rectific¨® en el caso de la ni?a vietnamita y ahora permite ¡°excepciones noticiables¡± en su manual sobre fotograf¨ªas de guerra. Facebook, sin embargo, nunca permitir¨¢ im¨¢genes ¡°de ni?os desnudos dentro del contexto del Holocausto¡±.