Un ej¨¦rcito para rastrear el odio
Las grandes plataformas digitales contratan equipos de miles de trabajadores para detectar y borrar contenidos racistas, xen¨®fobos, sexistas o terroristas de la Red
El discurso del odio se expande a trav¨¦s de Internet a toda velocidad. En su intento por mitigar este fen¨®meno, corrosivo para la democracia, los gigantes tecnol¨®gicos se comprometieron en 2016 a borrar en menos de 24 horas los mensajes que inciten al racismo, la xenofobia o el sexismo. Para llevar a cabo esta tarea han contratado a un ej¨¦rcito de vigilantes que filtran un alud de contenidos que circulan por Internet y las redes sociales. Su tarea es borrar todo aquello que aliente el odio en cualquiera de sus vertientes: etnia, religi¨®n o nacionalidad.
Las im¨¢genes de la retransmisi¨®n en Facebook del atentado en dos mezquitas en Nueva Zelanda, que caus¨® medio centenar de muertos, estuvieron circulando por la Red hasta que la polic¨ªa dio la voz de alerta. Facebook asegura que borr¨® r¨¢pidamente el v¨ªdeo y tambi¨¦n las cuentas del tirador. No obstante, las copias ya se hab¨ªan multiplicado. Sus filtros de inteligencia artificial fallaron. El contenido fue reproducido 4.000 veces hasta que la compa?¨ªa pudo acceder al enlace con la grabaci¨®n. En 24 horas eliminaron 1,2 millones de v¨ªdeos. YouTube, Twitter, Instagram y Reddit retiraron tambi¨¦n las im¨¢genes a medida que iban apareciendo en estas plataformas.
Cuatro grandes tecnol¨®gicas ¡ªFacebook, Twitter, YouTube y Microsoft¡ª firmaron en 2016 un c¨®digo de conducta con la Comisi¨®n Europea para combatir la incitaci¨®n al odio en Internet. A este documento se adhirieron otras compa?¨ªas de menor tama?o, como Dailymotion o Snapchat. Estas corporaciones aseguran que han reforzado sus sistemas de seguridad y vigilancia para erradicar contenidos maliciosos. Utilizan tres m¨¦todos: las denuncias de los usuarios, los programas de inteligencia artificial y los vigilantes humanos.
Google explica que ¡°los est¨¢ndares de lo que constituye un discurso de odio var¨ªan de un pa¨ªs a otro, al igual que el lenguaje y la jerga que utilizan¡± y que ha mejorado ¡°la velocidad y precisi¨®n¡±. Entre julio y septiembre del a?o pasado, YouTube elimin¨® m¨¢s de siete millones de v¨ªdeos por violar sus normas y bloque¨® 224 millones de comentarios. En esa fechas, Facebook borr¨® 2,5 millones de piezas que violaban ¡°las normas sobre incitaci¨®n al odio¡±. El 53% fueron detectadas ¡°proactivamente¡± a trav¨¦s de sus propios sistemas antes de recibir aviso exterior.
La compa?¨ªa creada por Mark Zuckerberg ha contratado a expertos en ¨¢reas relacionadas con los menores, el discurso del odio y el terrorismo. Sus equipos vigilan en 80 idiomas diferentes. Es un trabajo duro, como apuntaba la comisaria de Justicia, Vera Jourov¨¢, tras visitar, recientemente, un centro de control de contenidos en Dubl¨ªn. ¡°Puedo decir que tienen uno de los empleos menos agradables del mundo. Son h¨¦roes de la era digital¡±.
En Facebook, alrededor de 15.000 personas trabajan en misiones de control. Uno de los centros est¨¢ en Barcelona y opera en colaboraci¨®n con Competence Call Center (CCC). En noviembre contaba ya con 800 empleados para ¡°revisar toda clase de contenidos problem¨¢ticos y abusivos¡±.
¡°Es imposible evitar al 100% que esos mensajes est¨¦n presentes. Pero s¨ª es posible la detecci¨®n temprana, limitar su viralidad y hace muy compleja su b¨²squeda en Internet¡±, asegura Javier Lesaca, doctor en Historia e investigador visitante de la Columbia University. Considera que ¡°las nuevas plataformas de comunicaci¨®n digital deber¨ªan concienciarse de que ya no son simples empresas de tecnolog¨ªa¡±, porque ¡°se han convertido en elementos vertebradores de la opini¨®n p¨²blica de la sociedad y deben asumir la responsabilidad que implica ese nuevo papel¡±.
La inteligencia artificial no basta; hace falta el control de las personas
Las plataformas saben que la UE est¨¢ vigilante. ¡°No invierten motu proprio. Act¨²an por la presi¨®n de los ciudadanos y de las instituciones. Se ven obligados a adoptar medidas si quieren mantener la gallina de los huevos de oro¡±, afirma Ferran Lalueza, profesor de los Estudios de Ciencias de la Informaci¨®n y de la Comunicaci¨®n de la UOC. Las plataformas act¨²an tambi¨¦n porque ¡°son conscientes de que se exponen a multas millonarias¡±, subraya Lalueza, seg¨²n el cual los mecanismos para combatir el discurso del odio son insuficientes. ¡°Estos contenidos siguen campando por las redes sociales¡±.
A la hora de ejecutar estas tareas, Facebook se apoya en herramientas de inteligencia artificial, pero la vigilancia humana es fundamental. Quienes se dedican a inundar la Red de mensajes de odio se las ingenian para sortear los algoritmos de detecci¨®n. Por ello las compa?¨ªas conf¨ªan cada vez m¨¢s estas tareas a controladores de carne y hueso. YouTube quiere contar con 10.000 personas para examinar los v¨ªdeos alojados bajo sus dominios.
Todas estas iniciativas son un avance, pero ¡°queda mucho por mejorar¡±, afirma Lalueza. Los sistemas que utilizan la inteligencia artificial son una v¨ªa efectiva, pero en una multinacional como Facebook, con 2.300 millones de usuarios activos, ¡°cualquier intento de control humano est¨¢ condenado al fracaso o a no tener la agilidad suficiente para que las medidas tengan efecto¡±.
Las plataformas prefieren la autorregulaci¨®n y, de paso, mantener lejos a los reguladores. Frente a quienes consideran que eliminar contenidos es una suerte de censura, Lalueza sostiene que la l¨ªnea roja no est¨¢ en la libertad de expresi¨®n sino en la libertad de agresi¨®n. ¡°Y en este punto, a las autoridades no deber¨ªa temblarles el pulso. El discurso del odio no puede quedar protegido por la libertad de expresi¨®n. No debe tener amparo porque socava el Estado de derecho¡±.
Para la Comisi¨®n Europea, el c¨®digo de conducta es ¡°un paso importante¡±, pero Lesaca percibe que se deber¨ªan actualizar las regulaciones legislativas para endurecer la publicaci¨®n de mensajes violentos o incitadores al odio en el entorno digital y exigir a las plataformas mucha m¨¢s rapidez para detectar y eliminar esos contenidos. Y da la voz de alerta: ¡°Los grupos terroristas, violentos y extremistas cada vez est¨¢n migrando sus contenidos a plataformas m¨¢s peque?as, pero que son igual de eficaces para viralizar y socializar sus contenidos¡±.
Iniciativas para sensibilizar a los adolescentes
Decir la palabra ¡°odio¡± no es suficiente para borrar un mensaje en Internet o hacer desaparecer un v¨ªdeo de una red social. Para considerarlo peligroso, el texto o las im¨¢genes deben ir acompa?ados de una amenaza, incitar a la violencia o hacer referencia a la raza, la religi¨®n o la condici¨®n sexual.
A trav¨¦s de la iniciativa Somos M¨¢s, Google ha dise?ado un programa para prevenir y sensibilizar a los usuarios de Internet sobre el discurso del odio y la radicalizaci¨®n violenta. El proyecto va dirigido a 30.000 adolescentes de 250 escuelas espa?olas. ¡°Somos M¨¢s¡±, apunta Google, ¡°tiene tres objetivos: hacer de Internet un espacio libre de odio, prevenir a los j¨®venes contra el radicalismo y sensibilizar a los adolescentes a trav¨¦s de creadores de YouTube¡±.
En Europa, el a?o pasado las empresas vinculadas a las tecnolog¨ªas de la informaci¨®n eliminaron el 70% de los mensajes con incitaci¨®n ilegal al odio notificadas por las ONG o los organismos p¨²blicos. Y en una gran mayor¨ªa de los casos (el 81%) se retiran en menos de 24 horas.
Facebook ha aplicado filtros fuera del entorno comunitario. La ONG Business for Social Responsability analiz¨® el impacto de la red social en Birmania y detect¨® un preocupante incremento de los mensajes de odio contra los rohingyas, la minor¨ªa musulmana. La compa?¨ªa admiti¨® que no hab¨ªa hecho los deberes a la hora de frenar la expansi¨®n de estos mensajes y contrat¨® a un centenar de empleados que hablaban birmano para identificar los mensajes xen¨®fobos y suprimirlos.
Tu suscripci¨®n se est¨¢ usando en otro dispositivo
?Quieres a?adir otro usuario a tu suscripci¨®n?
Si contin¨²as leyendo en este dispositivo, no se podr¨¢ leer en el otro.
FlechaTu suscripci¨®n se est¨¢ usando en otro dispositivo y solo puedes acceder a EL PA?S desde un dispositivo a la vez.
Si quieres compartir tu cuenta, cambia tu suscripci¨®n a la modalidad Premium, as¨ª podr¨¢s a?adir otro usuario. Cada uno acceder¨¢ con su propia cuenta de email, lo que os permitir¨¢ personalizar vuestra experiencia en EL PA?S.
En el caso de no saber qui¨¦n est¨¢ usando tu cuenta, te recomendamos cambiar tu contrase?a aqu¨ª.
Si decides continuar compartiendo tu cuenta, este mensaje se mostrar¨¢ en tu dispositivo y en el de la otra persona que est¨¢ usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aqu¨ª los t¨¦rminos y condiciones de la suscripci¨®n digital.
