La incitaci¨®n al odio en internet estalla tras acontecimientos pol¨¦micos, incluso contra colectivos no relacionados

Lo que pasa en la calle estalla en las redes y un estudio revela ahora una compleja relaci¨®n entre acontecimientos de la vida real y la incitaci¨®n al odio en internet. Al analizar 1.150 comunidades extremistas en seis redes sociales, los investigadores identificaron, por ejemplo, un pico en el n¨²mero de publicaciones incitando el odio durante las manifestaciones del movimiento Black Lives Matter (las vidas negras importan), procedente del asesinato del afroamericano George Floyd a manos de la polic¨ªa. Pero lo m¨¢s notable es que no solo dispar¨® el n¨²mero de ofensas racistas, sino que tambi¨¦n se multiplicaban las centradas en la identidad de g¨¦nero y en la orientaci¨®n sexual, tem¨¢ticas que tienen poca conexi¨®n con las protestas enmarcadas sobre todo por cuestiones raciales. Los resultados demuestran que el racismo va seguido por insultos aparentemente no relacionados, aunque no queda claro el porqu¨¦.

Yonatan Lupu, profesor de la Universidad George Washington y coautor del estudio publicado hoy en la revista Plos One, explica a EL PA?S que tras un acontecimiento, como manifestaciones o elecciones, hay una reacci¨®n que empieza en las plataformas no moderadas y ¡°muy r¨¢pidamente comienza a aparecer¡± en las redes sociales m¨¢s populares. ¡°Lo que ocurre en 4Chan [un foro de internet] no se queda en 4Chan. Est¨¢ muy claro que se traslada a Facebook, a Twitter y a otras. Es un problema realmente grave, porque el contenido llega a un p¨²blico mucho m¨¢s amplio y potencialmente ayuda a los extremistas a radicalizar a personas que a¨²n no lo eran¡±, subraya.

Tras las elecciones estadounidenses de noviembre de 2020, se produjeron varias oleadas de publicaciones extremistas en redes sociales: aumentaron los insultos hom¨®fobos hacia ciertos pol¨ªticos, y la vicepresidenta Kamala Harris fue objetivo de ofensas machistas. Pero fue despu¨¦s de la muerte de Floyd, el 25 de mayo de 2020, cuando se produjo un repunte: el ¨ªndice de incitaci¨®n al odio racial aument¨® un 250% a principios de junio y, a finales de a?o, segu¨ªa el doble de lo que hab¨ªa sido antes de este suceso. Lo m¨¢s sorprendente, seg¨²n califican los autores, es que los dem¨¢s tipos de incitaci¨®n al odio tambi¨¦n aumentaron dr¨¢sticamente, especialmente las relacionadas con identidad y orientaci¨®n sexual (75%), etnia y nacionalismo (60%), y g¨¦nero (50%).

El papel de los medios

Los medios de comunicaci¨®n desempe?an un papel especialmente importante porque generan visibilidad de estos acontecimientos y con eso crean una especie de pauta para las comunidades extremistas. ¡°Parte de la raz¨®n por la que vimos un aumento tan grande de la incitaci¨®n al odio durante las protestas de Black Lives Matter es porque recibieron mucha atenci¨®n de los medios. Eso no significa que no deber¨ªa haberla recibido, no es responsabilidad de los periodistas prevenir este tipo de cosas. En todo caso, es un deber de las plataformas, pero como algunas de ellas no est¨¢n moderadas, no les interesa hacerlo¡±, desarrolla Lupu.

El equipo de investigadores, de la Universidad George Washington y Google, combin¨® m¨¦todos manuales y autom¨¢ticos para analizar 59 millones publicaciones en comunidades y grupos de seis redes sociales: Facebook, Instagram, VKontakte, consideradas m¨¢s moderadas, aunque en diferentes grados, y Gab, Telegram y 4Chan, con escasa moderaci¨®n, entre junio de 2019 y diciembre de 2020. Los investigadores observaron y codificaron alrededor de 20.000 publicaciones para clasificar siete categor¨ªas de discriminaci¨®n ¡ªhomof¨®bica, racista, religiosa, ¨¦tnica, sexista, xen¨®foba y antisemita¡ª, seg¨²n las disposiciones estadounidenses para los delitos y la incitaci¨®n al odio, o bien si el contenido apoyaba o promov¨ªa ideolog¨ªas fascistas o de nacionalismo extremo. A partir de este an¨¢lisis manual, entrenaron el algoritmo para diferenciar si un determinado contenido se trataba de un insulto o una discusi¨®n.

La moderaci¨®n en las plataformas m¨¢s populares es una arma de doble filo. Son esenciales y tienen que existir, pero si los autores de los insultos son expulsados debido a mayor moderaci¨®n de contenido, tienen otros sitios a donde ir y encontrar¨¢n un lugar donde pueden decir de todo, sin ninguna represalia, y eso intensificar¨ªa su radicalizaci¨®n y el acoso.

Opacidad en el origen

El estudio no ha rastreado a los usuarios, por lo que ¡°no hay pruebas directas¡± de como ocurre esta migraci¨®n desde las redes sociales m¨¢s moderadas, como Facebook, para las que son menos restrictivas, como Telegram. Aun as¨ª, investigaciones anteriores llevadas a cabo por el equipo de Lupu han desvelado unas estrategias para captar audiencia y huir de la moderaci¨®n. ¡°Cuando los extremistas todav¨ªa est¨¢n en plataformas convencionales, ellos crean un a especie de espejo con Telegram o Gab y publican diciendo ¡®si nos eliminan de aqu¨ª, nos trasladaremos all¨ª¡¯¡±, comenta el profesor de ciencias pol¨ªticas.

S¨ªlvia Maj¨®-V¨¢zquez, investigadora postdoctoral del Instituto Reuters para el estudio del periodismo de la Universidad de Oxford, coincide en que la comunidad cient¨ªfica carece de datos concretos sobre las consecuencias de las plataformas no moderadas en la formaci¨®n de la opini¨®n p¨²blica y que se deber¨ªa poner m¨¢s atenci¨®n a ellas. ¡°Sabemos que se transita de plataformas abiertas a las cerradas para movilizar capital humano, para coordinar actividades de protestas y contra-protestas. Pero no sabemos qu¨¦ est¨¢ pasando ah¨ª. Hay algunas se?ales que nos indican, pero no podemos cuantificar porque no tenemos los datos ni el acceso a ellas¡±, explica la experta.

Pese a que las plataformas moderadas son obligadas a actuar de forma inmediata para remover contenidos en determinados periodos de tiempo, Maj¨®-V¨¢zquez reconoce que es dif¨ªcil identificar los discursos de odio a trav¨¦s de los mecanismos autom¨¢ticos. ¡°En el lenguaje t¨®xico hay muchos elementos de sarcasmo, de iron¨ªa, que transciende el lenguaje literal. Eso hace con que sea m¨¢s dif¨ªcil de detectarlo, por lo tanto, de tomar acciones por parte de las plataformas. Eso no significa que no tengan deberes que hacer¡±, sostiene.

?Deber¨ªan los gobiernos involucrarse m¨¢s en la regulaci¨®n del contenido? Yonatan Lupu argumenta que no es una respuesta f¨¢cil. Mientras que el discurso de odio es extremamente preocupante, tambi¨¦n podr¨ªa ser igualmente peligroso si los gobiernos se implican demasiado en censurar los contenidos. ¡°Desafortunadamente, no estoy seguro de cu¨¢l es el equilibrio adecuado¡±, concluye el profesor.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.