?Cu¨¢nto odio hay en Twitter? No mucho, pero es constante y hay para todos

Espa?a tiene un dep¨®sito fijo de odio. Es peque?o, pero constante, tiene sus objetivos diarios y una gran visibilidad. Es como si el gran ca?¨®n del odio espa?ol mirara cada ma?ana la actualidad y pensara: ?A por qui¨¦n vamos hoy? Si no hay blancos frescos, siempre hay un pol¨ªtico o un futbolista que algo habr¨¢ hecho mal.

El ¨²ltimo domingo, por ejemplo, fue f¨¢cil. Hab¨ªa un candidato sencillo: un Bar?a-Madrid. Los receptores principales de odio fueron el @realmadrid y @luissuarez9. El periodista @As_Tomasroncero hizo un tuit sobre una entrada de Luis Su¨¢rez a Nacho que merec¨ªa, en su opini¨®n, la expulsi¨®n y recibi¨® bastantes cr¨ªticas, como tambi¨¦n el programa @elchiringuitotv.

El programa que permite este an¨¢lisis es obra del ingeniero inform¨¢tico y cient¨ªfico de datos Juan Carlos Pereira Kohatsu, de 24 a?os. Dedic¨® sus trabajos de final de grado y de m¨¢ster al odio en las redes. Despu¨¦s de a?o y medio de trabajo su herramienta ha acabado instalada en el Ministerio del Interior.

El algoritmo rastrea unos 6 millones de tuits en 24 horas con un filtro que incluye m¨¢s de 500 palabras vinculadas a insultos y a grupos de v¨ªctimas de odio: pol¨ªtica, g¨¦nero, etnicidad, discapacidad, religi¨®n y deportes. Pereira pasa su algoritmo por ese conjunto de tuits. El resultado es una muestra del 33% de odio del d¨ªa: esa muestra final de tuits se mantiene en d¨ªas distintos con una incre¨ªble estabilidad de entre 3.000 y 4.000 tuits. Como es una muestra del 33%, el total de tuits con odio en Espa?a ronda los 10.000 diarios. Seg¨²n el algoritmo, por tanto, el porcentaje de odio en Twitter en Espa?a est¨¢ por debajo del 0,2% de los tuits de un d¨ªa.

Pero la cantidad no es el problema. El problema es que se ven mucho y afectan a sus receptores y a la salud de la conversaci¨®n.

Los tuits con odio son mayoritariamente respuestas a otros tuits, por lo que deber¨ªa verlos poca gente. Pero no es as¨ª. A veces son retuiteados para verg¨¹enza p¨²blica, a veces dan origen a batallas o son muy visibles porque son respuestas a tuits c¨¦lebres. "Nuestros sesgos hacen que nos acordemos m¨¢s de un tuit de odio. Le damos mucho m¨¢s peso", dice Miguel Camacho, cotutor del trabajo de m¨¢ster de Pereira y jefe de la Oficina Nacional de Lucha contra Delitos de Odio, del Ministerio del Interior.

En esa oficina es donde est¨¢ instalada la aplicaci¨®n. Una funcionaria conoce su funcionamiento y trabaja junto a Pereira cuando necesita algo. "Estamos pensando en c¨®mo usar la herramienta. Una opci¨®n es publicar informes peri¨®dicos o m¨¢s concretos para d¨ªas especiales. Tambi¨¦n podemos dar informaci¨®n al tercer sector o formaci¨®n a nuestros cuerpos. O avisar de que un espacio de culto necesita m¨¢s patrullaje porque hay movimiento en la red", dice Camacho.

Hay insultos con sus matices

"Nuestros sesgos hacen que nos acordemos m¨¢s de un tuit de odio. Le damos mucho m¨¢s peso"

En el odio tambi¨¦n hay matices. La herramienta da un ¨ªndice de 0 a 1 a cada tuit. Por debajo de 0,7 no lo considera odio. Los odios por encima del 0,9 admiten pocas dudas, aunque algunos est¨¦n m¨¢s cargados de basura que otros. Estos tres por ejemplo recibieron 0,92: "5 goles lo que m¨¢s le puede joder a un facha asqueroso madridista! A mamarla prepotentes!", "Era roja del puto asesino perro basura de Su¨¢rez" o "Disfrutad catalanes de mierda a ver si ma?ana os meten una bomba y vol¨¢is en pedacitos", en cambio "Maldita lisiada! Est¨¢s loca de atar" era 0,7. Los emoticonos tambi¨¦n son valores para el algoritmo.

El programa no pretende ser exhaustivo, sino convertirse en un term¨®metro que observe el odio y detecte picos o tendencias. No se trata de seguir a los odiadores mayores para borrar sus tuits. Esa tarea recae, en todo caso, en Twitter, que tiene el dilema eterno de averiguar d¨®nde acaba la libertad de expresi¨®n y empieza el insulto. El odio, aunque no sea delito, perjudica la salud de la red y Twitter lleva a?o y medio intentando limitarlo. Los datos de la propia red tambi¨¦n revelan un odio muy concentrado: la mayor¨ªa de los tuits problem¨¢ticos los emite menos del 1% de las cuentas. Eso no implica necesariamente que sean pocos tuits, sino que los emite relativamente poca gente.

Este algoritmo est¨¢ destinado a medir ese odio global y contra grupos. Es evidente que por debajo de ese odio ¡°mayoritario¡± hay odio concreto, individual, donde el odio machista es quiz¨¢ el gran protagonista. La herramienta detecta ese odio, pero en el gr¨¢fico solo destacan los grandes nodos receptores, que pueden ser v¨ªctimas por ideolog¨ªa, g¨¦nero, religi¨®n u otros. La observaci¨®n del odio peque?o, dirigido, queda m¨¢s en manos de Twitter y de las denuncias que cada usuaria puede hacer.

El odio que campa por Twitter no afecta igual a todos los usuarios. Gabriel Rufi¨¢n, diputado de ERC, y probablemente el pol¨ªtico espa?ol que m¨¢s odio recibe sin ser l¨ªder de su partido, no siente que la red sea un problema grave: "Twitter es una barra de bar. Todo es extremo. Es m¨¢s peligroso e insultante un discurso de Rivera o Abascal que un trol de Twitter", dice.

Los hechos recientes de la sinagoga de Pittsburgh,?los paquetes bomba enviados desde Florida en Estados Unidos y la elecci¨®n de Bolsonaro en Brasil han puesto a¨²n m¨¢s el foco en el odio en l¨ªnea y en su posible expansi¨®n. Los dos acusados por los primeros hechos mencionados recibieron, repitieron y celebraron mensajes de odio en redes. ?Es peor el odio virtual que en la vida real? Es claramente m¨¢s accesible y el anonimato da libertad. Esa facilidad para exhibir el odio puede tener consecuencias, seg¨²n Christopher Bail, profesor y director del Laboratorio de Polarizaci¨®n de la Universidad de Duke: "En la medida en que los extremistas son m¨¢s que los moderados en muchas redes sociales ¨Co al menos m¨¢s insistentes al expresar sus puntos de vista extremos¨C pueden contribuir a los estereotipos y el tribalismo pol¨ªtico que otros usuarios pueden malinterpretar como representativo del otro bando", explica Bail.

?El odio en las redes llega a la vida real?

Seg¨²n el algoritmo, el porcentaje de odio en Twitter en Espa?a est¨¢ por debajo del 0,2% de los tuits de un d¨ªa

?Puede ese extremismo llevar el odio a la vida real? ?Tiene consecuencias fuera de internet? "Es una pregunta muy dif¨ªcil", dice Kevin Munger, investigador en la Universidad de Princeton. "Un problema mayor es la amplificaci¨®n de este comportamiento por los medios: los trols apuntan a periodistas, lo que les lleva a escribir art¨ªculos sobre odio y trols, as¨ª haci¨¦ndoles parecer m¨¢s poderosos de lo que son", explica. ?Hay entonces m¨¢s odio ahora que antes? Los difusores de odio "siempre han estado ah¨ª, pero antes (acertadamente) no sal¨ªan en los medios. Internet les ha permitido encontrar a otros con odio", dice Munger.

La herramienta de Pereira puede a¨²n mejorarse. Su perfeccionamiento depende de si obtiene fondos europeos. Ahora no funciona autom¨¢ticamente, sino solo cuando se quiere medir un d¨ªa. Puede tambi¨¦n afinarse: acierta un 77% de las veces en las que predice odio. Adem¨¢s, el algoritmo aprender¨¢ a buscar s¨ªmbolos de odio en fotos o incluso a leer memes y clasificarlos. Tambi¨¦n puede ampliarse a otras redes, como Instagram. All¨ª podr¨ªa crearse un algoritmo para que encontrase patrones en el ciberacoso.

"Siempre ha estado ah¨ª, pero antes (acertadamente) no sal¨ªa en los medios. Internet? ha permitido encontrar a otros que odian"

Otro aspecto que se puede mejorar es el etiquetado de los tuits para que el algoritmo aprenda qu¨¦ es y qu¨¦ no es odio. Este proceso demuestra los riesgos de aplicar la inteligencia artificial a una base de datos sesgada. ?C¨®mo se entren¨® este algoritmo para distinguir odio? Seis mujeres de edad parecida etiquetaron a mano 6.000 tuits: a un lado los que eran odio; a otro, los que no. No siempre coincid¨ªan. As¨ª que, como dice Lara Quijano, cotutora del trabajo de Pereira e investigadora en la Universidad Aut¨®noma de Madrid, "el algoritmo piensa como esas seis personas, que son mujeres, de una franja de edad".

Esto puede ser algo menor, pero no lo es. Por ejemplo, este tuit: "Os he contado la historia del guiri detr¨¢s m¨ªo? Que hombre m¨¢s subnormal por favor". ?Es odio? Entre las etiquetadoras hubo empate. ?Por qu¨¦? El tuit respond¨ªa a otro donde se llamaba "feminazi" a la autora de la frase. ?Rebaja eso la calificaci¨®n de odio? Depende de cada cual. Por ejemplo, la herramienta dio un 0,2 de odio a "La llam¨¢is feminazi, pero los nazis sois vosotros, dais lastima, sois vomitivos".