Facebook toler¨® contenido potencialmente violento, como discursos de odio en pa¨ªses en guerra, en aras de su crecimiento

Facebook se ha convertido en un aprendiz de brujo al que el ¨¦xito se le va de las manos. La revelaci¨®n de documentos internos de la red social seg¨²n los cuales sus ejecutivos permitieron por acci¨®n u omisi¨®n la publicaci¨®n de desinformaci¨®n y contenido pol¨¦mico se ha vuelto como un bumer¨¢n contra la compa?¨ªa. Estas informaciones le han ocasionado la peor crisis de reputaci¨®n de su historia, que ya acarreaba episodios oscuros en torno a la privacidad de los datos como el de Cambridge Analytica.

Igual que las tabacaleras en su d¨ªa, o la farmac¨¦utica que fabric¨® el medicamento responsable de la grave crisis de opioides en EE UU ¨Dtodas negando la posibilidad de la adicci¨®n¨D, Facebook se enfrenta al gran momento de la verdad: el de que, tras la id¨ªlica comunidad global que ha pretendido crear, ha contribuido a da?ar la convivencia por ignorar contenido potencialmente violento como discursos de odio en pa¨ªses donde esos mensajes pueden tener graves consecuencias, seg¨²n se desprende de las revelaciones de documentos.

La constataci¨®n del descuido no s¨®lo se aplica a los EE UU de Donald Trump, con el apogeo de las fake news gracias a las redes sociales y consecuencias tales como el asalto al Capitolio del 6 de enero, o el a¨²n reducido porcentaje de vacunaci¨®n contra la covid-19 por culpa de teor¨ªas acient¨ªficas a las que Facebook ha contribuido a dar p¨¢bulo. La falta de control de la tecnol¨®gica sobre sus contenidos tambi¨¦n ha hecho estragos en la India, al potenciar la pol¨ªtica de rehinduificaci¨®n del pa¨ªs por parte del nacionalista Narendra Modi. O en Myanmar, atizando la persecuci¨®n de la comunidad rohiny¨¢. Tambi¨¦n en Afganist¨¢n, Yemen o Etiop¨ªa.

As¨ª se desprende de la ¨²ltima tanda de documentos internos filtrados a un consorcio de medios internacionales, conocidos ya como los papeles Facebook. Un tema central es determinar si el propio funcionamiento de la plataforma ha originado el problema; es decir, si las herramientas que han hecho de Facebook lo que es ¨Del bot¨®n de like y el de compartir contenido, tan intuitivos¨D han multiplicado exponencialmente el riesgo en ausencia de una adecuada moderaci¨®n de las publicaciones.

Las revelaciones, basadas en entrevistas a antiguos empleados e informes internos, constatan c¨®mo la expansi¨®n global de la compa?¨ªa ¨Dpresente en m¨¢s de 190 pa¨ªses y m¨¢s de 160 idiomas, con m¨¢s de 2.800 millones de usuarios al mes¨D descuid¨® el control del contenido a causa, en muchos casos, de un n¨²mero insuficiente de moderadores con adecuado conocimiento del idioma y el contexto locales para identificar publicaciones potencialmente peligrosas ¨Do cuando menos dudosas¨D en numerosos pa¨ªses en desarrollo; en 2019, adem¨¢s, la empresa recort¨® su presupuesto para contratar a moderadores, en favor de las m¨¢quinas.

Las filtraciones tambi¨¦n revelan que los sistemas de inteligencia artificial (IA) que Facebook emplea para impedir dicho contenido a menudo no son eficaces, pero tampoco las herramientas para el posible aviso de un usuario. La descripci¨®n arroja un Facebook hipot¨¦ticamente blindado a las denuncias, al que se suma, adem¨¢s, la carta blanca concedida a unos cinco millones de perfiles, considerados usuarios VIP, para los que las reglas de moderaci¨®n sencillamente no existir¨ªan, como adelant¨® el mes pasado el diario The Wall Street Journal. Entre los usuarios importantes se hallar¨ªan conspicuos representantes de la alt righ estadounidense y del c¨ªrculo m¨¢s ¨ªntimo de Trump, como quien fuera su estratega, Steve Bannon, y conocidos blogueros y portales informativos en su ¨®rbita.

La hipot¨¦tica manga ancha de Facebook -casi siempre en favor de pol¨ªticos y planteamientos conservadores, como demuestran los casos de EE UU y la India- adquiere un car¨¢cter m¨¢s peliagudo en pa¨ªses donde el riesgo de la inestabilidad y la violencia es real. En una revisi¨®n publicada el a?o pasado en el foro de mensajes interno sobre los m¨¦todos para identificar excesos, un empleado inform¨® de ¡°brechas significativas¡± especialmente en Myanmar -el papel de Facebook propalando el discurso de odio que azuz¨® el genocidio rohiny¨¢ se demostr¨® ya en 2018- y Etiop¨ªa, una de cuyas regiones, Tigray, vive un conflicto civil cada vez m¨¢s cruento. La criba de los algoritmos ¡°clasificadores¡±, que detectan contenido inadecuado, se revel¨® in¨²til en el escrutinio de mensajes en los idiomas o dialectos hablados en la antigua Birmania o Etiop¨ªa; en este caso, con abundantes amenazas de muerte.

Las brechas de seguridad de Facebook se resumen en cuatro: la incapacidad ling¨¹¨ªstica de entender, y por ende moderar, millones de publicaciones de usuarios en pa¨ªses de habla no inglesa; la incomprensi¨®n de sus propios algoritmos; la inacci¨®n a la hora de intervenir all¨ª donde los programas de IA no llegan (seg¨²n un informe de marzo, la compa?¨ªa s¨®lo adopta medidas entre el 3% y el 5% de los casos de discursos de odio, y en el 0,6% de las publicaciones de contenido violento); y un palpable descuido, desidia incluso, en v¨ªsperas del asalto al Capitolio; de hecho, la compa?¨ªa desactiv¨® ciertas salvaguardas de emergencia impuestas para las elecciones de noviembre de 2020, y tuvo que activar r¨¢pidamente algunas cuando la violencia estall¨® el 6 de enero. La incapacidad de abordar la actividad online de las hordas trumpistas caus¨® malestar en el seno de la compa?¨ªa.

Los documentos filtrados pertenecen a la confesi¨®n de Frances Haugen, exejecutiva de Facebook, el gigante tecnol¨®gico que m¨¢s r¨¢pidamente -en solo 17 a?os- ha superado la cota del bill¨®n de d¨®lares de valor de mercado, seg¨²n Bloomberg. Haugen ha comparecido este lunes ante un comit¨¦ del Parlamento brit¨¢nico, dos semanas despu¨¦s de hacerlo ante el Congreso de EE UU. Portavoces de la compa?¨ªa han intentado minimizar el golpe a su reputaci¨®n subrayando, en un comunicado, que nunca ha puesto el beneficio por delante de la seguridad o el bienestar de la gente. Antes, al contrario, ¡°hemos invertido 13.000 millones [de d¨®lares] y tenemos m¨¢s de 40.000 empleados dedicados solo a una cosa: garantizar la seguridad de la gente en Facebook¡±.

El presupuesto de las grandes tecnol¨®gicas en software, hardware y servicios de IA podr¨ªa alcanzar los 342.000 millones de d¨®lares este a?o, seg¨²n International Data Corp. Dicho gasto en IA va camino de superar el list¨®n de los 500.000 millones en 2024, seg¨²n la misma fuente.

La confesi¨®n de Haugen y el resto de exempleados de Facebook coloca al gigante tecnol¨®gico frente a sus demonios, tras haber podido remontar en parte una ofensiva judicial por pr¨¢cticas monopol¨ªsticas. Igual que en su d¨ªa las tabacaleras de EE UU, o la farmac¨¦utica responsable de la crisis de opioides por sus agresivas campa?as de marketing -y el enga?o manifiesto de que el f¨¢rmaco no causaba adicci¨®n-, Facebook parece, seg¨²n la informaci¨®n filtrada, haber priorizado la monetizaci¨®n sin dotarla de salvaguardas; despreciado la seguridad -incluso la integridad f¨ªsica de muchas personas- por hacer caja. Seg¨²n el exresponsable para Oriente Pr¨®ximo y Norte de ?frica, los objetivos de crecimiento global fueron ¡°coloniales¡±, en el sentido de favorecer a cualquier precio la hegemon¨ªa y el dominio sobre millones de s¨²bditos digitales. M¨¢s del 90% de los usuarios activos de Facebook viven fuera de EE UU y Canad¨¢.