El debate por la censura en las redes sociales, un arma de doble filo

La noche del 1 de julio de 2018, cuando sali¨® a celebrar su triunfo en las elecciones presidenciales, Andr¨¦s Manuel L¨®pez Obrador mencion¨® su gratitud con las ¡°benditas redes sociales¡± que le hab¨ªan permitido comunicarse con sus votantes. Dos a?os y medio despu¨¦s, en enero de 2021, el mandatario mexicano dec¨ªa que plataformas como Twitter se hab¨ªan convertido en una especie de ¡°Santa Inquisici¨®n¡± contra la libertad de expresi¨®n y que no es posible que empresas privadas decidan sobre el derecho a difundir mensajes.

Entre un momento y otro, lo ¨²nico que parece haberse mantenido intacto es el car¨¢cter sagrado que el presidente atribuye a las redes: de benditas a santas inquisidoras, las grandes plataformas tecnol¨®gicas se han convertido en un problema para las democracias del mundo y una preocupaci¨®n para los l¨ªderes pol¨ªticos, que las miran con benevolencia o con recelo seg¨²n el contexto y la coyuntura electoral en la que se encuentren.

La reciente ofensiva del Gobierno mexicano contra las redes empez¨® a principios de enero, cuando Twitter y Facebook decidieron suspender las cuentas de Donald Trump por incitar a la violencia en el Capitolio. L¨®pez Obrador calific¨® la medida como censura y dijo que ordenar¨ªa estudiar un plan para crear una red social nacional, con el fin de ¡°garantizar la comunicaci¨®n y la libertad de expresi¨®n¡±. Lo que inici¨® como una cruzada soberana, sin embargo, fue derivando en una pulseada de la que parece imposible sustraer el horizonte de elecciones intermedias del pr¨®ximo junio: a finales de enero, el presidente se?al¨® al director de pol¨ªticas p¨²blicas de Twitter por ser ¡°simpatizante o militante muy cercano¡± del Partido de Acci¨®n Nacional, dijo que esperaba que hiciera ¡°su trabajo de manera profesional¡± y que no promoviera ¡°la creaci¨®n de granjas de bots¡±. Los d¨ªas siguientes, Twitter bloque¨® contenido o suspendi¨® a varios usuarios, entre ellos a tres cuentas afines al Gobierno con decenas de miles de seguidores, bajo el argumento de que infring¨ªan sus reglas de uso sobre spam. El presidente del partido oficialista, Mario Delgado, dijo que estos usuarios hab¨ªan sido censurados.

¡°Me preocupa ese discurso de ¡®mientras me favorezcan, las redes son maravillosas, pero si no lo hacen son horrorosas¡¯. Ese discurso es muy preocupante de cara a las elecciones¡±, dice Rossana Reguillo, investigadora, docente y coordinadora de Signa Lab, un laboratorio de la Universidad Jesuita de Guadalajara que ha analizado la red #RedAMLOve, una red de seguidores en Twitter que amplifica el discurso de L¨®pez Obrador.

Por la #RedAMLOve han pasado muchos usuarios pero tambi¨¦n bots automatizados para darle m¨¢s eco a los ataques del presidente a la prensa, que varias veces ha calificado de burguesa, malintencionada, o corrupta. ¡°Durante enero y febrero de 2019 se convirtieron varias veces en tendencias que acapararon gran parte de la discusi¨®n online¡±, dice uno de los estudios sobre la red. Pero el Gobierno de L¨®pez Obrador, apunta Reguillo, ha perdido influencia en redes en los ¨²ltimos meses. ¡°En el laboratorio venimos estudiando este fen¨®meno desde enero del 2019, y lo que hemos visto es c¨®mo durante el 2019 y primer tercio del 2020, la llamada 4T o la #RedAMLOve ganaban en narrativa, apabullaban. Esto ha disminuido, as¨ª que pensamos que o bien fue inicialmente artificial o se acabaron financiamientos para esto¡±.

La preocupaci¨®n por el poder cada vez mayor de las redes, sobre todo en ¨¦poca electoral, es un tema que desvela a expertos y activistas en todo el planeta. ¡°Este es un problema donde el Gobierno ha perdido poder totalmente. Perdi¨® el control y se siente indefenso y no es el ¨²nico que se siente as¨ª¡±, dice la abogada guatemalteca Renata ?vila, especialista en tecnolog¨ªa y derechos humanos e integrante del equipo legal que defiende a Julian Assange y Wikileaks.

La misma preocupaci¨®n que plantea el Gobierno mexicano puede escucharse actualmente en pa¨ªses como Alemania o Francia, asegura ?vila, y se?ala que esta situaci¨®n nace de un problema com¨²n a todos: la negligencia y la comodidad con la que Gobiernos de cualquier orientaci¨®n ideol¨®gica dejaron en manos privadas ¡°la infraestructura digital cr¨ªtica con la que se comunican con sus ciudadanos¡±. Por eso mismo, ?vila se entusiasm¨® cuando ley¨® que L¨®pez Obrador propon¨ªa desarrollar una red social nacional en un pa¨ªs como M¨¦xico, ¡°que tiene toda la capacidad t¨¦cnica para hacer un proyecto de esta envergadura¡±, dice, siempre y cuando haya voluntad pol¨ªtica e inversi¨®n.

Pero con el paso de los d¨ªas, las declaraciones sobre la creaci¨®n de una plataforma propia han desaparecido del discurso oficial y han dado lugar a un proyecto de regulaci¨®n liderado por el senador oficialista Ricardo Monreal, que parece buscar una soluci¨®n r¨¢pida a un problema complejo. ¡°Las redes utilizan insumos p¨²blicos como el espacio radioel¨¦ctrico o la fibra ¨®ptica de Internet y debemos garantizar que se respete el derecho a que digas lo que digas no te censuren¡±, dijo Monreal a EL PA?S, y asegur¨® que la regulaci¨®n (una modificaci¨®n a la Ley Federal de Telecomunicaciones y Radiodifusi¨®n) estar¨ªa lista en los pr¨®ximos tres meses. Antes de las elecciones de junio de 2021. Ante la pol¨¦mica generada, L¨®pez Obrador asegur¨® que no deb¨ªan regularse las redes sociales y se desmarcaba, en cierta manera, de la iniciativa de Monreal, pero no concret¨® el por qu¨¦ de su cambio de postura.

Experimentos fallidos y problemas reales

La semana pasada, el senador Monreal explic¨® en entrevista que su propuesta consist¨ªa esencialmente en que sea un ¨®rgano constitucional el que decida ¡°si un contenido o una cuenta afecta la estabilidad social o hace llamados a la ilegalidad¡±, y no ¡°los due?os de las redes¡±. Para eso, dijo, propon¨ªan ampliar las facultades del Instituto Federal de Telecomunicaciones (IFT), responsable de controlar la radio y televisi¨®n, y anticip¨® que esta semana hablar¨ªa con institutos de investigaci¨®n y acad¨¦micos. Sin embargo, apenas cuatro d¨ªas despu¨¦s, el legislador public¨® un texto con su propuesta de regulaci¨®n. Seg¨²n ese proyecto, las redes sociales con m¨¢s de un mill¨®n de usuarios ¡ªes decir, no solo gigantes como Facebook sino otras mucho m¨¢s peque?as¡ª, que se definen como ¡°redes sociales relevantes¡±, necesitar¨ªan autorizaci¨®n del IFT para prestar su servicio en M¨¦xico y, adem¨¢s, una autorizaci¨®n del mismo organismo para establecer ¡°los t¨¦rminos y condiciones¡± de su servicio.

El texto de la iniciativa se?ala que las redes deber¨¢n asegurarse que ¡°se evite la propagaci¨®n de noticias falsas¡± o la ¡°difusi¨®n de mensajes de odio¡±, dos expresiones cuya vaguedad ha alertado a los expertos. ¡°Esto es algo que ya han se?alado reiteradamente las distintas relator¨ªas para la libertad de expresi¨®n: no podemos tener esos t¨¦rminos tan amplios, tan vagos, sin ning¨²n tipo de claridad,¡± dijo a El PA?S Vladimir Cort¨¦s, oficial del programa de derechos digitales en la organizaci¨®n Art¨ªculo 19. Esta ambig¨¹edad, advierte Cort¨¦s, puede dar pie a que se eliminen ¡°mensajes leg¨ªtimos que podr¨ªan categorizarse como mensajes de odio, o cr¨ªticas, o disensos, o investigaciones period¨ªsticas que se cataloguen como noticias falsas¡±. Para Luis Fernando Garc¨ªa, director de la Red en Defensa de los derechos digitales en M¨¦xico, este es el punto m¨¢s peligroso de la iniciativa: ¡°Es un mecanismo de censura encubierto¡±, escribi¨® el lunes por la noche, poco despu¨¦s de que Monreal difundiera el texto de su iniciativa.

De acuerdo con defensores de la libertad de expresi¨®n que han seguido el proyecto, el legislador parece no haber considerado la profunda complejidad que implicar¨ªa este tipo de regulaci¨®n. ¡°Ning¨²n pa¨ªs democr¨¢tico le exige autorizaci¨®n a una plataforma o a una p¨¢gina de internet para poder difundir informaci¨®n en internet. Es claramente inconstitucional y violenta la libertad de expresi¨®n¡±, opina Garc¨ªa.

El proyecto dado a conocer por Monreal establece tambi¨¦n que, en caso de que una red decida cerrar una cuenta o borrar un contenido, y la misma red no resuelva el reclamo de su usuario en menos de 24 horas, el usuario puede acudir al IFT para ¡°interponer la queja correspondiente¡±. Este punto clave sobre regulaci¨®n de contenidos asume que todas las redes tienen un sistema de reclamos centralizado, como Facebook o Twitter, sin considerar redes como Wikipedia en las que la moderaci¨®n funciona de forma m¨¢s descentralizada.

¡°Hay un desconocimiento tanto sobre el espacio digital como la gobernanza de internet¡±, dice Cort¨¦s, con respecto al limitado control que pueda tener IFT sobre las redes globales. Al igual que otros expertos consultados, ¨¦l no ha visto que haya un partido pol¨ªtico que est¨¦ censurando activamente a un grupo en particular en las redes, pero s¨ª le preocupa la falta de transparencia de las empresas al decidir cu¨¢ndo cerrar una cuenta o no. ¡°Pero seamos muy claros: la decisi¨®n de si se suspende una cuenta no debe recaer en el Estado¡±.

Tener claro que el Estado no es el mejor ¨¢rbitro del debate en las redes sociales no resuelve el problema fundamental sobre c¨®mo construir un debate digital m¨¢s saludable que no est¨¦ plagado de desinformaci¨®n, manipulaciones o discursos de odio. La regulaci¨®n internacional sobre libertad de expresi¨®n es muy clara sobre qu¨¦ contenidos no son debatibles, como la pornograf¨ªa infantil o los discursos xenof¨®bicos que promueven asesinar a minor¨ªas. Pero es menos f¨¢cil definir qu¨¦ es desinformaci¨®n o qu¨¦ es bullying, y controlarlo en millones de usuarios alrededor del mundo que publican en cada segundo.

¡°Los expertos en esta batalla llevamos por lo menos desde 2016 intentando describir qu¨¦ es fake news, qu¨¦ es desinformaci¨®n, y no hemos podido¡± dice Cristina Tard¨¢guila, directora adjunta de la Red Internacional de Verificaci¨®n de Informaci¨®n (IFCN, por su sigla en ingl¨¦s), la red que re¨²ne a 80 organizaciones que verifican informaci¨®n alrededor del mundo. ¡°O nos quedamos muy cortos, con una definici¨®n sencilla que deja al descubierto un mont¨®n de casos, o una definici¨®n muy larga que pone en riesgo el humor, el arte, o los chistes¡±.

Para resolver el dilema, los pa¨ªses que le dan m¨¢s poder al Ejecutivo pueden terminar criminalizando a los usuarios que comparten informaci¨®n que consideran falsa, o contraria a los intereses del Gobierno. Es el caso de Nicaragua, donde una ley de ciberdelitos aprobada en 2020 permite penalizar ¡ªcon multas o prisi¨®n¡ª a los usuarios que publiquen informaci¨®n que genera ¡°zozobra en la poblaci¨®n¡±, o que ponga en riesgo ¡°la estabilidad econ¨®mica, el orden p¨²blico, la salud p¨²blica o la seguridad soberana¡±.

Otros casos de moderaci¨®n de contenidos en Am¨¦rica Latina parecen experiencias m¨¢s interesantes. El Congreso de Brasil, por ejemplo, aprob¨® en 2014 un Marco Civil de Internet que le da m¨¢s seguridad jur¨ªdica a los usuarios y a las plataformas. ¡°La piedra clave de ese modelo es que una persona no puede ser demandada por el contenido que publica, y la plataforma tampoco puede ser demandada si no ha recibido previamente una orden judicial para remover contenido¡±, explic¨® desde S?o Paulo el director de la organizaci¨®n InternetLab, Francisco Brito Cruz. ¡°La plataforma s¨®lo es responsable jur¨ªdicamente si no quit¨® un contenido despu¨¦s de una orden judicial que la ordena, despu¨¦s de estudiar el caso¡±.

Un riesgo de esta salida es que los jueces pueden terminar inundados por demandas, muchas veces m¨¢s de actores pol¨ªticos que de ciudadanos. La empresa digital CTRL+X, que intenta seguir el rastro de estos litigios en Brasil, ha identificado que casi tres mil de 5.242 acciones judiciales son hechas por pol¨ªticos. Del total, 77% de los casos son una acusaci¨®n por difamaci¨®n. ¡°En los ¨²ltimos cinco a?os hemos alcanzado unas cifras r¨¦cord de peticiones en las cortes para eliminar contenido, y sobre todo muchas peticiones del gobierno¡±, cuenta Britto Cruz. Tambi¨¦n existe el riesgo de que los jueces sean cooptados por un partido pol¨ªtico, y que se vuelva a caer en el problema inicial: que sea un partido el que decida qu¨¦ amerita ser censurado, y qu¨¦ no.

Desde 2018, la Red Internacional de Verificaci¨®n de Informaci¨®n sigue intentos de regulaci¨®n en m¨¢s de 50 pa¨ªses, y ha ido elaborando una gu¨ªa a partir de estos casos. ¡°Basado en esta gu¨ªa, que ya lleva tres a?os¡±, cuenta Tard¨¢guila, ¡°te puedo garantizar que no hay ninguna experiencia que venga de leyes que haya derivado en ¨¦xito para disminuir la desinformaci¨®n¡±.

La responsabilidad de las redes

Despu¨¦s de las elecciones presidenciales del 2016 en Estados Unidos, en las que las campa?as de desinformaci¨®n en redes sociales tuvieron un rol central, plataformas como Twitter o Facebook han intentado moderar su contenido con algoritmos que permitan identificar qu¨¦ contenido puede ser ofensivo o violento. Pero el uso de la inteligencia artificial tambi¨¦n ha derivado en conflictos y casos de supresi¨®n de contenidos denunciados por los usuarios. En octubre del 2020, por ejemplo, Facebook borr¨® una campa?a contra el c¨¢ncer de mama en Brasil porque las fotograf¨ªas mostraban pezones femeninos y el algoritmo identific¨® que violaban ¡°la norma comunitaria de Facebook sobre desnudos y actividad sexual de adultos¡± (despu¨¦s de un proceso de apelaci¨®n, el contenido fue restaurado).

Una de las estrategias desarrolladas por Facebook para responder a las cr¨ªticas fue crear un Consejo Asesor de Contenido: una especie de Corte Suprema, independiente de la empresa, en la que sus magistrados fallan en casos emblem¨¢ticos en los que se haya quitado contenido de la plataforma. El mes pasado publicaron su decisi¨®n en los primeros cinco casos (un post con discurso de odio contra la poblaci¨®n Azerbaijan, otro con posible desinformaci¨®n sobre curas contra el coronavirus, o el caso de c¨¢ncer de mama en Brasil).

¡°Se trataba de casos en los cuales era muy importante revisar si Facebook estaba aplicando adecuadamente el derecho internacional de los derechos humanos¡¯', dijo a EL PA?S una de las integrantes del Consejo Asesor, la abogada colombiana Catalina Botero, especialista en libertad de expresi¨®n. ¡°Nos permit¨ªan identificar si la forma en la que Facebook estaba haciendo la moderaci¨®n de contenidos era adecuada, o si ameritaba un cambio no solo en la decisi¨®n concreta, sino adicionalmente en la pol¨ªtica¡±.

Para cada caso el Consejo Asesor decide si fue adecuado borrar o no el post, y Facebook est¨¢ obligado a mantenerlo borrado o restablecerlo. Pero la empresa no est¨¢ obligada a cambiar sus pol¨ªticas de uso de acuerdo a las recomendaciones que da el Consejo, y ese control opaco que sigue teniendo la red social sobre las reglas del juego para mantener un post o no (o sobre c¨®mo funciona su algoritmo que privilegia una informaci¨®n sobre otra) ha hecho pensar a muchos que las redes deber¨ªan ser reguladas como medios que toman decisiones editoriales.

¡°Creo que perdemos el potencial democratizador de las redes sociales¡¯', dice Botero sobre esta posibilidad, la de regular a las redes como medios. ¡°Cuando una plataforma le ha brindado a 3.000 millones de personas la posibilidad de interconectarse, de contar sus historias, pues claro que existen riesgos, enormes. Pero si nosotros le pedimos a esa plataforma que cumpla con la labor editorial de un medio de comunicaci¨®n respecto a lo que los 3.000 millones de usuarios dicen, desaparece la plataforma. Es literalmente imposible cumplir con esa funci¨®n editorial¡±.

Otra estrategia de Facebook arranc¨® en 2017, cuando comenz¨® a tercerizar la verificaci¨®n de su informaci¨®n al contratar algunos medios no-partidistas para revisar informaci¨®n viral en su plataforma. ¡°Nosotros no podemos generar una consecuencia directa contra la desinformaci¨®n, pero indirectamente s¨ª podemos, porque Facebook toma como se?al lo que nosotros publicamos para que ellos determinen qu¨¦ decisi¨®n tomar frente a un post¡±, explica Pablo Medina, director de ColombiaCheck, uno de los 10 medios independientes que tienen contratos con Facebook en Am¨¦rica Latina para verificar informaci¨®n.

De todos modos, al igual que ocurre con el Consejo Asesor, Facebook no est¨¢ obligado a tomar las recomendaciones de estos medios. ¡°S¨ª creo que las plataformas digitales deber¨ªan tener m¨¢s responsabilidad legal sobre sus contenidos¡±, sostiene Medina.

Soberan¨ªa digital o c¨®mo vivir sin Silicon Valley

M¨¢s que una mayor injerencia del Estado, Medina y otros expertos consultados por EL PA?S creen fundamental crear ¡°un mecanismo p¨²blico-privado en el que haya representantes del Estado, de la sociedad civil y de las plataformas, y que sea ah¨ª donde se delibere sobre c¨®mo implementar las pol¨ªticas sobre moderaci¨®n de contenido¡±. Un organismo independiente en el que las reglas de juego no las determine ni Facebook ni el Gobierno de turno.

Renata ?vila, que adem¨¢s de su trabajo de investigaci¨®n y asesoramiento codirige de la Alianza por Algoritmos Inclusivos, coincide en que un mecanismo de regulaci¨®n del Estado no tiene sentido en la situaci¨®n actual, y que hace falta mayor participaci¨®n ciudadana, acad¨¦mica y t¨¦cnica para este debate. ¡°Cualquier regulaci¨®n que puedan estar pensando los congresistas no es nada m¨¢s que una aspirina para matar un c¨¢ncer¡±, dice. Pero la propuesta que inicialmente propuso Andr¨¦s Manuel L¨®pez Obrador de crear una red social independiente le parece m¨¢s interesante para volver a un debate m¨¢s grande sobre soberan¨ªa digital y el fin del monopolio de Silicon Valley.

¡°Cuando Lula estaba a cargo de la presidencia, los poderosos eran los grupos de software libre en la regi¨®n, el malo de la pel¨ªcula en aquel tiempo era Microsoft¡±, explica. ¡°Ese fue un tiempo interesante porque los pa¨ªses de Latinoam¨¦rica estaban muy centrados en hacer sus propias infraestructuras digitales¡±.

Estos proyectos nacionales, que impulsaban una incipiente soberan¨ªa digital, no siguieron a nivel regional, y el poder de las redes sociales privadas creci¨® libremente en la regi¨®n durante la ¨²ltima d¨¦cadas. Hasta en Cuba ¡°empezaron a usar las redes sociales de Estados Unidos¡¯', dice. ¡°Fue un descuido total de los Gobiernos de la regi¨®n, teniendo las capacidades, y teniendo la gente, no haber desarrollado plataformas regionales propias¡±.

?vila no comulga con redes sociales nuevas controladas por el Estado, pero ve en esta crisis sobre censura y contenidos una oportunidad. ¡°Si existe una apropiaci¨®n ciudadana real, t¨¦cnica, y no se vuelve un veh¨ªculo pol¨ªtico, sino que se vuelve un proyecto com¨²n del que los mexicanos est¨¦n orgullosos, creo que all¨ª s¨ª se puede hacer algo muy interesante¡±.

Un experimento descentralizado y con control ciudadano en el que, por ahora, el Gobierno mexicano no parece estar interesado.

(Darinka Rodr¨ªguez contribuy¨® a la reporter¨ªa de este art¨ªculo)