Se acab¨® el ¡®todo vale¡¯: la regulaci¨®n empieza a abrirse paso en las redes sociales

El magnate de origen ruso P¨¢vel D¨²rov, fundador y director general de Telegram, fue detenido el pasado 24 de agosto a las afueras de Par¨ªs en cuanto baj¨® las escaleras de su jet privado. Se le acusa, entre otros cargos, de complicidad en la difusi¨®n de im¨¢genes ped¨®filas en la red de mensajer¨ªa instant¨¢nea que dirige, muy usada para actividades criminales. Justo una semana despu¨¦s, el juez orden¨® el cierre de X en Brasil ante el ¡°reiterado incumplimiento de ¨®rdenes judiciales¡± de la red social. Su due?o, Elon Musk, se niega a bloquear perfiles que contribuyen a la ¡°divulgaci¨®n masiva de discursos nazis, racistas, fascistas, de odio y antidemocr¨¢ticos¡±.

Estos dos golpes en la mesa son sintom¨¢ticos de un cambio de era. Durante la primera d¨¦cada de este siglo, las redes sociales nos fascinaron y conquistaron, hasta el punto de que m¨¢s de la mitad de la humanidad (unos 4.500 millones de personas) las usan hoy a diario. Durante la segunda, crecieron hasta convertirse en gigantes empresariales y se volvieron omnipresentes, pero tambi¨¦n empezaron a mostrar su reverso oscuro, con el esc¨¢ndalo de Cambridge Analytica como primer gran toque de atenci¨®n. En la tercera d¨¦cada, se est¨¢ articulando una reacci¨®n ante sus excesos.

Los casos de Telegram y X se inscriben en esta ¨²ltima ola. La detenci¨®n del magnate de origen ruso, m¨¢s all¨¢ de su poso geopol¨ªtico, lanza un mensaje a los altos ejecutivos de las empresas tecnol¨®gicas: ellos tambi¨¦n pueden ser considerados personalmente responsables de lo que suceda en sus plataformas. El cierre de X en Brasil, por su parte, demuestra que a los gobiernos ya no les tiembla el pulso al enfrentarse a las plataformas. ¡°Es el primer ejemplo de que los pa¨ªses latinoamericanos pueden decidir su propio futuro en la econom¨ªa digital, abrir una nueva caja de herramientas regulatoria contra las tecnol¨®gicas y, sin alinearse con Estados Unidos o China, decidir su propio camino hacia la soberan¨ªa tecnol¨®gica¡±, opina Ekaitz Cancela, investigador del Internet Interdisciplinary Institute (IN3) de la Universitat Oberta de Catalunya y autor de Utop¨ªas digitales (Verso Libros, 2023).

Paloma Llaneza, abogada especializada en derecho digital, cree que estamos ante un claro cambio de tendencia: hemos pasado de no regular en absoluto a un frenes¨ª regulatorio, ¡°algo muy habitual en todas las revoluciones tecnol¨®gicas¡±. Para la jurista, el caso de las redes sociales demuestra claramente que el modelo de ¡°dejar crecer primero y regular despu¨¦s¡± no funciona. ¡°Yo creo que estamos viendo una nueva etapa¡±, coincide Rodrigo Cetina, profesor de Derecho de la Barcelona School of Management (Universitat Pompeu Fabra) y experto en redes sociales y en el ordenamiento jur¨ªdico estadounidense. ¡°La Uni¨®n Europea est¨¢ m¨¢s activa que nunca y la DSA [Ley de Servicios Digitales, por sus siglas inglesas] se est¨¢ comenzando a aplicar. Lo de Brasil es una se?al poderosa de que algunos pa¨ªses no est¨¢n dispuestos a tolerarlo todo¡±.

La respuesta a las grandes plataformas lleva tiempo gest¨¢ndose. La UE ha desplegado una ambiciosa arquitectura legal que arranc¨® en 2018 con la entrada en vigor del Reglamento General de Protecci¨®n de Datos (RGPD), una normativa que, entre otras cosas, obliga a las empresas a declarar qu¨¦ informaci¨®n van a usar de los internautas y con qu¨¦ prop¨®sito. La DSA, gestada a la vez que la Ley de Mercados Digitales (DMA) y que se aplica de forma general desde febrero de este a?o, establece obligaciones concretas para las plataformas digitales, como aumentar su transparencia y luchar contra la difusi¨®n de contenidos il¨ªcitos, que deber¨¢n retirar de forma expeditiva para no ser sancionadas. En apenas medio a?o de andadura, la DSA ha impulsado investigaciones contra X, por sospechas de difusi¨®n de desinformaci¨®n, y contra Meta, empresa matriz de Facebook e Instagram, para evaluar sus posibles efectos nocivos entre los j¨®venes. Tambi¨¦n oblig¨® a TikTok a retirar una aplicaci¨®n que pagaba por el visionado de v¨ªdeos. El broche a este entramado regulatorio llegar¨¢ en 2026, cuando se empiece a aplicar el Reglamento de Inteligencia Artificial (IA) aprobado este a?o, que fija distintos requisitos y obligaciones a las aplicaciones de IA en funci¨®n de los riesgos que presenta su uso.

En EE UU, el grueso de la reacci¨®n ante la aparente impunidad de las plataformas se est¨¢ conduciendo a trav¨¦s de los tribunales. Una serie de demandas interpuestas por familias e instituciones educativas acusan a las principales redes sociales de tener un dise?o que perjudica conscientemente la salud mental y f¨ªsica de los menores. Paralelamente, en California entr¨® en vigor el a?o pasado una ley de privacidad que se asemeja al RGPD europeo y se est¨¢n tramitando otras para prohibir los deepfakes en periodos electorales y para establecer salvaguardas de cara al futuro desarrollo de modelos de IA.

Tambi¨¦n ha habido intentos de reformar la llamada Secci¨®n 230, la normativa estadounidense que exime a las tecnol¨®gicas de la responsabilidad sobre los contenidos de terceros que circulan por las plataformas. Pero no han fructificado. ¡°Es muy dif¨ªcil que haya cambios si para empezar cada partido diagnostica el problema de una manera muy distinta al otro. Para los republicanos, el problema de las redes sociales es que censuran; para los dem¨®cratas, que difunden desinformaci¨®n y contenidos de odio¡±, apunta Cetina.

Una reacci¨®n global, pero descoordinada

?Cu¨¢ndo se activ¨® la reacci¨®n ante las plataformas? Los primeros movimientos significativos se producen hace aproximadamente una d¨¦cada. 2016 es un a?o clave por dos motivos: se aprueba el RPGD europeo, que entrar¨ªa en vigor en 2018, y Donald Trump gana contra todo pron¨®stico las elecciones presidenciales estadounidenses, a cuya victoria contribuye la difusi¨®n de noticias falsas en defensa de la campa?a del candidato republicano.

La mecha de los cambios prendi¨® por los propios excesos de las plataformas. As¨ª lo cree Carissa V¨¦liz, experta en ¨¦tica aplicada a la tecnolog¨ªa y profesora en el Centro de ?tica y Humanidades de la Universidad de Oxford. ¡°Estamos donde estamos, principalmente, porque se han acumulado malas experiencias: desde Cambridge Analytica a los da?os a adolescentes que revel¨® Frances Haugen, pasando por la polarizaci¨®n social que generan las redes. Los gobiernos est¨¢n siendo capaces de poder ejercer presi¨®n a las plataformas, en parte, por el descontento de los ciudadanos, aunque tambi¨¦n por seguridad nacional¡±. Lo hacen, eso s¨ª, de forma descoordinada, lo que disminuye el ¨ªmpetu de las medidas puestas en marcha.

Este descontento en torno a las redes sociales se ha dejado notar tambi¨¦n en uno de los tradicionales escollos legales a los que se enfrenta la UE cuando trata de influir en las grandes tecnol¨®gicas: las autoridades irlandesas. ¡°Hay indicios de que la Comisi¨®n de Protecci¨®n de Datos de Irlanda, que tiene la responsabilidad de aplicar la normativa digital comunitaria en la mayor¨ªa de empresas tecnol¨®gicas de EE UU y China que operan en la UE [por tener su sede europea en ese pa¨ªs], est¨¢ cambiando de marcha¡±, asegura Johnny Ryan, director de la secci¨®n de derechos digitales del Irish Council for Civil Liberties. ¡°La DPC utiliz¨® recientemente un procedimiento urgente que nunca antes hab¨ªa empleado para impedir que X utilizara los datos de sus usuarios para entrenar su modelo de IA, y tambi¨¦n intervino para evitar que Meta hiciera lo mismo¡±, abunda.

Hay otro elemento que ha contribuido a que, de repente, queramos atar en corto a las plataformas: la inteligencia artificial. ¡°Cuando nacieron las redes sociales, hubo un debate jur¨ªdico muy interesante en torno a c¨®mo regularlas. ?Deb¨ªan ser tratadas como un medio de comunicaci¨®n o no? En caso afirmativo, se le deber¨ªa exigir responsabilidad por los contenidos que publican, igual que a un peri¨®dico. Se decidi¨® que no, y as¨ª qued¨® refleado en la Ley de Decencia de las Comunicaciones de EE UU, de 1996¡å, resume Borja Adsuara, jurista y consultor especialista en Derecho digital.

Pero las redes sociales evolucionaron y, poco a poco, los algoritmos fueron ganando peso en la ecuaci¨®n. ¡°Cuando una plataforma no es neutral, sino que recomienda unos contenidos y posterga otros con arreglo a unos criterios X, entonces est¨¢ actuando con poderes editoriales, y habr¨¢ que exigirle la misma responsabilidad que a un editor¡±, subraya el jurista. Esa es la misma conclusi¨®n a la que han llegado muchos pa¨ªses.

Tecnolog¨ªa y geopol¨ªtica

La detenci¨®n de D¨²rov, reconciliado en los ¨²ltimos tiempos con el mismo Vladimir Putin que le hizo vender su primera startup, vKontakte, y salir de Rusia, tiene fuertes tintes geopol¨ªticos. No es la primera vez que este terreno se solapa con la tecnolog¨ªa. La vicepresidenta de Huawei e hija de su fundador, Meng Wanzhou, fue detenida en Canad¨¢ en 2018 a petici¨®n de Washington y retenida durante tres a?os bajo la acusaci¨®n de haber violado las sanciones econ¨®micas impuestas a Ir¨¢n por la potencia occidental. El suceso se inscribe en el pulso comercial mantenido en esa ¨¦poca entre EE UU y China, que llev¨® al presidente Trump a declararle la guerra a Huawei.

Los ¨®rdagos de los altos ejecutivos de las tecnol¨®gicas a los gobiernos son frecuentes. Aunque, a menudo, suelen quedarse en nada. El consejero delegado de OpenAI, Sam Altman, dijo el a?o pasado que los esfuerzos de la UE por regular la IA pod¨ªan llevar a su compa?¨ªa a irse del continente. Bruselas hizo caso omiso de la advertencia y este a?o aprob¨® el Reglamento de IA. OpenAI se qued¨® y Altman dice ahora que est¨¢ comprometido a respetar la ley.

Pas¨® lo mismo a?os atr¨¢s, cuando se estaba gestando el RGPD, que otorga a los ciudadanos europeos el derecho a saber c¨®mo y con qu¨¦ prop¨®sito gestionan las compa?¨ªas sus datos. El fundador y m¨¢ximo responsable de Facebook, Mark Zuckerberg, se entrevist¨® con miembros del Parlamento Europeo y visit¨® la Comisi¨®n Europea. Amenaz¨® con irse de Europa, al considerar excesivas las exigencias de Bruselas. El RGPD entr¨® en vigor en 2018 y Facebook, hoy Meta, sigue aqu¨ª.

Un nuevo horizonte

Descoordinada o no, la acci¨®n de los pa¨ªses se est¨¢ notando. Las plataformas son hoy cada vez m¨¢s cuidadosas con lo que hacen. ¡°Los activistas llevamos mucho tiempo pidiendo cambios y, paulatinamente y de forma no radical, se est¨¢ empezando a avanzar en este sentido¡±, reconoce Simona Levi, estratega tecnopol¨ªtica y fundadora del colectivo Xnet. Acaba de publicar Digitalizaci¨®n democr¨¢tica. Soberan¨ªa digital para las personas (Rayo Verde), en el que, entre otras cosas, reclama que las instituciones cumplan y garanticen que las grandes plataformas respeten la ley.

La UE ha desplegado un entramado jur¨ªdico que ya est¨¢ empezando a aplicar. En EE UU hay normativas en marcha y juicios que tambi¨¦n afectar¨¢n, y mucho, al devenir de las grandes plataformas. Y, como se ha visto en el caso de Brasil, los pa¨ªses est¨¢n dejando de arrugarse ante las tecnol¨®gicas que se saltan la ley.

Los pesados engranajes del sistema empiezan a rodar. La sociedad ha reaccionado y quiere ponerle l¨ªmite al lado oscuro de las plataformas, desde la difusi¨®n de desinformaci¨®n y contenidos que fomenten el odio hasta su dise?o adictivo y nocivo para los j¨®venes. Pero, igual que 2016 marc¨® un punto de inflexi¨®n en esta carrera hacia la regulaci¨®n, 2024 puede serlo tambi¨¦n. Casi todo Silicon Valley, con Elon Musk a la cabeza, ha hecho su apuesta para las elecciones presidenciales estadounidenses de noviembre. Su hombre es Trump, y el candidato es muy consciente de qui¨¦n le apoya.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.