Cuanto m¨¢s joven, mejor usuario

Imaginemos que queremos crear desde cero un gran, enorme negocio. ?Por d¨®nde empezar? Primero convendr¨ªa aparcar convicciones ¨¦ticas para buscar el equivalente actual al lejano oeste, es decir, una tierra prometida a¨²n en construcci¨®n donde las oportunidades abunden y las fronteras de la ley se confundan. Podr¨ªamos rentabilizar las necesidades humanas b¨¢sicas como el techo o la comida, aunque existe en ello demasiada competencia: lo digital es m¨¢s barato y su alcance, universal. Abusar de la naturaleza adictiva humana nunca falla. Pero esta vez habr¨ªa que elegir un p¨²blico objetivo amplio y no muy capaz de resistirse, es decir, aquel con un l¨®bulo frontal a¨²n inmaduro. Despu¨¦s, como en un mal sue?o, detectar¨ªamos gracias a los datos que ellos mismos nos proporcionen cada una de sus debilidades e inseguridades, y las usar¨ªamos para retenerlos.

Este octubre, varios estados de Estados Unidos han interpuesto una demanda contra TikTok, empresa a la que acusan de enganchar de forma deliberada a los menores utilizando t¨¦cnicas adictivas. La demanda imita la iniciada el a?o pasado contra Meta, propietaria de Facebook e Instagram, por perjudicar a sabiendas la salud mental de ni?os y adolescentes. La radio p¨²blica estadounidense NPR tuvo acceso a detalles reveladores gracias a comunicaciones internas de la empresa incluidas en la investigaci¨®n. Por ejemplo, en TikTok saben que una persona suele tardar unos 260 v¨ªdeos (35 minutos) en formar un h¨¢bito, despu¨¦s del cual es muy probable engancharse. O que se tardan unos 30 minutos en perfilar a un usuario, asign¨¢ndole una burbuja de filtro que puede ser peligrosa: en una prueba, uno de sus trabajadores tard¨® 20 minutos en caer en una espiral de contenidos nocivos sobre la depresi¨®n que, escribi¨®, le afectaron en su vida fuera de la red.

Un documento interno afirmaba que cuanto m¨¢s joven es el usuario ¡°mejor rendimiento¡± les proporciona, y otro, que ¡°los menores no tienen funci¨®n ejecutiva para controlar su tiempo de pantalla¡±. El algoritmo, dicen, est¨¢ dise?ado para favorecer a la gente guapa. Conocen tambi¨¦n que el uso compulsivo de su aplicaci¨®n es perjudicial y que ¡°se relaciona con la p¨¦rdida de habilidades anal¨ªticas, formaci¨®n de memorias, pensamiento contextual, profundidad conversacional, empat¨ªa y aumento de la ansiedad¡±, adem¨¢s de interferir de forma negativa con el sue?o, las responsabilidades en el trabajo o la escuela y la conexi¨®n con los seres queridos.

Los hechos apuntan a una especie de incompetencia deliberada que favorece al negocio: las cuentas de menores no se eliminan diligentemente, los filtros de moderaci¨®n tampoco funcionan bien y permiten encontrar contenidos te¨®ricamente prohibidos, algunas medidas de control que no son eficaces se mantienen porque blanquean su reputaci¨®n ante la prensa. Seg¨²n NPR, las tasas de ¡°error¡± en la moderaci¨®n de contenidos sobre pedofilia son enormes, llegando al 100%, por ejemplo, en la categor¨ªa ¡°fetichizaci¨®n de menores¡±. Un jefe de proyecto dijo en un chat una frase reveladora sobre su fin ¨²ltimo: ¡°Nuestro objetivo no es reducir el tiempo de estancia¡±.

Una cosa es sospechar que las redes son un problema para los m¨¢s j¨®venes, y otra, escuchar c¨®mo y por qu¨¦. Tambi¨¦n este mes hemos visto en el programa de televisi¨®n Salvados a Arturo B¨¦jar, exjefe de ingenieros en Meta y uno de los principales testigos de la causa en su contra, que tom¨® conciencia de la gravedad del abuso en la plataforma a trav¨¦s de su hija. ¡°Es el acoso sexual m¨¢s grande de la historia de la humanidad¡±, dijo, y acus¨® a sus directivos de no importarle en absoluto. El programa, en dos partes, incluy¨® tambi¨¦n entrevistas con moderadoras de Meta en Barcelona que explicaron c¨®mo hab¨ªan llegado a desarrollar trastorno de estr¨¦s postraum¨¢tico debido a su trabajo. No ahorraron detalles sobre las decapitaciones, mutilaciones y ejecuciones que ve¨ªan a diario, tampoco sobre pederastia, asesinatos, violaciones, parricidios, atentados y suicidios en directo. Junto a una veintena de compa?eros, han querellado a la subcontrata que les emple¨®, que tambi¨¦n trabaja con TikTok. El abogado que les representa insisti¨® durante la emisi¨®n en que los pormenores, que no me atrevo a reproducir aqu¨ª, eran necesarios para dar una idea de la dimensi¨®n de los hechos.

La negrura no solo afecta a los moderadores humanos. Seg¨²n otro estudio interno filtrado de TikTok, v¨ªdeos de autolesiones fueron reproducidos 75.000 veces antes de llegar a ellos. En cuanto se hizo con la propiedad de X, Elon Musk desinvirti¨® en el control de contenidos, con resultados evidentes para unos usuarios que cre¨ªan participar en una red m¨¢s civilizada. Podr¨ªamos resumir todo lo anterior as¨ª: las redes desbordan violencia y no termina de ser contenida porque va contra el negocio; los menores son las principales v¨ªctimas; la sociedad que los sobreprotegi¨® est¨¢ descubriendo espantada que corren peligro en su propia habitaci¨®n, cuando la puerta est¨¢ cerrada y tienen el m¨®vil en la mano.

A no ser que las demandas, el creciente n¨²mero de estudios que alertan del problema y la consiguiente toma de conciencia pol¨ªtica y ciudadana lo impidan, no parece que las tecnol¨®gicas est¨¦n dispuestas a hacerse cargo de sus actos por voluntad propia, m¨¢s bien al contrario. En su reciente giro hacia posiciones m¨¢s libertarias, Mark Zuckerberg ha lamentado haberse doblegado al poder del Gobierno Biden durante la pandemia de covid-19, cuando lleg¨® a eliminar publicaciones, y ha dicho que hoy no tomar¨ªa las mismas decisiones. Nadie se ha disparado jam¨¢s en Bolsa explicando a sus inversores que su prioridad consiste en achicar un problema muy grave y muy caro, el de sus propios hijos, que les desborda. Vender la promesa de que la inteligencia artificial alargar¨¢ la vida del capitalismo suena mejor.

La situaci¨®n me recuerda al viejo chiste: ¡°Si debes algo de dinero al banco, el problema es tuyo; pero si le debes mucho dinero, el problema es del banco¡±. Las tecnol¨®gicas han creado un problema tan grande que ahora ya no es suyo, es de todos. Es, de hecho, uno de los grandes retos de la sociedad global. Quiz¨¢ incluso estemos exigi¨¦ndoles demasiado: c¨®mo pedir a unas simples empresas, aunque sean las mayores y m¨¢s poderosas del mundo, que se hagan cargo de las inconmensurables consecuencias de haber conectado lo bueno y lo malo de todos los seres humanos. Tampoco s¨¦ hasta qu¨¦ punto los gobiernos pueden intervenir, aunque s¨ª que deben intentarlo. El Congreso, a propuesta del PSOE, comenz¨® a debatir este martes c¨®mo regular las redes sociales para proteger a los j¨®venes. Sugieren recomendar la posesi¨®n de un m¨®vil solo a partir de los 14, y de cuentas en redes, desde los 16.

Sobre la crisis de salud mental juvenil existen dos corrientes. Una culpa fundamentalmente a los m¨®viles con conexi¨®n a internet, centr¨¢ndose sobre todo en los efectos nocivos del exceso de tiempo de pantalla y la comparaci¨®n propia con el ¨¦xito ajeno. La otra insiste en que, adem¨¢s de los factores tecnol¨®gicos, ni?os y adolescentes no son ajenos a los cambios ambientales, sociales, econ¨®micos y pol¨ªticos del momento. En Espa?a, seg¨²n un reciente estudio de la Fundaci¨®n Cotec, un tercio del alumnado ha sufrido acoso: al trasladarse al ¨¢mbito digital esta violencia se intensifica. El 60% de los j¨®venes con dificultades econ¨®micas hab¨ªan sido diagnosticados con alg¨²n trastorno de salud mental en 2023; aquellos sin preocupaciones materiales, ¡°solo¡± en un 37%. Es curioso como minusvaloramos y a la vez sobreestimamos el problema de las redes; c¨®mo acotamos la preocupaci¨®n por la salud mental a j¨®venes y ni?os cuando el trauma de una generaci¨®n lo es de todas las dem¨¢s. Cuando crece y se reproduce con ella a lo largo de los a?os, mancha todo durante d¨¦cadas con una pel¨ªcula invisible muy dif¨ªcil de borrar.