Redes y salud mental

Uno de los informes internos filtrados por Frances Haugen, exinvestigadora del departamento de integridad c¨ªvica de Facebook, dice que los algoritmos de Instagram son da?inos para la salud mental de los ni?os, muy especialmente de las chicas j¨®venes. Cuando le preguntaron sobre esos informes en el Congreso estadounidense, Mark Zuckerberg asegur¨® que usar las redes sociales para conectar con otras personas puede hacerte sentir mejor y estar menos solo. Era octubre de 2021, cuatro a?os despu¨¦s de que Molly Russell se quitara la vida en su habitaci¨®n, bajo los efectos ¡°negativos de contenidos en internet¡±, seg¨²n Andrew Walker, forense adjunto en Oxfordshire y juez instructor del Distrito Norte de Londres. El tribunal brit¨¢nico ha se?alado a dos tecnol¨®gicas como corresponsables, Pinterest e Instagram.

En los ¨²ltimos seis meses de su vida, el iPhone de la adolescente estuvo dominado por informaci¨®n relacionada con el suicidio y las autolesiones, incluyendo m¨¦todos y relatos de otros adolescentes, y de historias e im¨¢genes nihilistas en blanco y negro para ilustrar la imposibilidad de ser feliz. El informe forense dice que Molly hab¨ªa creado un tablero de Pinterest con 469 im¨¢genes de temas relacionados con el suicidio y que segu¨ªa una cuenta con 200.000 seguidores en Twitter con citas inspiradoras sobre el suicidio. Pinterest es una red social donde los usuarios crean corchos virtuales de los que cuelgan im¨¢genes. La empresa le mandaba correos recomendando ¡°Diez tableros sobre la depresi¨®n que te pueden gustar¡±. Lo ¨²ltimo que hizo antes de morir fue guardar una imagen en Instagram con un mensaje sobre la depresi¨®n.

Seg¨²n un estudio publicado en la revista de la Academia Americana de Psiquiatr¨ªa Infantil y del Adolescente, la serie 13 razones produjo un aumento del 28,9% de suicidios en Norteam¨¦rica, especialmente entre 10 y 17 a?os de edad. La prensa tradicional es consciente de su capacidad de incentivar ese tipo de conductas, pero el nuevo ecosistema medi¨¢tico no parece serlo e incluso ofrece una dieta patol¨®gica de contenidos t¨®xicos a individuos vulnerables, con algoritmos que refuerzan y amplifican los miedos y obsesiones de los usuarios, de forma secreta e individual. Cuando Molly Russell busc¨® consuelo en la Red, los algoritmos de recomendaci¨®n de al menos tres plataformas la inundaron con material que transform¨® su melancol¨ªa adolescente en una obsesi¨®n suicida, sin que nadie se enterara.

Elizabeth Lagone, jefa de la pol¨ªtica de salud y bienestar de Meta, dijo que Russell hab¨ªa ¡°visto algunos contenidos que violaban nuestras pol¨ªticas y que lamentaban eso¡±. Pero el principal problema de Facebook no es de acceso, sino de amplificaci¨®n. Cuando se busca contenido sobre el suicidio, ofrece, recomienda y vende m¨¢s suicidio, con informaci¨®n minuciosa sobre c¨®mo hacerlo, c¨®mo autolesionarse, c¨®mo dejar de comer, c¨®mo hacerse da?o. Son los mismos algoritmos que empujan a la gente al extremismo y a la radicalizaci¨®n: sistemas optimizados para ofrecer aquello que busca el cliente de forma m¨¢s y m¨¢s insidiosa hasta convertirse en una compulsi¨®n. Es posible que las redes sociales puedan ayudar a los adolescentes a ser m¨¢s felices, pero s¨®lo cuando esas redes cambien sus reglas de funcionamiento. Mientras el objetivo sea la explotaci¨®n de los datos de los usuarios para el beneficio econ¨®mico de la red social y de sus clientes, las marcas, nadie m¨¢s saldr¨¢ beneficiado.