El suicidio de una ni?a brit¨¢nica dispara el debate sobre la responsabilidad de las redes sociales

La joven Molly Russell, de 14 a?os, fue hallada muerta en su habitaci¨®n la ma?ana del 21 de noviembre de 2017 en Harrow, al noroeste de Londres. Se hab¨ªa quitado la vida. Su familia nunca detect¨® ning¨²n comportamiento extra?o en ella, m¨¢s all¨¢ de que durante el ¨²ltimo a?o pasaba m¨¢s tiempo encerrada en su habitaci¨®n. Lo achacaron a los cambios propios de la adolescencia. Pero cuando su padre, Ian Russell, revis¨® el correo electr¨®nico de Molly en busca de alguna posible explicaci¨®n de la tragedia, se encontr¨® con un mensaje de Pinterest de hac¨ªa dos semanas titulado ¡°Pins de depresi¨®n que te pueden gustar¡±. Sigui¨® investigando y comprob¨® que, durante los seis meses anteriores a su muerte, la joven comparti¨® o reaccion¨® en Instagram ante m¨¢s de 2.000 publicaciones relacionadas con el suicidio, las autolesiones o la depresi¨®n.

Cinco a?os despu¨¦s, Instagram y Pinterest han sido llamadas a cap¨ªtulo por las autoridades brit¨¢nicas. Elizabeth Lagone, directora de salud y pol¨ªtica de bienestar de Meta, empresa matriz de Instagram, y Jud Hoffman, director global de operaciones de la comunidad de Pinterest, declararon a principios de octubre en un juzgado brit¨¢nico. Es la primera vez que dos tecnol¨®gicas participan en un proceso legal relacionado con el suicidio de un usuario.

¡°[Molly Russell] muri¨® a causa de lesiones provocadas por ella misma mientras padec¨ªa de depresi¨®n y sufr¨ªa los efectos negativos de contenidos en internet¡±, dijo Andrew Walker, abogado y m¨¦dico forense (senior coroner) para el Distrito Norte de Londres. Esta figura tiene en el Reino Unido la potestad de iniciar investigaciones independientes que determinen las causas de la muerte de las personas. Walker no clasific¨® el suceso como un suicidio: el jurista estableci¨® que internet hab¨ªa ¡°afectado su salud mental [en referencia a Russell] de forma negativa y contribuido a su muerte¡±.

Las empresas no se enfrentan a multas ni sanciones. No se las convoc¨® a un juicio penal o civil, sino a sesiones forenses. Pero se ha abierto el debate acerca de su corresponsabilidad en ciertos casos de suicidio, algo que no hab¨ªa sucedido antes. ¡°Nuestros pensamientos est¨¢n con la familia de Molly y con otras familias que se han visto afectadas por el suicidio o las autolesiones¡±, asegura Hoffman a EL PA?S por correo electr¨®nico. ¡°La historia de Molly ha supuesto un cambio significativo para nosotros y seguiremos trabajando para crear un lugar seguro y positivo para nuestros pinners [usuarios de Pinterest]¡±.

Frances Haugen se?al¨® el camino hace ahora un a?o. La exempleada de Meta llev¨® a la compa?¨ªa a su peor crisis existencial a golpe de filtraciones de documentos internos, que aliment¨® una vasta investigaci¨®n period¨ªstica de The Wall Street Journal. De entre las muchas revelaciones que aport¨® la ingeniera, hubo una que tuvo especial repercusi¨®n: los ejecutivos de Instagram ofrec¨ªan a sabiendas contenidos t¨®xicos a los j¨®venes porque resultaban m¨¢s adictivos y se monetizan mejor. Hasta el punto de que una presentaci¨®n de trabajo revelaba que un 13% de las chicas brit¨¢nicas y un 6% de las estadounidenses que dec¨ªan haber tenido pensamientos suicidas hab¨ªan cultivado ese deseo gracias a dicha red social.

Los datos del Pew Research Center muestran que se multiplican las demandas en EE UU de padres que consideran que los algoritmos de las redes sociales causan perjuicios f¨ªsicos a sus hijos. En lo que va de a?o se han registrado m¨¢s de 70 pleitos contra Meta, Snap (due?a de Snapchat), ByteDance (matriz de TikTok) y Google por haber provocado ansiedad, depresi¨®n, trastornos alimentarios o falta de sue?o en adolescentes y j¨®venes adultos por culpa de su adicci¨®n a las redes sociales. De acuerdo con Bloomberg Businessweek, al menos siete de esos procesos proceden de padres cuyos hijos se han suicidado.

Janet Majewski, cuya hija de 14 a?os se quit¨® la vida, demand¨® en agosto a TikTok, Snapchat y Meta aludiendo que las citadas redes sociales son responsables de que la joven emprendiera un camino de no retorno. ¡°Tienen que cambiar lo que muestran a los ni?os, modificar el algoritmo de manera que no les lleven a la oscuridad¡±, declar¨® a Bloomberg Businessweek.

Los pleitos a los que se enfrentan las redes sociales les piden que se responsabilicen de los efectos nocivos de sus productos, igual que sucedi¨® hace 30 a?os con las tabaqueras. ¡°Las tecnol¨®gicas creen que ese no es su problema. No est¨¢ en su cultura empresarial luchar de verdad contra la difusi¨®n de contenidos que puedan fomentar el suicidio¡±, opina Albert Gimeno, portavoz de la asociaci¨®n Padres 2.0, especializada en ciberacoso, adicciones tecnol¨®gicas o violencia digital, entre otras. ¡°Las medidas que han puesto en marcha y los equipos que han creado para eliminar el contenido da?ino no solo tienen que lidiar con un ingente volumen de informaci¨®n a revisar, sino con otros departamentos de las propias compa?¨ªas que van en la direcci¨®n opuesta, como marketing, publicidad, ventas o comunicaci¨®n¡±, a?ade.

Las redes sociales son enormemente influyentes en las vidas de los j¨®venes. ¡°La poblaci¨®n adolescente con ciertos rasgos de personalidad y vulnerabilidades emocionales se ponen en contacto en un entorno donde pueden desplegar dolor, desesperaci¨®n y desconexi¨®n con las v¨ªas de contacto tradicionales¡±, ilustra el psic¨®logo y psicoterapeuta Luis Fernando L¨®pez, codirector del Proyecto ISNISS y coordinador t¨¦cnico del programa Hablemos de Suicidio del Colegio Oficial de Psic¨®logos de Madrid. ¡°Estos perfiles se encuentran en las redes sociales porque se sienten acompa?ados en los temas que les preocupan, mantienen cierto anonimato y ven que pertenecen a un grupo, tienen la seguridad de no ser enjuiciados y rechazados. Empiezan con comunicaciones p¨²blicas y luego evolucionan a entornos privados donde empiezan a desarrollarse conductas como las autolesiones o los pensamientos suicidas¡±, describe. En Espa?a, el n¨²mero de suicidios infantiles se ha triplicado desde 2006.

Gimeno no tiene constancia de que en Espa?a est¨¦n proliferando demandas contra las redes sociales, como s¨ª sucede en EE UU. Tampoco cree que tuvieran demasiado recorrido, y mucho menos que resolvieran el problema. ¡°Los propios padres, la Administraci¨®n, los centros educativos, el resto de internautas y otras empresas tecnol¨®gicas y de la comunicaci¨®n tambi¨¦n tiene un papel que desempe?ar¡±, explica.

Algoritmos y supervisi¨®n manual

Cada minuto se suben a internet 2,4 millones de im¨¢genes en Snapchat, 1,7 millones de publicaciones en Facebook o 66.000 fotos en Instagram, seg¨²n la consultora Domo. La aproximaci¨®n de las tecnol¨®gicas para cribar toda esa informaci¨®n combina los medios autom¨¢ticos y anal¨®gicos. ¡°La pol¨ªtica actual de Pinterest sobre autolesiones ofrece una lista detallada de contenidos para su eliminaci¨®n y la limitaci¨®n de su distribuci¨®n, con m¨¢s de 25.000 t¨¦rminos en la lista de bloqueados¡±, apunta Hoffman. ¡°Cuando el contenido infringe nuestras pol¨ªticas, tomamos medidas al respecto a trav¨¦s de procesos humanos y automatizados. Si un usuario busca contenidos relacionados con el suicidio o las autolesiones, que no se le muestren resultados y, en su lugar, se le muestre un aviso que le dirija a expertos que puedan ayudarle si tiene problemas¡±.

La respuesta de Instagram es m¨¢s flexible. Por un lado, establecen herramientas de control parental de los contenidos que ven los adolescentes. Tambi¨¦n proh¨ªben los que promueven el suicidio o las autolesiones. ¡°Encontramos y eliminamos el 98% de ese contenido antes de que se nos comunique acerca de ello¡±, apunta un portavoz de Meta. Por otro lado, la compa?¨ªa permite que la gente hable de sus propios sentimientos y que comparta contenidos que traten sobre el suicidio, siempre que no lo promuevan.

El enfoque mixto, que combina herramientas autom¨¢ticas de detecci¨®n de material problem¨¢tico con la moderaci¨®n humana de contenidos, predomina en el sector. TikTok, por ejemplo, publica informes trimestrales sobre el cumplimiento de sus normas. En el ¨²ltimo, que abarca de abril a julio de este a?o, se muestra que se eliminaron 113,8 millones de v¨ªdeos, lo cual supone en torno al 1% del total de v¨ªdeos publicados. ¡°De estos, el 6,1% fueron eliminados por incumplir las pol¨ªticas relacionadas con suicidio y retos peligrosos¡±, sostienen fuentes de ByteDance, propietaria de la red social.

Una medida m¨¢s porosa, porque se puede falsear, pero que las tecnol¨®gicas se toman en serio, es la edad m¨ªnima de acceso. Facebook, TikTok, Instagram, Pinterest y Snapchat no aceptan a menores de 13 a?os; en YouTube hace falta tener 14. Google bloquea ciertas b¨²squedas y muestra tel¨¦fonos de ayuda a quienes se interesan por contenidos relacionados con las autolesiones o el suicidio. Lo mismo hace TikTok, que est¨¢ empezando a sustituir a Google como el buscador preferido de los m¨¢s j¨®venes.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.