C¨®mo aprovechan los ped¨®filos las sugerencias de Youtube

La mayor¨ªa de padres se sienten tranquilos cuando se acercan con sus hijos a un parque infantil. Son conscientes de que se trata de un espacio concebido para que se lo pasen bien y est¨¦n seguros. Las preocupaciones suelen aumentar cuando dejan a los menores delante de un dispositivo electr¨®nico: internet no es un parque infantil. Normalmente, percibimos los riesgos de las p¨¢ginas maliciosas y los perfiles an¨®nimos, pero, en ocasiones, la amenaza se puede presentar en plataformas que conocemos bastante mejor.

Un equipo de investigadores del Centro Berkman Klein para Internet y la Sociedad de Harvard ha descubierto que el sistema de recomendaciones automatizado de Youtube puede mostrar v¨ªdeos de ni?os preadolescentes con poca ropa a usuarios que consumen v¨ªdeos de contenido sexual, tal y como refleja un reportaje de The New York Times publicado esta semana.

Una de las cuestiones m¨¢s inquietantes que percibieron los investigadores es que los espectadores no tienen por qu¨¦ buscar contenidos en los que aparecen ni?os para que Youtube le termine sugiriendo que los consuma. Seg¨²n explicaron al peri¨®dico estadounidense, una persona que busca v¨ªdeos de contenido er¨®tico puede ir encontrando entre sus recomendaciones publicaciones m¨¢s extra?as en las que se pone un ¨¦nfasis preocupante en la juventud.

M¨¢s informaci¨®n

Por qu¨¦ en internet no es oro todo lo que reluce

Los sistemas de recomendaci¨®n te van a conocer como si te hubieran parido

Para confirmar sus sospechas, los investigadores crearon un servidor en Brasil que abr¨ªa v¨ªdeos y segu¨ªa las recomendaciones que le daba la plataforma. Partiendo de contenidos sobre mujeres que hablan de sexo, fueron derivando hacia v¨ªdeos de mujeres en ropa interior. Algunas de las siguientes sugerencias mostraban a mujeres posando con ropa de ni?os y, a partir de ah¨ª, vieron que la plataforma recomendaba v¨ªdeos de ni?os con poca ropa, principalmente de Europa del Este y Latinoam¨¦rica.

¡°Por s¨ª solo, cada v¨ªdeo puede ser perfectamente inocente, una pel¨ªcula casera, por ejemplo, hecha por un ni?o. Cualquier marco revelador es fugaz y, en apariencia, accidental. Pero, agrupados, sus caracter¨ªsticas compartidas se vuelven inconfundibles¡±, se?ala el art¨ªculo.

Algunos estudios han bautizado el fen¨®meno que podr¨ªa esconderse detr¨¢s de estas recomendaciones como el efecto de la madriguera de conejo. Sostienen que la plataforma conduce a sus espectadores a v¨ªdeos con tem¨¢ticas cada vez m¨¢s extremas para seducirles y conseguir que consuman m¨¢s contenido. Un ejemplo ser¨ªa si despu¨¦s de ver un v¨ªdeo con las mejores jugadas de un partido de f¨²tbol, Youtube nos sugiriera otro sobre peleas en el terreno de juego. O si despu¨¦s de ver uno sobre carreras de coches, nos recomendara otro de accidentes en el circuito. La compa?¨ªa niega rotundamente que exista un inter¨¦s comercial en impulsar a sus usuarios hacia contenido extremista.

Por s¨ª solo, cada v¨ªdeo puede ser inocente. Agrupados, sus caracter¨ªsticas se vuelven inconfundibles

El sistema de recomendaciones de Youtube funciona gracias a algoritmos de inteligencia artificial que aprenden del uso que hacen los usuarios. Poco se sabe acerca de los par¨¢metros que tienen en cuenta para decidir qu¨¦ recomiendan a cada consumidor y del peso que otorgan a cada uno. No obstante, fuentes de la plataforma reconocen que esta funcionalidad genera el 70% de sus visitas.

A pesar de la gravedad de la situaci¨®n, la multinacional ha decidido no desactivar las recomendaciones relativas a v¨ªdeos de menores. T¨¦cnicamente es posible, ya que pueden detectar estos contenidos de manera autom¨¢tica, pero consideran que eliminar por completo las recomendaciones en estos v¨ªdeos perjudicar¨ªa a los creadores que dependen de ellas para incrementar su tr¨¢fico. En su lugar, prometieron limitar aquellas que consideren que ponen en riesgo a los ni?os.

Hace cuatro meses, varios medios de comunicaci¨®n alertaron de la existencia de una red de depredadores sexuales que recurr¨ªa a la secci¨®n de comentarios de los v¨ªdeos de la plataforma para compartir estos contenidos con otros ped¨®filos. La reacci¨®n de Youtube fue inmediata: en pocos d¨ªas, deshabilitaron los comentarios en un buen n¨²mero de v¨ªdeos en los que aparec¨ªan menores.