YouTube cancela canales que ponen en peligro a los ni?os

YouTube ha reaccionado tras la denuncia del blog de pediatr¨ªa Pedimom.com sobre la existencia en la aplicaci¨®n para ni?os YouTube Kids de contenidos violentos y suicidas. La compa?¨ªa de Google ha anunciado que ha ¡°cancelado ciertos canales que intentan poner en peligro a los menores de cualquier manera¡±. Tambi¨¦n ha restringido al m¨¢ximo los comentarios en v¨ªdeos donde salgan por la avalancha de quejas sobre el sentido de estos.

La supresi¨®n de contenidos tambi¨¦n afecta a los dirigidos a ¡°cualquier audiencia¡± y que ¡°alientan los desaf¨ªos da?inos y peligrosos¡±. El presidente de la Sociedad Espa?ola de Suicidolog¨ªa, Andoni Anse¨¢n, ha advertido de la mayor presencia de im¨¢genes con comportamientos de autolesi¨®n, una actitud observada principalmente entre adolescentes, aunque no son los ¨²nicos, que imitan acciones de su grupo en busca de la aceptaci¨®n.

YouTube ha remitido actualizaciones sobre las acciones relacionadas con la seguridad de los menores y ha reiterado su llamamiento a la comunidad de usuarios y creadores para que adviertan de cualquier contenido que da?e a los espectadores, ya que no se realiza un filtrado previo personal de los v¨ªdeos y algunas escenas contrarias a la pol¨ªtica del canal sortean los mecanismos autom¨¢ticos de control.

Este ha sido el caso del v¨ªdeo que gener¨® las quejas de Pedimon tras ser visualizado por una m¨¦dico de Estados Unidos mientras su hija estaba siguiendo unos dibujos animados. La pel¨ªcula se interrumpi¨® en el minuto 4,47 para mostrar una secuencia en la que un personaje denominado Joji (Filthy Frank) simula cortarse las venas y afirma: ¡°Recordad ni?os, de lado a lado para llamar la atenci¨®n, a lo largo para resultados¡±. El v¨ªdeo fue retirado tras las quejas, pero el blog mostr¨® otros contenidos de la aplicaci¨®n para ni?os con episodios violentos o suicidas.

Uno de los dibujos animados donde la protagonista se suicida y que ha sido denunciado por pedimom.com

¡°Por favor contin¨²en marcando ¨¦stos para nosotros¡±, ha pedido YouTube a sus usuarios en referencia a la posibilidad de que se?alen los contenidos inapropiados o ¡°pongan en peligro a los menores de edad¡±.

Anse¨¢n, que tambi¨¦n es director del m¨¢ster en Gesti¨®n Cl¨ªnica y Sanitaria en Salud Mental de la Universidad Pablo de Olavide (Sevilla), explic¨® que las redes sociales han establecido numerosos controles y barreras a contenidos peligrosos, en especial a partir de suicidios retransmitidos en directo o casos como los de Ballena azul o Momo (iniciativas de retos violentos), pero advirti¨® que ¡°es dif¨ªcil ponerle puertas al campo¡±. ¡°Es necesario el control, pero este se enfrenta a un contenido infinito que puede ser utilizado bien, para prevenir, o mal, para promover¡±, a?adi¨®.

Deshabilitados los comentarios en videos con menores

Dentro de la misma pol¨ªtica de protecci¨®n, YouTube ha deshabilitado los ¡°comentarios de decenas de millones de v¨ªdeos que podr¨ªan estar sujetos a un comportamiento depredador¡±. La medida se extender¨¢ a los ¡°v¨ªdeos que muestran a ni?os y a j¨®venes que podr¨ªan correr el riesgo de atraer comportamientos predatorios¡±.

De esta forma, el mantenimiento de comentarios se restringir¨¢ a ¡°un peque?o n¨²mero de creadores¡± que moderen activamente sus comentarios y ¡°demuestren un bajo riesgo de comportamiento depredador¡±. ¡°Trabajaremos directamente con ellos y nuestro objetivo es aumentar este n¨²mero a lo largo del tiempo a medida que nuestra capacidad para detectar comentarios infractores siga mejorando¡±, advierte la compa?¨ªa.

Para ampliar los usuarios autorizados a incluir respuestas del p¨²blico en sus producciones, YouTube ha adelantado el lanzamiento de un nuevo clasificador m¨¢s efectivo en la identificaci¨®n y eliminaci¨®n de ¡°comentarios abusivos¡± sin que afecte a la ¡°monetizaci¨®n del v¨ªdeo¡±, los ingresos que reciben los creadores por sus difusiones. ¡°Ahora tenemos un nuevo clasificador que tiene un alcance m¨¢s amplio y detectar¨¢ y eliminar¨¢ dos veces m¨¢s comentarios¡±, asegura la plataforma de Google.

Esta medida se produce tras un v¨ªdeo publicado en la plataforma el 17 de febrero que acumul¨® casi dos millones de reproducciones en menos de cuatro d¨ªas. El v¨ªdeo, del youtuber Matt Watson, demuestra lo f¨¢cil que es llegar a lo que llama un ¡°agujero de gusano¡± en el que la columna de recomendaciones de YouTube se llena de v¨ªdeos protagonizados por ni?as y ni?os.

No son v¨ªdeos con contenido sexual expl¨ªcito, pero los comentarios est¨¢n llenos de expresiones desagradables o se?alan secuencias susceptibles de ser sexualizadas. Tambi¨¦n hay enlaces a otros v¨ªdeos (que ahora aparecen como borrados) y propuestas para a?adirse unos a otros como contactos.