YouTube relega a las m¨¢quinas y recupera a los moderadores humanos para filtrar el contenido da?ino

YouTube volver¨¢ a priorizar a los moderadores humanos para filtrar el contenido da?ino. La plataforma, en la que se suben cada minuto m¨¢s de 500 horas de v¨ªdeo, implement¨® con el estallido de la pandemia de coronavirus unas medidas sanitarias que llevaron a sustituir e de los trabajadores encargados de la supervisi¨®n por m¨¢quinas. Sin embargo, ahora revertir¨¢ esa situaci¨®n tras constatar que los sistemas automatizados eliminan v¨ªdeos ¡°en exceso¡± por ¡°falta de criterio¡±, seg¨²n ha explicado la filial de Alphabet en un comunicado.

Con menos personal en sus oficinas, YouTube hab¨ªa optado por reforzar su sistema de Inteligencia Artificial y darle mayor autonom¨ªa. Esta medida supuso que entre abril y junio, sus sistemas eliminaran m¨¢s de 11 millones de videos que supuestamente infring¨ªan las normas de la plataforma. Los datos compartidos por YouTube revelan que en el segundo trimestre del 2020, la compa?¨ªa elimin¨® cinco millones de videos m¨¢s que en el primer trimestre de este a?o y tres millones m¨¢s que en el mismo periodo pero del a?o anterior.

¡°A¨²n utilizamos m¨¢quinas y lo seguiremos haciendo cuando sean ¨²tiles. Lo que ha sucedido ahora es que, por la pandemia y con el fin de proteger a nuestro personal, optamos por depender m¨¢s de los sistemas automatizados y esto ocasion¨® que fueran bloqueados m¨¢s videos de lo normal¡±, aclaran fuentes de YouTube a EL PA?S v¨ªa correo electr¨®nico. Por esa raz¨®n, la plataforma ha decidido reintegrar al equipo a los moderadores humanos para que trabajen con los sistemas automatizados.

Cuesti¨®n de criterio

YouTube, que cuenta con m¨¢s de 2.000 millones de usuarios activos al mes, pretende evitar que las personas consuman v¨ªdeos violentos, racistas, que inciten el odio o que promuevan la desinformaci¨®n. La plataforma presume de la velocidad con la que sus sistemas autom¨¢ticos logran analizar el contenido da?ino y suprimirlo. Por ejemplo, seg¨²n el ¨²ltimo informe de transparencia de la plataforma, m¨¢s del 40% de los 11 millones de v¨ªdeos eliminados entre abril y junio, fueron retirados de la plataforma sin que un solo usuario real los viera y m¨¢s del 80% fueron retirados con menos de diez vistas.

Sin embargo, esa velocidad lleva en ocasiones a sacrificar contenido que no infringe las normas, y que por sus caracter¨ªsticas necesita del criterio humano para ser aprobado. El director de Productos de YouTube, Neal Mohan, ha explicado al diario Financial Times que hay ciertos videos que exigen ¡°decisiones m¨¢s matizadas¡± para su aprobaci¨®n o eliminaci¨®n, sobre todo cuando tratan de temas como el discurso del odio y acoso. El sistema de Inteligencia Artificial acierta al identificar v¨ªdeos ¡°potencialmente da?inos¡±, pero falla en el momento de decidir qu¨¦ deber¨ªa eliminarse, qu¨¦ no y porqu¨¦.

Para Manuel Moreno, consultor de redes sociales y director de TreceBits, el caso de YouTube prueba que por mucho que la tecnolog¨ªa pueda ayudar a controlar la difusi¨®n de contenidos il¨ªcitos, hay aspectos en los que la supervisi¨®n humana es fundamental. "Tanto YouTube como otras redes acuden a supervisores humanos, formados para tal fin, que son capaces de optimizar esa depuraci¨®n realizada por m¨¢quinas. Su trabajo es necesario, por mucho que se vayan optimizando las inteligencias artificiales y aprendan con el uso¡±, dice Moreno a EL PA?S v¨ªa telef¨®nica.

Elecciones y pandemia

Esta medida de YouTube se suma a otras adoptadas por las grandes plataformas para frenar la desinformaci¨®n en las pr¨®ximas elecciones de Estados Unidos y durante la pandemia por el coronavirus. Twitter, por ejemplo, ha hecho cambios en su plataforma desde febrero. Hace unas semanas actualiz¨® sus pol¨ªticas para proteger la conversaci¨®n c¨ªvica y ahora ¡°etiquetar¨¢ o eliminar¨¢ la informaci¨®n err¨®nea que tenga como objetivo socavar la confianza en las elecciones¡± y tambi¨¦n ha eliminado o etiquetado m¨²ltiples tuits de usuarios que difunden informaci¨®n falsa sobre el coronavirus. Facebook e Instagram tambi¨¦n anunciaron una medida similar: alertar¨¢n a sus usuarios sobre las publicaciones de los candidatos que ¡°declaren la victoria prematuramente¡± o que ¡°intenten poner en duda el resultado de las elecciones¡±.

Las compa?¨ªas tecnol¨®gicas han extremado el cuidado de sus pol¨ªticas de moderaci¨®n y buscan blindarse de la desinformaci¨®n, noticias falsas, discursos violentos y cualquier tipo de filtraciones que puedan repetir un escenario como el de 2016, cuando, seg¨²n las agencias de inteligencia estadounidenses, Rusia utiliz¨® las redes sociales para interferir en las elecciones presidenciales que llevaron al poder a Donald Trump.

Puedes seguir a EL PA?S TECNOLOG?A RETINA en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra Newsletter.