Facebook alega que carece de v¨ªdeos de atentados como el de Nueva Zelanda para evitar su difusi¨®n

El sistema de inteligencia artificial (IA) de Facebook para prevenir la difusi¨®n de im¨¢genes da?inas no fue capaz de identificar la retransmisi¨®n en directo del atentado de Christchurch en Nueva Zelanda, en el que murieron 50 personas y varias decenas de personas resultaron heridas. El vicepresidente de la compa?¨ªa, Guy Rosen, ha remitido este jueves una explicaci¨®n: ¡°Los sistemas de IA est¨¢n basados en datos que los entrenan, lo que significa que se necesitan miles de ejemplos de este contenido para entrenar a un sistema capaz de detectar ciertos tipos de texto, im¨¢genes o videos. Ha funcionado muy bien con temas como desnudos, propaganda terrorista y tambi¨¦n con gr¨¢ficos de violencia, de los que hay un gran n¨²mero de ejemplos que podemos usar para entrenar a nuestros sistemas". Para conseguir el mismo resultado en situaciones como la de Nueva Zelanda, a?ade el directivo, "tenemos de dotar a nuestros sistemas de un gran volumen de datos de este tipo de contenidos, lo que es dif¨ªcil en estos eventos [el atentado] y son afortunadamente raros¡±.

Rosen admite la ¡°incre¨ªble importancia¡± de la lucha contra el terrorismo a trav¨¦s de la red social y que el sistema ¡°nunca va a ser perfecto¡±. Por esta raz¨®n apela a las personas como ¡°parte de la ecuaci¨®n¡±, tanto aquellas encargadas de la revisi¨®n de contenidos como los usuarios que denuncian la existencia de informaci¨®n inapropiada.

El video de los atentados fue eliminado a los pocos minutos de su ejecuci¨®n, pero pudo ser visualizado 200 veces durante su retransmisi¨®n en directo sin que ning¨²n usuario lo denunciara en ese momento. El contenido completo, tras el crimen, se reprodujo 4.000 veces hasta que fue remitido a Facebook (29 minutos despu¨¦s del comienzo de la matanza y 12 minutos tras el final de la retransmisi¨®n en directo) un enlace donde se pod¨ªa acceder a una grabaci¨®n del mismo. Unas 300.000 copias fueron eliminadas.

Facebook Live, que permite emitir en directo acontecimientos, ha sido tambi¨¦n una puerta para contenidos inapropiados que Facebook intenta controlar de forma prioritaria con sus sistemas. El principal objetivo de prevenci¨®n son las im¨¢genes relacionadas con suicidios y actos da?inos, como las autolesiones.

800 formatos diferentes

La experiencia de Nueva Zelanda ha servido para que la compa?¨ªa revise los protocolos de control y denuncia con el fin de acelerar la toma de decisiones.

Ahora, Facebook reconoce la dificultad de evitar difusiones a trav¨¦s de otras redes sociales o plataformas de intercambio de ficheros. Se trata de copias que algunos usuarios de cualquier parte del mundo consiguieron a trav¨¦s de aplicaciones o servicios de Internet, capturando los v¨ªdeos de algunas p¨¢ginas o grabando con sus m¨®viles las pantallas.

El hecho de que se conozca la existencia del video ha hecho que mucha gente lo busque, admite Rosen, quien advierte que su compa?¨ªa proh¨ªbe la difusi¨®n de estas im¨¢genes.

Durante las primeras 24 horas, Facebook ha eliminado 1,2 millones de v¨ªdeos, pero el vicepresidente de la red social entiende que existen grupos subiendo nuevas copias a Internet y en versiones preparadas para evitar la detecci¨®n de los sistemas inform¨¢ticos. Se han registrado? hasta 800 variantes de formatos. Ante estas circunstancias, se han empleado tecnolog¨ªa de identificaci¨®n de audio para afinar m¨¢s las b¨²squedas.