Google crea Perspective para luchar contra los ¡®trolls¡¯ en las noticias

El 47% de los usuarios de Internet en Estados Unidos ha sufrido acoso. Un 72% ha sido testigo de este abuso. Y casi un tercio se autocensura a la hora de poner un mensaje, por miedo a las consecuencias. Estas cifras, del estudio Acoso online y abuso digital del Instituto de Investigaci¨®n Data Society, son las que han terminado de convencer a Google de que hab¨ªa que luchar contra los trolls de la Red y "convertir Internet en un espacio m¨¢s seguro". El gran gigante tecnol¨®gico lanza este jueves Perspective, una herramienta que utiliza inteligencia artificial para identificar comentarios "t¨®xicos" en las noticias con el objetivo de que pueden ser revisados y excluidos de la conversaci¨®n.

"El desaf¨ªo actual es crear una buena conversaci¨®n en Internet. Hay much¨ªsima gente tratando de entablar debates en las secciones de comentarios de las p¨¢ginas webs, pero terminan march¨¢ndose y dejando la conversaci¨®n por culpa de otra gente que insulta o falta al respeto", ha explicado en una conferencia telef¨®nica Jared Cohen, fundador y presidente de Jigsaw. Esta empresa ¡ªantes conocida como Google Ideas¡ª ha sido la encargada de desarrollar el c¨®digo para plantar cara a los trolls.

Perspective puede ser utilizada de forma gratuita por cualquier editor y desarrollador de contenido

Perspective puede ser utilizada de forma gratuita por cualquier editor y desarrollador de contenido, ya que es de c¨®digo abierto. Es decir, no se trata de una tecnolog¨ªa creada por Google para uso exclusivo de Google, sino que "el objetivo es empoderar a los editores de publicaciones y plataformas para que ellos puedan decidir lo que se puede o no decir en sus p¨¢ginas webs", ha sostenido Cohen.

Los editores pueden decidir lo que hacer con la informaci¨®n que reciben de Perspective. Desde Jigsaw plantean varias opciones: marcar los comentarios para que sean revisados por sus propios moderadores y decidir si los incluyen en una conversaci¨®n; permitir que los usuarios vean la toxicidad potencial de su comentario cuando lo est¨¢n escribiendo, o clasificar los comentarios seg¨²n este criterio, para "facilitar la b¨²squeda de grandes debates escondidos en conversaciones t¨®xicas".

Aprender a leer insultos

El funcionamiento es, en teor¨ªa, sencillo. Primero, un equipo de personas se dedica a revisar comentarios y crea una base de datos en la que se incluyen aquellos que consideran?t¨®xicos ¡ªporque contienen insultos, palabrotas o faltas de respeto¡ª. Despu¨¦s Perspective, de forma aut¨®noma, se encarga de analizar decenas de miles de comentarios de p¨¢ginas webs. Para saber cu¨¢les son t¨®xicos, los eval¨²a y compara con los que est¨¢n en la base de datos. Si hay una similitud con los que ya se consideran perjudiciales, los identifica y a?ade. "As¨ª, si alguien est¨¢ dici¨¦ndole a otro feo, est¨²pido o idiota, se comprueba si esas palabras se identifican con algunos de los comentarios t¨®xicos que el sistema ya tiene almacenados. Es una manera de entrenarlo", describe Cohen.

La inteligencia artificial identificar¨¢ mejor los insultos y comentarios t¨®xicos cu¨¢nto m¨¢s se use

La clave del funcionamiento de Perspective est¨¢ en la utilizaci¨®n del aprendizaje autom¨¢tico (machine learning). Esta forma de inteligencia artificial analiza datos y crea patrones a partir de los aciertos. As¨ª, cu¨¢nto m¨¢s se usa, m¨¢s aprende. Los datos, en este caso los comentarios, son su alimento. "Perspective no es perfecta todav¨ªa porque est¨¢ en una etapa muy inicial, pero cu¨¢ntos m¨¢s datos tenga, mejor funcionara. Cu¨¢ntos m¨¢s comentarios analice, m¨¢s perfecta ser¨¢", ha asegurado Cohen.

Durante este tiempo de entrenamiento, sus creadores saben que Perspective cometer¨¢ errores, por lo que conf¨ªan en la labor de revisi¨®n. Esta tarea la pueden llevar a cabo tanto editores como usuarios que est¨¦n leyendo los comentarios. Si estos no consideran que ¡°feo¡± sea un insulto, el sistema tampoco lo detectar¨¢ como tal. Esa dependencia plantea la posibilidad de que la m¨¢quina tome decisiones err¨®neas sobre lo que es reprobable o no; como ocurri¨® con Tay, el bot de Microsoft, que aprend¨ªa en base a las conversaciones que manten¨ªa en Twitter y termin¨® proclamando insultos racistas y negando el genocidio nazi.

Acerca de esta posibilidad, el fundador de Jigsaw se ha mostrado seguro de su producto: "Estamos ofreciendo la posibilidad de mejorar y seg¨²n los datos que manejamos ni a los editores ni a los usuarios les gustan estos comentarios insultantes".

Solo disponible en ingl¨¦s

De momento, esta herramienta solo est¨¢ disponible en ingl¨¦s, aunque pr¨®ximamente ¡ªno han especificado fecha¡ª llegar¨¢ en m¨¢s idiomas. Cuando editores y plataformas de otros pa¨ªses se muestren interesados en colaborar, se podr¨¢n empezar a recoger datos de esos lenguajes para construir un modelo, como se hizo con el ingl¨¦s y The New York Times. Jigsaw empez¨® a probar la tecnolog¨ªa hace algunos meses con el peri¨®dico estadounidense, que ya ten¨ªa un equipo que se encargaba de examinar y moderar los comentarios antes de que se publicaran. El personal del Times analiza en tiempo real alrededor de 11.000 comentarios cada d¨ªa. Una cantidad que ha provocado que solo se permita comentar en un 10% de los art¨ªculos. El objetivo de Perspective es ayudarles a clasificarlos con m¨¢s rapidez al mismo tiempo que nutren a su algoritmo con todos esos ejemplos.?

La iniciativa de Google no es nueva. Otras empresas como Twitter o Mozilla ya han empezado acciones similares. En el caso de la red social, la decisi¨®n de plantar cara a los trolls estuvo motivada porque compa?¨ªas como Salesforce y Disney declinaron comprarla por los problemas de moderaci¨®n y la falta de una comunidad saludable. As¨ª, Twitter ha puesto a disposici¨®n de los usuarios herramientas para silenciar una conversaci¨®n y marcar palabras intolerables. De esta manera, se puede dejar un hilo de conversaci¨®n sin recibir notificaciones y tener una lista negra de palabras hirientes para que no se puedan relacionar con tu perfil, ni citarte con ellas. Sin embargo, muchos usuarios consideran que el dejar de ver algo, cuando se silencia un mensaje o se bloquea a un usuario, no es freno suficiente.