Moderaci¨®n viene de ¡°modo¡±

Google acaba de presentar su herramienta Perspective, que utiliza inteligencia artificial para luchar contra los trolls e identificar comentarios t¨®xicos en las webs, para que puedan ser revisados y, en su caso, excluidos de la conversaci¨®n.

Lo que en principio parece una noticia positiva ¡°para crear una buena conversaci¨®n en Internet¡±, tiene el riesgo de acabar siendo una herramienta de la peor censura de todas, que es la de lo pol¨ªticamente correcto; o, todav¨ªa peor, la auto-censura.

M¨¢s informaci¨®n

Mozilla planta cara a los ¡®trolls¡¯

Twitter lanza una bater¨ªa de herramientas contra los 'trolls'

La clave est¨¢ en saber qu¨¦ criterios se utilizan por esta herramienta para considerar un comentario como t¨®xico y si se pueden borrar contenidos que no son ilegales, limitando, as¨ª, el derecho humano universal a la libertad de expresi¨®n.

Machine learning / Human teaching

Perspective se basa en el aprendizaje autom¨¢tico (machine learning), en el que el papel del ser humano es fundamental, porque un equipo de personas se dedica a revisar comentarios y crear una base de datos en la que se incluyen aquellos que se consideran ¡°t¨®xicos¡± (insultos, palabrotas o faltas de respeto), que luego utiliza la m¨¢quina para revisar y marcar los comentarios que coinciden con ellos.

Por eso, all¨ª donde hay un aprendizaje (learning) existe un magisterio (teaching) y lo m¨¢s importante del machine learning no es la tecnolog¨ªa o los algoritmos, sino el human teaching; es decir, los criterios que utilizan los humanos para ense?ar o entrenar a la Inteligencia Artificial a pensar (como ellos). Y, por eso, una misma herramienta puede ofrecer distintos resultados seg¨²n qui¨¦n la entrene.

Otra posibilidad es que el sistema se entrene por los propios usuarios de las webs, que pueden denunciar (o no) aquellos comentarios que consideren ¡°t¨®xicos¡±. Pero ya se ha visto, por alguna experiencia de chatbot (robot de conversaci¨®n en redes sociales), como la que tuvo Microsoft, que la Inteligencia Artificial puede juntarse con malas compa?¨ªas y aprender a decir (o a censurar) algo que no debe.

La cortes¨ªa o netiqueta

?C¨®mo conciliar la libertad de expresi¨®n y un buen ambiente para la conversaci¨®n? Quiz¨¢ recuperando valores tan antiguos como la netiqueta de los primeros a?os de internet, que no es sino la buena educaci¨®n o la cortes¨ªa.

La libertad de expresi¨®n tiene que ver con qu¨¦ se dice y la cortes¨ªa, con c¨®mo. Se debe poder hablar de todo e, incluso, expresar opiniones que puedan molestar, pero uno debe siempre cuidar las formas en que se expresa.

Ese es el sentido de la moderaci¨®n de los comentarios. Como hace el Presidente del Congreso de los Diputados cuando llama a un diputado al orden y a guardar la debida cortes¨ªa parlamentaria. Moderaci¨®n viene de modo.

Twitter y su filtro de calidad

Hace unos meses Twitter present¨® su propia estrategia para controlar a los trolls (provocadores) y haters (personas que publican mensajes de odio) mediante una serie de filtros que permiten al usuario, no eliminar, pero s¨ª ocultar sus comentarios.

Lo que m¨¢s me llam¨® la atenci¨®n es el llamado filtro de calidad (de los tuits), que, seg¨²n Twitter, ¡°permite mejorar la calidad de los tuits que ves gracias a que utiliza una variedad de se?ales, como el origen y el comportamiento de la cuenta¡±.

¡°Cuando se activa, filtra el contenido de menor calidad, como los tuits duplicados o el contenido que parezca automatizado¡±, tanto en la cronolog¨ªa de notificaciones como en los principales resultados de b¨²squeda y en las respuestas.

Eso, unido a las posibilidades de silenciar o bloquear a determinadas personas y de silenciar palabras espec¨ªficas, permite al usuario no leer cosas previsiblemente ofensivas, pero no las elimina y de hecho otros usuarios las pueden seguir leyendo.

En este caso se ha optado por ¡°ojos que no ven, coraz¨®n que no siente¡±. Pero el da?o ¡ªsi existe¡ª sigue ah¨ª, a la vista de los dem¨¢s; y, sobre todo, no leer¨¢s lo malo, pero te puedes perder tambi¨¦n lo bueno, porque, entre el fango, puede haber oro.

Lo mejor de esta vida no est¨¢ previsto

?Qu¨¦ pasar¨ªa si en la vida presencial bloque¨¢ramos a determinadas personas o silenci¨¢ramos mensajes y conversaciones que contuvieran palabras espec¨ªficas?, ?tendr¨ªamos una vida de mejor o peor calidad?

Si s¨®lo recibi¨¦ramos las interacciones sociales de las personas que ya conocemos, no conocer¨ªamos personas nuevas, ni nuevos puntos de vista. No ver¨ªamos cosas previsiblemente malas, pero tampoco cosas buenas imprevisibles.

Nadie sabe de qui¨¦n se va a enamorar, ni en qu¨¦ va a trabajar, ni d¨®nde va a vivir. Y muchas veces lo que cambia tu vida lo encuentras en el lugar m¨¢s insospechado. Por eso prefiero leer y vivir sin filtros, porque lo mejor de esta vida no est¨¢ previsto.