Facebook desarrolla un algoritmo para detectar conductas suicidas antes que los humanos

La nueva tecnolog¨ªa de detecci¨®n proactiva que estrena Facebook este lunes rastrear¨¢ todos los post en busca de patrones relacionados con conductas suicidas. Este software, desarrollado para salvar vidas, permite al equipo humano de la compa?¨ªa facilitar ayuda psicol¨®gica a la persona en riesgo o a sus amigos y familiares m¨¢s r¨¢pido al no necesitar que otros usuarios informes sobre estas conductas con antelaci¨®n.

La tecnolog¨ªa, que ya estaba siendo probada en Estados Unidos, ya est¨¢ activa en todo el mundo, salvo en la Uni¨®n Europea, donde sus restrictivos reglamentos para salvaguardar la privacidad de los internautas lo impiden. La inteligencia artificial de Facebook est¨¢ entrenada para reconocer patrones en entradas escritas y v¨ªdeos en directo sirvi¨¦ndose del chat. Respuestas como "?Te encuentras bien?" o "?Necesitas ayuda?" son buenos indicadores de que una persona puede estar en riesgo, dice la compa?¨ªa. Seg¨²n Facebook, se han dado casos en los que los algoritmos han detectado casos de riesgo desapercibidos para las personas.

Pero las m¨¢quinas son s¨®lo una simple herramienta del equipo de moderadores. Su objetivo es agilizar la detecci¨®n. Facebook se?ala que est¨¢ dedicando m¨¢s recursos para la prevenci¨®n de suicidios y entrenando a sus empleados para lidiar con casos las 24 horas del d¨ªa los siete d¨ªas de la semana. Ya son m¨¢s de 80 las organizaciones que apoyan la iniciativa como Save.org o la Red Nacional de Prevenci¨®n del Suicidio estadounidense.

Las capacidades tecnol¨®gicas de Facebook para detectar conductas pueden asustar a usuarios y organizaciones

En los v¨ªdeos en directo, Facebook avisar¨¢ a un revisor especializado y har¨¢ m¨¢s prominentes las funciones a los espectadores para informar sobre un posible caso de riesgo de suicidio. Cuando un usuario informa sobre una situaci¨®n de riesgo, la inteligencia artificial facilitar¨¢ al moderador las partes claves del v¨ªdeo y clasificar¨¢ por prioridad todos los casos detectados para acelerar la acci¨®n donde m¨¢s se necesita.

El despliegue es global porque Facebook cuenta con recursos locales, incluyendo l¨ªneas telef¨®nicas de ayuda y comunicaci¨®n con las autoridades cercanas. El moderador puede contactar con profesionales, familiares o amigos del usuario en riesgo.

Para Facebook, el despliegue de este tipo de funciones es de vital importancia para construir una comunidad m¨¢s segura y para conseguir paliar los errores cometidos en el pasado con la retransmisi¨®n de suicidios en directo o el impacto en las elecciones estadounidenses y la difusi¨®n de noticias falsas.

Facebook es el gran protagonista junto a Google del desarrollo y uso de algoritmos de inteligencia artificial

Rastrear patrones de actividad puede salvar vidas, pero tambi¨¦n preocupar a usuarios y organizaciones que temas que ese seguimiento pueda ser empleado para otros menesteres. Los pioneros de la red social como Roger MacNamee han criticado abiertamente el uso de la tecnolog¨ªa para persuadir a usuarios con fines propagand¨ªsticos.

"El uso malicioso de la IA ser¨¢ un riesgo siempre, por lo que es importante establecer buenas pr¨¢cticas hoy para sopesar el balance entre la trata masiva de datos y su utilidad, teniendo en cuenta siempre el sesgo humano que pueden arrastrar las m¨¢quinas", dice Alex Stamos, jefe de seguridad inform¨¢tica de Facebook.

Mark Zuckerberg, fundador y consejero delegado de la compa?¨ªa, defendi¨® abiertamente el desarrollo de la inteligencia artificial sin una regulaci¨®n estricta de por medio ante el discurso que promulg¨® Elon Musk sobre sus peligros en junio.