¡°Estoy aqu¨ª para darte apoyo¡±: Violetta, Sophia y Sara, los chatbots que acompa?an a v¨ªctimas de violencia machista

Todas pueden hablar con Violetta. Con solo un mensaje a trav¨¦s de WhatsApp, el chatbot contesta r¨¢pidamente: ¡°Estoy aqu¨ª para darte las herramientas que necesitas para crear relaciones libres de violencia¡±. Aunque a Violetta no se le puede ver ni tocar, ha acompa?ado a 260.000 usuarias an¨®nimas en M¨¦xico durante el ¨²ltimo a?o. El chatbot es uno de los diversos proyectos con inteligencia artificial (IA) que han sido creados para abordar la violencia machista, un problema estructural que afecta a una de cada tres mujeres en el mundo. Decenas de miles de usuarias han recurrido a la tecnolog¨ªa para buscar ayuda, pues la verg¨¹enza, el miedo a ser juzgadas y no contar con un entorno familiar que las acompa?e en su proceso de denuncia frena que muchas mujeres den el primer paso para salir del espiral de violencia en el que est¨¢n inmersas.

¡°M¨¢s que un chatbot, soy tu confidente digital¡±, asegura Violetta, que fue lanzada por Floretta Mayerson, Sara Kalach, Sasha Glatt y Carla Pilgram durante el confinamiento por la covid-19. En esa ¨¦poca, hubo una saturaci¨®n de las l¨ªneas telef¨®nicas de apoyo contra la violencia de g¨¦nero y cientos de hogares dejaron de ser espacios seguros en un pa¨ªs que sufre m¨¢s de 3.000 asesinatos de mujeres al a?o. Macarena Estefan, directora de Psicolog¨ªa de Violetta, explica que el objetivo del chatbot es ser ¡°ese puente que facilite el proceso de escucha¡±, pues las fundadoras se percataron de que muchas personas recurr¨ªan a buscadores como Google para resolver sus dudas, incluso antes de desahogarse con un humano. ¡°Una v¨ªctima puede tardar desde uno hasta cinco a?os en hablar¡±, recalca.

Violetta es el primer modelo de aprendizaje autom¨¢tico en espa?ol, pues es una IA supervisada y no generativa (como la de ChatGPT), que se basa en un conjunto de datos y utiliza algoritmos espec¨ªficos. Esta asociaci¨®n civil canaliza a las usuarias ¡ªmujeres j¨®venes y adultas en m¨¢s de un 70%¡ª que est¨¢n viviendo situaciones extremas con la L¨ªnea Violeta, en la que hay detr¨¢s un equipo compuesto exclusivamente por terapeutas.

Desde entonces, el chatbot ha logrado encauzar 40.000 personas con especialistas, aunque tambi¨¦n ofrecen contactos de instituciones legales. Por su parte, Sophia Chat, un chatbot de la ONG suiza Spring ACT que tambi¨¦n surgi¨® durante la pandemia, ha ayudado a m¨¢s de 40.000 v¨ªctimas de violencia desde su lanzamiento. La fundadora y directora ejecutiva, Rhiana Spring, trabaja con un equipo de asistentes sociales, psic¨®logos, programadores y abogados que han entrenado a Sophia. ¡°Nosotros empezamos con Sophia tres a?os antes de que ChatGPT se convirtiera en un fen¨®meno mundial. Hay muchas diferencias importantes, ya que no pide que inicies sesi¨®n y la informaci¨®n del bot es precisa. Trabajamos con una base de datos verificada¡±, indica.

En 2022, Sophia aterriz¨® en Per¨² por sus altos ¨ªndices de violencia de g¨¦nero, donde m¨¢s de la mitad de mujeres ha vivido alg¨²n tipo de agresi¨®n f¨ªsica y psicol¨®gica. El chatbot es capaz de comunicarse en espa?ol y quechua: ¡°?Hola! ?Podr¨ªas darme m¨¢s detalles sobre c¨®mo puedo ayudarte hoy? Estoy aqu¨ª para ofrecer informaci¨®n y apoyo¡±. Su base de datos contempla a instituciones como el Centro de Emergencia Mujer (CEM), la Polic¨ªa Nacional del Per¨² y otros servicios.

La asistente virtual Sara lleg¨® en 2023 a Rep¨²blica Dominicana para ayudar a mujeres, ni?as y adolescentes v¨ªctimas de la violencia machista. Un a?o despu¨¦s, Mar¨ªa lo hizo en Honduras. En ambos pa¨ªses, con las tasas m¨¢s altas de feminicidios en Latinoam¨¦rica, la start-up alicantina 1MillionBot desarroll¨® estos chatbots para adaptarlos a los contextos locales en alianza con el Programa de Naciones Unidas para el Desarrollo.

Sara ha dirigido a m¨¢s de 3.000 usuarias con instituciones p¨²blicas y casas de acogida dominicanas. Raquel Pomares, directora de producci¨®n de la start-up que coordina a Sara y Mar¨ªa, cuenta que est¨¢n enfocadas en mejorar la calidad de informaci¨®n sobre la violencia de g¨¦nero: ¡°A nosotros nos parece una herramienta potente y los fines educativos que tiene el chatbot son innegables¡±.

Macarena Estefan es enf¨¢tica en recalcar que los chatbots son grandes herramientas digitales, ¡°pero en otros casos es muy importante que las personas hablen con una profesional¡±. ¡°Sabemos las limitaciones que tiene esta tecnolog¨ªa¡°, agrega. Violetta, Sophia, Sara y Mar¨ªa no cruzan la informaci¨®n de las usuarias para mantener el anonimato y pueden ser utilizadas en un ordenador o por mensajer¨ªa de WhatsApp y Telegram.

AinoAid pronto en Espa?a

La Polic¨ªa Local de Valencia (PLV), en Espa?a, est¨¢ perfeccionando AinoAid, un chatbot creado en Finlandia en 2021 en el marco del proyecto Improve, que recibe fondos de la Uni¨®n Europea. AinoAid? se encuentra en proceso de testeo, absorbiendo informaci¨®n y sobre todo, ejercit¨¢ndose con interacciones. Jos¨¦ Luis Diego, inspector del ¨¢rea de Innovaci¨®n e Investigaci¨®n de PLV, reconoce que le ha dado bastante trabajo. ¡°Estamos en labores de traducci¨®n, necesitamos que la herramienta sea 100% accesible¡±, se?ala. El equipo se encuentra en la fase m¨¢s compleja, que culminar¨¢ con la presentaci¨®n de un primer prototipo en noviembre de este a?o. En Espa?a, el n¨²mero de mujeres v¨ªctimas de violencia de g¨¦nero aument¨® un 12,1% en 2023, seg¨²n cifras del Instituto Nacional de Estad¨ªsticas.

Anna Juusela es CEO de WeEncourage, uno de los socios del proyecto que desarroll¨® originalmente AinoAid, que ayuda a 600 usuarias mensuales. ¡°Las v¨ªctimas necesitan soporte y no es posible ayudarlas desde un solo frente. El chatbot no reemplaza a los humanos, porque necesitamos a profesionales desde el ¨¢rea de la salud hasta el sector policial¡±, reflexiona. Esta herramienta digital, que estar¨¢ presente en cinco pa¨ªses como Alemania o Austria a finales de 2024, se enfoca en proporcionar a profesionales (como la polic¨ªa) de conocimientos para mejorar su respuesta. En esa l¨ªnea, Joachim Kersten, uno de los coordinadores de Improve, opina que a los oficiales ¡°les resulta dif¨ªcil abordar la violencia de g¨¦nero porque en general no est¨¢n calificados¡±.

El ¨¢rea de Innovaci¨®n de Valencia ha tenido el asesoramiento de la Unidad de G¨¦nero de la PLV, que posee m¨¢s de 700 mujeres bajo protecci¨®n. La coordinadora del Grupo de Atenci¨®n al Maltrato (Gama), Estefan¨ªa Navarrete, recuerda que durante la pandemia detectaron muchos casos de mujeres que quedaron encerradas con su agresor. Esta situaci¨®n hizo que empezaran a considerar otras v¨ªas de comunicaci¨®n con ellas.

¡°Lo primero que pens¨¦ al escuchar del chatbot es en todas las mujeres que no podemos contactar y que no se atreven a contar a un polic¨ªa en una comisar¨ªa lo que les sucede. El chatbot les puede orientar a dar esos primeros pasos¡±, plantea.

¡°Los violentadores protegen su agresi¨®n para quitar toda v¨ªa de escape. Muchas mujeres tienen hijos en com¨²n y la idea es entregarles puentes¡±, desarrolla. Diego, de la PLV, cree que el bot va a ayudar a identificar ¡°casos de forma temprana¡±. ¡°Podremos detectar esa cifra oculta y as¨ª mejorar nuestra respuesta policial¡±, asegura.

La IA en las denuncias de violencia machista

El Observatorio de Data G¨¦nero, en Argentina, desarroll¨® AymurAI, una IA para revisar sentencias judiciales de violencia de g¨¦nero. Ivana Feldfeber, directora del proyecto, cuenta que la idea principal es recopilar informaci¨®n an¨®nima para comprender mejor c¨®mo opera la justicia en estos casos. ¡°Nos interesaba entender qu¨¦ es lo que estaba pasando en los poderes judiciales, porque sabemos que hay muchas mujeres que denuncian, van a juicio y luego la causa queda en nada¡±, asegura. AymurAI revisa las sentencias judiciales extrayendo informaci¨®n valiosa sobre la gesti¨®n de estos casos, las decisiones que se toman y las medidas de protecci¨®n para las v¨ªctimas. Hasta el momento, el software ha analizado 10.000 sentencias.

Para Feldeber, la escasa transparencia en el tratamiento judicial de la violencia machista se traduce en bajos niveles de denuncia y desconfianza en los tribunales. ¡°Sabemos que es complejo denunciar y las mujeres que llegan a hacerlo es porque tambi¨¦n tienen una red de apoyo y hay testigos que pueden declarar a favor de ellas¡±, subraya. AymurAI colabora con el Juzgado Penal n¨²mero 10 de la ciudad de Buenos Aires y pronto aterrizar¨¢ en M¨¦xico.

¡°A muchas mujeres no se les concede las peticiones de medidas cautelares, de prisi¨®n preventiva o de que cumplan con la cuota alimentaria. Muchos jueces deciden no darle lugar a estos pedidos y fallan de manera muy machista contra las mujeres¡±, resume Feldeber.

El proyecto recibe financiamiento de fondos internacionales y es parte de la Red Feminista de Investigaci¨®n en IA (FAIR, por sus siglas en ingl¨¦s), una red global de cient¨ªficos, economistas y activistas cuyo prop¨®sito es hacer que la IA y las tecnolog¨ªas relacionadas sean inclusivas y transformadoras. Existen otras iniciativas relacionadas con, por ejemplo, la violencia de g¨¦nero digital ¡ªcomo el chatbot chileno SOF+IA¡ª y el acoso en el transporte p¨²blico con la aplicaci¨®n SafeHER, dise?ada en Filipinas.