El ¡®caso Andrea Ch¨¢vez¡¯: la impunidad de la violencia digital contra las mujeres (ahora con inteligencia artificial)

Un hecho de violencia digital y sexual contra una legisladora mexicana ha puesto sobre la mesa la urgencia de regulaci¨®n de las herramientas de inteligencia artificial (IA), pero tambi¨¦n la impunidad al investigar y garantizar la justicia para las mujeres que viven violencias en espacios digitales. El 9 de octubre pasado, la senadora del partido oficialista Morena Andrea Ch¨¢vez (Ciudad Ju¨¢rez, 1997) hizo una denuncia p¨²blica contra el caricaturista del diario El Financiero, Antonio Garci Nieto, quien public¨® en sus redes sociales una imagen falsa de contenido sexual con el rostro de la pol¨ªtica. En un video, Ch¨¢vez asegur¨® que la manipulaci¨®n se habr¨ªa hecho con IA. Aunque en ese momento dijo que no denunciar¨ªa para evitar que Garci Nieto se ¡°victimizara¡±, un d¨ªa despu¨¦s afirm¨® que seguir¨ªa la v¨ªa penal para ¡°sentar un precedente jur¨ªdico¡± en el pa¨ªs.

El caso ha escalado e incluso la presidenta Claudia Sheinbaum ha hablado sobre el tema. En su conferencia matutina de este martes, la mandataria dijo que la violencia de g¨¦nero que est¨¢ viviendo Andrea Ch¨¢vez ¡°no puede convertirse en algo normal¡±; tambi¨¦n pidi¨® que no se tergiverse el tema al justificarlo en la libertad de expresi¨®n. Esto lo dijo d¨ªas despu¨¦s de haber reconocido que ¡°todas hemos vivido machismo¡±. En entrevista con EL PA?S, Ang¨¦lica Contreras ¡ªconsultora en la asociaci¨®n Cultivando G¨¦nero, integrante del Consejo Asesor de TikTok y experta en temas digitales¡ª dice que ¡°la libertad de expresi¨®n no puede ser una herramienta para justificar la violencia¡±.

Este no es el primer caso de alteraci¨®n con IA de fotograf¨ªas de mujeres que ocurre en M¨¦xico, ni el de mayor alcance. En octubre de 2023, estudiantes del Instituto Polit¨¦cnico Nacional (IPN) encabezaron una protesta contra un estudiante, identificado como Diego ¡°N¡±, que alter¨® con IA m¨¢s de 100.000 fotograf¨ªas tomadas de las redes sociales de las estudiantes para fines sexuales con el objetivo de venderlas y difundirlas en grupos de Telegram. Todo esto ocurre en un pa¨ªs donde al menos tres de cada diez mujeres usuarias de internet ¡ªde entre 12 a 29 a?os¡ª son v¨ªctimas de alg¨²n tipo de violencia digital. De acuerdo con la encuesta Mociba 2023 del Instituto Nacional de Estad¨ªstica y Geograf¨ªa (Inegi), las formas de ciberacoso m¨¢s frecuentes son contacto mediante identidades falsas, mensajes ofensivos, recibir contenido sexual no solicitado e insinuaciones y propuestas sexuales. Los hombres son los principales agresores. Adem¨¢s, la encuesta da luz acerca de los efectos de dicha violencia en la salud mental de las personas: en su mayor¨ªa, las v¨ªctimas experimentan enojo, desconfianza, inseguridad, estr¨¦s y miedo.

Regulaci¨®n pendiente

Al definirse como la senadora m¨¢s joven de la Legislatura, Ch¨¢vez explic¨® que decidi¨® presentar su denuncia ante las autoridades porque ¡°ya no solo me represento a m¨ª misma, sino a medio mill¨®n de mujeres chihuahuenses¡±. Si bien en M¨¦xico existe la llamada Ley Olimpia, la cual castiga con c¨¢rcel el ciberacoso, el hostigamiento y la difusi¨®n sin consentimiento de fotos y videos ¨ªntimos en internet y en redes sociales, la legislaci¨®n sobre el uso de IA para elaborar contenido sexual sigue pendiente.

En mayo de 2019, la Organizaci¨®n para la Cooperaci¨®n y el Desarrollo Econ¨®mico (OCDE) emiti¨® un documento con una serie de directrices ¨¦ticas relacionadas con la regulaci¨®n de la IA. M¨¦xico fue uno de los pa¨ªses firmantes. En octubre de 2023, la Comisi¨®n de Ciencia, Tecnolog¨ªa e Innovaci¨®n de la C¨¢mara de Diputados mexicana convoc¨® al foro Hacia una Regulaci¨®n de la Inteligencia Artificial con el objetivo de discutir los retos que trae la propagaci¨®n del uso de la inteligencia artificial.

Contreras explica que la pr¨®xima legislatura tendr¨¢ entre sus pendientes una regulaci¨®n en este sentido que re¨²na tanto a empresas de inteligencia artificial, como al Estado. ¡°Las herramientas de inteligencia artificial generativa son cada vez m¨¢s accesibles a las personas, ?c¨®mo le hacemos para que estas herramientas limiten la creaci¨®n de contenido que vulnera a las personas, que las desnuda o las pone en situaci¨®n de rid¨ªculo?¡±, agrega la especialista.

Algunos pa¨ªses est¨¢n comenzando a implementar leyes. Por ejemplo, la Uni¨®n Europea present¨® en abril de 2021 una propuesta de Reglamento de Inteligencia Artificial con el objetivo de que esos sistemas garanticen los derechos humanos y sean seguros. La ley entr¨® en vigor en agosto pasado. A finales de septiembre de 2021, el Congreso de Brasil aprob¨® un proyecto de ley que crea un marco legal para la inteligencia artificial.

B¨²squeda de justicia

M¨¢s all¨¢ de la legislaci¨®n sobre violencia digital o el uso sexista de las tecnolog¨ªas est¨¢ la deuda pendiente por brindar justicia a las v¨ªctimas. En M¨¦xico, la gran mayor¨ªa de denuncias por violencia digital quedan en la impunidad. En marzo pasado, un reporte publicado en La Jornada, document¨® que de 3.205 carpetas de investigaci¨®n iniciadas por violencia digital desde 2020, el 95% no se judicializaron, s¨®lo 109 presuntos agresores fueron vinculados a proceso y ¨²nicamente se lograron cinco sentencias.

Uno de los principales retos para hacer justicia en estos casos es la falta de preparaci¨®n del personal encargado de procurar la justicia, desde las fiscal¨ªas, pasando por el Ministerio P¨²blico y los cuerpos policiales. ¡°Podemos tener toda la capacitaci¨®n de las personas, podemos mejorar al sistema de justicia, pero si tu herramienta que est¨¢s viendo que est¨¢ generando esto no tiene cambios importantes, es un llamado tambi¨¦n a las empresas¡±, dice Contreras.

En el caso de Andrea Ch¨¢vez, el caricaturista Garci Nieto ha negado ser el autor de la fotograf¨ªa falsa de la senadora. En una publicaci¨®n en su cuenta de X, el colaborador del diario El Financiero escribi¨® que la imagen ¡°ya circulaba desde hace m¨¢s de un a?o en internet¡±, y acus¨® de un ¡°linchamiento y persecuci¨®n pol¨ªtica¡±. Tambi¨¦n calific¨® el hecho como ¡°censura¡± y ¡°fiscalizaci¨®n del humor¡±. Sin embargo, especialistas han dicho que la libertad de expresi¨®n ¡°no es un derecho absoluto¡±, como escribi¨® la abogada Leslie Urz¨²a en su columna en el diario El Universal.