La violencia digital en tiempos de la IA, ?otra amenaza m¨¢s para las mujeres?

Esta es la versi¨®n web de Americanas, el newsletter de EL PA?S Am¨¦rica en que aborda noticias e ideas con perspectiva de g¨¦nero. Si quieren suscribirse, pueden hacerlo en este enlace.

Hoy en d¨ªa cualquiera puede crear un video porno hiperrealista con inteligencia artificial (IA). Solo hace falta la foto de cualquier persona, un correo electr¨®nico y entre 10 y 50 d¨®lares. Estos son los requisitos de las 96 aplicaciones ya existentes para ¡°obtener desnudos profundos convincentes¡± ilimita...

Esta es la versi¨®n web de Americanas, el newsletter de EL PA?S Am¨¦rica en que aborda noticias e ideas con perspectiva de g¨¦nero. Si quieren suscribirse, pueden hacerlo en este enlace.

Hoy en d¨ªa cualquiera puede crear un video porno hiperrealista con inteligencia artificial (IA). Solo hace falta la foto de cualquier persona, un correo electr¨®nico y entre 10 y 50 d¨®lares. Estos son los requisitos de las 96 aplicaciones ya existentes para ¡°obtener desnudos profundos convincentes¡± ilimitadamente durante un a?o. ¡°Ser¨¢ pan comido agregar a alguien a una escena porno¡±, dice en su web una de las apps m¨¢s conocidas, con 1,5 millones de visitas mensuales. ¡°Es lo mejor de lo mejor por lo f¨¢cil y poderoso que es¡±, describe otra. Es precisamente esa facilidad para generar contenido sin consentimiento y divulgarlo lo que preocupa tanto a expertos de la regi¨®n, donde la violencia de g¨¦nero digital apenas se est¨¢ constituyendo como delito en varios pa¨ªses de Latinoam¨¦rica y donde la apuesta por la prevenci¨®n de estas conductas es incluso m¨¢s vol¨¢til.

El uso perverso de las redes sociales y la virtualidad abri¨® hace m¨¢s de una d¨¦cada el debate de si tipificar o no estas conductas que afectan principalmente a las mujeres; ya que, en pa¨ªses como M¨¦xico, ellas responden al 89% de las v¨ªctimas. La inteligencia artificial generativa ha reabierto la discusi¨®n: ?Convertir el uso abusivo de im¨¢genes ¨ªntimas en un delito es la soluci¨®n? Para Mar¨ªa Camila Correa Fl¨®rez, profesora de Derecho Penal de la Facultad de Jurisprudencia de la Universidad del Rosario de Bogot¨¢, es solo una peque?a parte: ¡°Hacen falta pol¨ªticas p¨²blicas integrales que lleguen a prevenir, no solo a sancionar. El derecho penal puede intervenir hasta un punto: para que la gente entienda que es un delito. A¨²n as¨ª, es un buen primer paso¡±.

Colombia, sin embargo, tiene una de las legislaciones menos garantistas del continente en esta materia. Junto a Nicaragua y Venezuela, la violencia de g¨¦nero en l¨ªnea no est¨¢ recogida en ning¨²n marco jur¨ªdico. La producci¨®n o distribuci¨®n de im¨¢genes sexuales sin consentimiento no son un delito aunque algunas figuras penales -extorsi¨®n o delito inform¨¢tico o de odio- pueden utilizarse para castigar estas conductas en casos excepcionales.

En Argentina y Chile, por otro lado, existe un marco jur¨ªdico m¨¢s proteccionista con las ni?as, ni?os y adolescentes, pero hay un hueco enorme en la defensa de los derechos de las mujeres adultas. Brasil criminaliza la distribuci¨®n no consensuada de im¨¢genes ¨ªntimas desde 2018 y Per¨² tambi¨¦n incorpor¨® en su C¨®digo Penal los delitos de acoso y chantaje sexual en l¨ªnea. M¨¦xico ha sido uno de los pa¨ªses m¨¢s preocupados con la violencia contra las mujeres en l¨ªnea y tiene un gran paquete de reformas federales y estatales para sancionar est¨¢s pr¨¢cticas, conocidas como Ley Olimpia, en honor a Olimpia Coral Melo, v¨ªctima en 2014 de la difusi¨®n no autorizada de un video de contenido sexual.

Sin embargo, a pesar de la pionera legislaci¨®n en M¨¦xico, este delito sigue siendo escurridizo. ¡°Se pueden tener leyes y elementos, pero la materializaci¨®n de la sentencia es lo m¨¢s dif¨ªcil¡±, dice por videollamada Elvia Karina Ram¨ªrez Ju¨¢rez, abogada mexicana litigante. ¡°Suena muy bonito en el papel, pero conseguir que estos v¨ªdeos sean bajados de la red es muy improbable. La brecha entre papel y realidad es muy larga¡±. Julio C¨¦sar Bonilla Guti¨¦rrez, Comisionado Ciudadano del Instituto de Transparencia de la Ciudad de M¨¦xico reconoce que ¡°falta mucho por andar¡±: ¡°Aunque la legislaci¨®n representa un avance, para mejor enfrentamiento al ciberacoso, las reformas tienen que mejorar bastante. El peligro de no hacer nada es que la violencia digital suele tornarse f¨ªsica¡±.

Mujeres que no denuncian

Con o sin penalizaci¨®n, a la fecha, muy pocos casos de violencia de g¨¦nero en l¨ªnea han sido resueltos por los tribunales de la regi¨®n. La falta de jurisprudencia es consecuencia de burocracia en los mecanismos de denuncia, el temor a la revictimizaci¨®n y los sentimientos de verg¨¹enza y desconfianza en las autoridades judiciales y la falta de conocimientos t¨¦cnicos de estas. ¡°Las trabas para perseguir la violencia contra la mujer on y offline son las mismas: las mujeres a¨²n no denuncian porque no se las cree o siguen pensando que es un tema de la intimidad de la pareja¡±, explica Luz Patricia Mej¨ªa, Secretaria T¨¦cnica del Mecanismo de Seguimiento de la Convenci¨®n de Bel¨¦m do Par¨¢. ¡°Lo ¨²nico diferente es que la tecnolog¨ªa va demasiado r¨¢pido¡±.

Pol¨ªticas p¨²blicas, sanciones penales y conversaciones con las grandes plataformas. Esas son algunas de las premisas que propone Mej¨ªa para regular la inteligencia artificial en materia de g¨¦nero. ¡°Tenemos que estar preparados para debates que nunca se han dado, como que la libertad de expresi¨®n, que es el pilar de la democracia, no puede seguir siendo intocable. Estamos hacia la transici¨®n de un mundo nuevo que nos obliga a repensar estos modelos¡±. Y a?ade: ¡°Los Estados tienen una capacidad m¨¢s limitada que Twitter y Meta para realmente regular. Habr¨ªa que comprometerse globalmente con las aplicaciones. No hay otra forma¡±.

Cecilia Celeste Danesi, investigadora UPSA y autora de El imperio de los algoritmos sugiere que la regulaci¨®n se acerca m¨¢s a la informaci¨®n que a la prohibici¨®n: ¡°Las propuestas que est¨¢ impulsando la Uni¨®n Europea y Estados Unidos pasan por poner un sello de agua que informe de que el contenido generado es falso; esto tambi¨¦n se vincula con el derecho a estar informado de los consumidores¡±. Y a?ade: ¡°La IA podr¨ªa ser incluso parte de la soluci¨®n si se usa para que encuentre estos contenidos¡±.

Para Katya Vera Morales, oficial experta en g¨¦nero del Programa de Ciberseguridad de la Organizaci¨®n de Estados Americanos (OEA), hace falta poner a las v¨ªctimas en el centro de las pol¨ªticas: ¡°Muchas de ellas no quieren denunciar y pasar por todo el proceso de revictimizaci¨®n que eso conlleva usualmente. A veces, quieren solo que sus fotos dejen de distribuirse, la remoci¨®n de los contenidos, que las dejen de sextorsionar... Tenemos que preguntarnos, ?qu¨¦ significa acceso a la justicia para las v¨ªctimas? Y, a partir de las respuestas que obtengamos, dise?ar un curso de acci¨®n¡±.

Denuncias en redes

Si bien las denuncias judiciales no recogen a¨²n esta amenaza, decenas de mujeres han criticado en redes sociales haber sido v¨ªctimas de la IA generativa. ¡°La ley [Olimpia] deber¨ªa estar hecha para resarcir y cuidar a las v¨ªctimas. Y no lo est¨¢ haciendo. Tienen que ir a por los servidores. Es cierto que detener el flujo no detiene el da?o, pero lo limita¡±, explica por tel¨¦fono Eri Guti¨¦rrez, creadora de contenido y especialista en tecnolog¨ªa. ¡°Los datos que se generan en las aplicaciones se quedan en los servidores y estos cada vez est¨¢n perfeccionando m¨¢s la t¨¦cnica para que el ¡®usuario¡¯ tenga un repertorio m¨¢s amplio. Uno ve en la deepweb cosas horribles¡­¡±.

¡°Es incre¨ªblemente f¨¢cil crear las chicas m¨¢s atractivas con solo unas pocas palabras... y har¨¢n lo que les ordenes. ?Vu¨¦lvete loco!¡±. Un foro que compara apps de ¡°fake porn¡± o porno ficticio, le da una puntuaci¨®n alt¨ªsima a una aplicaci¨®n que crea avatares sexys de mujeres, con fotos que proporciona el usuario. El ¨²nico ¡®pero¡¯ es que para que las im¨¢genes que produzca no sean borrosas ¡°tienes que suscribirte¡±. Esta cuesta menos de 10 d¨®lares. Ram¨ªrez, litigante mexicana, considera que la clave de estos casos est¨¢ en demostrar la responsabilidad: ¡°Y este enorme debate solo lo est¨¢n teniendo los analistas, no los pol¨ªticos. En M¨¦xico nunca ha habido una restricci¨®n a apps ni a redes sociales. Y, sinceramente, no lo veo cercano¡±.

Nuestras recomendaciones de la semana:

• Erika Aponte, v¨ªctima de feminicidio el D¨ªa de la Madre, ya hab¨ªa pedido protecci¨®n ante la violencia de su expareja. La mujer colombiana de 26 a?os huy¨® en abril del lugar donde viv¨ªa con Christian Rinc¨®n, un hombre que la maltrat¨® varios a?os, y al que ella denunci¨® ante las autoridades pocos d¨ªas antes de que ¨¦l la asesinara
• Francia M¨¢rquez pone a repensar los liderazgos en ?frica. La vicepresidenta colombiana bebe de muchos conceptos del panafricanismo, pero cuestiona a los Gobiernos africanos. Muchos de ellos son autoritarios, masculinos y envejecidos
• Roxana Ruiz: ¡°El precio por no dejarte violar y matar en M¨¦xico es ir a la c¨¢rcel¡±. La mujer de 23 a?os ha sido condenada a seis a?os de prisi¨®n por asesinar a su violador en defensa propia
• Diana Flores, campeona de tocho bandera: ¡°Que otras ni?as me vean y digan que quieren jugar en la NFL es mi gran victoria¡±. Con solo 25 a?os gan¨® el mundial con la selecci¨®n mexicana en 2022 y protagoniz¨® el anuncio del medio tiempo de la Super Bowl. La deportista pelea ahora por abrir el camino a otras jugadoras
• Un refugio para volver a la vida tras a?os presas por emergencias obst¨¦tricas en El Salvador. La casa de Mujeres Libres ofrece una segunda oportunidad a las salvadore?as que acabaron en la c¨¢rcel acusadas de homicidio. Al salir, tienen antecedentes penales y deben enfrentar el estigma
• ¡®Las mujeres valientes¡¯: el relato sonoro en triqui de las tejedoras de San Mart¨ªn Itunyoso contra la venta de mujeres en Oaxaca. El p¨®dcast es la primera producci¨®n de la plataforma Spotify en M¨¦xico realizada en triqui y en espa?ol en la que su creadora busca contribuir para cambiar la situaci¨®n en su comunidad

Y una sugerencia para acabar:

????Una mujer a seguir: Raquel Bernal

Por Lorena Arroyo

Raquel Bernal es la primera rectora de la Universidad de los Andes, una de las m¨¢s importantes de Colombia. Como ella misma dijo en un discurso reciente durante la ceremonia de grados de 2023, lo es despu¨¦s de 75 a?os de historia y de 23 hombres que han pasado por ese puesto. Seg¨²n ella misma cont¨®, si lo consigui¨® fue porque sus padres hicieron una ¡°buena labor¡± de empoderarla desde que era peque?a. Y as¨ª ella creci¨® creyendo que todo era posible: se licenci¨® de Econom¨ªa en la Universidad de los Andes y se doctor¨® en la Universidad de Nueva York. Pero reconoci¨® en ese discurso, llegar a esa posici¨®n no ha sido f¨¢cil y tampoco ser l¨ªder en un ambiente que sigue siendo muy masculino.

Les recomiendo ver el discurso completo en Youtube. En ¨¦l, muestra c¨®mo luce la inequidad de g¨¦nero en Am¨¦rica Latina y anima a sus alumnos a buscar la igualdad para todos y todas. Pero, sobre todo, hace un alegato potente a una manera de liderazgo distinta frente a los desaf¨ªos que ha vivido en su posici¨®n. Aqu¨ª les dejo ese fragmento del discurso:

¡°A veces, confieso, siento la necesidad de suprimirme a m¨ª misma para encajar en este rol. Incluso otras mujeres a veces me dicen que debo ser m¨¢s vehemente y que no deber¨ªa aceptar errores porque eso me hace ver d¨¦bil. Me ha tomado tiempo entender que, si lo hago, nadie gana. Pienso que todos se benefician de estilos de liderazgo distintos e incluso complementarios. Curiosamente, no creo que todos los hombres prefieran un estilo organizacional m¨¢s fuerte. En donde no se aceptan los errores y la conversaci¨®n excesivamente asertiva es siempre preferible a la escucha activa. Me han dicho colegas m¨ªos que a veces es agotador tambi¨¦n para ellos. La juez asociada Sonia Sotomayor de la Corte Suprema de los Estados Unidos dec¨ªa que ¡®No debemos confundir la amabilidad con la falta de car¨¢cter¡¯. Eso significa que cuando las mujeres ejercemos liderazgo desde lo que somos y sentimos, cambiamos el clima laboral de maneras que tambi¨¦n son beneficiosas para los hombres¡±.

Suscr¨ªbase aqu¨ª a la newsletter de EL PA?S M¨¦xico y reciba todas las claves informativas de la actualidad de este pa¨ªs