El algoritmo tambi¨¦n alimenta la violencia de g¨¦nero y estas ciberfeministas lo est¨¢n combatiendo

El algoritmo tiende a colocar m¨¢s a las mujeres que a los hombres en la cocina. Tanto, que hasta un calvo fornido puede ser etiquetado como una dama por las tecnolog¨ªas de reconocimiento de im¨¢genes simplemente por estar sonriente junto a unos fogones. ?Est¨¢ al lado de un horno? Entonces es mujer, claro. Lo certific¨® un estudio de 2017 de la universidad de Michigan: ...

El algoritmo tiende a colocar m¨¢s a las mujeres que a los hombres en la cocina. Tanto, que hasta un calvo fornido puede ser etiquetado como una dama por las tecnolog¨ªas de reconocimiento de im¨¢genes simplemente por estar sonriente junto a unos fogones. ?Est¨¢ al lado de un horno? Entonces es mujer, claro. Lo certific¨® un estudio de 2017 de la universidad de Michigan: los sesgos de g¨¦nero no han desaparecido en la supuesta sacrosanta programaci¨®n digital. Se han acrecentado. Y de qu¨¦ manera. Desde detalles significativos como el hecho de que Google Im¨¢genes est¨¢ programado para dar sugerencias sexistas en el autorrelleno si buscas a famosas (no pasa con ellos, sorpresa), que Google Translate masculinice a las catedr¨¢ticas al traducirlas (algo que prob¨® a Londa Shiebinger: para la herramienta las doctoras y catedr¨¢ticas se convierten en hombres y los profesores, en mujeres) o las brechas y omisiones que se est¨¢n haciendo en la selecci¨®n de personal laboral en funci¨®n del g¨¦nero y la raza una sociedad en la que el 72% de los curr¨ªculos laborales ya no son vistos por ojos humanos.

Ante la falta de mujeres a los mandos de la codificaci¨®n, la brecha de g¨¦nero se agudiza en el entorno digital, un espacio en el que la seguridad y tranquilidad para aquellas que toman la voz o deciden darse un paseo por la red, como en su vida anal¨®gica, no est¨¢ garantizada. Para poner orden y remedio, mujeres de distintas ramas, ya sea desde la vertiente art¨ªstica, acad¨¦mica, computacional o desde la cultura del meme con mensaje?para la concienciaci¨®n, se autogestionan para leer, volcar y transmitir datos con estrategias de igualdad en el entorno digital. Para proporcionar espacios seguros en los que definir horizontes alejados de ese sesgo normativo y de todas las violencias que les acompa?an.

El chatbot de Microsoft o por qu¨¦ la violencia alimenta el sesgo del algoritmo

?Debemos abandonar toda la mitolog¨ªa absurda alrededor de la neutralidad de los algoritmos, contraponiendo esa idea que considera los datos como algo emp¨ªrico, incorp¨®reo y neutral?,?confirma la investigadora digital Marta Delatte, que a trav¨¦s de?Liquen Data Lab?¨Cla organizaci¨®n que cofund¨® junto a Silvia Valle, Neus Llop, Alba Medrano, Bea Guijarro y Josep Almirall¨C, lleva coordinando las tres ¨²ltimas ediciones de Editatona en Espa?a,?la iniciativa/marat¨®n de ediciones en Wikipedia con perspectiva de g¨¦nero.

Delatte cree que deber¨ªa considerarse?¡°menos ciencia¡± a aquella que contin¨²a produciendo y reproduciendo sesgos racistas y sexistas y que ?la violencia tambi¨¦n alimenta el sesgo del algoritmo?. Pone como ejemplo el caso de los??Hitler ten¨ªa raz¨®n? o ?el 11-S fue una invenci¨®n? que enton¨® sin contemplaciones el?chatbot de IA (Inteligencia Artificial) Tay, dise?ado por Microsoft research groups,?para interactuar con adolescentes en Twitter y que se convirti¨® en hazmerre¨ªr cuando?comenz¨® a entablar e iniciar conversaciones racistas y sexistas con otros usuarios despu¨¦s de menos de 24 horas de aprendizaje del entorno conversacional de Twitter.?

?Aqu¨ª hay dos temas?, apunta la investigadora sobre el porqu¨¦ de este paradigma de desigualdad. ?Por un lado, la falta de diversidad de los equipos t¨¦cnicos, que son incapaces de dise?ar estos productos pensando en el bienestar de las comunidades no normativas, y por otro el tipo de interacciones y los datos que se facilitan a resultas de estos proyectos?.??

La neutralidad y la novedad en esta esfera no existe, seg¨²n defiende: ?Algunas ideas en torno a los algoritmos o al big data no son una novedad y, lo que es m¨¢s importante, lejos de ser neutrales, est¨¢n rodeadas de una mitolog¨ªa de la masculinidad occidental orientada a homogeneidad y a la productividad, no necesariamente a los cuidados o al reconocimiento de la diferencia?. Una vez m¨¢s, el patr¨®n social se reproduce en el entorno digital.?

DigitalFems o el big data para rastrear la violencia?

Dice la activista y fundadora de DigitalFems, Thais Ruiz de Alda, que el 95% de la informaci¨®n relativa a las violencias sexuales fuera de la pareja es pr¨¢cticamente inexistente.?Que no solo construimos un mundo digital con sesgo, tambi¨¦n omitimos las ra¨ªces que sustentan esas violencias y la forma de explicarlas y cuantificarlas. ?No sabemos pr¨¢cticamente ni qu¨¦ tipo de delitos sexuales se denuncian ni en qu¨¦ provincias, ni el resultado de las sentencias judiciales de esta tipolog¨ªa de violencia, ni qu¨¦ tipo de pena ¡­ El responsable de los ficheros es el Ministerio del Interior y est¨¢ claro que aqu¨ª hay much¨ªsimo trabajo que hacer?, aclara.

Para poner orden, desde DigitalFems han lanzado un crowdfunding para lanzar?Datoscontraelruido, que se convertir¨¢ en una fuente de datos de consulta accesible sobre las denuncias de violencia de g¨¦nero en Espa?a para aquellas personas que no sean expertas en estad¨ªstica, o que no provengan de campos como la investigaci¨®n y que quieran conocer m¨¢s sobre los datos oficiales con visualizaciones accesibles y tipificadas. El objetivo, seg¨²n explica, es ?visibilizar la enorme presencia que tiene la violencia machista? mediante la ciencia de datos y contribuir a la creaci¨®n de?archivos de datos en abierto de ?todo? lo que se publica (OpenDatasets) para pasar a difundirlos mediante campa?as de comunicaci¨®n digitales ?muy visuales y claras?.

?No hay mucha informaci¨®n sobre qu¨¦ pasa una vez interpuesta la denuncia, es decir, sobre los resultados de los procesos judiciales. ?Qu¨¦ ocurre desde que se denuncia un hecho hasta que se sentencia, si es que llega el caso a sentencia? ?Qu¨¦ nos perdemos por el camino??, destaca, denunciando que el software institucional es arcaico. ?El que utiliza el sistema judicial, es decir el que el Ministerio de Justicia pone al alcance de los juzgados, es muy antiguo. Qui¨¦n dise?¨® las categor¨ªas no estaba pensando claramente en qu¨¦ ocurre en los procesos de violencia machista?, se?ala la investigadora.

Bajo el lema #SinDatosNoHayJusticia, desde DigitalFems apuestan por acabar con la conocida como Gender Data Gap, la brecha de datos de g¨¦nero a la que en los ¨²ltimos a?os tambi¨¦n est¨¢n intentando poner remedio diversas administraciones p¨²blicas. ?Los datos son el medio que mostrar¨¢n qu¨¦ pol¨ªticas hay que aplicar. Nos dir¨¢n d¨®nde est¨¢ fallando el sistema. Por ejemplo, si ya sabemos que en Baleares, hay m¨¢s denuncias por violencias machistas que en otras partes de Espa?a, lo l¨®gico es invertir m¨¢s recursos en ese territorio en pol¨ªticas preventivas, educativas, policiales?.

A mayor visibilizaci¨®n de datos, mayor conocimiento y transmisi¨®n de un mensaje contundente contra la violencia. ?El DataViz ¨Cvisualizaci¨®n de datos¨C es una herramienta que ha venido para quedarse. La concienciaci¨®n social se consigue cuando un mensaje, identificado y asumido como veraz y se repite a lo largo de un periodo de tiempo. Nuestro reto es conseguir que estudiantes, abogadas, judicatura incluso periodistas vuelvan de manera recurrente nuestro site a comprobar datos, o que al ver los datos en alguna de las campa?as en medios digitales que hacemos tomen conciencia de ello?.

Memes para visibilizar el limbo del acoso digital

Un 98,9% de las mujeres con presencia p¨²blica en Internet ha sufrido al menos un tipo de violencia online. As¨ª lo revelaron los datos recabados por el colectivo?Donestech?con el grupo de investigaci¨®n?Ant¨ªgona, de la Universidad Aut¨®noma de Barcelona, en la?encuesta?sobre violencias machistas online que presentaron el pasado mes de junio. Seg¨²n explicaron a El Pa¨ªs desde el colectivo, el ataque m¨¢s frecuente, referido por un 54,6% de las encuestadas, se concreta en expresiones o insultos discriminatorios o denigrantes por el hecho de ser mujer ¨Dputa, zorra, bollera¨D; pero tambi¨¦n abundan accesos no consentidos a cuentas y dispositivos, violencias de car¨¢cter sexual, amenazas, contacto y fustigamiento a la v¨ªctima o su entorno, seguimiento y vigilancia de sus movimientos y el uso de informaci¨®n falsa para confundir y da?ar.

El colectivo Ontolog¨ªas Feministas ha organizado en Madrid y Barcelona un taller did¨¢ctico de autodefensa digital frente a la violencia de g¨¦nero como?Strolling you down,?donde?proporcionan herramientas ¨²tiles y planes de acci¨®n concretos para reconocer a los abusadores y acosadores y defenderse de ellos en el mundo digital. Desde TikTok a Instagram, y con distintas capas o enfoques, la viralizaci¨®n de contenido pedag¨®gico desde cuentas autogestionadas de memes con mensaje contra la violencia en lo digital, especialmente para las nuevas generaciones se multiplica. Desde cuentas como @ProyectoUna,?@lapicarajustina, @hanfreewifi o @femme.sapiens, visibilizar mensajes de respuesta contra conductas violentas y de autocuidado es crucial en un pa¨ªs en el que, de media, en una clase cualquiera de centro educativo est¨¢ asegurado, por estad¨ªstica, que al menos?dos estudiantes est¨¦n sufriendo ciberacoso en ese momento.?

Aunque el Ayuntamiento de Barcelona ha hecho hincapi¨¦ en el ¨¢mbito digital en su ¨²ltima campa?a del 25N, la visibilizaci¨®n de los abusos recibidos en la identidad digital todav¨ªa no tiene mucho calado social. ?La violencia y el acoso digital est¨¢ en un limbo sin protocolos claros de actuaci¨®n frente a nuestros paseos y vida virtual en la mayor¨ªa de espacios?, recuerda Marta Delatte, desde Liquen Data Lab. El problema, dice, est¨¢ en que seguimos viendo a los medios digitales como algo descarnado. ?El miedo es una sensaci¨®n y una experiencia real, la tristeza es una sensaci¨®n y una experiencia real. Nuestra vida ocurre en entornos digitales y no digitales a la vez y no como experiencias separadas y fragmentadas?, enfatiza.

Delatte, que agradece a DonesTech el trabajo ?generoso? que ha instaurado para abrir muchos caminos y recomienda el proyecto Geek Feminism Wiki ¨Cy su?plantilla que ha sido adaptada o directamente adoptada para ofrecer una?evaluaci¨®n de los codigos de conducta de diversas comunidades que se puede consultar¨C o la plataforma?Acoso.Online?(tanto en Twitter como en Instagram).?Tambi¨¦n?pone foco en el valor del meme como transmisor de mensajes para romper con la normalizaci¨®n de la violencia. ?Tiene el poder de?encapsular mensajes s¨²per complejos en unidades de comunicaci¨®n m¨ªnima, y han demostrado sobradamente que se puede hacer otro tipo de humor much¨ªsimo m¨¢s interesante. Pero esto se lo debemos al esfuerzo colaborativo de las nuevas generaciones en Internet, especialmente las m¨¢s j¨®venes?.