El sexismo de los algoritmos, a revisi¨®n en el desierto chileno

La periodista francesa Judith Duportail descubri¨® en una investigaci¨®n que el algoritmo de Tinder premiaba a los hombres con nivel de estudios m¨¢s altos mostrando su perfil a m¨¢s usuarias, mientras que a las mujeres con el mismo nivel de educaci¨®n eran penalizadas, reduciendo sus apariciones en la aplicaci¨®n de citas. El ejemplo descrito en el libro El algoritmo del amor: un viaje a las entra?as de Tinder (editorial Contra, 2019) fue uno de los citados este s¨¢bado por la doctora en Matem¨¢ticas Andrea Vera en la charla ?Es machista el algoritmo? G¨¦nero y sesgos en la ciencia, como parte del programa de uno de los mayores festivales de divulgaci¨®n cient¨ªfica de Latinoam¨¦rica, Puerto de Ideas. El encuentro se celebr¨® en Antofagasta, en la mitad del desierto m¨¢s ¨¢rido del mundo, a unos 1.400 kil¨®metros al norte de Santiago de Chile.

En la conversaci¨®n moderada por la periodista Paula Escobar, Vera y la doctora en Historia, Ver¨®nica Undurraga, desentra?aron c¨®mo se ha obstaculizado el acceso de la mujer al conocimiento durante siglos y c¨®mo los sesgos sociales est¨¢n moldeando los algoritmos. ¡°Estamos usando algoritmos para delegar decisiones fundamentales que afectan la calidad de vida de las personas. Por ejemplo, si son id¨®neas para un pr¨¦stamo bancario o no, si est¨¢n calificadas para un trabajo o, en el caso de Estados Unidos, si un imputado tiene derecho a fianza. Si estamos delegando esas decisiones nos preocupa que sean productores de l¨®gicas racistas y sexistas¡±, advirti¨® Vera en el d¨¦cimo aniversario del festival que convoca expertos de distintos pa¨ªses y que, a?o a a?o, se transforma en una fiesta de la cultura, tanto en el encuentro del norte de Chile como en el de Valpara¨ªso, que se lleva a cabo en el segundo semestre.

El algoritmo, al alimentarse de datos entregados por seres humanos, construye un mundo en base a una mirada que no es ¡°neutra y objetiva¡±, apunt¨® la matem¨¢tica. Si se le pide que calcule cu¨¢nto deben ganar los empleados de una empresa, arrojar¨¢ que el salario de los hombres sea superior al de las mujeres, porque las cifras de brecha salarial ser¨¢n su punto de referencia. Para modificar este sesgo, Vera postul¨® que las comunidades cient¨ªficas deben diversificarse y se debe revisar el estatuto cultural que se le entrega a cierto tipo de conocimientos. ¡°El chat GTP puede ser una fuente de fake news (...) Esa caracter¨ªstica de lo verdadero que a veces le asociamos al conocimiento cient¨ªfico o a lo que venga de la tecnolog¨ªa es particularmente peligrosa¡±, agreg¨®.

Para graficar lo que sucede en la sociedad y, por ende, en la construcci¨®n de los algoritmos, Undurraga utiliz¨® una imagen del R¨ªo de la Plata, que aparenta moverse con facilidad, pero arrastra una cantidad enorme de sedimentos. ¡°Las mujeres van a la universidad, tienen derecho a voto, de a poco ingresan a carreras de ingenier¨ªa, matem¨¢ticas, pero todav¨ªa existe esa corriente subterr¨¢nea que dificulta y considera adecuadas e inadecuadas ciertos saberes¡±, apunt¨®. ¡°Todos los servicios de ayuda tecnol¨®gica son mujeres. Ah¨ª se reproducen estos estereotipos de g¨¦nero. Algunas mujeres en el poder los contin¨²an porque se sienten fuera de lugar¡±, sostuvo la historiadora, que subray¨® la importancia de generar redes profesionales para implementar pol¨ªticas de equidad de g¨¦nero y evitar discriminaciones y abusos.

Las trabas de la mujer para romper techos de cristal se traspasan a asuntos tan b¨¢sicos en internet como los bancos de im¨¢genes. Y ha sido siempre as¨ª. Si en 2015 alguien buscaba en Google la palabra CEO, las siglas de director o directora de una empresa en ingl¨¦s, en las primeras 14 hileras aparec¨ªan solo im¨¢genes de hombres, como dio cuenta el estudio de la Universidad de Washington Representaci¨®n desigual y estereotipos de g¨¦nero en la b¨²squeda de im¨¢genes para profesiones. S¨®lo el 11% de las 100 primeras im¨¢genes eran mujeres, mientras que en la realidad, el 27% eran directores mujeres, seg¨²n la Oficina del Trabajo de Estados Unidos.

En un repaso por las dificultades de la mujer occidental en el mundo del conocimiento, Undurraga hizo un repaso de momentos clave que han retratado la marginaci¨®n femenina desde el siglo XVII, cuando Tel¨¦maco expuls¨® del espacio p¨²blico a su madre Pen¨¦lope, pasando por la Revista Eva que en 1949 describ¨ªa que las doctoras cuidaban al cad¨¢ver ¡°como si fuera un beb¨¦¡±, hasta ahora, donde los estudios demuestran que los profesores le hacen preguntas m¨¢s dif¨ªciles a los alumnos que a las alumnas. Por esto ¨²ltimo, el avance hacia una educaci¨®n no sexista fue uno de los temas centrales que mencionaron las investigadoras para destruir los estereotipos enquistados en la cultura occidental y as¨ª combatir los sesgos de los algoritmos.

Undurraga destac¨® la importancia de entender que la desigualdad de g¨¦nero afecta a toda la sociedad. Por un lado, inhibe los ingresos de las mujeres a las ¨¢reas de ciencia, tecnolog¨ªa, ingenier¨ªa y matem¨¢ticas (carreras STEM, por sus siglas en ingl¨¦s), pero tambi¨¦n el de los hombres a carreras asociadas a las mujeres, como pedagog¨ªa y enfermer¨ªa. ¡°Se ha perdido talento para ambos lados¡±, remarc¨®. Por otro lado, tiene consecuencias econ¨®micas. La mujer tiende a elegir carreras menos lucrativas, lo que lastra el sustento del hogar. Una estudiante con un puntaje similar al de un hombre en la prueba de acceso a la universidad tiene un 25% menos de probabilidad de postular a Ingenier¨ªa civil y 12% menos a Tecnolog¨ªa, seg¨²n un estudio realizado por investigadoras del Instituto de Estudios Avanzados en Educaci¨®n de la Universidad de Chile y de la Universidad Alberto Hurtado, publicado en 2020.