?Para qu¨¦ necesita un portal de empleo conocer nuestro sexo?

Todo empez¨® como una broma que ha terminado cuestionando otra vez la neutralidad de los algoritmos que seleccionan nuestros perfiles para lanzarnos ofertas. E. G., que prefiere no ser identificada, es doctora e investigadora. Pero esta primavera acaba su beca y se ha inscrito en portales de empleo. Cansada de recibir ¡°propuestas en femenino¡± de secretaria y administrativa, prob¨® a cambiar el g¨¦nero de su curr¨ªculum. A los pocos d¨ªas, empez¨® a recibir ofertas de trabajos de mayor responsabilidad y mejor pagados. La plataforma niega que el g¨¦nero se tenga en cuenta y atribuye el caso a un cambio en los comportamientos de b¨²squeda, pero los expertos en an¨¢lisis de datos advierten de que la discriminaci¨®n se da, no por la plataforma sino porque las m¨¢quinas aprenden de la realidad. E. G. plantea una pregunta clave: si no tienen en cuenta el g¨¦nero, ?por qu¨¦ es el primer dato que piden en la inscripci¨®n?

Caroline Ragot, directora de Producto de Infojobs, la plataforma donde se registr¨® el caso de E. G., asegura que el g¨¦nero y la edad son ¡°datos estad¨ªsticos comunes en los recursos humanos y que solo se utilizan con car¨¢cter interno¡±. ¡°No se usa como variable¡±, afirma tajante.

La directiva asegura que es la primera vez que registran un caso as¨ª entre 2,5 millones de candidaturas y lo atribuye a una modificaci¨®n en el patr¨®n de b¨²squeda de la candidata tras cambiar de g¨¦nero (¡°El algoritmo devuelve palabras claves introducidas en el buscador¡±, defiende), a una mayor oferta disponible los d¨ªas de la alteraci¨®n del curr¨ªculum, a un error, al uso de un perfil para buscar empleo para un amigo con criterios diferentes, a la incorporaci¨®n de puestos de trabajo muy demandados o a lo que denominan ¡°filtros colaborativos¡±, que permiten enviar propuestas que otros candidatos con perfiles similares hayan consultado y que hayan pasado inadvertidas para el usuario.

Ragot insiste en que Infojobs promueve las vacantes inclusivas y la igualdad as¨ª como las ofertas sin discriminaci¨®n de g¨¦nero, por lo que remiten a las empresas recomendaciones de buenas pr¨¢cticas que incluyen la descripci¨®n del puesto ofertado sin g¨¦nero o con terminaciones en masculino y femenino.

Este peri¨®dico ha mantenido durante una semana dos perfiles iguales de un hombre y una mujer. A lo largo de ese plazo, las ofertas recibidas han sido las mismas y solo han variado levemente al modificar el patr¨®n de b¨²squeda de uno y otro perfil.

Gemma Gald¨®n, doctora en pol¨ªticas p¨²blicas especializada en vigilancia, impacto social, legal y ¨¦tico de la tecnolog¨ªa, advierte de que la clave es que el sesgo est¨¢ en la realidad, no en la plataforma. ¡°El algoritmo aprende lo que ve, pero no corregirlo lo empeora¡±, advierte para defender la necesidad de eliminar el g¨¦nero y cualquier dato que pueda terminar en una discriminaci¨®n.

¡°Hay que disponer de f¨®rmulas de correcci¨®n de los algoritmos indeseables porque estos recogen mecanismos de la sociedad¡±, recomienda Gald¨®n, quien recuerda que, a trav¨¦s de ingenier¨ªa inversa, se puede ¡°acompa?ar¡± a la m¨¢quina para evitar efectos indeseados como el que detect¨® su equipo en un portal de salud que termin¨® recomendando a las mujeres que se pinten las u?as.

Y tambi¨¦n puede haber discriminaci¨®n racial, como ha comprobado el equipo de Gald¨®n al analizar un programa de asignaci¨®n de vivienda p¨²blica que buscaba una distribuci¨®n m¨¢s eficiente y termin¨® creando guetos.

El sesgo incluido por falta de formaci¨®n de los programadores o por la falta de seguimiento se puede ver agravado por la incorporaci¨®n de herramientas de reconocimiento facial, como le sucedi¨® a Jacky Alcine, un joven de Brooklyn que descubri¨® que Google Photos hab¨ªa clasificado como ¡°gorilas¡± una imagen suya con una amiga. La empresa rectific¨® tras la denuncia.

¡°Las empresas rectifican cuando se encuentran ante una crisis de reputaci¨®n, pero no se pueden escudar en la neutralidad del c¨¢lculo matem¨¢tico¡±, concluye Gald¨®n.