Una inteligencia artificial feminista es posible (y necesaria)

La tecnolog¨ªa, al contrario de lo que muchos piensan, est¨¢ social y culturalmente construida. Esto significa que, si queremos que esta nos proporcione mayores cotas de justicia e igualdad, es recomendable incluir una dimensi¨®n social y ¨¦tica. En el caso de la Inteligencia Artificial (IA), debido a sus propias caracter¨ªsticas como el uso del big data y su capacidad de procesamiento de datos, esta recomendaci¨®n se ha convertido en una necesidad.

Para disfrutar de los beneficios de la IA (mayor eficacia, eficiencia, automatizaci¨®n, personalizaci¨®n, rastreo, detecci¨®n, etc.), primero es necesario garantizar tres cosas: que su uso se encuentre dentro de los l¨ªmites marcados por el ordenamiento jur¨ªdico de la UE en esta materia, que la IA sea robusta desde un punto de vista t¨¦cnico y que sea ¨¦tica. El cumplimiento de estos requisitos est¨¢ orientado a evitar que el uso de la IA en Europa conlleve problemas ¨¦ticos y legales como discriminaciones producidas por sesgos, problemas de rendici¨®n de cuentas, etc.

En este sentido, y debido a su condicionamiento sociocultural, uno de los mayores retos al introducir sistemas de IA en el sector p¨²blico espa?ol y europeo es garantizar que no repercutan negativamente en la vida de las mujeres e, idealmente, que ayuden en la promoci¨®n de la igualdad de g¨¦nero. Una cuesti¨®n que con frecuencia es ignorada y/o minimizada en los debates sobre IA.

Pero ?qu¨¦ riesgos puede conllevar la IA para la igualdad de g¨¦nero? Aunque, desde un punto de vista te¨®rico, las cuestiones de g¨¦nero se encuentran estrechamente relacionadas con ciertos elementos que ata?en a la IA (por ejemplo, la asociaci¨®n de la palabra ¡°inteligencia¡± con el racionamiento l¨®gico y racional es algo hist¨®ricamente vinculado a la masculinidad occidental), desde un punto de vista m¨¢s pr¨¢ctico hay dos asuntos que resultan especialmente importantes al hablar de IA y g¨¦nero.

Primero, la IA puede producir sesgos de g¨¦nero en las decisiones que toma si no se tiene en cuenta la representatividad de los datos. Que los datos sean representativos significa que reflejen de la forma m¨¢s veraz posible la diversidad de la realidad social. Sin embargo, actualmente sabemos que las mujeres est¨¢n menos presentes en ciertos sectores y, concretamente, tienen menos presencia en Internet. Aunque la brecha digital se ha reducido en los ¨²ltimos a?os, todav¨ªa existen diferencias: a escala mundial, el 55% de los hombres usa Internet en comparaci¨®n con el 48% de las mujeres, y en algunas regiones, como en ?frica, el desbalance de g¨¦nero es a¨²n mayor. Tambi¨¦n se deben considerar las diferencias de g¨¦nero en las competencias digitales, que tienden a dejar a las mujeres peor situadas, sobre todo en las habilidades m¨¢s avanzadas. Esto significa que los datos no solo est¨¢n sesgados a favor de los hombres, sino que, entre las mujeres, aquellas blancas, occidentales y de clase alta, tienen mayor presencia que las dem¨¢s.

Segundo, as¨ª como es importante incluir la perspectiva de g¨¦nero en el dise?o de pol¨ªticas p¨²blicas, procesos de contrataci¨®n de personal, etc., tambi¨¦n lo es en el caso de los algoritmos. Al ser los algoritmos sistemas de reglas en base a los cuales la IA toma sus decisiones, es necesario introducir reglas o pasos que eviten la discriminaci¨®n por g¨¦nero. Al mismo tiempo, la perspectiva de g¨¦nero debe estar presente en el dise?o de la IA. Hasta ahora, la mayor parte de los chatbots y asistentes de voz presentan caracter¨ªsticas claramente asociadas al g¨¦nero femenino, de tal modo que sus interacciones con los/as usuarios/as refuerzan estereotipos de g¨¦nero ya existentes.

Resolver estos problemas ser¨ªa el primer paso hacia una IA que no repercuta negativamente en las mujeres, pero ?podemos ir m¨¢s all¨¢? ?Es posible una IA feminista que promocione activamente la igualdad entre hombres y mujeres? La respuesta es s¨ª. Si se aprovechan las oportunidades de la IA, esta tecnolog¨ªa puede ayudarnos a promover la igualdad al menos en tres ¨¢reas que son esenciales para las mujeres.

En la lucha contra la violencia de g¨¦nero, por ejemplo, a trav¨¦s del desarrollo de chatbots que faciliten los procesos administrativos para denunciar y que presten asistencia en tiempo real a las v¨ªctimas. Tambi¨¦n se puede usar la IA para predecir la probabilidad de reincidencia de una persona condenada por violencia de g¨¦nero, etc. Se puede emplear la IA para reducir la brecha salarial y la desigualdad econ¨®mica entre hombres y mujeres a trav¨¦s del desarrollo de sistemas de IA que contribuyan con la transparencia retributiva. Adem¨¢s, la IA puede usarse para atender las necesidades de salud espec¨ªficas de las mujeres a trav¨¦s del desarrollo y uso de sistemas de IA especializados en el diagn¨®stico de enfermedades que sufren las mujeres como el c¨¢ncer de cuello de ¨²tero, el c¨¢ncer de mama, etc.

En definitiva, solo una IA con perspectiva de g¨¦nero permitir¨¢ que este nuevo grupo de tecnolog¨ªas emergentes nos ayude a alcanzar mayores niveles de justicia e igualdad. Solo una IA feminista tiene cabida en una sociedad democr¨¢tica.

Luc¨ªa Ortiz de Z¨¢rate Alcarazo es investigadora predoctoral en ?tica y Gobernanza de la Inteligencia Artificial en el Departamento de Ciencia Pol¨ªtica y Relaciones Internacional de la Universidad Aut¨®noma de Madrid.

Ariana Guevara G¨®mez es investigadora predoctoral en G¨¦nero, Tecnolog¨ªa y Administraci¨®n P¨²blica en el Departamento de Ciencia Pol¨ªtica y Relaciones Internacional de la Universidad Aut¨®noma de Madrid.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.