¡°Los asistentes de voz no deber¨ªan tener g¨¦nero¡±

Me sonrojar¨ªa si pudiera. Es el t¨ªtulo de un informe de la Unesco sobre brecha de g¨¦nero en competencias digitales, inspirado en la respuesta que daba Siri al llamarle ¡°zorra¡± [ahora su contestaci¨®n ha cambiado por un ¡°no responder¨¦ a eso¡±]. El informe analiza los sesgos de g¨¦nero en aplicaciones que utilizan inteligencia artificial y realiza recomendaciones a empresas y gobiernos para combatirlos. Tambi¨¦n presenta ideas para cerrar la brecha en habilidades digitales que ¡°en la mayor¨ªa de las partes del mundo est¨¢ creciendo¡±. Sobre ello hablamos con Saniye G¨¹lser Corat (Estambul, 1955), directora de la Divisi¨®n para la Igualdad de G¨¦nero de la Unesco, que particip¨® en la pasada edici¨®n de Web Summit.

P. ?Son sexistas los asistentes virtuales como Siri, Alexa, Google Home o Cortana?

R. No son sexistas en s¨ª mismos, sino que los programas sobre los que est¨¢n desarrollados les hacen serlo al proporcionarles respuestas que se consideran sexistas. Si preguntas a Alexa cu¨¢nto pesa, responde: ¡°Soy ligera como una nube. Pero en realidad las nubes pesan mucho, as¨ª que eso no es correcto. Digamos que tengo m¨¢s picard¨ªa que masa¡±. Nunca en mi vida he escuchado una respuesta as¨ª a esa pregunta, lo que refleja una personalidad integrada en estos sistemas que adem¨¢s denota una inteligencia igual de ligera que su peso.

P. ?Quienes hacen ser sexistas a los asistentes de voz son las compa?¨ªas que los desarrollan o la propia sociedad?

R. La tecnolog¨ªa reproduce nuestros valores y sesgos. En la industria tecnol¨®gica la participaci¨®n de las mujeres es muy baja, del 17,5%, que cae a menos del 10% en el caso de la inteligencia artificial y a solo el 5% si buscamos directoras ejecutivas. Que programas como Siri o Alexa est¨¦n desarrollados de forma sexista tiene que ver con qui¨¦n est¨¢ program¨¢ndolos y aliment¨¢ndolos de datos.

P. ?Qu¨¦ consecuencias tiene que los asistentes de voz tengan una proyecci¨®n femenina?

R. En 2016, un blog titulado Amazon Echo es m¨¢gico pero tambi¨¦n est¨¢ volviendo idiota a mi hijo se hizo viral porque contaba la experiencia de un padre y c¨®mo su hijo estaba aprendiendo a usar un lenguaje muy agresivo y maleducado con Alexa. Los asistentes de voz influyen en la gente, especialmente entre los j¨®venes. Dentro de cinco a?os, en los pa¨ªses industrializados tendremos m¨¢s conversaciones con asistentes de voz que con nuestras parejas. Estas tecnolog¨ªas est¨¢n todav¨ªa desarroll¨¢ndose y evolucionando, nada est¨¢ grabado en piedra. Debemos lograr que su influencia sea positiva.

P. Hay quienes justifican que estas voces sean femeninas porque el cerebro tiende a confiar m¨¢s en ellas.

R. Nuestra investigaci¨®n muestra que la mayor¨ªa de los programas orientados a servicios (encender la luz, poner m¨²sica...) usan una voz de mujer. En cambio, cuando se trata de guiar o proporcionar instrucciones se recurre a voces masculinas. Esto no lo define la preferencia del consumidor, es la forma en la que reproducimos una determinada comprensi¨®n del mundo: las mujeres son m¨¢s cuidadoras y los hombres son quienes toman las decisiones. Estas percepciones y patrones de comportamiento son muy dif¨ªciles de cambiar.

P. Lo que se puede cambiar en ocasiones es la voz del asistente y ponerle la de un hombre. ?Es suficiente?

R. En realidad Siri tiene voz de hombre por defecto en cuatro lenguas: ingl¨¦s brit¨¢nico, holand¨¦s, franc¨¦s y ¨¢rabe. Creemos que se debe a que son pa¨ªses donde tradicionalmente ha habido sirvientes masculinos, mayordomos, en las clases sociales m¨¢s altas. Ofrecer un cambio de voz no es una soluci¨®n, es lo m¨ªnimo. Ser¨ªa mejor que no tuvieran ninguna identidad de g¨¦nero distinguible. Algunas empresas lo est¨¢n haciendo. Por ejemplo, el chatbot financiero Kai adquiere la personalidad de un robot y se comporta como tal; la plataforma BotPenguin usa un ping¨¹ino y Spixii un loro. Mientras que las startups est¨¢n empezando a pensar en este sentido, muchas grandes compa?¨ªas buscan hacer sus voces a¨²n m¨¢s humanas, naturales y emotivas, y no creo que eso sea positivo. Solo en algunos casos puede ser valioso, como en el cuidado de los mayores, ya que una voz humana les hace sentir mejor. En tales ocasiones es importante que se indique que se trata de una m¨¢quina, no de una persona.

P. En su informe dice que la sumisi¨®n expresada por los asistentes virtuales feminizados es solo un caso m¨¢s de c¨®mo se codifican los sesgos en tecnolog¨ªa. ?Qu¨¦ otros ejemplos hay?

R. La lista es interminable. Por ejemplo, en aplicaciones de reconocimiento facial se discrimina m¨¢s a mujeres de color. Otro: los anuncios online personalizados con ofertas de puestos de trabajo importantes y mejor pagados llegan sobre todo a hombres.

P. ?C¨®mo pueden los Gobiernos y empresas abordar esta cuesti¨®n?

R. Lo primero es impulsar la diversidad e inclusi¨®n en la industria tecnol¨®gica. Cuanta m¨¢s diversidad haya, mejores productos tendremos. Es bueno para los negocios. Lo segundo es un cambio de enfoque en los sistemas educativos, donde se canaliza a los chicos hacia estudios de ciencia y tecnolog¨ªa mientras que se desanima, disuade o frena a las mujeres. Est¨¢ demostrado que esto empieza a ser as¨ª en la ense?anza secundaria. Tambi¨¦n debemos asegurarnos de escuchar a los usuarios: saber c¨®mo se sienten y qu¨¦ piensan de estos productos. No olvidemos que el 50% de la poblaci¨®n mundial pertenece al g¨¦nero femenino.

P. ?Est¨¢ a favor de las cuotas?

R. Sol¨ªa pensar que no son necesarias, pero mi visi¨®n ha cambiado. Creo que en ¨¢reas donde hay disparidades significativas tenemos que adoptar medidas temporales de este tipo. Son absolutamente esenciales para cerrar la brecha. Por ejemplo, m¨¢s de 100 a?os despu¨¦s de conquistar el derecho al voto femenino, solo un 20% de los funcionarios electos en el mundo son mujeres. No valen excusas como que no hay suficientes profesionales cualificadas porque no es verdad y, si se trata de un campo emergente, la soluci¨®n es formarlas y hacer mentor¨ªas, igual que con los hombres.

P. ?Por qu¨¦ es importante cerrar la brecha de g¨¦nero?

R. Seg¨²n un reciente estudio de la UE, el 90% de los trabajos necesitan habilidades digitales.?Qui¨¦nes somos nosotros para negar estas oportunidades a la mitad de la humanidad? No creo que podamos progresar en nuestras vidas sin asegurarnos de que todo el mundo es parte del desarrollo.

P. ?Predican ustedes con el ejemplo?

P. Cuando la Unesco decidi¨® que promover la igualdad de g¨¦nero ser¨ªa una prioridad, all¨¢ por 2007, asumimos que deb¨ªamos hacerlo tambi¨¦n en nuestra propia organizaci¨®n. Entonces solo hab¨ªa un 10% de mujeres en posiciones de toma de decisiones en la organizaci¨®n. Hoy somos un 51%.

P. ?Podr¨ªa ser la tecnolog¨ªa parte de la soluci¨®n para lograr la igualdad de g¨¦nero?

R. S¨ª. El movimiento #MeToo ha sido posible gracias a las redes sociales. Hay compa?¨ªas y gente joven desarrollando aplicaciones que ayudan en esta direcci¨®n. Por ejemplo, un grupo de cinco chicas en Kenia trabaja en una app para v¨ªctimas de mutilaci¨®n genital, que afecta a 200 millones de mujeres en el mundo. Tambi¨¦n tiene un bot¨®n de p¨¢nico que avisa a las fuerzas de seguridad en caso de peligro.