¡°?Por qu¨¦ se circuncidan las chicas?¡±: el problema de Google en ¨¢rabe con la mutilaci¨®n genital femenina

Cuando Youmna Hashem empez¨® a poner a prueba el motor de b¨²squeda de Google no tard¨® en darse cuenta de los peligros que entra?aba. Uno de sus primeros experimentos fue escribir, en ¨¢rabe egipcio, la pregunta incompleta ¡°por qu¨¦ las mujeres...¡±, y esperar a ver d¨®nde le llevaba la sugerencia del buscador m¨¢s popular del mundo. El resultado fue una cascada de proposiciones de cariz mis¨®gino como ¡°por qu¨¦ las mujeres egipcias son tan quejicas¡±, y las recomendaciones que aparec¨ªan a continuaci¨®n giraban principalmente en torno al estereotipo de la mujer dada al drama.

¡°La primera vez que lo hice estaba estudiando un m¨¢ster y recuerdo haber le¨ªdo sobre algunos de los problemas con los que se hab¨ªa topado Google a la hora de sugerir, y que estaba siendo criticado por autocompletar las consultas de b¨²squeda de una forma muy problem¨¢tica¡±, explica Hashem, hoy investigadora sobre inteligencia artificial en la empresa de ciencia de datos egipcia Synapse Analytics. ¡°Cuando vi que empezaban a solucionarlo, me dije: ¡®Seguro que, si lo pruebo en ¨¢rabe, encontrar¨¦ cosas muy problem¨¢ticas¡±, agrega.

Recientemente, Hashem se pregunt¨® si, unos a?os despu¨¦s de aquel primer experimento, Google habr¨ªa abordado el problema. As¨ª que procedi¨® a repetir la b¨²squeda con una sutil variaci¨®n: ¡°Por qu¨¦ las chicas...¡±. Los resultados fueron a¨²n m¨¢s preocupantes. La primera opci¨®n que le apareci¨® podr¨ªa traducirse por algo as¨ª como ¡°por qu¨¦ se circuncidan las chicas¡±, una pr¨¢ctica criminal muy extendida en Egipto. El resultado m¨¢s destacado era, adem¨¢s, un art¨ªculo antiguo y del todo infundado que describe los beneficios de la operaci¨®n.

El problema era a¨²n m¨¢s profundo de lo que el orden de sugerencias suscitaba. El verbo de la primera opci¨®n que le apareci¨® se puede traducir por ¡°circuncidar¡± si se est¨¢ familiarizado con el l¨¦xico empleado para referirse a esta pr¨¢ctica. Pero literalmente la frase que le propon¨ªa Google era algo as¨ª como ¡°por qu¨¦ las chicas se purifican¡±, puesto que as¨ª se refieren a ella muchos egipcios. Por si todo ello no fuera ya lo suficientemente alarmante, el motor de b¨²squeda vinculaba de forma autom¨¢tica aquel verbo con ¡°circuncidar¡±, similar a la pr¨¢ctica masculina. Pero, en cambio, no hac¨ªa lo propio con el equivalente a ¡°mutilaci¨®n genital femenina¡±, que es el que intentan impulsar muchas activistas y acad¨¦micas.

¡°La tecnolog¨ªa y un servicio como Google no son abstractos, sino que son moldeados por nosotros y por c¨®mo interactuamos con ellos. Al final somos sus dise?adores y usuarios, por lo que acaban reflejando todo lo que ocurre en la sociedad¡±, nota Hashem. ¡°[Pero] lo que me ha sorprendido es que en algo tan sensible como la mutilaci¨®n genital femenina (MGF), Google no se hubiera esforzado, que no hubiera hecho el mismo esfuerzo que en otros idiomas, concretamente en el ¨¢rabe, para eliminar o no permitir que ese contenido aparezca primero¡±, se?ala.

Hashem fue todav¨ªa m¨¢s all¨¢ y, tal y como explica en un art¨ªculo reciente m¨¢s detallado, busc¨® en qu¨¦ gobernaciones de Egipto se hacen m¨¢s b¨²squedas en Google acerca de la mutilaci¨®n genital femenina. Las principales inclu¨ªan varias provincias del delta del Nilo, en el norte del pa¨ªs, donde los informes precisamente recogen que esta pr¨¢ctica contin¨²a siendo muy frecuente a pesar de ser legalmente un crimen.

¡°Un gran problema a nivel mundial, pero especialmente en nuestra parte del mundo, es la cuesti¨®n del analfabetismo digital: la gente no sabe distinguir entre lo que es fiable y lo que no¡±, alerta la investigadora, ¡°y esto puede tener algunas ramificaciones peligrosas en algo como la MGF, porque todav¨ªa se practica mucho en Egipto¡±.

Motores de b¨²squeda como el de Google son programas inform¨¢ticos dise?ados para rastrear internet y crear un repositorio con el objetivo de ofrecer un sistema que organice toda esta informaci¨®n y la haga accesible a fin de que, cuando los usuarios escriban lo que est¨¢n buscando, les aparezca con la m¨¢xima precisi¨®n posible aquello que quieren hallar. No se trata de una misi¨®n f¨¢cil. Motores de b¨²squeda de este tipo no entienden el sentido de las palabras, sino que se basan en modelos estad¨ªsticos, en patrones de b¨²squedas anteriores, para identificar lo que est¨¢ intentando hallar un usuario.

Uno de los problemas que esto conlleva es cuando los motores de b¨²squeda tienen poco contenido cre¨ªble y relevante que se ajuste a aquello que se est¨¢ buscando, los llamados ¡°vac¨ªos de datos¡±. En muchos casos, estas brechas implicar¨¢n que las sugerencias que planteen sean de baja calidad. Pero en ocasiones pueden acabar reforzando estereotipos o comportamientos problem¨¢ticos, como en los casos buscados por Hashem.

En el caso del ¨¢rabe, estos vac¨ªos representan un gran desaf¨ªo. A pesar de ser uno de los idiomas m¨¢s hablados del mundo, apenas un 1,3% del contenido en l¨ªnea est¨¢ en ¨¢rabe, seg¨²n datos de W3Techs, que proporciona informaci¨®n sobre el uso de tecnolog¨ªas en la web. Una abismal desproporci¨®n que deja grandes lagunas de informaci¨®n por el camino. En idiomas como el ingl¨¦s, de lejos el m¨¢s com¨²n, empresas como Google han dedicado especiales recursos para abordar vac¨ªos problem¨¢ticos. Pero en ¨¢rabe van muy por detr¨¢s.

¡°Es un equilibrio muy delicado¡±, concede Hashem. ¡°Google es una organizaci¨®n sin una postura pol¨ªtica espec¨ªfica, por lo que es muy dif¨ªcil para ellos llegar a un acuerdo sobre c¨®mo equilibrar la libertad de expresi¨®n y, por otro lado, decir que se est¨¢ cruzando una l¨ªnea aqu¨ª o que esto es una informaci¨®n err¨®nea¡±, nota. ¡°En ingl¨¦s, Google es muy r¨¢pido en responder y tiene grandes mecanismos para denunciar¡±, apunta, ¡°pero el problema es que hay que invertir m¨¢s en los idiomas que no son el ingl¨¦s¡±. ¡°Tienen que invertir m¨¢s en contenidos alternativos; invertir m¨¢s en sus diferentes regiones y audiencias, no solo en las de habla inglesa¡±, desliza.

En esta l¨ªnea, tambi¨¦n ganan fuerza las llamadas a descolonizar la inteligencia artificial. ¡°El enfoque decolonial consistir¨ªa en formas alternativas de conocimiento y de creaci¨®n y producci¨®n de conocimiento. Y en hacer que la tecnolog¨ªa est¨¦ menos centralizada, y en lugar de que las grandes tecnol¨®gicas sean las que establezcan el escenario y la pol¨ªtica y den forma y dicten el futuro de la tecnolog¨ªa, hacerlo m¨¢s comunitario¡±, apunta Hashem.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.