Grandes datos, grandes sesgos

Tanto preocuparnos por los peligros de la rob¨®tica y la inteligencia artificial, por los ej¨¦rcitos de soldados aut¨®matas que nos amargar¨¢n el futuro, por los riesgos de la automatizaci¨®n que podemos imaginar ¡ªy sobre todo por los que no podemos ni imaginar¡ª y resulta que nos estamos olvidando de un problema bien gordo que ya est¨¢ entre nosotros: los sesgos racistas y sexistas de las m¨¢quinas. Lee en Materia un espeluznante art¨ªculo que revela esta amenaza cierta con el fulgor deslumbrante de una revelaci¨®n.

Bien pensado, no es extra?o que las m¨¢quinas tengan prejuicios irracionales: los han aprendido de nosotros. Una red neural t¨ªpica (un software que abstrae conceptos de la experiencia) aprende ingl¨¦s o espa?ol empoll¨¢ndose varios millones de textos y discursos escritos o pronunciados por mir¨ªadas de Homo sapiens. Una variedad particularmente ¨²til de estos sistemas se basa en un espacio vectorial donde cada palabra es un vector y los conceptos emergen de la proximidad de dos palabras en un texto. Si ¡°gitano¡± aparece a menudo a menos de diez palabras de ¡°marginal¡±, la m¨¢quina aprender¨¢ a asociar esas dos ideas. Es decir, absorber¨¢ de nosotros ese sesgo inaceptable.

Si ¡°gitano¡± aparece a menudo a menos de diez palabras de ¡°marginal¡±, la m¨¢quina aprender¨¢ a asociar esas dos ideas

Con las im¨¢genes ocurre algo muy similar. Si las mujeres aparecen a menudo junto a una cacerola, la red neural deducir¨¢ el equivalente en silicio de ¡°la mujer a la cocina¡±, un concepto de gran alcance que las personas de carne y hueso hemos tenido grabado en nuestros circuitos durante milenios, y que sigue presente incluso en los que creemos haberlo superado. Nadie ha programado a la red neural para ser sexista ni racista, pero la m¨¢quina es extraordinariamente eficaz asimilando esos sesgos de nuestros prejuicios inconscientes. Grandes datos, grandes sesgos.

El problema es muy serio, y se nos est¨¢ escurriendo entre los dedos con el automatismo con que aceptamos un desastre natural. Un robot tuitero de Microsoft llamado Tay aprendi¨® con tal solvencia los usos y costumbres de esa red social que empez¨® a tuitear apolog¨ªas de los nazis, a defender el muro antimexicano de Donald Trump y a acosar a cualquier humano ingenuo que se le pon¨ªa a tiro. Los de Bill Gates tuvieron que retirar a Tay de la circulaci¨®n a las 24 horas de su presentaci¨®n en sociedad. Ojal¨¢ todos los cazurros de Twitter tuvieran una vida tan corta. Y hay haza?as de la inteligencia artificial m¨¢s preocupantes a¨²n.

Google confunde a los afroamericanos con gorilas, y Flickr con chimpanc¨¦s, y llegaron a llamar ¡°la casa del negro¡± a la Casa Blanca de Obama. La c¨¢mara de Nikon rechaza fotografiar a un chino porque cree que est¨¢ parpadeando. Amazon excluye de sus promociones a los barrios de mayor¨ªa negra como Harlem. ¡°Armas de destrucci¨®n matem¨¢tica¡±, las ha llamado la cient¨ªfica de la computaci¨®n Cathy O¡¯Neil, que denuncia el control secreto que ejerce el big data sobre cuestiones tan vitales como ser aceptado por una universidad, solicitar una hipoteca, encontrar un trabajo o comerse el marr¨®n de una pena de prisi¨®n.

El problema es grave. Lee Materia y entra en el debate.

LA CIENCIA DE LA SEMANA es un espacio en el que Javier Sampedro analiza la actualidad cient¨ªfica. Suscr¨ªbete a la newsletter de Materia y lo recibir¨¢s cada s¨¢bado en tu correo, junto con una selecci¨®n de nuestras mejores noticias de la semana.