El MIT desarrolla un algoritmo que reduce sesgos en los sistemas de reconocimiento facial

Un equipo de investigadores del Instituto de Tecnolog¨ªa Massachusetts (MIT) ha conseguido desarrollar un algoritmo que reduce al 60% el sesgo racial y de g¨¦nero que resulta del entrenamiento del reconocimiento facial de la Inteligencia Artificial (IA)

En una entrada publicada en la secci¨®n de noticias del Laboratorio de Inteligencia Artificial y Ciencia Inform¨¢tica (CSAIL) del MIT se explica c¨®mo un equipo de investigadores ha conseguido reducir el margen de error de los resultados obtenidos en las pruebas con Inteligencia Artificial (IA) de reconocimiento facial con respecto al g¨¦nero y a la raza de la muestra.

Un estudio del a?o pasado explicaba que el margen de error en el reconocimiento facial de la IA variaba dependiendo de la raza y el g¨¦nero del sujeto. Este estudio, basado en los sistemas de IBM Watson, Microsoft y Face++, mostr¨® que las fotograf¨ªas de mujeres tienen un margen de error mayor que las de los hombres; error que aumenta, adem¨¢s, cuando el sujeto a analizar es de piel oscura.

Esta diferencia encuentra su explicaci¨®n en la base datos sobre los que la IA basa su aprendizaje. Este sistema de datos cuenta con m¨¢s muestras de hombres blancos que de mujeres negras, por lo que la Inteligencia Artificial tiene m¨¢s dificultades a la hora de reconocer a los grupos de los que tiene menor referencia.

M¨¢s informaci¨®n

La inteligencia artificial tiene prejuicios, pero se pueden corregir

Lo que el algoritmo hizo a continuaci¨®n te sorprender¨¢

Un equipo del MIT ha avanzado en la soluci¨®n de este problema al desarrollar un algoritmo que permite identificar y minimizar cualquier sesgo oculto, mediante el aprendizaje tanto de una tarea espec¨ªfica, como es el reconocimiento facial, como de la estructura impl¨ªcita de los datos del entrenamiento.

En las pruebas, para las que se ha empleado la misma base de datos que en el estudio del a?o pasado, el algoritmo redujo este 'sesgo categ¨®rico' en m¨¢s del 60% en comparaci¨®n con otros modelos m¨¢s avanzados de detecci¨®n facial, sin que estos perdieran precisi¨®n.

El algoritmo puede analizar un conjunto de datos, aprender qu¨¦ est¨¢ intr¨ªnsecamente oculto en su interior y volver a muestrearlo para que sea m¨¢s justo sin necesidad de que intervenga un programador humano.

Alexander Amini, doctor del MIT y miembro del equipo a cargo del proyecto, explica la correcci¨®n del sesgo es "especialmente importante en tanto que empezamos a ver este tipo de algoritmos en seguridad, cuerpos policiales y otros dominios". Este sistema ser¨ªa particularmente relevante, como a?ade Amini, para conjuntos de datos que son demasiado grandes para examinarlos manualmente.