La cara oculta del reconocimiento facial

En la actualidad existe un gran debate sobre el uso de algoritmos en diversos ¨¢mbitos, como la seguridad en internet, los sistemas de vigilancia o la segmentaci¨®n de clientes. Con frecuencia, la problem¨¢tica se centra en c¨®mo se deben usar los algoritmos, soslayando un an¨¢lisis profundo de las diferentes realidades que dan forma a estos modelos ¨Cy en las que, a su vez, estos influyen¨C. En este sentido, una pregunta fundamental que con frecuencia queda ...

En la actualidad existe un gran debate sobre el uso de algoritmos en diversos ¨¢mbitos, como la seguridad en internet, los sistemas de vigilancia o la segmentaci¨®n de clientes. Con frecuencia, la problem¨¢tica se centra en c¨®mo se deben usar los algoritmos, soslayando un an¨¢lisis profundo de las diferentes realidades que dan forma a estos modelos ¨Cy en las que, a su vez, estos influyen¨C. En este sentido, una pregunta fundamental que con frecuencia queda siquiera sin formularse es: ?de qu¨¦ manera est¨¢n implicados los diferentes actores, incluyendo la comunidad matem¨¢tica, en las cuestiones ¨¦ticas que rodean el uso de los algoritmos?

Entre los algoritmos m¨¢s controvertidos se encuentran los de reconocimiento facial, capaces de identificar caras humanas y/o sus caracter¨ªsticas. Estos modelos se han empleado con objetivos muy diferentes, desde la autenticaci¨®n de usuarios a la identificaci¨®n de personas involucradas en actividades ilegales. Adem¨¢s, se utilizan en sistemas de control de usuarios, en teor¨ªa para prevenir situaciones potencialmente peligrosas.

Estos algoritmos se basan en conceptos matem¨¢ticos y, en algunas de sus versiones m¨¢s sencillas, se pueden describir en t¨¦rminos accesibles. El modelo se entrena usando una base de datos de fotograf¨ªas de caras, y su objetivo consiste en inferir la probabilidad de que una nueva imagen corresponda a alguna de las existentes. Esto, matem¨¢ticamente, se corresponde con el problema de, dado un punto cualquiera, determinar su cercan¨ªa a otro de un conjunto prefijado ¨Clos de la base de datos¨C, en un espacio de muchas dimensiones.

Las fotos se traducen a matem¨¢ticas en t¨¦rminos de vectores. Una imagen est¨¢ formada por p¨ªxeles, o puntos de color. Para fotos en blanco y negro, cada p¨ªxel est¨¢ codificado por un n¨²mero entre 0 y 255 que describe su intensidad de gris, donde 0 significa ¡°negro¡± y 255, ¡°blanco¡±. Si las fotos en cuesti¨®n contienen 250*150 p¨ªxeles, entonces cada imagen est¨¢ representada por un vector de 250*150=22.500 n¨²meros entre 0 y 255. As¨ª, se reinterpreta el espacio de todas las caras como un espacio vectorial de 22 500 dimensiones, cuyo manejo supone una seria dificultad computacional.

Si el archivo inicial de fotos consta de 200 fotos, entonces se tienen 200 vectores ¨Co, equivalentemente, puntos¨C en un espacio de 22 500 dimensiones. Pero no interesan las im¨¢genes en s¨ª, sino la variaci¨®n ¨Cllamada covarianza¨C entre ellas. Estos cambios se pueden describir ¨Ccon sencillos argumentos algebraicos¨C dentro de un subespacio de una dimensi¨®n mucho menor y, por lo tanto, mucho m¨¢s manejable. As¨ª, es posible reducir el problema a proyectar la base de datos de partida a este subespacio y, cuando aparece una foto nueva, considerar su proyecci¨®n y calcular la menor distancia entre este punto y los anteriores. Esta cara m¨¢s cercana ser¨¢ la que el algoritmo dar¨¢ como posible reconocimiento de la cara nueva.

Pese a que el algoritmo es comprensible desde un punto de vista te¨®rico, cuando se confronta con las situaciones reales en las que se aplica aparecen sus enormes limitaciones

Pese a que el algoritmo es comprensible desde un punto de vista te¨®rico, cuando se confronta con las situaciones reales en las que se aplica aparecen sus enormes limitaciones. Por ejemplo, la precisi¨®n del algoritmo depende de la exactitud con que la base de datos inicial represente la totalidad de las caracter¨ªsticas faciales humanas. Una investigaci¨®n reciente demuestra que incluso el software de reconocimiento facial m¨¢s puntero puede errar en la identificaci¨®n de mujeres negras hasta en un 35% de las ocasiones, mientras que funciona de manera casi perfecta en el caso de hombres blancos. Esto tiene consecuencias extremadamente peligrosas, como la falsa acusaci¨®n y arresto de Robert Julian-Borchak Williams, y puede contribuir a las ya elevadas tasas de violencia de la polic¨ªa de Estados Unidos hacia la poblaci¨®n no blanca.

Pero no se trata ¨²nicamente de los posibles errores de los algoritmos. De hecho, se plantea la siguiente pregunta fundamental: si los modelos pudieran ser mejorados hasta tener una precisi¨®n del 100%, ?ser¨ªa entonces ¨¦tico su uso y circulaci¨®n? Nuestra postura es que, incluso en esta situaci¨®n hipot¨¦tica, la respuesta no es autom¨¢ticamente ¡°s¨ª¡±, sino que est¨¢ condicionada a que los algoritmos no se usen para crear ¨Co agravar¨C situaciones de abuso de poder. Debido a su papel central en el dise?o e implementaci¨®n de estos modelos, la comunidad matem¨¢tica en su conjunto debe hacer un an¨¢lisis profundo sobre estas cuestiones ¨¦ticas y sobre qu¨¦ sectores resultan favorecidos por el uso de los diferentes algoritmos y cu¨¢les, por el contrario, se ven vulnerados.

Tarik Aougab es profesor en el Haverford College (Estados Unidos).

Javier Aramayona es cient¨ªfico titular del Consejo Superior de Investigaciones Cient¨ªficas en el Instituto de Ciencias Matem¨¢ticas (ICMAT).

?gata A. Tim¨®n G. Longoria es coordinadora de la Unidad de Cultura Matem¨¢tica del ICMAT.

Caf¨¦ y Teoremas es una secci¨®n dedicada a las matem¨¢ticas y al entorno en el que se crean, coordinado por el Instituto de Ciencias Matem¨¢ticas (ICMAT), en la que los investigadores y miembros del centro describen los ¨²ltimos avances de esta disciplina, comparten puntos de encuentro entre las matem¨¢ticas y otras expresiones sociales y culturales y recuerdan a quienes marcaron su desarrollo y supieron transformar caf¨¦ en teoremas. El nombre evoca la definici¨®n del matem¨¢tico h¨²ngaro Alfred R¨¦nyi: ¡°Un matem¨¢tico es una m¨¢quina que transforma caf¨¦ en teoremas¡±.

Puedes seguir a MATERIA en Facebook, Twitter e Instagram, o apuntarte aqu¨ª para recibir nuestra newsletter semanal.