La detenci¨®n err¨®nea de una embarazada reaviva el rechazo a los sistemas de reconocimiento facial

El creciente uso de herramientas de identificaci¨®n biom¨¦trica en Nueva York no ha causado hasta ahora m¨¢s controversia que las cr¨ªticas por invasi¨®n de la privacidad a los supermercados, que han recurrido en masa a c¨¢maras y esc¨¢neres para prevenir hurtos. ¡°Esta tecnolog¨ªa nos ayuda a reducir el n¨²mero de robos¡±, explica un cartel a la entrada de un conocido supermercado de Manhattan. El a?o pasado, la patronal neoyorquina registr¨® 63.000 robos en tiendas, un 45% m¨¢s que en 2021. Grandes estadios en todo el pa¨ªs han adoptado tambi¨¦n herramientas automatizadas como el esc¨¢ner del iris o del ¨®valo facial para controlar el acceso del p¨²blico, y el Madison Square Garden se ha visto en el disparadero porque lo hace para discriminar a individuos molestos, sobre todo abogados implicados en litigios contra el legendario pabell¨®n.

Pero una cosa es lo que ocurre en Nueva York y otra en el resto del pa¨ªs, donde ciudades como San Francisco han prohibido su uso, mientras otras (por ejemplo, Oakland y Berkeley, en California, y Somerville, en Massachusetts, todas ellas regidas por dem¨®cratas) est¨¢n valorando seguir su ejemplo. Se sab¨ªa que las herramientas de reconocimiento facial impulsadas por la inteligencia artificial han producido fallos, generando im¨¢genes falsas o incurriendo en sesgos de confirmaci¨®n tan inmediatos como f¨¢ciles, la mayor parte de las veces sin consecuencias. Pero en ocasiones el uso de esta tecnolog¨ªa tiene un impacto m¨¢s grave en la reputaci¨®n y el bienestar de las personas. Es el caso de Porcha Woodruff, una mujer de 32 a?os de Detroit, que fue arrestada y esposada en febrero en su domicilio, delante de sus dos hijas, durante un operativo policial.

A Woodruff se la acusaba (de manera err¨®nea) de un atraco y el robo de un coche. Las autoridades ten¨ªan im¨¢genes de videovigilancia de una gasolinera donde se produjo el suceso, que mostraban a una mujer en flagrante delito, y las sometieron a una herramienta de reconocimiento facial de DataWorks Plus para identificarla. Pese a ese despliegue de medios, los agentes no tuvieron en cuenta un peque?o detalle cuando, pocos d¨ªas despu¨¦s de cometerse el delito, irrumpieron en el domicilio de Woodruff: la ladrona no estaba embarazada. Ella s¨ª, de ocho meses.

Woodruff es la primera mujer arrestada por error en EE UU a consecuencia de una falsa identificaci¨®n, pero ha habido m¨¢s casos. Solo en Detroit se trata del tercer expediente en el que est¨¢ involucrada la polic¨ªa local, que de media realiza 125 b¨²squedas con reconocimiento facial al a?o, casi todas de hombres negros, seg¨²n estad¨ªsticas entregadas a la junta ciudadana de supervisi¨®n. Woodruff es la sexta persona en el pa¨ªs acusada falsamente por culpa del uso automatizado de tecnolog¨ªa de reconocimiento facial, que vincula el rostro de un delincuente desconocido con una fotograf¨ªa de una base de datos determinada. La fotograf¨ªa de Woodruff figuraba en los archivos policiales por haber conducido con el carn¨¦ caducado hace unos a?os.

El da?o hecho a la reputaci¨®n de Woodruff, que fue esposada a la puerta de su casa, delante de los vecinos, fue incluso menor que el causado a su salud, por su avanzada gestaci¨®n. ¡°Tuve contracciones mientras estaba en la celda. Ten¨ªa dolores agudos en la espalda. Sufr¨ª espasmos. Estuve a punto de sufrir un ataque de p¨¢nico¡±, explic¨® Woodruff, que estudia enfermer¨ªa, al diario The New York Times. ¡°Fue un suplicio estar sentada en esos bancos de cemento, me dol¨ªa todo el cuerpo¡±. El hecho de que estuviera arreglando a sus dos hijas para ir al colegio no detuvo a los seis agentes que acudieron a detenerla. La hicieron salir a la puerta, donde la esposaron, mientras ella solo acertaba a preguntarles si era una broma, mientras se se?alaba la barriga. Tras 11 horas detenida, y el pago de una fianza de 100.000 d¨®lares, la mujer fue puesta en libertad ese mismo d¨ªa. De la comisar¨ªa fue directamente al hospital, donde apreciaron que estaba deshidratada. Un mes despu¨¦s, el fiscal desestim¨® el caso. A primeros de agosto, Woodruff interpuso una demanda por arresto indebido en contra de la ciudad de Detroit, ante el tribunal federal del distrito este de M¨ªchigan.

Seg¨²n documentos entregados a la junta ciudadana de supervisi¨®n, DataWorks Plus es el proveedor de tecnolog¨ªa de reconocimiento facial que utiliza la polic¨ªa para comparar rostros desconocidos con una base de datos policial de fotos que figuran en las fichas de delincuentes; el sistema usa la IA para presentar las coincidencias ordenadas seg¨²n el c¨¢lculo de probabilidades. En ¨²ltima instancia, un analista humano se encarga de decidir si alguna de las opciones es consistente. Como sucedi¨®, por ejemplo, en el caso de Robert Williams, otro vecino de Detroit que fue arrestado en enero de 2020 por robo en una tienda debido a una coincidencia de reconocimiento facial incorrecta, por la cual la fiscal¨ªa se disculp¨® tiempo despu¨¦s.

Normas para la identificaci¨®n biom¨¦trica

¡°Datos biom¨¦tricos del cliente pueden ser recopilados¡±, advierte el cartel de un conocido supermercado de Manhattan. Porque cualquier negocio o establecimiento de Nueva York debe, por ley, informar mediante anuncios bien visibles de que somete a vigilancia biom¨¦trica al cliente. El gigante del comercio electr¨®nico Amazon fue denunciado en marzo por no avisar expl¨ªcitamente del uso de estos m¨¦todos (como el esc¨¢ner de la palma de la mano y la medici¨®n corporal del cliente) en sus tiendas de la Gran Manzana.

EE UU no es el ¨²nico pa¨ªs que utiliza herramientas de identificaci¨®n biom¨¦trica. En el Reino Unido, los negocios utilizan tecnolog¨ªa de reconocimiento facial que usa IA para prohibir la entrada a sus establecimientos a personas con antecedentes por robo. Bruselas blinda sus fronteras recopilando datos biom¨¦tricos de aquellas personas que entren en territorio europeo; una medida, seg¨²n los expertos, con alto potencial discriminatorio. Las fuerzas de seguridad espa?olas se disponen a adoptar el programa ABIS (siglas en ingl¨¦s de sistema autom¨¢tico de identificaci¨®n biom¨¦trica) para identificar en segundos a sospechosos a partir de cualquier tipo de imagen. M¨¢s all¨¢ de las dudas sobre la transparencia de esos sistemas, y el comprensible temor de la ciudadan¨ªa a verse vigilada o espiada, el caso de Pocha Woodruff es una llamada de atenci¨®n sobre los riesgos de la proliferaci¨®n de este tipo de tecnolog¨ªa.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.