Un hombre reclama nueve millones a los almacenes Macy¡¯s por usar reconocimiento facial para acusarlo de un robo que no cometi¨®

Un hombre de 61 a?os ha demandado a los almacenes Macy¡¯s y a la tienda de gafas de sol Sunglass Hut por usar contra ¨¦l un sistema de reconocimiento facial para acusarlo injustamente de robar en sus tiendas a mano armada. Harvey Eugene Murphy Jr., como se llama el denunciante, fue detenido en octubre de 2023 por el atraco en una de estas tiendas en el ¨¢rea de Houston (EE UU). Mientras estuvo detenido, y hasta que se comprob¨® la coartada que probaba su inocencia, Murphy fue violado y golpeado, seg¨²n consta en su denuncia. De confirmarse, ser¨ªa un nuevo caso en los que los sistemas de reconocimiento facial aplicados a la seguridad ciudadana provocan errores de graves consecuencias.

La fat¨ªdica historia arranca en enero de 2022, cuando dos atracadores armados robaron miles de d¨®lares y productos en una de estas tiendas de gafas de Houston. Casi dos a?os despu¨¦s, la polic¨ªa detuvo a Murphy cuando se encontraba en Texas en una oficina para renovar su permiso de conducir. Seg¨²n la denuncia que ha adelantado The Guardian, el arrestado asegura que fue un empleado de la matriz de Sunglass Hut (EssilorLuxottica), en colaboraci¨®n con Macy¡¯s, quien dio su nombre a las autoridades.

Mientras el departamento de polic¨ªa de Houston investigaba el robo a mano armada, este empleado utiliz¨® un programa de reconocimiento facial para identificar a Murphy como uno de los ladrones. A pesar de que la imagen que se introdujo en el sistema proven¨ªa de c¨¢maras de baja calidad, seg¨²n la demanda, el representante de EssilorLuxottica llam¨® a la polic¨ªa para avisarles de que ya hab¨ªa identificado con esta tecnolog¨ªa a uno de los culpables. Adem¨¢s, se?al¨® a Murphy, que por entonces viv¨ªa en California, como responsable de otros dos robos.

Murphy reclama ahora a Macy¡¯s y a EssilorLuxottica 10 millones de d¨®lares (algo m¨¢s de nueve millones de euros) por el uso indebido de este sistema de reconocimiento facial que lo identific¨® err¨®neamente. Durante su detenci¨®n de 10 d¨ªas en la c¨¢rcel del condado de Harris (Texas), sufri¨® golpes y una violaci¨®n en grupo, lo que le dej¨® graves secuelas f¨ªsicas y psicol¨®gicas.

¡°El ataque le dej¨® lesiones permanentes con las que tiene que vivir todos los d¨ªas de su vida¡±, dice la demanda. ¡°Todo esto le sucedi¨® a Murphy porque los demandados confiaron en la tecnolog¨ªa de reconocimiento facial, que se sabe que es propensa a errores y defectuosa¡±.

El caso de Murphy vuelve a destacar las deficiencias y los peligros del uso del reconocimiento facial, sobre todo en un ¨¢mbito tan sensible como el de la persecuci¨®n de presuntos criminales, ya que es conocido por producir falsos positivos, especialmente contra personas negras. Su abogado, Daniel Dutko, ha explicado a los medios locales que esta tecnolog¨ªa es la ¨²nica explicaci¨®n plausible para su falsa identificaci¨®n y arresto.

¡°Sabemos que los estudios muestran que los afroamericanos tienen una alta tasa de falsos positivos basados en software de reconocimiento facial. Tambi¨¦n se sabe que comparar personas mayores con fotos suyas cuando eran j¨®venes tiene una tasa muy alta de hasta el 90% de falsos positivos¡±, argumenta Dutko. Murphy contaba con antecedentes penales de las d¨¦cadas de 1980 y 1990, por eso aparec¨ªa en el sistema que le identific¨® por error. Este ser¨ªa el primer caso conocido de hombre blanco acusado por equivocaci¨®n por medio de esta tecnolog¨ªa. ¡°La historia del se?or Murphy es preocupante para todos los ciudadanos de este pa¨ªs¡±, asegur¨® Dutko en un comunicado. ¡°Cualquier persona podr¨ªa ser acusada indebidamente de un delito basado en un software de reconocimiento facial propenso a errores, tal como le ocurri¨® a ¨¦l¡±.

En los ¨²ltimos a?os, varios casos han alertado del peligro de confiar en estos algoritmos para arrestar ciudadanos, como sucedi¨® con Robert Julian-Borchak Williams, detenido por la polic¨ªa de Detroit, o el de Porcha Woodruff, que estaba embarazada y la verdadera ladrona no. Por ese motivo, el uso de reconocimiento facial para combatir el crimen ha sido uno de los puntos m¨¢s controvertidos en el debate de la ley pionera de inteligencia artificial en la Uni¨®n Europea.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.