El reconocimiento facial de Amazon confunde a 28 congresistas con sospechosos de la polic¨ªa

La Uni¨®n Estadounidense por las Libertades Civiles (ACLU, por sus siglas en ingl¨¦s) ha puesto a prueba el sistema de reconocimiento facial de Amazon. Y los resultados han sido sorprendentes. La organizaci¨®n ha escaneado?con el programa Amazon Rekognition las caras de los 535 miembros del congreso de Estados Unidos y las ha confrontado con 25.000 fotograf¨ªas p¨²blicas de sospechosos de la polic¨ªa. El sistema ha confundido a 28 congresistas con posibles delincuentes. Este hallazgo, sostiene la ACLU, muestra el peligro de que los organismos oficiales usen este tipo de tecnolog¨ªa.

M¨¢s informaci¨®n

La polic¨ªa china usa gafas con reconocimiento facial para identificar a sospechosos

Nos hemos quedado con tu cara

Hablar con la m¨¢quina

"Que una identificaci¨®n sea precisa o no puede costarle a una persona su libertad o incluso su vida", explica la ACLU en un comunicado. Este sistema de reconocimiento facial, seg¨²n afirma la organizaci¨®n, ya es utilizado por algunas instituciones. Por ejemplo, un departamento de la polic¨ªa en Orlando, lo ha usado en una prueba piloto. "El Congreso debe tomarse en serio estas amenazas, pisar el freno y promulgar una moratoria sobre la aplicaci¨®n de la ley para el reconocimiento facial", ha expresado.

Un portavoz de Amazon ha atribuido los malos resultados a una mala calibraci¨®n del sistema, seg¨²n recoge el diario especializado en tecnolog¨ªa The Verge. Las pruebas realizadas por la ACLU se han realizado con el umbral de confianza predeterminado por el programa, que es de un 80%. Pero la compa?¨ªa recomienda que organismos oficiales como el Gobierno o la polic¨ªa usen un umbral de un 95%, ya que las consecuencias de una equivocaci¨®n pueden ser graves: "Una identificaci¨®n podr¨ªa costarle a la gente su libertad".

"Aunque el 80% de confianza es un umbral aceptable para las fotos de perritos calientes, sillas, animales u otros casos en las redes sociales, no ser¨ªa apropiado para identificar individuos con un nivel razonable de certeza", ha explicado al mismo medio el portavoz. No obstante, el programa no recomienda en el momento de su configuraci¨®n que el umbral sea del 95% y no hay nada que impida que estos organismos utilicen la configuraci¨®n predeterminada, seg¨²n se?ala The Verge.

La prueba realizada por la ACLU pone tambi¨¦n de relieve la amenaza que el sistema de Amazon puede representar para las personas negras. Casi el 40% de las coincidencias falsas en este an¨¢lisis se correspond¨ªan con las fotograf¨ªas de personas de color, pese a que estas solo representan a un 20% de los congresistas.

Amazon Recognition ya fue objeto de pol¨¦mica en mayo, cuando un informe de la ACLU determin¨® que el sistema estaba siendo utilizado por diferentes organismos oficiales. La polic¨ªa de Orlando, seg¨²n la asociaci¨®n, usaba un programa piloto que usaba este sistema en tiempo real. El programa es muy econ¨®mico, ya que tiene un coste de 12 d¨®lares al mes ¡ªunos 10 euros¡ª para un departamento entero.