Amazon suspende indefinidamente la venta de su tecnolog¨ªa de reconocimiento facial a la polic¨ªa

Amazon seguir¨¢ sin vender su software de reconocimiento facial, Rekognition, a las fuerzas de seguridad. La decisi¨®n, adelantada por Reuters y confirmada a EL PA?S por la compa?¨ªa, se da a conocer poco antes de que se cumpla un a?o desde que la propia empresa decidiera congelar temporalmente la comercializaci¨®n de esta tecnolog¨ªa a los cuerpos de polic¨ªa. La moratoria se anunci¨® en el punto ¨¢lgido de las protestas que se extendieron por todo Estados Unidos contra el uso excesivo de la fuerza por parte de la polic¨ªa contra los negros con motivo de la muerte de George Floyd, asfixiado por un agente en Minneapolis el 25 de mayo de 2020. IBM o Microsoft aplicaron medidas similares.

La tecnolog¨ªa del reconocimiento facial cruza de forma autom¨¢tica im¨¢genes tomadas por c¨¢maras colocadas en lugares p¨²blicos ¨Den ocasiones tambi¨¦n en privados¨D con bases de datos propias para identificar a personas. En Estados Unidos est¨¢ muy extendido su uso policial. Diversos estudios han acreditado que los algoritmos que est¨¢n detr¨¢s de estos sistemas tienden a fallar m¨¢s con rostros que no sean blancos. Algunos trabajos estiman que un rostro negro tiene 100 veces m¨¢s probabilidades de ser mal identificado que un rostro blanco.

Las protestas por la muerte de Floyd y la repercusi¨®n del caso del tambi¨¦n afroamericano Robert Williams, el primer arresto err¨®neo del que se tiene constancia atribuible a un fallo de un sistema de reconocimiento facial, pusieron a esta tecnolog¨ªa en el disparadero. La presi¨®n ciudadana y de varias ONG y organizaciones por los derechos civiles, como Amnist¨ªa Internacional o la Uni¨®n Estadounidense de Libertades Civiles (ACLU), llevaron a algunas ciudades a prohibir o congelar el a?o pasado el uso policial de estos sistemas. Incluso se registr¨® en la C¨¢mara de Representantes una iniciativa para regularlos a nivel federal, si bien hasta el momento no se ha traducido en nada concreto.

La moratoria que se autoimpuso Amazon parec¨ªa estar relacionada con estos movimientos. ¡°Hemos defendido que los gobiernos pongan en marcha regulaciones m¨¢s estrictas sobre el uso ¨¦tico del reconocimiento facial y, en los ¨²ltimos d¨ªas, el Congreso parece estar listo para asumir este desaf¨ªo¡±, dijo la compa?¨ªa en un comunicado el a?o pasado. ¡°Esperamos que esta moratoria de un a?o le d¨¦ al Congreso tiempo suficiente para implementar reglas apropiadas y estamos listos para prestar nuestra ayuda en el proceso si se nos requiere¡±.

Esa normativa no ha visto la luz por ahora ni se espera que lo haga en un futuro cercano. La decisi¨®n del gigante tecnol¨®gico fundado por Jeff Bezos de mantener congelado el uso policial de estos sistemas parece estar alineada con la falta de regulaci¨®n, aunque la compa?¨ªa no tiene comentarios que hacer al respecto.

¡°El reconocimiento facial alimenta la sobrevigilancia de la comunidad negra y ya ha provocado falsos arrestos y encarcelamientos err¨®neos de varios hombres negros¡±, se?al¨® el martes Nathan Freed Wessler, subdirector del programa de Libre Expresi¨®n, Privacidad y Tecnolog¨ªa de la ACLU. ¡°Estamos encantados de que Amazon extienda su moratoria sobre el uso por parte de las fuerzas policiales del sistema de reconocimiento facial de la compa?¨ªa. Ahora, la Administraci¨®n Biden y las legislaturas de todo el pa¨ªs deben proteger a las comunidades de esta tecnolog¨ªa prohibiendo su uso policial¡±.

Una tecnolog¨ªa controvertida

Pese a los vientos de cambio que soplan sobre una tecnolog¨ªa muy controvertida, su uso sigue siendo la norma en las labores policiales. El ejemplo m¨¢s aireado por la prensa fue su aplicaci¨®n en la detecci¨®n de algunos de los asaltantes al Capitolio. El FBI solicit¨® la colaboraci¨®n ciudadana para que la gente denunciara a posibles asaltantes buscando entre las fotos compartidas por sus contactos en las redes sociales. En ese contexto, varios departamentos de polic¨ªa del pa¨ªs recurrieron al sistema de reconocimiento facial Clearview AI para poner su granito de arena, seg¨²n el Washington Post. Esta empresa, Clearview AI, fue denunciada el a?o pasado ante la agencia de protecci¨®n de datos francesa por haber robado millones de fotos de las redes sociales, especialmente Facebook, para elaborar un motor de b¨²squeda de personas.

Amazon Rekognition no ha dejado de usarse: la propia empresa asegura que es empleada por la polic¨ªa estadounidense como una herramienta m¨¢s en las investigaciones de tr¨¢fico sexual. Fuera del ¨¢mbito estrictamente policial, el software de Amazon se ofrece como una soluci¨®n para ¡°identificar objetos, personas, texto, escenas y actividades en im¨¢genes y videos, adem¨¢s de detectar cualquier contenido inapropiado¡±. Adem¨¢s de poder etiquetar todo lo que aparece en una imagen, el algoritmo de Amazon Rekognition puede leer textos y es capaz de reconocer las emociones mostradas por un rostro.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter.