C¨¢maras con IA en el metro de Londres captan el estado emocional de los viajeros

Miles de pasajeros del metro londinense han sido observados y analizados sin su consentimiento al menos durante un a?o a trav¨¦s de sistemas de inteligencia artificial (IA) alimentados por las c¨¢maras de vigilancia. El reconocimiento facial desplegado permite detectar el g¨¦nero, la edad o las emociones potenciales del usuario, con el prop¨®sito sugerido de utilizar toda esta informaci¨®n para dise?ar un tipo de publicidad personalizada. La tecnolog¨ªa ha sido desarrollada por la empresa Amazon.

La noticia ha sido publicada por la p¨¢gina de informaci¨®n tecnol¨®gica Wired, que ha tenido acceso a los documentos obtenidos por la organizaci¨®n de defensa de los derechos y libertades civiles Big Brother Watch (La Vigilancia del Gran Hermano). A trav¨¦s de una petici¨®n realizada bajo el amparo de la Ley de Libertad de Informaci¨®n, la ONG ha logrado toda la documentaci¨®n referida a los ensayos realizados ¡ªal menos desde abril de 2023¨D en ocho estaciones de la red suburbana de la capital brit¨¢nica. Las m¨¢s importantes son Euston, Waterloo o Manchester Picadilly. Las pruebas han sido realizadas bajo la aparente supervisi¨®n de Network Rail, la empresa p¨²blica gestora y propietaria de la mayor parte de la red ferroviaria del Reino Unido.

El prop¨®sito inicial del proyecto es elaborar un sistema de detecci¨®n de posibles accidentes, riesgos en la seguridad o actos criminales o de vandalismo. La tecnolog¨ªa desplegada en las estaciones utiliza un reconocimiento de objetos detectados en las c¨¢maras, a trav¨¦s del aprendizaje autom¨¢tico o machine learning, para poder avisar, por ejemplo, de usuarios saltando a las v¨ªas, de un exceso de viajeros en los andenes o de actitudes que alteren el orden de la red, como personas corriendo, gritando o fumando. A trav¨¦s de unos sensores inal¨¢mbricos, el sistema detecta tambi¨¦n suelos resbaladizos o posibles inundaciones.

Pero lo m¨¢s alarmante para la organizaci¨®n que ha obtenido la informaci¨®n es que algunos elementos de los ensayos desplegados se centran en los ¡°rasgos demogr¨¢ficos¡± de los pasajeros. Las im¨¢genes obtenidas por las c¨¢maras, seg¨²n los documentos hechos p¨²blicos, pueden producir ¡°un an¨¢lisis estad¨ªstico del rango de edad y de g¨¦nero¡± de los usuarios, as¨ª como ¡°analizar algunas emociones¡± para detectar si est¨¢n tristes, contentos o irritados.

¡°El despliegue y normalizaci¨®n de vigilancia a trav¨¦s de IA en espacios p¨²blicos, sin ning¨²n tipo de consulta o debate previos, es un paso bastante preocupante¡±, ha dicho a Wired Jake Hurfurt, el director de investigaci¨®n de la ONG.

Todas las im¨¢genes, seg¨²n la informaci¨®n, son captadas cuando los pasajeros atraviesan una l¨ªnea virtual situada justo delante de las barreras de entrada a las estaciones. Los datos son enviados al sistema Rekogntion de Amazon, capacitado para realizar an¨¢lisis facial y de objetos. Permite medir el grado de ¡°satisfacci¨®n¡± de los usuarios y, asegura la documentaci¨®n revelada, ¡°los datos podr¨ªan ser utilizados para potenciar al m¨¢ximo la publicidad y las ventas minoristas¡±.

¡°Nos tomamos extremadamente en serio la seguridad de la red ferroviaria y usamos toda una variedad de avances tecnol¨®gicos, desplegados por todas nuestras estaciones, para proteger a los pasajeros, a los empleados y a la propia infraestructura antes posibles amenazas o actos delictivos¡±, ha asegurado un portavoz de Network Rail, que no ha querido comentar el uso concreto de la IA en el suburbano.¡±Cuando desplegamos nueva tecnolog¨ªa, lo hacemos conjuntamente con la polic¨ªa y los servicios de seguridad, para que las medidas sean proporcionadas y conformes a la legalidad¡±, ha a?adido.

El sistema desplegado en el metro londinense no utiliza la tecnolog¨ªa de reconocimiento facial m¨¢s cuestionada en la actualidad, aquella que vincula a los usuarios detectados con las identidades ya clasificadas en un almacenamiento de datos.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.