Los gigantes tecnol¨®gicos se disputan el negocio pol¨¦mico y millonario de la vigilancia facial

Este martes 9 de junio, en medio de la oleada de protestas tras la muerte de George Floyd durante un arresto en Minneapolis, el CEO de IBM, Arvind Krishna, anunciaba en una carta abierta al Congreso de los Estados Unidos que la compa?¨ªa dejar¨¢ de comercializar software propio de reconocimiento facial por su rechazo al uso de una tecnolog¨ªa que puede contribuir a la promoci¨®n del ¡°racismo y la injusticia social¡±. Menos de 24 horas despu¨¦s, Amazon comunicaba que durante un a?o no dejar¨ªa a la polic¨ªa usar Rekognition, su plataforma de reconocimiento de im¨¢genes -aunque no concretaba nada sobre su pol¨¦mico uso por parte del servicio de inmigraci¨®n en fronteras y aduanas-. El jueves por la tarde era el presidente de Microsoft el que anunciaba que no vender¨¢ su tecnolog¨ªa de vigilancia a la polic¨ªa, a la vez que confirmaba que nunca se le hab¨ªa vendido. Pero estas contradicciones o anuncios, que parecen tener al menos tanto de marketing como de verdadero compromiso, no son nuevas en este ¨¢mbito.

El reconocimiento facial es un sistema que permite identificar a una persona analizando caracter¨ªsticas biom¨¦tricas de su rostro como la distancia entre los ojos o el tama?o de la nariz. Existen diferentes tecnolog¨ªas que hacen uso de par¨¢metros distintos y con precisi¨®n muy dispar. Aunque naci¨® hace casi 60 a?os, en los ¨²ltimos 10 la utilizaci¨®n de inteligencia artificial y aprendizaje autom¨¢tico ha mejorado exponencialmente las capacidades de identificaci¨®n tanto en fotograf¨ªas como en v¨ªdeos en tiempo real. Estas tecnolog¨ªas est¨¢n presentes en el desbloqueo de muchos m¨®viles y en multitud de apps que ponen filtros o ayudan a etiquetar nuestras fotos, pero su uso por las fuerzas de seguridad es el m¨¢s pol¨¦mico por el poder sin precedentes que les otorga para vigilar y seguir el rastro de cada ciudadano.

A principios de semana, en una entrevista en The New York Times, Timnit Gebru que lidera el equipo de ¨¦tica en inteligencia artificial de Google ped¨ªa detener temporalmente el uso de estas tecnolog¨ªas. Una declaraci¨®n sorprendente, sobre todo porque hace casi 10 a?os que el entonces presidente del gigante del buscador anunci¨® que la compa?¨ªa hab¨ªa desechado la investigaci¨®n sobre reconocimiento facial por considerarla perversa y peligrosa. Pese al anuncio, Google ha seguido invirtiendo en su desarrollo, como seguramente lo har¨¢n todos los que esta semana se rasgan las vestiduras. Y es que los gigantes de la tecnolog¨ªa llevan a?os en una guerra por un negocio millonario con demasiadas preguntas abiertas sobre derechos civiles, injusticia social y justificaci¨®n de la violencia. Su uso por las fuerzas de seguridad, al que ahora algunos dicen querer renunciar, es una ¨ªnfima parte de una ingente tarta: llevar la identificaci¨®n facial a las empresas y el consumo; al enorme mercado de la vigilancia facial de todos y cada uno de nosotros. Hagamos un poco de historia.

31 de Mayo de 2011. Muchos de los multimillonarios de Silicon Valley se re¨²nen en AllThingsD¡¯s D9, un encuentro organizado por Wall Street Journal en Rancho Palos Verdes en California. En el escenario principal, Eric Schmidt, presidente ejecutivo de Google. El hombre m¨¢s poderoso de la compa?¨ªa m¨¢s poderosa del capitalismo digital abre un debate que perdura a?os despu¨¦s. Schmidt alerta de los desaf¨ªos de la tecnolog¨ªa de reconocimiento facial y las implicaciones ¡°perversas¡± que puede tener su combinaci¨®n con la localizaci¨®n m¨®vil. Advierte del riesgo que podr¨ªa suponer una herramienta como ¨¦sta en manos de dictadores que la usaran contra la poblaci¨®n. Por todo esto, afirma, ¡°es la ¨²nica tecnolog¨ªa que Google ha desarrollado pero luego ha desechado¡±.

El reconocimiento facial es el santo grial que permitir¨ªa a los gigantes de Internet saltar al mundo f¨ªsico

Nueve a?os despu¨¦s, Eric Schmidt no es presidente de Google, AllthingsD ya no existe -aunque los multimillonarios siguen reuni¨¦ndose en ranchos-, y Google, como todos los gigantes de Internet, invierte millones de d¨®lares en esa ¡°cuestionable¡± tecnolog¨ªa. Estas inversiones, las de gobiernos de medio mundo y las de decenas de startups respaldadas por grandes fondos de inversi¨®n, han hecho que las capacidades de reconocimiento facial hayan mejorado espectacularmente en los ¨²ltimos a?os. El motivo parece evidente. A¨²na los dos intereses m¨¢s poderosos de la industria tecnol¨®gica. Por un lado el inter¨¦s militar y de seguridad ¡ªel Gobierno chino ha desplegado Dragon Fly Eye capaz de identificar en la calle a m¨¢s de 2.000 millones de personas¡ª, por otro lado el inter¨¦s econ¨®mico al ser el santo grial que permitir¨ªa a los gigantes de Internet saltar al mundo f¨ªsico. Si ya son capaces de conocer todo lo que hacemos en el entorno digital esta podr¨ªa ser el arma definitiva para hacerlo en el entorno real. Nunca m¨¢s seremos ciudadanos an¨®nimos.

Meses antes de las afirmaciones de Schmidt, Facebook hab¨ªa empezado a usar reconocimiento facial para sugerir el nombre de las personas que aparec¨ªan en las fotos y poder etiquetarlas. En 2012 se vio obligada a dejar de usar est¨¢ tecnolog¨ªa en la Uni¨®n Europea por problemas con la regulaci¨®n pero en 2018 volvi¨® a implantarla. Durante 8 a?os la us¨® por defecto en otras zonas del mundo hasta que en diciembre de 2019, presionado por las cr¨ªticas a su gesti¨®n de la privacidad, a?adi¨® la posibilidad de que el usuario pueda quitar el permiso para que la red use estos algoritmos con sus fotos (por defecto la plataforma tiene permiso y es el usuario el que puede prohibirlo entrando en los ajustes de privacidad de su perfil).

Pero los experimentos de Facebook, que naci¨® como un repositorio online de fotos de las caras de estudiantes universitarios, con el reconocimiento facial han ido mucho m¨¢s all¨¢. Entre 2015 y 2016 desarroll¨® una app que permit¨ªa identificar personas con la c¨¢mara del m¨®vil y asociarlas a su perfil en la red social. Seg¨²n Business Insider, la compa?¨ªa de Zuckerberg desarroll¨® y prob¨® una aplicaci¨®n para smartphones que permit¨ªa identificar personas en la vida real, para as¨ª mostrar su perfil en Facebook y parte de su informaci¨®n. Esta aplicaci¨®n hac¨ªa uso de reconocimiento facial bas¨¢ndose en las millones de fotograf¨ªas de sus usuarios almacenadas en sus servidores (en los que si usted tuvo perfiles esa red entre 2010 y 2012, o a partir de 2018, tambi¨¦n est¨¢ su rostro). La compa?¨ªa asegura que la app fue una prueba dentro de su programa de innovaci¨®n y que solo funcionaba para identificar a los empleados pero pone de manifiesto que Facebook tiene las mismas capacidades de ligar personas en el mundo f¨ªsico a sus datos digitales que tiene ClearView, la herramienta cuyo uso por las fuerzas de seguridad del Estado en EEUU ha desatado la pol¨¦mica. Estos experimentos le pueden salir muy caros. En enero de 2020, la compa?¨ªa de Zuckerberg lleg¨® a un acuerdo para evitar llegar a juicio por una demanda por 35.000 millones de d¨®lares por parte del Estado de Illinois y un grupo de usuarios que reclamaban que nunca otorgaron consentimiento para que Facebook usar¨¢ sus datos biom¨¦tricos.

La muerte del anonimato

Google tambi¨¦n se enfrenta a una demanda similar en el mismo Estado. Y es que, pese a lo que afirmaba Eric Schmidt, la compa?¨ªa lleva a?os trabajando con reconocimiento facial. Meses despu¨¦s de las declaraciones de Schmidt, introduc¨ªa en su difunta red social Google+ capacidades similares a las de Facebook. El servicio se llamaba Find my face y escaneaba fotos de los usuarios y sus amigos para identificar caras conocidas. Los esfuerzos de la compa?¨ªa de Mountain View en esta ¨¢rea no han cesado. Su nueva pantalla inteligente, Google Nest Hub Max, incluye una caracter¨ªstica controvertida: siempre est¨¢ mirando. Face Match, el nombre que Google da a esta tecnolog¨ªa, identifica a las personas que pasan por delante de la pantalla. Cuando reconoce a un usuario registrado, muestra contenido personalizado solo para ¨¦l: fotos, mensajes, citas. La utilizaci¨®n de pantallas similares en entornos como calles o centros comerciales podr¨ªa lograr un efecto muy similar al que ve¨ªamos en la distop¨ªa futurista de Minority Report. Publicidad exterior, lineales del supermercado u ofertas en tiendas f¨ªsicas personalizadas como hoy se hacen en Internet. Un millonario negocio que sin embargo amenaza de muerte nuestro anonimato.

Amazon, por supuesto, tampoco es ajena a esta batalla tecnol¨®gica. Desde 2016 incluye entre su oferta de servicios en la nube, Rekognition, que ¡°democratiza¡± el uso de la inteligencia artificial permitiendo a cualquier usuario utilizar esta tecnolog¨ªa. La pol¨¦mica ha acompa?ado al servicio desde el principio,pero en el ¨²ltimo a?o y medio ha recibido una oleada de protestas, incluso de sus empleados, al conocerse que el gobierno de Trump podr¨ªa utilizar los servicios de Amazon en distintas agencias gubernamentales como el ICE, el servicio de inmigraci¨®n y control de aduanas de EE UU que utilizar¨ªa Rekognition para identificar inmigrantes ilegales. EL ICE ha sido protagonista de numerosos esc¨¢ndalos en los ¨²ltimos a?os y acusado de vulnerar los derechos de menores y migrantes. En una carta, empleados de Amazon comparaban el negocio que tiene su compa?¨ªa con esta agencia con las ventas de tecnolog¨ªa a la Alemania nazi que realiz¨® IBM en los a?os 40 del pasado siglo.

?Y Apple? El gigante de la telefon¨ªa m¨®vil que completa la tetraqu¨ªa de los imperios digitales tambi¨¦n ha invertido en reconocimiento facial. Pero con una tecnolog¨ªa muy diferente a la del resto, que no se basa solo en an¨¢lisis de im¨¢genes sino que usa tambi¨¦n infrarrojos. La soluci¨®n de los de Cupertino se llama Face ID y se estren¨® con el iPhone X en 2017 ( de hecho durante la presentaci¨®n del tel¨¦fono la tecnolog¨ªa fall¨® y en el escenario, con miles de personas siguiendo el evento en directo,el presentador fue incapaz de desbloquear el nuevo y flamante iPhone). Face ID combina el uso de la c¨¢mara frontal, una c¨¢mara infrarroja, una luz de apoyo y un proyector de infrarrojos para conseguir que el escaneo no sea en dos, sino en tres dimensiones. Emite 30.000 puntos infrarrojos, invisibles, que ayudan a reconstruir el modelo matem¨¢tico final de la cara, un mapa tridimensional que se coteja en tiempo real mediante algoritmos basados en redes neuronales y aprendizaje artificial capaz procesar la variaciones faciales. Todo esto permite reconocer rostros en situaciones de ausencia de luz. Si Face Match de Google no deja de mirar, Face ID de Apple es capaz de ver en la oscuridad.

Ante estos avances, su potencial econ¨®mico y los enormes desaf¨ªos que suponen para la privacidad, no existe una legislaci¨®n que proteja los derechos de los ciudadanos frente estos gigantes y otros jugadores que est¨¢n entrando r¨¢pidamente en este mercado. La Comisi¨®n Europea que se hab¨ªa planteado una moratoria que prohibiera el uso del reconocimiento facial en los pr¨®ximos cinco a?os, ha dado marcha atr¨¢s y suavizado su posici¨®n. Dejar¨¢ que sean los Estados miembros los que decidan como reforzar esa cada vez m¨¢s delgada l¨ªnea que protege los derechos civiles. Mientras tanto, puede que alguien en Silicon Valley se haya quedado con su cara.