Tu cara no es tu DNI: San Francisco proh¨ªbe el software de reconocimiento facial

En San Francisco las c¨¢maras de seguridad que dependen del ayuntamiento no ser¨¢n inteligentes. Sus im¨¢genes no pasar¨¢n a una base de datos donde un software medir¨¢ al mil¨ªmetro las distancias entre los rasgos del rostro de una persona para comp¨¢ralos con millones de otros en un banco de datos. Una ley aprobada la semana pasada proh¨ªbe el uso de los sistemas de reconocimiento facial por parte de los organismos municipales, incluidas las fuerzas de seguridad. ¡°En el mundo se nos considera la sede mundial de la tecnolog¨ªa, y esto conlleva una responsabilidad para los legisladores municipales¡±, explicaba el impulsor de la normativa, Aaron Peskin. ¡°Tenemos m¨¢s responsabilidad que nadie a la hora de regular los excesos de la tecnolog¨ªa precisamente por ello¡±.

El pulso que la capital hist¨®ricamente antisistema lleva ya a?os librando con los avances tecnol¨®gicos que buscan estrenarse en sus calles se ha saldado con un rev¨¦s para los segundos, al menos de momento. Con siete votos a favor y solo 1 en contra, la ley Paremos la vigilancia secreta (Stop Secret Surveillance) fue aprobada por el consejo de supervisores de la ciudad (un organismo similar a una diputaci¨®n provincial con poder legislativo). La ley no solo proh¨ªbe el uso de tecnolog¨ªa de reconocimiento facial en las zonas p¨²blicas, sino que tambi¨¦n se reserva el derecho a decidir, en el futuro, sobre la aplicaci¨®n de cualquier otra tecnolog¨ªa de vigilancia como la lectura de matr¨ªculas de coches.

Defensores de los derechos civiles como la Uni¨®n de Libertades Civiles de EEUU (ACLU en sus siglas en ingl¨¦s) han aplaudido la medida, mientras que otros expertos la ven como una reacci¨®n desproporcionada contra una tecnolog¨ªa que tiene muchas aplicaciones beneficiosas. El sindicato de polic¨ªa, como era de esperar, ha protestado. Tony Montoya, su presidente, se ha mostrado ¡±preocupado porque esta decisi¨®n puede tener consecuencias negativas para las investigaciones y persecuci¨®n del crimen¡±. San Francisco no es solo sin¨®nimo de progresismo y tecnolog¨ªa: tambi¨¦n tiene serios problemas de seguridad. ¡°Aunque entiendo que la tecnolog¨ªa de reconocimiento facial no es precisa al 100%, est¨¢ mejorando d¨ªa a d¨ªa, y creo que se ha demostrado muy ¨²til a la hora de encontrar al menos pistas en investigaciones criminales¡±, dijo Montoya a los medios la semana pasada.

Pero ciudades como la vecina Oakland en California o Somerville, en Massachussets est¨¢n planeando prohibiciones similares. E incluso a nivel federal hay una ley pendiente de votaci¨®n que quiere prohibir a las compa?¨ªas que usan esta tecnolog¨ªa vender o almacenar los datos biom¨¦tricos de sus usuarios.

M¨¢s informaci¨®n

El proyecto de reconocimiento facial de Nueva York que ha sido un fracaso absoluto

El Gran Hermano se consolida en conciertos y eventos deportivos

¡°La medida es important¨ªsima, y un paso en la direcci¨®n adecuada. Que sea San Francisco la primera ciudad en aprobar una ley as¨ª es sintom¨¢tico y espero que sirva para que otras ciudades sigan su ejemplo¡±, explica a RETINA Luke Stark, investigador especializado en justicia, transparencia, responsabilidad y ¨¦tica en tecnolog¨ªas digitales que trabaja en el Centro de Investigaci¨®n de Microsoft en Montreal. ¡°Esta ley demuestra que los gobiernos, y la sociedad, pueden y deben tomar medidas para protegerse frente al avance de determinados usos de la tecnolog¨ªa¡±.

En cambio, otros ven en esta decisi¨®n un s¨ªntoma descorazonador de que los gobernantes no quieren jugar un papel activo en la implementaci¨®n de tecnolog¨ªas que, bien utilizadas, pueden mejorar mucho la vida de los ciudadanos. ¡°El gobierno tiene mucha mayor capacidad de regulaci¨®n y vigilancia que el sector privado, y esta es una oportunidad perdida para establecer unas exigencias a la tecnolog¨ªa de reconocimiento facial. Prohibirla sin m¨¢s no les permite participar en su desarrollo y trabajar para que funcione de la manera deseada¡±, afirma a Retina Daniel Castro, vicepresidente de la Fundaci¨®n para la Tecnolog¨ªa de la Informaci¨®n y la Innovaci¨®n (IITF en ingl¨¦s), con sede en Washington.?

Una tecnolog¨ªa no tan incipiente

La tecnolog¨ªa de reconocimiento facial, una de las ¨¢reas de la inteligencia artificial con mayor potencial de crecimiento, est¨¢ ya presente en nuestras vidas. No s¨®lo en esas aplicaciones futuristas que permiten al iPhone m¨¢s reciente desbloquearse con solo con verte la cara, o en los filtros de Snapchat o Instagram que aciertan siempre d¨®nde colocar unas orejas de perro o unas gafas de sol. El programa de fotos en el ordenador que es capaz de encontrar todas las fotos en las que sale esa t¨ªa para la que est¨¢s preparando una tarjeta de felicitaci¨®n, o la manera en que FB te ayuda a reconocer amigos en una foto, son aplicaciones de esta tecnolog¨ªa en su versi¨®n m¨¢s l¨²dica y amable.

Programas de inteligencia artificial mucho m¨¢s sofisticados y entrenados para leer el rostro humano y convertirlo en una serie de unos y ceros est¨¢n en marcha en diferentes ciudades del mundo con el prop¨®sito de protegernos. Desde el sistema que Taylor Swift? ha admitido que pone en marcha en sus conciertos (para alertar sobre la proximidad de esos fans t¨®xicos que est¨¢n dispuestos a todo para acercarse a ella); hasta el que en los aeropuertos alerta de la presencia de un sospechoso cuya fisionom¨ªa cuadra con alguien en una lista de peligrosos terroristas. En el mercado se comercializan m¨¢s de cien sistemas que aplican algoritmos propios o ajenos, y que la oficina del departamento de comercio de EEUU se encarga de analizar y valorar peri¨®dicamente.?

¡°En los ¨²ltimos dos a?os esta tecnolog¨ªa ha avanzado incre¨ªblemente hasta permitir identificar en tiempo real sospechosos como el atacante del peri¨®dico de Annapolis el a?o pasado. En el terreno del tr¨¢fico de personas y de ni?os desaparecidos est¨¢ dando ya resultados¡±, explica Castro. ¡°Es simplemente una herramienta para hacer de manera mucho m¨¢s r¨¢pida y eficaz una cosa que las fuerzas del orden ya hacen diariamente, que es intentar localizar sospechosos en diferentes bancos de datos para identificarlos¡±.

Conspiranoia

Pero no hace falta ser muy conspiranoico para entender que el uso de esta tecnolog¨ªa puede f¨¢cilmente degenerar y tomar derroteros dist¨®picos. Primero, porque la tecnolog¨ªa parece, de momento, preocupantemente desequilibrada en favor de determinadas fisionom¨ªas. Estudios en EEUU sobre algunos de los softwares m¨¢s avanzados apuntan a obvias diferencias de precisi¨®n entre rostros cauc¨¢sicos y afroamericanos.?

¡°No es una tecnolog¨ªa fiable ni precisa. Comete muchos errores, y desproporcionadamente, adem¨¢s, con comunidades ya de por si estigmatizadas¡±, argumenta Stark, autor de un estudio en el que compara el reconocimiento facial ni m¨¢s ni menos con el uso de plutonio. ¡°Pero es que aunque fuera una tecnolog¨ªa perfecta, el hecho de medir y categorizar sistem¨¢ticamente algo como el rostro humano es inherentemente problem¨¢tico. Incluso aunque nuestra sociedad no fuera racista, este tipo de sistemas la har¨ªa serlo¡±.

Los problemas a los que alude Stark tienen que ver con el an¨¢lisis facial, una rama distinta de la del reconocimiento, argumenta Castro. ¡°Es cierto que esos estudios mostraban errores en el algoritmo a la hora de distinguir si una cara es de una mujer o un hombre, por ejemplo. Pero eso no es para lo que usan las fuerzas del orden estos sistemas. Los usan para identificar a determinado sospechoso en una base de datos¡±, explica. En todo caso, ¨¦l cree que son errores f¨¢cilmente subsanables y que las compa?¨ªas ya est¨¢n en ello.

Otra cuesti¨®n es qu¨¦ sucede cuando se pone al servicio de objetivos o gobiernos no democr¨¢ticos como China. En la regi¨®n occidental china de Xinjiang, las autoridades usan las c¨¢maras y el reconocimiento facial, seg¨²n denunciaba el New York Times recientemente, para diferenciar a los habitantes de la etnia uigur e inventarse excusas de supuestos delitos que estos cometen para meterlos en campos de re-educaci¨®n. Otros pa¨ªses han mostrado inter¨¦s en la tecnolog¨ªa china, de Ecuador a Pakist¨¢n, y parecen dispuestos a adoptarla. ¡°Yo creo que no hay duda de que EE UU no es China y de que tenemos una Constituci¨®n. En todo caso, no es un problema de la tecnolog¨ªa en s¨ª sino de c¨®mo se utiliza, como con tantas otras cosas¡±, defiende el vice presidente del IITF.

Adoptada casi en secreto

En cuanto al uso por parte de un estado de derecho, el principal problema es lo poco que se sabe realmente sobre d¨®nde y c¨®mo se est¨¢ usando. No es que sea secreto, pero los organismos que implementan la tecnolog¨ªa no lo suelen anunciar p¨²blicamente. El Centro de Privacidad y Derecho de la facultad de derecho de la universidad de Georgetown est¨¢ realizando un trabajo de investigaci¨®n departamento a departamento en todo EEUU y de momento ha encontrado que las polic¨ªas de Las Vegas, Orlando, San Jose, San Diego, Nueva York, Boston, Detroit y Durham tienen alguna versi¨®n de reconocimiento facial en marcha. El departamento de justicia de California, por ejemplo, adquiri¨® el software de la empresa NeoFace en 2017 por el m¨®dico precio de dos millones de d¨®lares.

En diciembre del a?o pasado, Algorithmic Justice League y el Centro de Privacidad y Derecho de Georgetown propusieron el Safe Face Pledge, una especie de acuerdo para que las compa?¨ªas que desarrollan este software se comprometan a no venderlo a las fuerzas de seguridad hasta que haya leyes que regulen su uso. Pero ninguna de las grandes compa?¨ªas lo ha firmado de momento. El negocio, al fin y al cabo, promete ser el m¨¢s lucrativo dentro del mercado de seguridad de v¨ªdeo que supone ya m¨¢s de 18.000 millones de d¨®lares al a?o en EE UU.

¡°Siempre ha habido cierta resistencia social y oficial a los avances tecnol¨®gicos. Al principio, los veh¨ªculos a motor, por ejemplo, no pod¨ªan entrar en las ciudades. Creo que al final la ciudadan¨ªa entender¨¢ que son sistemas que ayudan a mayor seguridad, que ayudan a las fuerzas del orden a mantenerlo. Esta prohibici¨®n no va a poner freno a una tecnolog¨ªa que avanza r¨¢pidamente¡±, zanja Castro.

¡°Quiz¨¢ en el futuro se pueda aplicar en casos concretos y despu¨¦s de ser aprobada espec¨ªficamente para dicho caso¡±, opina Stark, comparando un uso posible del reconocimiento facial con la manera en que hoy en d¨ªa, por ejemplo, se solicita a un juez pinchar un tel¨¦fono para una investigaci¨®n concreta. San Francisco ha optado de momento por esta v¨ªa restrictiva. Muchos parecen dispuestos a seguir su ejemplo. Mientras tanto, el sector privado sigue avanzando en su desarrollo y aplicaci¨®n.