C¨®mo evitar que los sistemas de reconocimiento facial descifren las fotos de tus redes

En el siglo XXI, el anonimato no es cosa f¨¢cil. No con nuestras vidas retratadas en nuestras redes sociales, y no con empresas como la estadounidense Clearview recopilando miles de millones de fotos de ciudadanos de todo el mundo para desarrollar y ofrecer servicios de reconocimiento facial. ¡°Lo que hacen empresas como esta es cribar toneladas de im¨¢genes de las redes sociales y crear una enorme base de datos con muchas fotos para cada persona. La de tu perfil de LinkedIn, la de Facebook¡­¡±, explica Micah Goldblum, investigador especializado en aprendizaje autom¨¢tico de la Universidad de Maryland. Para evitar que nuestras fotos acaben en esas populosas galer¨ªas, tenemos dos opciones: no subirlas a internet o dejarlas irreconocibles.

LowKey apuesta por la segunda opci¨®n. Esta herramienta modifica las im¨¢genes con el doble objetivo de que las personas retratadas en ellas sigan siendo identificables para el ojo humano, pero resulten indescifrables para los sistemas de reconocimiento facial. Una vez procesadas en esta plataforma, la precisi¨®n con que se identifican estas im¨¢genes cae por debajo del 1%. La aplicaci¨®n es el resultado un equipo de investigadores del que forman parte Golblum junto con Valeria Cherepanova, Tom Goldstein, Shiyuan Duan, John Dickerson, Gavin Taylor y Harrison Foley.

La tecnolog¨ªa de LowKey emplea los ataques llamados adversariales, que se caracterizan por buscar la manera de enga?ar a los sistemas de aprendizaje autom¨¢tico. En investigaci¨®n, estos sistemas se suelen emplear para establecer una suerte de juego del gato y el rat¨®n en el que los avances de un modelo impulsan las mejoras del otro, pero resultan de escasa utilidad pr¨¢ctica para un ciudadano cualquiera. ¡°Mucho de lo que se ha hecho en este campo se centra en problemas que solo son interesantes para los investigadores¡±, se?ala Goldblum. En contraste, LowKey ya est¨¢ al alcance de cualquiera en una web que permite subir las im¨¢genes originales, ajustar la intensidad del ataque y descargar su versi¨®n envenenada.

?C¨®mo lo hace? La herramienta retoca el aspecto de las fotograf¨ªas desde el punto de vista de la m¨¢quina. ¡°Estas redes neuronales toman tu cara y la transforman en una serie de n¨²meros que describen sus propiedades¡±, precisa Goldblum. Esa traducci¨®n del rostro a n¨²meros es ilegible para nosotros: no representa el ancho de la nariz ni est¨¢ asociada al color del pelo. Es una representaci¨®n del modo en que piensa el ordenador, de manera que para enga?ar al sistema no necesitamos maquillajes ni pelucas, sino introducir las modificaciones que den como resultado una serie num¨¦rica distinta.

¡°Siempre es posible modificar una imagen con ¨¦xito¡±, subraya Goldstein. El verdadero reto de LowKey es que, ante el ojo humano, la imagen modificada siga teniendo un parecido aceptable con la original. "En algunos casos, conseguimos el objetivo con perturbaciones muy peque?as, pero en otros los cambios son muy grandes", admite el experto.

Cajas negras

Los entresijos de sistemas de reconocimiento facial como Amazon Rekognition o Microsoft Azure Face Recognition API, con los que se ha puesto a prueba LowKey, no est¨¢n accesibles para el gran p¨²blico, puesto que son propiedad privada de las empresas que los han desarrollado. Esto ha obligado a los investigadores a desarrollar su tecnolog¨ªa adversarial a tientas, basando sus ataques en la informaci¨®n disponible sobre las ¨²ltimas herramientas aplicadas a la identificaci¨®n de individuos. Tambi¨¦n es la raz¨®n de la variabilidad de los resultados que se obtienen, pero el equipo contin¨²a trabajando para mejorar este apartado. "Por ahora, LowKey funciona con fotos individuales y consigue modificaciones menos visibles con im¨¢genes peque?as, de baja resoluci¨®n", precisa Valeria Cherepanova.

?Podemos esperar que su sistema siga funcionando conforme estas empresas modifican sus sistemas de reconocimiento facial? Seg¨²n explica Goldblum, una feliz consecuencia de haber dise?ado LowKey a ciegas es que sus efectos son bastante generales: "Al tiempo que se han vuelto m¨¢s complejas, las redes neuronales tambi¨¦n se han vuelto m¨¢s f¨¢ciles de enga?ar. Si no est¨¢n tratando de defenderse espec¨ªficamente de LowKey, sino de lograr sistemas de reconocimiento m¨¢s y m¨¢s avanzados, no veo ninguna raz¨®n para pensar que se van a volver menos vulnerables al enga?o".

Adem¨¢s de poner al alcance del p¨²blico una herramienta de uso sencillo para proteger sus fotos, LowKey persigue el objetivo de crear conciencia de la vulnerabilidad de los contenidos que se suben a la red. Si utilizamos esta herramienta, emborronamos los contenidos nuevos, pero no podemos rescatar la informaci¨®n que ya ha podido ser recabada de im¨¢genes anteriores. "Mucha gente no tiene buenas pr¨¢cticas en lo que respecta a redes sociales y privacidad. Sencillamente suben montones de im¨¢genes de s¨ª mismos en diferentes lugares. Y, como resultado, ofrecen un mont¨®n de informaci¨®n que puede usarse para identificarles", razona Goldstein. En este sentido, una aproximaci¨®n m¨¢s segura ser¨ªa limitar al m¨¢ximo el n¨²mero de fotos que empleamos: si tenemos tres cuentas en distintas plataformas utilizar la misma en las tres. "Lo mejor que podemos sacar de LowKey es un mejor entendimiento del problema y del modo en que se usa la informaci¨®n personal".

M¨¢s informaci¨®n

?C¨®mo pueden identificarme los sistemas de reconocimiento facial?

La invasi¨®n silenciosa del reconocimiento facial