Tecnolog¨ªa del reconocimiento facial

?Por fin ha madurado Google? El cuidado con el que ha manejado la tecnolog¨ªa del reconocimiento facial parece sustentar esa tesis. Comp¨¢renlo con Facebook. Cuando el pasado junio la red social de Zuckerberg desvel¨® su tecnolog¨ªa del reconocimiento facial se vio envuelta en una violenta reacci¨®n de la privacidad universal. Pero Google ha evitado esa fatalidad: hace pocas semanas hizo p¨²blica una tecnolog¨ªa que es capaz de identificar autom¨¢ticamente a tus amigos en fotos subidas a Google +; y casi nadie se dio cuenta.

Las diferentes reacciones son f¨¢ciles de explicar: Facebook posibilit¨® esa prestaci¨®n para todos los usuarios sin pedirles su permiso, mientras que Google la dispuso como una herramienta opcional. Facebook podr¨ªa estar ahora en v¨ªsperas de adoptar tambi¨¦n ese modo m¨¢s cort¨¦s de propuesta: su reciente acuerdo con la Comisi¨®n Federal de Comercio estipula que todos los futuros cambios en los controles de privacidad existentes requerir¨¢n el consentimiento del usuario.

Esta herramienta puede ser objeto de abusos con facilidad. Internet no debe ser una zona sin ¨¦tica

No dejemos a las compa?¨ªas de Internet libres de culpa

La Red parece estar apart¨¢ndose de la mentalidad del opt-out (habilitar salvo que se diga que no) propia del intimidador: "sabemos que a usted le gustar¨¢ esta aplicaci¨®n, as¨ª que la habilitaremos por defecto", en favor de la mentalidad del opt-in (no habilitar a menos que se d¨¦ permiso), propia del diplom¨¢tico persuasivo: "hola, verifique esta nueva aplicaci¨®n, pero solo si usted lo desea". Como demuestra la adopci¨®n por parte de Facebook del "compartir sin fricciones" una cosa es obligarnos a compartir alterando nuestros par¨¢metros de seguridad y otra muy distinta persuadirnos de que compartir es algo que realmente queremos hacer. Lo primero es una ofensa; lo segundo merece celebrarse.

Y, sin embargo, ese triunfo del opt-in no es todo lo que parece ser. Aunque ciertamente es menos coercitivo, todo opt-in hace que la tecnolog¨ªa subyacente -en este caso, el reconocimiento facial autom¨¢tico- parezca normal y aceptable. Pero ninguna compa?¨ªa tecnol¨®gica lo admitir¨¢. "La decisi¨®n est¨¢ totalmente en manos del usuario". "Todo consiste en dar m¨¢s control a los usuarios". "No forzamos a nadie; la gente puede mantenerse al margen". Este tipo de insulsa ret¨®rica sobre "otorgar poder al usuario" ha sido durante d¨¦cadas una caracter¨ªstica b¨¢sica del evangelio de Silicon Valley. Se funda en la ingenua creencia de que las tecnolog¨ªas son solo herramientas y que su impacto es m¨¢s bien escaso y limitado a la consecuci¨®n (o no) de la tarea en cuesti¨®n. As¨ª, si los usuarios quieren utilizar la Herramienta X para realizar la Tarea Y el ¨²nico asunto a debate es la conveniencia de la Tarea Y. El hecho de que una ampliaaceptaci¨®n de la Herramienta X pueda provocar tambi¨¦n un imprevisto Efecto Z nunca preocupa a los que lo instrumentan o, si lo hace, simplemente lo descartan como algo imponderable.

Por desgracia, tal razonamiento pasa por alto el hecho de que las tecnolog¨ªas, adem¨¢s de servir para sus funciones inmediatas, tienen tambi¨¦n su impacto ecol¨®gico, con el que pueden transformar entornos, ideolog¨ªas, usuarios, relaciones de poder e incluso otras tecnolog¨ªas. Aunque los coches puedan ser un medio perfectamente ¨²til para ir desde el Punto A al Punto B, uno no deber¨ªa centrarse solamente en esa caracter¨ªstica y no tener en cuenta de qu¨¦ modo la cultura del autom¨®vil en general pueda estar afectando a la calidad e incluso a las formas de vida urbana, o a los ¨ªndices de contaminaci¨®n, o a las estad¨ªsticas de mortalidad. Centrarse en los usos inmediatos de un artefacto -independientemente de que sean opt-in u opt-out- parece una pobre manera de gobernar su complejidad.

De un modo similar, suponer que una determinada tecnolog¨ªa no es problem¨¢tica porque sus usuarios pueden desconectarla parece descaminado. ?Por qu¨¦ no se tiene en cuenta la posibilidad de que, una vez que un n¨²mero suficiente de gente opta por utilizarla, la aceptaci¨®n colectiva de esa tecnolog¨ªa puede transformar dr¨¢sticamente el entorno social, haciendo dif¨ªcil o imposible su falta de uso? Una vez que un n¨²mero suficiente de californianos optaron por utilizar el coche, algo cambi¨® -a nivel tanto de infraestructuras p¨²blicas como normativo-, lo que en buena medida hace de California un lugar completamente inh¨®spito para vivir sin coche. El coche todav¨ªa nos lleva desde el Punto A al Punto B, pero ?no ser¨ªa nuestra calidad de vida mucho mejor si intent¨¢semos anticiparnos a sus efectos colaterales desarrollando una idea m¨¢s polifac¨¦tica de la tecnolog¨ªa automovil¨ªstica?

Volviendo al asunto de las tecnolog¨ªas de reconocimiento facial autom¨¢tico, digamos lo que sabemos al respecto: que esa tecnolog¨ªa puede ser objeto de abusos con facilidad; un motor de b¨²squeda que genera los nombres de las personas a partir de sus rostros ser¨ªa muy bien acogida por los dictadores, m¨¢s que interesados en poder reprimir cualquier protesta popular. Tambi¨¦n sabemos que la tecnolog¨ªa del reconocimiento facial ha penetrado en diversos estratos sociales. Es una manera popular de proteger nuestros tel¨¦fonos inteligentes y ordenadores port¨¢tiles. Se utiliza en diversas consolas de videojuegos para crear una experiencia de juego m¨¢s personalizada. Se utiliza para averiguar (?y en tiempo real!) el n¨²mero de clientes masculinos y femeninos en los bares. Y la lista contin¨²a.

Esos usos aparentemente inocuos engendran una generaci¨®n de incipientes negocios que buscan dar nuevos usos a esa tecnolog¨ªa, no todos ellos inocuos aunque varios de ellos previstos por sus cr¨ªticos. Naturalmente, para cuando el p¨²blico en general toma conciencia de ello, esa tecnolog¨ªa se halla tan profundamente implantada en nuestra cultura que es demasiado tarde para hacer nada.

En cierto sentido nos encontramos ante un proceso que es m¨¢s perverso que la popular noci¨®n del "efecto mariposa", esa idea de que el batir de alas de una mariposa en Brasil puede desencadenar un tornado en Tejas. Llam¨¦mosle el "efecto Palo Alto": un despreocupado usuario en Palo Alto, California, que se decide por el opt-in y utiliza la tecnolog¨ªa del reconocimiento facial de Google acaba fortaleciendo a un dictador en Damasco. ?Por qu¨¦ "perverso"? Porque el usuario de Palo Alto, a diferencia de la mariposa, siempre puede pens¨¢rselo antes, pero prefiere no hacerlo.

?Qu¨¦ se puede hacer? Bien, podemos hacer caer de lleno la responsabilidad ¨¦tica sobre los usuarios de Internet y concienciarles acerca de las ¨²ltimas (aunque indirectas) consecuencias de sus opciones. Existen muchos precedentes al respecto. Crecientes preocupaciones sobre desigualdad econ¨®mica, cambio clim¨¢tico y trabajo infantil han hecho emerger el movimiento del "consumo ¨¦tico", que pretende que los consumidores tomen en consideraci¨®n las ramificaciones ¨¦ticas que acarrea su conducta en el mercado.

En una l¨ªnea parecida, ?por qu¨¦ no pensar en aplicar conceptos similares a nuestro compromiso con Internet? ?Qu¨¦ implicar¨ªa una "navegaci¨®n ¨¦tica" o participar en "redes sociales ¨¦ticas"? ?No utilizar nunca sitios que se aprovechan de la tecnolog¨ªa del reconocimiento facial? ?Negarse a comerciar con las compa?¨ªas de Internet que cooperan con la Agencia de Seguridad Nacional? Esas son las decisiones que tendremos que tomar si no queremos que Internet se convierta en una zona sin ¨¦tica. Despu¨¦s de todo, el uso irreflexivo de la tecnolog¨ªa -lo mismo que el shopping irreflexivo- no hace de nadie un modelo de buen ciudadano.

Pero tampoco dejemos a las compa?¨ªas de Internet libres de culpa. Naturalmente, Google y Facebook son diferentes de las codiciosas corporaciones que explotan a los agricultores pobres o a los menores. Ninguna de las dos compa?¨ªas est¨¢ creando herramientas de vigilancia para que sean utilizadas por dictadores. Lo que hacen, sin embargo, es ayudar a crear la pertinente infraestructura t¨¦cnica e ideol¨®gica para que tales herramientas surjan de un modo aparentemente natural. Lo cual no proporciona s¨®lidos fundamentos para su regulaci¨®n, pero abre las puertas al activismo ciudadano, a los boicoteos, y, como ¨²ltimo recurso, a la desobediencia civil.

Las compa?¨ªas de Internet saben perfectamente bien que han contra¨ªdo responsabilidades. Este mismo a?o, Eric Schmidt, presidente ejecutivo de Google, tild¨® a la tecnolog¨ªa de reconocimiento facial de "escalofriante" y expres¨® su preocupaci¨®n acerca de la misma. Y, sin embargo, Google acaba de refrendar esa tecnolog¨ªa, si bien con la salvedad del opt-in. Esto, cree Google, les protege de cualquier acusaci¨®n de comportamiento poco ¨¦tico; al fin y al cabo, todo depende del usuario. Pero ?acaso nos convencer¨ªan las compa?¨ªas petroleras de que cualquiera que estuviera preocupado por el cambio clim¨¢tico no tiene que conducir un Humvee? Quiz¨¢ no. Al pretender que no saben c¨®mo acaba esta triste pel¨ªcula es cuando se hace evidente la gran metedura de pata ¨¦tica de las empresas tecnol¨®gicas.

Evgeny Morozov es visiting scholar en la Universidad de Stanford y profesor en la New America Foundation. La edici¨®n espa?ola de su libro La desilusi¨®n de Internet ser¨¢ publicada por Destino en junio de 2012. Traducci¨®n de Juan Ram¨®n Azaola.