Trevor Paglen: ?Qu¨¦ ven las m¨¢quinas? ?C¨®mo nos clasifican?

A Trevor Paglen (1974, Camp Springs, Estados Unidos) se le conoce por indagar en lo que no se ve a trav¨¦s de lo que se ve. Ge¨®grafo de formaci¨®n, su obra abarca la fotograf¨ªa, la escultura, el periodismo de investigaci¨®n, la escritura, la ingenier¨ªa y otras disciplinas con el fin de poner al descubierto los entresijos y coordenadas de aquello a lo que se refiere como el ¡°mundo negro¡±, esa parcela de nuestro entorno que por distintos motivos permanece oculta. El artista ha pasado m¨¢s de dos d¨¦cadas fotografiando la geograf¨ªa pol¨ªtica clandestina, las estructuras invisibles del poder que apuntalan nuestro d¨ªa a d¨ªa: bases de entrenamiento militar y prisiones que no figuran en los mapas, as¨ª como sistemas de recopilaci¨®n de datos y de vigilancia que incluyen sat¨¦lites, cables de banda ancha sumergidos en el mar, o m¨¢quinas de inteligencia artificial. As¨ª, sus ¨²ltimos a?os se han centrado en el estudio de las llamadas im¨¢genes de entrenamiento: conjunto de im¨¢genes utilizadas para ense?ar a las m¨¢quinas de inteligencia artificial (IA) c¨®mo ¡°ver¡± y c¨®mo categorizar el mundo.

Son dos las exposiciones que recogen el trabajo del vers¨¢til artista: Training Humans, la primera exhibici¨®n dedicada a las im¨¢genes de entrenamiento, concebida junto a la investigadora y profesora universitaria Kate Crawford, se exhibe en la Fundaci¨®n Prada de Mil¨¢n; y From ¡®Apple¡¯ to ¡®Anomaly ¡®puede verse en el Barbican Centre de Londres. Cuando hace dos a?os Paglen y Crawford iniciaron su colaboraci¨®n, pretend¨ªan simplemente indagar en la historia de las im¨¢genes utilizadas para ¡®reconocer¡¯ a los humanos en los ordenadores y sistemas IA. De ah¨ª comenzar¨ªan a profundizar en c¨®mo estos ¡®motores de visi¨®n¡¯ funcionan en la actualidad. As¨ª, surgir¨ªan las siguientes preguntas: ?d¨®nde se delimitan las fronteras entre la ciencia, la historia, la pol¨ªtica, los prejuicios y la ideolog¨ªa dentro de la inteligencia artificial?, y ?qui¨¦n tiene el poder de construir y beneficiarse de estos sistemas?

Aproximadamente 30,000 im¨¢genes cubren The Curve, una de las salas del Barbican Art Gallery, que bajo el t¨ªtulo Life Rewired, dedica un ciclo de exposiciones a indagar en lo que significa ser humano cuando la tecnolog¨ªa altera de forma considerable nuestras vida. Las im¨¢genes impresas individualmente forman un mosaico, organizado seg¨²n m¨¢s de 200 categor¨ªas seleccionadas por el artista. Est¨¢n etiquetadas de manera que el espectador puede conocer su clasificaci¨®n. Proceden de ImageNet, una gigantesca base de datos creada por investigadores de las universidades de Stanford y Princeton, compuesta por fotograf¨ªas clasificadas en distintas categor¨ªas que son utilizadas como im¨¢genes de entrenamiento. ¡°Estos sistemas tienen su propia visi¨®n del mundo¡±, explica Paglen en un v¨ªdeo que acompa?a a la muestra. ¡°?Qu¨¦ tipo de categor¨ªas incluyen y cuales no?, ?qu¨¦ tipo de im¨¢genes representan esas categor¨ªas? Al observar la pieza detenidamente uno empieza a percibir las inclinaciones y pol¨ªticas que pueden encerrar estos sistemas IA¡±.

La instalaci¨®n se abre con una imagen de una obra del pintor Ren¨¦ Magritte, donde se observa una manzana acompa?ada del texto ¡°Esto no es una manzana¡±. ¡°Sin embargo, esa pintura ha sido clasificada dentro de las im¨¢genes de entrenamiento como una manzana. De ah¨ª la contradicci¨®n. La cuesti¨®n de qui¨¦n decide lo que significan las fotograf¨ªas est¨¢ en el n¨²cleo de las cuestiones que espero que surjan con mi obra¡±, explica el artista. Manzanas, pl¨¢tanos, cajas de cereales, c¨®mics, animales, plantas, veh¨ªculos, son ejemplos de las categor¨ªas que abarca ImageNet. Pero hay otras destinadas a clasificar a las personas, unas 2000 categor¨ªas, donde nos encontramos por ejemplo ¡°trabajadores" y ¡°l¨ªderes¡±. ¡°Son clasificaciones hist¨®ricas o pol¨ªticas que existen en algunas culturas y en otras no¡°, apunta Paglen en el cat¨¢logo que acompa?a a Training Humans. Es m¨¢s, la idea de poder distinguir mediante la apariencia si uno es ¡®l¨ªder¡¯ es absurda: un l¨ªder en Tonga en el siglo XVII tendr¨¢ una apariencia totalmente distinta de, por ejemplo, un l¨ªder en Texas en el siglo XXI¡±. La cosa empeora a medida que nos encontramos con categor¨ªas como ¡°mala persona¡±, ¡°drogadicto¡±, ¡°convicto¡±, ¡°loco¡±, ¡°fracasado¡±, ¡°hip¨®crita¡±, ¡°prostituta¡±, ¡°clept¨®mano¡±, ¡°melanc¨®lico¡± o ¡°cabr¨®n¡±. ¡°Todas estas categor¨ªas est¨¢n compuestas de im¨¢genes que gente normal ha subido a Flickr u otras redes sociales. La gente que aparece en estas fotograf¨ªas presuntamente no tiene ni idea de que su imagen ha sido categorizada con el prop¨®sito de adiestrar sistemas IA¡±, destaca el artista.

Training Human est¨¢ planteado como un recorrido hist¨®rico a trav¨¦s de la evoluci¨®n de los conjuntos de datos de entrenamiento utilizados, donde se exponen las inclinaciones, errores y posicionamientos ideol¨®gicos dentro de las tecnolog¨ªas IA. Paglen y Crawford analizaron c¨®mo son entendidas estas im¨¢genes, c¨®mo se clasifican y cu¨¢les son las taxonom¨ªas que subyacen, para poder entender el tipo de pol¨ªticas de visi¨®n incorporadas a estas nuevas tecnolog¨ªas. Parten de las im¨¢genes utilizadas en las primeras investigaciones sobre reconocimiento facial computerizado realizadas por la CIA en 1963. As¨ª, en los a?os noventa encuentran conjuntos de datos de entrenamiento que muestran reminiscencias de los experimentos antropom¨¦tricos realizados a ¨²ltimos del siglo XIX y principios del XX, llevados a cabo por Cesare Lombroso y Alphonse Bertillon. No ser¨¢ hasta el 2000 cuando se empiecen a elaborar conjuntos de datos de entrenamiento basados en fotograf¨ªas encontradas. ¡°Uno de los ejemplos m¨¢s inquietantes que se muestran en la exposici¨®n es Special Database 32 ¡ªMultiple Encounter Dataset II (MEDS ¨C II)¡ª, realizado mediante archivos policiales de criminales fallecidos, suministradas por el FBI al National Institute of Standards (NIST) ¡°, explica Crawford. ¡°Contiene im¨¢genes de gente que fue arrestada varias veces, como una forma de rastreo del proceso de envejecimiento. Los protagonistas nunca dieron su permiso para que se utilizaran y fueron tomadas antes de que fueran juzgados¡±.

Crawford y Paglen encontraron conjuntos de datos compuestos por miles de rostros clasificados por raza, g¨¦nero y edad, donde el proceso se torna muy pol¨ªtico. ¡°Resulta sorprendente ver c¨®mo algunas tradiciones inherentemente opresivas encuentran eco en los sistemas contempor¨¢neos¡±, explica Paglen. ¡°En el apartheid sudafricano, la forma en la que el estado clasificaba la raza de uno determinaba si este pod¨ªa trabajar, o ir al colegio y d¨®nde vivir. Eran clasificaciones que daban a la gente acceso a distintas oportunidades. Quiz¨¢s los cient¨ªficos de IA no sean conscientes, pero est¨¢n repitiendo esta clasificaci¨®n. La clasificaci¨®n de la gente mediante la raza o el g¨¦nero est¨¢ mucho m¨¢s basada en la pol¨ªtica que en la ciencia o en la naturaleza¡±. Se utilizan tambi¨¦n taxonom¨ªas clasificatorias relacionadas con el afecto y las emociones humanas basadas en las pol¨¦micas teor¨ªas del psic¨®logo Paul Ekman, que reduc¨ªa el alcance de los sentimientos humanos a seis emociones universales. ¡°Una de las asunciones que subyacen en los conjuntos de datos de adiestramiento en general es que conceptos como las emociones, el g¨¦nero, o la raza quedan expresados visualmente: se podr¨ªa deducir el g¨¦nero, la edad o el estado emocional de una persona a trav¨¦s de una fotograf¨ªa¡±.

¡°Cuando observas agrupaciones como la NSA (Agencia de Seguridad Nacional de Estados Unidos) o el GCHQ (Cuartel General de Comunicaciones del Gobierno brit¨¢nico), una de las cosas de las que te percatas es que existen agrupaciones m¨¢s grandes, como Google, que son muy parecidas en t¨¦rminos del tipo de datos que recopilan¡±, declaraba Paglen en entrevista con NewStatesman. ¡°Comienzas a pensar en de qu¨¦ van las pol¨ªticas de informaci¨®n en general. Tal y como los historiadores de la ciencia han apuntado, los fren¨®logos o crimin¨®logos de comienzos del siglo XX, que utilizaban medidas del cr¨¢neo para clasificar y ratificar las artificiales categor¨ªas raciales, no se consideraban a s¨ª mismos unos reaccionarios pol¨ªticos. Al contrario, pensaban que la ciencia moderna conducir¨ªa al hombre hac¨ªa una mayor claridad¡±.

Trevor Paglen: From ¡®Apple¡¯ to ¡®Anomaly'. Barbican Centre. Londres. Hasta el 26 de febrero.

Training Humans. Kate Crawford/Trevor Paglen. Fondazione Prada. Mil¨¢n. Hasta el 24 de febrero.