Revoluci¨®n en el trabajo policial

Gracias a la tecnolog¨ªa, la polic¨ªa tiene ante s¨ª un brillante futuro, y no s¨®lo porque pueda buscar sospechosos en Google. Hay otras dos tendencias, menos visibles, que tratan de hacer todav¨ªa m¨¢s f¨¢cil y efectivo su trabajo, pero a costa de suscitar unos espinosos interrogantes a prop¨®sito de la privacidad y las libertades civiles.

La primera es que la actividad de la polic¨ªa, como tantas otras en esta ¨¦poca de ¡°big data¡±, est¨¢ siendo repensada sobre la expectativa de que un mayor y m¨¢s profundo an¨¢lisis de informaci¨®n acerca de delitos del pasado, combinado con sofisticados algoritmos, puede predecir los del futuro. Esta es una pr¨¢ctica conocida como ¡°patrullaje por predicci¨®n¡± y, aunque s¨®lo tiene unos pocos a?os de antig¨¹edad, muchos profesionales la ven como toda una revoluci¨®n del trabajo policial. La polic¨ªa de Estados Unidos en particular se muestra entusiasmada con ella; los europeos, con los brit¨¢nicos a la cabeza, la van adoptando con m¨¢s lentitud.

Es el caso del Departamento de Polic¨ªa de Los Angeles ¨Cel famoso LAPD popularizado por las pel¨ªculas de Hollywood¡ªque est¨¢ utilizando un software llamado PredPol. Este software empieza por analizar a?os de estad¨ªsticas delictivas previamente publicadas. Luego divide el mapa de patrulla en zonas (aproximadamente 45 metros cuadrados cada una) y calcula la distribuci¨®n y frecuencia en ellas de anteriores delitos. Finalmente les dice a los agentes qu¨¦ delitos es probable que se produzcan, y d¨®nde y cu¨¢ndo van a tener lugar, para que se dediquen a patrullar esas zonas m¨¢s intensamente.

Lo que atrae de la idea del ¡°patrullaje por predicci¨®n¡± es que es mucho mejor prevenir un delito antes de que se produzca que llegar despu¨¦s y ponerse a investigarlo. De manera que, aunque los agentes puedan no pillar a un delincuente en acci¨®n, su presencia en el lugar adecuado y en el momento oportuno ayude al menos a disuadirle que act¨²e.

Esa l¨®gica parece tener solidez. As¨ª, en Los Angeles, cinco divisiones de LAPD que utilizan ese software para patrullar un territorio habitado por cerca de 1,3 millones de personas han visto disminuir la tasa de criminalidad en un 13%. La ciudad de Santa Cruz, donde tambi¨¦n se utiliza el PredPol, contempl¨® un descenso de sus robos en cerca del 30%. Pueden encontrarse estad¨ªsticas semejantemente estimulantes en los departamentos de polic¨ªa de todo el pa¨ªs y los responsables del proyecto en UCLA viajan por el mundo para animar a otros departamentos a adoptar esa pr¨¢ctica.

Otras tendencias suscitan unos espinosos interrogantes a prop¨®sito de la privacidad y las libertades civiles

Si semejante ¡°predicci¨®n¡± suena familiar es porque su metodolog¨ªa fue inspirada por compa?¨ªas de internet. En un art¨ªculo publicado en la revista The Policy Chief en 2009 un oficial de alto rango de LAPD elogiaba la capacidad de Amazon para ¡°comprender la singularidad de los grupos en su base de clientes y distinguir sus pautas de compra¡±, lo que permite a la compa?¨ªa ¡°no solo anticipar sino tambi¨¦n promover o configurar de otro modo su comportamiento futuro¡±. As¨ª, lo mismo que los algoritmos de Amazon hacen posible predecir qu¨¦ libros son los que probablemente vayas a adquirir en tu siguiente compra, unos algoritmos similares pueden decirle a la polic¨ªa con qu¨¦ frecuencia, y d¨®nde y cu¨¢ndo, ciertos delitos pueden volver a tener lugar.

Tengamos en cuenta que no podemos examinar los algoritmos de Amazon; son completamente opacos y no han sido sometidos a escrutinio externo alguno. Amazon asegura que el secreto le permite seguir siendo competitiva y podr¨ªa tener raz¨®n. Pero la misma l¨®gica no puede aplicarse a la acci¨®n policial: si nadie va a poder examinar sus algoritmos ¨Clo que es muy probable, ya que el software para el ¡°patrullaje por predicci¨®n¡± se producir¨¢ por compa?¨ªas privadas¡ªno sabremos qu¨¦ sesgos y pr¨¢cticas discriminatorias contendr¨¢.

Por ejemplo, los delitos tienden a producirse en ¨¢reas con pobreza y diversidad racial. ?Pueden los algoritmos, con la objetividad que se les presume, dar fe incluso del m¨¢s discriminatorio de los perfiles raciales? En la mayor¨ªa de los reg¨ªmenes democr¨¢ticos actuales, la polic¨ªa necesita de causas probables ¨Cde alguna prueba y no s¨®lo de conjeturas¡ªpara detener a alguien en la calle y registrarle. Pero, pertrechada con ese software, ?puede simplemente la polic¨ªa arg¨¹ir que los algoritmos le dec¨ªan que lo hiciera? Y si es as¨ª, ?c¨®mo pueden testificar los algoritmos ante un tribunal?

Luego est¨¢ el problema de los delitos no denunciados. Mientras que la mayor¨ªa de los homicidios son denunciados, muchas violaciones y acosos dom¨¦sticos no lo son. A pesar de la ausencia de esas denuncias, la polic¨ªa sigue desarrollando maneras de informarse cuando algo extra?o ocurre en los vecindarios de su jurisdicci¨®n. El patrullaje por predicci¨®n, por el contrario, podr¨ªa sustituir ese conocimiento t¨¢cito con la ingenua creencia en el poder omn¨ªmodo de las estad¨ªsticas. Si para predecir delitos futuros y guiar el trabajo policial solamente se utilizan datos sobre delitos que han sido denunciados, algunos tipos de delitos pueden quedar completamente fuera de estudio, y por lo tanto sin perseguir.

Pero hay otra tendencia que facilita todav¨ªa m¨¢s el trabajo de la polic¨ªa y que, combinada con el patrullaje por predicci¨®n, podr¨ªa tener unos resultados mucho m¨¢s controvertidos. Hay compa?¨ªas como Facebook que est¨¢n utilizando cada vez m¨¢s algoritmos y ¡°big data¡± para predecir cu¨¢les de sus usuarios podr¨ªan cometer delitos. La cosa funciona as¨ª: mediante el estudio de determinados indicios conductuales --?escribe el usuario solamente mensajes a menores de 18 a?os? ?la mayor¨ªa de los contactos del usuario son mujeres? ?se mencionan palabras clave como ¡°sexo¡± o ¡°cita¡±?¡ª Facebook puede, con sus propios sistemas de predicci¨®n, marcar a determinados usuarios como sospechosos. Su personal podr¨ªa luego examinar cada caso y redirigirlo a la polic¨ªa si fuera necesario.

La polic¨ªa necesita someter sus algoritmos al escrutinio externo y corregir sus sesgos

Reuters inform¨® recientemente del modo en que Facebook, armada con sus algoritmos predictores, pill¨® a un hombre de mediana edad chateando sobre sexo con una chica de 13 a?os y acordando un encuentro para el d¨ªa siguiente. La polic¨ªa contact¨® con la menor, revis¨® su ordenador y detuvo al hombre. Sin embargo, no se trata s¨®lo de algoritmos; Facebook reconoce que, al igual que los departamentos de polic¨ªa recurren a estad¨ªsticas delictivas previas, tambi¨¦n recurre a archivos de chats reales que precedieron a agresiones sexuales reales.

Es dif¨ªcil cuestionar la aplicaci¨®n de tales m¨¦todos para atrapar a predadores sexuales que acosan a ni?os. Pero t¨¦ngase en cuenta que Facebook puede estar haciendo todo tipo de trabajos policiales similares: detectando a potenciales traficantes de droga, identificando a potenciales violadores del copyright (Facebook ya impide a sus usuarios compartir v¨ªnculos de muchos sitios web con intercambio de archivos) y, especialmente tras los disturbios del a?o pasado en Gran Breta?a, haciendo un pron¨®stico sobre la siguiente generaci¨®n de alborotadores.

Por supuesto que la polic¨ªa ya est¨¢ estudiando las redes sociales en busca de se?ales de malestar. Pero, a diferencia de Facebook, no ven el panorama en su conjunto: las comunicaciones privadas y las acciones ¡°silenciosas¡± ¨Csobre qu¨¦ v¨ªnculos se hace clic o qu¨¦ p¨¢ginas web se abren¡ªson invisibles para ellos. Pero Facebook, como Amazon con los libros, seguramente sabe todo eso, de manera que su poder de predicci¨®n es mucho mayor que el de la polic¨ªa.

Adem¨¢s, si bien la polic¨ªa necesita una orden para evaluar los datos privados de alguien, Facebook puede buscar los datos de sus usuarios cuando quiera hacerlo. Desde la perspectiva de la polic¨ªa, podr¨ªa ser realmente ventajoso tener a Facebook haci¨¦ndole todo ese trabajo sucio, ya que las investigaciones que realiza Facebook no tienen que pasar por el juez.

Dados los datos suficientes y los algoritmos adecuados, todos nosotros estamos abocados a parecer sospechosos. ?Qu¨¦ puede ocurrir, entonces, si Facebook ¨Cantes de que hayamos cometido delito alguno-- nos pone a disposici¨®n de la polic¨ªa? ?Tendr¨ªamos que luchar, como personajes de una novela de Kafka, por comprender qu¨¦ delito es el nuestro realmente, y pasar el resto de nuestras vidas limpiando nuestra reputaci¨®n? ?Y si los algoritmos son equivocados?

La propuesta de una actuaci¨®n policial por predicci¨®n podr¨ªa ser real, pero tambi¨¦n lo son sus peligros. La polic¨ªa necesita someter sus algoritmos al escrutinio externo y corregir sus sesgos. Las redes sociales necesitan establecer unos est¨¢ndares claros de cu¨¢nto hay de actuaci¨®n policial predictiva en lo que realmente hacen y hasta d¨®nde quieren llegar en la reproducci¨®n del perfil de sus usuarios.

Aunque Facebook pueda ser m¨¢s efectivo que la polic¨ªa en la predicci¨®n del delito no se le puede permitir que asuma esas funciones policiales sin que observe tambi¨¦n las mismas reglas que dejan claro lo que la polic¨ªa puede y no puede hacer en una democracia. No podemos sortear los procedimientos legales y subvertir las normas democr¨¢ticas en nombre de la eficiencia.

Evgeny Morozov es profesor visitante en la Universidad de Stanford y profesor en la New America Foundation. Su ¨²ltimo libro publicado en Espa?a es El desenga?o de Internet. Los mitos de la libertad en la Red (Destino).

Traducci¨®n de Juan Ram¨®n Azaola