Espiar al pobre: el Estado de bienestar digital

Su nombre es SyRI y corresponde a System Risk Indication. Se trata de una herramienta digital dise?ada para detectar el fraude en el uso de prestaciones sociales en Holanda. Informaci¨®n personal registrada en distintas unidades administrativas se combina para determinar el riesgo de cometer irregularidades para individuos que viven en barrios de baja renta y alta complejidad social. Hace algo m¨¢s de un a?o, una coalici¨®n de grupos de defensa de los derechos humanos, a la que se sum¨® Philip Aston, el relator especial de la ONU sobre pobreza extrema, de visita estos d¨ªas por nuestro pa¨ªs, acudieron a la justicia para denunciar la m¨²ltiple vulneraci¨®n de derechos del Estado holand¨¦s en esta nueva modalidad de espionaje social 3.0. El 5 de febrero, en una sentencia sin precedentes, el tribunal que lleva m¨¢s de un a?o estudiando el caso, orden¨® la paralizaci¨®n inmediata de SyRI por vulnerar los derechos humanos de las personas sometidas a vigilancia sin consentimiento ni sospecha previa.

No es un caso aislado, el propio Aston present¨® el octubre pasado un informe a la Asamblea General de la ONU advirtiendo de los peligros del uso de la inteligencia artificial en la gesti¨®n de los programas sociales. Ante la atracci¨®n de los Gobiernos hacia las inconmensurables oportunidades que ofrecen los metadatos, el relator advert¨ªa del ¡°grave riesgo de tropezar como zombies en la distopia del Estado de bienestar digital¡±. Tras meses de trabajo de investigaci¨®n, el rotativo brit¨¢nico The Guardian ha recopilado informaci¨®n sobre las recientes inversiones millonarias en pa¨ªses tan dispares como el Reino Unido, Estados Unidos, India o Australia para robotizar los servicios de asistencia social. Los experimentos biom¨¦tricos dise?ados en teor¨ªa para detectar usos il¨ªcitos, en la pr¨¢ctica pueden cancelar de forma aleatoria el pago de ayudas o reclamar deudas imposibles de rastrear. M¨¢s grave a¨²n, estas nuevas burocracias sin rostro provocan ansiedad, miedo y desconfianza en personas que ya de por s¨ª viven al l¨ªmite. En su reciente libro Automating Inequality, la polit¨®loga estadounidense Virginia Eubanks detalla el funcionamiento de estos sistemas en varios Estados americanos. Si no fuera por la rigurosa recopilaci¨®n de evidencia documental, pensar¨ªamos que se lo est¨¢ inventando todo. Eubanks denuncia la creaci¨®n de un inquietante sistema de control social punitivo, opaco y altamente invasivo dirigido exclusivamente a personas en situaci¨®n de extrema vulnerabilidad. La sentencia sobre el caso SyRI refleja una realidad muy similar.

Estos movimientos a¨²n minoritarios pero en continuo ascenso nos obligan, una vez m¨¢s, a cuestionarnos la relaci¨®n entre el avance cient¨ªfico-tecnol¨®gico y el progreso humano. Puesto al servicio del bien com¨²n, el manejo de datos a gran escala abre horizontes inexplorados. Puede contribuir a realizar evaluaciones de pol¨ªtica p¨²blica basadas en la evidencia, a mejorar la eficacia con la que se distribuyen las ayudas sociales, a crear los cauces que permita un intercambio ¨¢gil de la informaci¨®n. El editorial Estrategia de datos publicado el 5 de febrero por este diario destacaba la importancia para Europa de construir plataformas digitales que garanticen el almacenamiento seguro de los datos y permitan su intercambio de forma transparente. Sin embargo, en ausencia de una severa rendici¨®n de cuentas, el control de los datos por parte de los poderes p¨²blicos puede tambi¨¦n contravenir la garant¨ªa de derechos fundamentales, incluso en el seno de democracias consolidadas. ?Qui¨¦n maneja los c¨®digos? ?Para qu¨¦ fin? Los problemas vinculados a la automatizaci¨®n del Estado de bienestar son b¨¢sicamente dos. En primer lugar, estos nuevos sistemas funcionan con una total falta de transparencia. La ejecuci¨®n y elaboraci¨®n de estos complejos algoritmos se deja en manos de compa?¨ªas privadas big tech alejadas del escrutinio p¨²blico. En el caso de SyRI, como podemos leer en el informe sobre la audiencia judicial del Center for Human Rights and Global Justice, el fiscal argument¨® que para que el sistema pudiera cumplir sus objetivos, los indicadores utilizados deb¨ªan ser secretos. Si, por ejemplo, se anunciara p¨²blicamente que la informaci¨®n sobre beneficiarios de ayudas sociales es cruzada con datos sobre el patr¨®n de consumo de agua para determinar cu¨¢nta gente habita efectivamente en una vivienda, las personas investigadas dejar¨ªan el grifo abierto, afirm¨®. Es decir, si se revela la f¨®rmula, se arruina su prop¨®sito. La vulneraci¨®n del derecho de las personas a su privacidad por parte de quien m¨¢s tendr¨ªa que garantizarla se convierte, de pronto, en un mal menor. En segundo lugar, la automatizaci¨®n elimina el factor humano en situaciones en las que no cabe una respuesta estandarizada. No es lo mismo pagar la compra del supermercado sin mediaci¨®n de nadie que enfrentarse a una situaci¨®n de desahucio vital con una m¨¢quina programada para decirte que no. Pero la pregunta de fondo m¨¢s importante que debemos hacernos frente a esta nueva realidad es ?para qu¨¦? Para qu¨¦ todo este esfuerzo por criminalizar al pobre cuando el mayor desaf¨ªo que tienen los Estados de bienestar contempor¨¢neos es c¨®mo conseguir que los m¨¢s privilegiados contribuyan. Los algoritmos est¨¢n definitivamente situados en el lugar equivocado.

Margarita Le¨®n es profesora de Ciencia Pol¨ªtica de la Universitat Aut¨°noma de Barcelona.