¡°A diferencia de China, en Occidente los gobiernos no nos dicen que nos vigilan¡±

Que un algoritmo elija al mejor candidato para un puesto de trabajo o determine si conceder o no un cr¨¦dito a alguien no es garant¨ªa de nada. Ni es un m¨¦todo imparcial, ni es t¨¦cnicamente perfecto, ni evita discriminaciones. Eso nos parece hoy de caj¨®n, pero hasta hace unos a?os, delegar en un software la toma de decisiones comprometidas parec¨ªa una buena opci¨®n. Los m¨²ltiples casos de sesgos algor¨ªtmicos que han salido a la luz nos ayudaron a desechar la idea.

A esta ca¨ªda del guindo contribuy¨® sin duda la matem¨¢tica Cathy O¡¯Neil (Cambridge, Massachusetts, 1972) en 2016 con Weapons of Math Destruction (Armas de destrucci¨®n matem¨¢tica), editado en Espa?a por Capit¨¢n Swing. Su trabajo fue la punta de lanza de otros muchos que empezaron a cuestionar la supuesta infalibilidad de los sistemas de inteligencia artificial en la ordenaci¨®n de asuntos sociales.

Los algoritmos, escribi¨® O¡¯Neil, ¡°son opiniones encerradas en matem¨¢ticas¡±. La cient¨ªfica de datos repasa en su libro c¨®mo el uso de algoritmos reproduce los sesgos de sus creadores en sectores tan cr¨ªticos para la vida como la concesi¨®n de seguros o de becas universitarias, la justicia, la selecci¨®n de personal o hasta en el funcionamiento democr¨¢tico. Los algoritmos no son machistas, racistas ni clasistas, pero las decisiones que toman sus desarrolladores pueden hacer que el resultado lo sea. Conclusi¨®n: quienes salen m¨¢s perjudicados son los menos pudientes.

Eso mismo es lo que O¡¯Neil cree que puede pasar con el lanzamiento de aplicaciones m¨®viles para controlar los contagios en la crisis del coronavirus. Su aparente ¨¦xito en algunos pa¨ªses asi¨¢ticos ha llevado a muchos otros, entre ellos Espa?a o Estados Unidos, a buscar una versi¨®n que se adapte a los est¨¢ndares de privacidad occidentales. O¡¯Neil nos cuenta por videollamada desde su confinamiento en Nueva York que se muestra esc¨¦ptica sobre su efectividad.

P. ?Por qu¨¦ cree que fracasar¨¢n las apps que tratan de rastrear los contagios de la covid-19?

R. Dependen de bluetooth, y esa tecnolog¨ªa solo la tienen los smartphones. Por tanto, quienes no tengan m¨®viles, como los presos, la gente mayor o los sin techo, no ser¨¢n visibles por el sistema. Y quienes no tengan un incentivo para usar la app, como los inmigrantes irregulares, que temen ser deportados, y los que no puedan permitirse quedarse en casa sin trabajar, no lo har¨¢n. Luego est¨¢n los que tienen m¨®vil y papeles, pero no un seguro m¨¦dico con el que costearse el tratamiento. Los colectivos que acabo de mencionar coinciden casi a la perfecci¨®n con la poblaci¨®n que corre mayor riesgo de infecci¨®n. ?Puede la app rastrear los contagios si los m¨¢s vulnerables quedan fuera de su campo de visi¨®n? No.

P. Imagine que todo el mundo tuviera un smartphone y conexi¨®n. ?Funcionar¨ªa entonces?

R. Si la app siguiera siendo de uso voluntario, tendr¨ªamos el mismo problema: buena parte de la poblaci¨®n de mayor riesgo optar¨ªa por no usarla. En caso de que no fuera de car¨¢cter voluntario, como el sistema chino de vigilancia al que llaman de cr¨¦dito social, funcionar¨ªa mejor, pero ser¨ªa opresor para la gente.

P. ?Hay alguna forma de hacer que estas apps sean efectivas?

R. El propio presidente de Singapur desmont¨® la historia de ¨¦xito que se ha construido en torno a la app de su pa¨ªs. Dijo en la televisi¨®n que la clave para contener la pandemia no fue la app, sino las entrevistas realizadas a la poblaci¨®n que hab¨ªa dado positivo para saber con qui¨¦n hab¨ªan tenido contacto, y luego la b¨²squeda de esas personas. El tel¨¦fono ayud¨® en Singapur, pero no gracias a la inteligencia artificial, sino a un ej¨¦rcito de funcionarios. Dar bajas laborales pagadas a los infectados y costear los tests y los tratamientos tambi¨¦n fue positivo, claro.

Google, Facebook y Amazon tienen sus propias iniciativas que recogen cantidades masivas de datos acerca de c¨®mo aprenden los ni?os."

P. ?Qu¨¦ opina del digital contact tracing, la tecnolog¨ªa en que se apoyan estas apps? ?Hay forma de que respeten la privacidad?

R. Supongo que la pregunta del mill¨®n es si se puede separar el concepto de opcionalidad del de privacidad. Siempre que se habla de respeto a la privacidad se sobreentiende que la app es de uso optativo, pero eso no es suficiente para contener una pandemia: supondr¨ªa dar por sentado que todo el mundo va a colaborar y quedarse en cuarentena voluntaria si as¨ª se lo piden, aunque ello choque con sus intereses. ?Podr¨ªa ser obligatoria pero respetar la privacidad? Es un escenario dif¨ªcil de imaginar.

P. No conf¨ªa mucho en la gente.

R. ?Cree que todo el mundo har¨¢ cuarentena de forma voluntaria cuando una app se lo diga? Porque si solo colabora una parte de la poblaci¨®n, la cuarentena no sirve de nada. No s¨¦ en Europa, pero en EE UU no funcionar¨ªa porque la mitad de los ciudadanos creer¨ªa que su libertad est¨¢ siendo violada y la otra necesitar¨ªa seguir trabajando y no se podr¨ªa permitir hacer cuarentena.

P. Han pasado cuatro a?os desde que public¨® su libro. ?Cambiar¨ªa algo si lo escribiera ahora?

R. Los ejemplos seguramente ser¨ªan distintos. Tambi¨¦n a?adir¨ªa un cap¨ªtulo que no escrib¨ª sobre c¨®mo se est¨¢n recolectando datos de los ni?os. Entonces, en 2015, me fue imposible obtener informaci¨®n al respecto. Pero ahora veo que Google, Facebook y Amazon, los imperios del dato, tienen sus propias iniciativas de educaci¨®n que recogen cantidades masivas de informaci¨®n acerca de c¨®mo aprenden los ni?os. Eso hay que investigarlo en profundidad.

No tengo ninguna prueba de que hayan hecho nada ilegal, pero mi intuici¨®n es que ah¨ª hay montones de armas de destrucci¨®n matem¨¢tica [llama as¨ª a los algoritmos opacos que causan da?os a gran escala a parte de la poblaci¨®n]. La creciente virtualizaci¨®n de la sociedad como consecuencia de la crisis del coronavirus puede inaugurar una era dorada para los recolectores de datos en general, pero m¨¢s especialmente para quienes buscan datos de ni?os. Y lo que puedan hacer luego con ello es realmente aterrador.

P. Ha mencionado antes el sistema chino de cr¨¦dito social. ?Imagina algo parecido en Europa o EE UU?

R. ?Ya lo tenemos, solo que no lo admitimos! Estamos vigilados en todos los sentidos. En China han sido transparentes: tienen una herramienta expl¨ªcitamente creada para el control social. En EE UU hay que ser m¨¢s sutil: solo puedes ir contra quienes no tienen poder, es decir, los negros y los pobres; en cuanto al resto, el marketing le da al sistema la apariencia de algo que debemos valorar. La vigilancia digital no se usa en EE UU del mismo modo que en China, pero tiene un efecto incre¨ªble: no solo rastrea a la gente y anticipa lo que va a hacer, sino que tambi¨¦n les impide hacer cosas.

P. En EE UU esa vigilancia la realizan empresas privadas con fines comerciales, pero en China la centraliza el Gobierno.

R. En China hay una constelaci¨®n de empresas que hacen el trabajo, aunque es cierto que luego Pek¨ªn las controla. La gran diferencia en realidad es que los gobiernos occidentales no dicen expl¨ªcitamente que nos est¨¢n vigilando y para qu¨¦, pero est¨¢n impl¨ªcitamente dejando que suceda y benefici¨¢ndose de lo que hacen las empresas comerciales. La NSA accede a los perfiles de Acxiom de cualquier persona del pa¨ªs que gaste dinero. El hecho de que esos perfiles existan, est¨¦n a la venta y sean cada vez m¨¢s y m¨¢s completos beneficia a las campa?as pol¨ªticas, a las agencias de inteligencia¡­ a todo el que quiere ejercer control. No hay contrapesos: las leyes de privacidad en EE UU son extremadamente pobres y solo se refieren a datos muy concretos, como los m¨¦dicos. La cuesti¨®n es que con el big data y la inteligencia artificial ya se puede saber si est¨¢s enfermo, no hace falta conocer tu historial m¨¦dico: tu consumo revela si eres diab¨¦tico o tienes c¨¢ncer.

P. ?Cree que la app del coronavirus se sumar¨ªa a este entramado de vigilancia?

R. Exactamente. Puedes inferir el partido pol¨ªtico con el que simpatiza cualquiera estudiando con qui¨¦n y c¨®mo interact¨²a su perfil de Facebook. Pero no puedes hacer ese tipo de an¨¢lisis para saber si alguien est¨¢ infectado de coronavirus. As¨ª que desde el punto de vista de la vigilancia estamos ante una nueva base de datos. Por eso en este momento no funcionan las t¨¦cnicas de inteligencia artificial.