Los l¨ªmites del capitalismo de vigilancia

Hasta la emergencia del coronavirus, una preocupaci¨®n central de algunas ¨¦lites intelectuales occidentales (la cultura asi¨¢tica confuciana es, quiz¨¢s, otra cosa), era lo que Shoshana Zuboff, en su excelente libro, bautiz¨® como el ¡°capitalismo de vigilancia¡±. Es decir, la capacidad de grandes empresas tecnol¨®gicas, en particular Facebook y Google, de monitorearnos, predecir y manipular nuestro comportamiento, por medio de la inteligencia artificial (IA) empleando datos masivos (big data). Sin embargo, pese a esa abundancia de datos y que, junto a otras compa?¨ªas como la china WeChat, son las grandes potencias en esa tecnolog¨ªa, estas empresas fueron incapaces de detectar la magnitud de la propagaci¨®n de la Covid-19 y alertar a los Gobiernos (con qui¨¦n normalmente tienen una estrecha relaci¨®n) de manera efectiva. Con todo su enorme poder¨ªo tecnol¨®gico, cient¨ªfico e intelectual, basado en su capacidad para predecir el futuro, al menos el de cada uno de nosotros, surgen ahora inmensas preguntas: ?C¨®mo es posible que hayan sido incapaces de anticipar una cat¨¢strofe de tal magnitud como la actual, de no lanzar un aviso cuando a¨²n se estaba a tiempo, y de no usar esa informaci¨®n para modificar positivamente el comportamiento de sus usuarios, contribuyendo a que se aplanase antes la curva epid¨¦mica? La misma pregunta se puede trasladar a los gobiernos, con sus cient¨ªficos de datos y su capacidad de capturar masivamente los personales. ?C¨®mo se les pudo pasar? La crisis de la Covid-19 es un ba?o de humildad para la ciencia de datos y la Inteligencia Artificial, y en consecuencia para el llamado capitalismo de vigilancia.

Es verdad que una vez detectados los brotes, el Gobierno chino, y otros como el de Corea del Sur, Singapur o Taiw¨¢n ¡ªque estaban mejor preparados a resultas de epidemias anteriores¡ª decidieron adoptar medidas dr¨¢sticas de muy diversa ¨ªndole, muchas de ellas con bastante ¨¦xito. La situaci¨®n y reacci¨®n en Occidente ha sido muy distinta. Por ejemplo, seg¨²n The Washington Post, los servicios de inteligencia de EE UU hab¨ªan alertado ya en enero de la importancia del brote v¨ªrico a su propio Gobierno, que b¨¢sicamente no hizo nada. Ese mismo escepticismo y el consecuente retraso en la actuaci¨®n se ha visto en la mayor parte de pa¨ªses por donde la epidemia ha pasado. De hecho, en la propia China, las autoridades infravaloraron en un principio la amenaza llegando a censurar toda la informaci¨®n al respecto, a pesar de las numerosas advertencias de m¨¦dicos y enfermos circulando por sus redes sociales.

Hay varios factores que pueden servir para explicar este fallo colosal del capitalismo de vigilancia. Uno de ellos tiene que ver con sus prioridades. Estos sistemas est¨¢n centrados en monitorear y orientar nuestros h¨¢bitos de consumo, nuestros patrones habituales de comportamiento, e incluso nuestras tendencias pol¨ªticas, m¨¢s que nuestras patolog¨ªas o tendencias anormales. De alguna forma, tienden a maximizar lo que preferimos, o creemos preferir, y a minimizar todo lo que nos molesta en nuestra vida cotidiana. Estos sistemas no lidian bien con la sorpresa.

Es necesaria una Inteligencia Colectiva potente para integrar una IA miope

En segundo lugar, las redes sociales fueron incapaces de integrar la informaci¨®n proveniente de expertos epidemiol¨®gicos y enfermos que expresaban los s¨ªntomas en ellas. No ha habido un problema de fake news ¡ªque tambi¨¦n ha existido¡ª sino que ha sido b¨¢sicamente un problema de incoherent news, algo que se est¨¢ intentando corregir ahora a marchas forzadas. En este caso, las redes no han permitido, al menos en un principio, establecer una visi¨®n coherente de la epidemia. Y esto a pesar de que podr¨ªan haber sido muy ¨²tiles integrando toda la informaci¨®n existente por parte de expertos, pacientes y otros usuarios. Un Facebook de la epidemiolog¨ªa hubiera sido una herramienta de gran valor en el contexto actual, aunque necesitar¨ªa una arquitectura totalmente diferente.

Un tercer factor, de m¨¢s peso, es que se han abandonado los esfuerzos en Inteligencia Colectiva ¡ªmuy presentes (y financiados) en los a?os noventa¡ª, en favor, durante los ¨²ltimos tiempos, de la Inteligencia Artificial. La primera como la defin¨ªa Geoff Mulgan, en un libro de 2018, es ¡°cualquier tipo de inteligencia a gran escala que involucra colectivos que eligen estar, pensar y actuar juntos¡±. Naturalmente, debe impulsarse sobre una base tecnol¨®gica. La Inteligencia Artificial debe estar al servicio de la Colectiva y no al rev¨¦s. Y esto deber¨ªa ser as¨ª, y ha empezado a serlo, en la b¨²squeda de soluciones a este virus. La competencia entre expertos de ciencias de datos es sana y creativa. Sin embargo, estamos asistiendo a una competencia excesiva, unido a una b¨²squeda constante de protagonismo por tener el mejor modelo o la plataforma mejor dise?ada, el algoritmo m¨¢s original y/o el que mejor predice el futuro. Lejos queda la Inteligencia Colectiva, basada en la cooperaci¨®n tan de cient¨ªficos por la b¨²squeda de respuestas, ya sea en forma de medicamentos antivirales, vacunas o de aplicaciones (apps) oficiales para el monitoreo de su expansi¨®n e incidencia. Esta crisis ha puesto de manifiesto la necesidad de un mundo con m¨¢s cooperaci¨®n entre inteligencias, ya sean humanas o artificiales.

Se plantean s¨ª, problemas de vigilancia y de privacidad, como han apuntado, entre otros, Yuval Noah Harari y Byung-Chul Han. Parece propio de la condici¨®n humana, resolver un problema generando otros de la mano de esa propia soluci¨®n. Pero tambi¨¦n responde al m¨¦todo cient¨ªfico (y pol¨ªtico) resolver los problemas uno a uno, y no todo a la vez. La prioridad es ahora resolver el embate del virus y hacerlo retroceder. Algunos creen ver el ocaso de la democracia liberal occidental (aunque hay otra oriental, como demuestran los casos de Jap¨®n, Taiw¨¢n o Corea del Sur) con el fin de nuestra privacidad individual. Pero las visiones apocal¨ªpticas resultan poco ¨²tiles para resolver el problema actual. Y bien utilizada y organizada, la Inteligencia Colectiva puede tambi¨¦n servir para dominar los excesos de vigilancia. No debemos caer en el derrotismo de pensar que la tecnolog¨ªa que estamos usando, o podamos usar, para detener la pandemia es un camino sin vuelta hacia m¨¢s vigilancia, pues su alcance y temporalidad depender¨¢n de su control por parte de los ciudadanos.

Los Gobiernos han tardado ¡ªy en algunos casos, siguen tardando¡ª demasiado en aprender unos de otros. Los avisos de grandes expertos de que algo as¨ª pod¨ªa ocurrir estaban ah¨ª, al menos, desde 2005. Aunque era posible, no se han evaluado justamente el peligro y sus defensas de forma colectiva. La OMS hubiera debido asumir ese liderazgo en este campo. Pese a los avances de esta organizaci¨®n, falta un verdadero sistema global de salud basado en una tecnolog¨ªa capaz de integrar la informaci¨®n de expertos de todos los campos, incluida la de expertos en Inteligencia Artificial. La Inteligencia Colectiva, apoyada en la artificial, debe servir para crear un sistema sanitario diversos, integrado por datos de pacientes reales y potenciales, adem¨¢s de expertos m¨¦dicos, con base tecnol¨®gica y multinivel, lo que ahora no es posible dadas las limitaciones legales existentes, salvo en China y otros pa¨ªses autoritarios.

Por tanto, hoy es m¨¢s necesario que nunca reformar este capitalismo, rico en Inteligencia Artificial sobre problemas concretos y limitados, pero demasiado pobre en Inteligencia Colectiva, para que la vigilancia bien entendida lo transforme en un sistema cooperativo. ?Sabremos hacerlo?

Jos¨¦ Balsa-Barreiro es investigador de los grupos de Human Dynamics y Connection Science del Massachusetts Institute of Technology en Boston; Manuel Cebri¨¢n es l¨ªder de investigaci¨®n en el Max Planck Institute for Human Development en Berl¨ªn y Andr¨¦s Ortega es investigador asociado para transformaciones tecnol¨®gicas en el Real Instituto Elcano y director del Observatorio de las Ideas.