El algoritmo intolerante

Primero los datos nos quitan el escudo, despu¨¦s el algoritmo lanza su flecha. Y nos cazan. El ¨²ltimo esc¨¢ndalo de Facebook vuelve a revelar la vulnerabilidad radical del usuario en las redes sociales. La empresa Cambridge Analytica se hizo a trav¨¦s de Facebook con datos personales de 50 millones de ciudadanos sin su consentimiento. Se trata de una empresa de marketing en redes que se anuncia como capaz de ¡°cambiar el comportamiento de la audiencia mediante el uso de datos¡±. En efecto, los us¨® en la campa?a de Trump.

M¨¢s informaci¨®n

Editorial | Desprotecci¨®n de datos

Toda la informaci¨®n del caso Cambridge Analytica

Cuando hablamos de democracia, pensamos en votos e instituciones. Casi nunca nos planteamos su prop¨®sito b¨¢sico: organizar la vida en com¨²n de gentes que piensan de forma diferente pero se gobiernan con id¨¦nticas leyes. La democracia es, antes que nada, ese debate de puntos de vista opuestos: el ¡°gobierno por discusi¨®n¡±, por decirlo con John Stuart Mill. Cambiar ¡°el comportamiento de la audiencia¡± significa cambiar las reglas de la raz¨®n p¨²blica y en ¨²ltima instancia de la democracia misma. El algoritmo constituye el secreto mejor guardado de compa?¨ªas como Facebook y redirige a la gente hacia aquello que ya piensa y cree. Llam¨¦mosle el ¡°algoritmo intolerante¡± para no perder de vista c¨®mo est¨¢ triturando los cerebros y disolviendo el tejido sutil de las sociedades democr¨¢ticas.

El algoritmo estructura hoy la raz¨®n p¨²blica, lo cual obliga a pedir transparencia sobre su funcionamiento. Tambi¨¦n Rusia ha interferido en la opini¨®n p¨²blica norteamericana a trav¨¦s de Facebook, aglutinando participantes y constituyendo comunidades virtuales, pero no sobre dietas milagro o arte sacro, sino en torno a la religi¨®n y la inmigraci¨®n. En esas aguas, la humanidad se ha dado sus m¨¢s triunfales ba?os de sangre: si se quiere articular una raz¨®n p¨²blica sectaria, no hay m¨¢s que agitarlas, difundir en ellas contenidos falsos y dejar que el algoritmo haga su trabajo. Lo mismo cabe decir del caso de Cambridge Analytica: cruz¨® de forma subrepticia los datos privados de millones de personas para enviarles mensajes microdirigidos a su lado m¨¢s vulnerable. La violaci¨®n de la privacidad de los datos combinada con la intolerancia del algoritmo resulta explosiva. Juntos suprimen el sistema inmunitario de nuestro raciocinio para permitir la entrada de todo tipo de bacterias t¨®xicas, que nos van conduciendo hacia donde otros quieren. Cambridge Analytica es esa fabulosa maquinaria de propaganda y result¨® decisiva en la victoria de Trump.

El algoritmo secreto tiene visos de inconstitucionalidad, pues interfiere en nuestro derecho a elegir libremente la informaci¨®n

El algoritmo predice nuestro comportamiento: adivina que queremos saber m¨¢s de lo mismo, pues forma parte de la naturaleza humana el sentirnos c¨®modos con los afines. La disonancia cognitiva nos hace restar credibilidad a aquellas opiniones que contradicen las nuestras y conceder m¨¢s peso a quien refuerza nuestras creencias. El algoritmo intolerante conoce esa vulnerabilidad y, por ello, pasa de predecir nuestro comportamiento a moldearlo. Sabe que en nuestro cerebro reptiliano habita un peque?o troglodita, y cada d¨ªa lo encumbra. Los datos nos dividen en bandos; el algoritmo impide que ejercitemos el m¨²sculo de la tolerancia.

En el debate sobre la libertad de expresi¨®n de las ¨²ltimas semanas estamos enfatizando las opiniones que se permite o no expresar. Pero en nuestro mundo ¡ªmarcado por la avalancha de informaci¨®n y la atenci¨®n empobrecida¡ª a quienes quieren nuestro voto les basta con escrutarnos en las redes, agitar el debate sectario y reforzar nuestra intolerancia. La discusi¨®n urgente no es sobre qu¨¦ se emite, sino sobre qu¨¦ informaciones y opiniones nos alcanzan, qui¨¦n las filtra y c¨®mo lo decide: c¨®mo se programa ese algoritmo.

Cuando los redactores de la Constituci¨®n Espa?ola establecieron en su art¨ªculo 20 nuestro derecho a ¡°comunicar o recibir libremente informaci¨®n¡±, eran plenamente conscientes de la necesidad de garantizar la informaci¨®n que nos llega, pues ella conforma nuestro juicio y nuestras decisiones como ciudadanos. El algoritmo secreto tiene visos de inconstitucionalidad, pues interfiere en nuestro derecho a elegir libremente la informaci¨®n. Lo hace sin que sepamos c¨®mo ni podamos participar en el proceso, pese a que ha modificado radicalmente el debate p¨²blico. Ya no elegimos la informaci¨®n; ella nos elige a nosotros. Esa es la p¨¦rdida de libertad esencial de la que deber¨ªamos estar discutiendo.

Irene Lozano es escritora y directora de The Thinking Campus.