Igualdad algor¨ªtmica

La democracia nace como una promesa de igualdad en cuanto a la capacidad de todos a la hora de influir en las decisiones que nos afectan. Instituciones como el voto, la representaci¨®n, la participaci¨®n son procedimientos que tratan de asegurar esa igualdad. A medida que la esfera digital se ha ido constituyendo como un ¨¢mbito de configuraci¨®n de la voluntad pol¨ªtica, la igualdad que en ella es posible y deseable ha sido objeto de numerosas propuestas y pol¨¦micas. Tal vez por falta de perspectiva hist¨®rica, tal vez debido a una escasa conceptualizaci¨®n, no disponemos todav¨ªa de un marco categorial que d¨¦ cuenta de la naturaleza del nuevo espacio digital y su significaci¨®n democr¨¢tica.

Las interpretaciones propuestas hasta ahora pueden agruparse en tres posibles versiones de la democracia digital conforme a los tres modos como se articulan las acciones de los miembros en las sociedades complejas: ¨¢gora, mercado y jerarqu¨ªa. El ¨¢gora es la comunicaci¨®n horizontal y abierta, el mercado es un sistema de informaci¨®n que estructura los precios y la burocracia es un modo institucional de asignar las decisiones. La igualdad ser¨ªa, respectivamente, un valor garantizado por el car¨¢cter abierto del espacio digital, por su semejanza con un mercado en el que se desenvuelve el consumidor soberano o el resultado de una determinada acci¨®n de gobierno que interviene y regula. ?Debemos entender el mundo digital como un vector de democratizaci¨®n, como un negocio o como una cuesti¨®n de poder?

No podemos democratizar la autoridad que se ejerce en el nuevo espacio digital si no sabemos qu¨¦ tipo de autoridad es. Tenemos que preguntarnos si estamos en un ¨¢gora donde la dominaci¨®n habr¨ªa sido sustituida por la neutralidad, un mercado que satisface preferencias o una burocracia que administra con eficacia y justicia. ?Qui¨¦n es el soberano, el algoritmo, el consumidor o el Estado?

Para dilucidar esta cuesti¨®n deber¨ªamos abordar al menos tres cuestiones. La primera de ellas se refiere a la neutralidad algor¨ªtmica. De entrada, el espacio digital se presenta como un ¨¢mbito horizontal y libre de dominaci¨®n, donde no habr¨ªa m¨¢s que sugerencias, satisfacci¨®n de las demandas que expresa nuestro propio rastro digital. La inteligencia artificial y los sistemas de gobernanza algor¨ªtmica funcionan con una l¨®gica que se parece mucho al individualismo democr¨¢tico, pero que lo altera de una manera que es necesario comprender para valorar su legitimidad. Que sean sistemas para la identificaci¨®n y satisfacci¨®n de nuestras preferencias no quiere decir que se plieguen a las caracter¨ªsticas de cada individuo, sino que se adaptan a caracter¨ªsticas o huellas de grupo que unos individuos comparten con otros. En este recorrido suele producirse una alteraci¨®n que adquiere el car¨¢cter de sesgos discriminatorios. Satisfacer al patr¨®n en el que encaja un individuo no es lo mismo que satisfacer a un individuo. Examinar grupos de poblaciones y crear perfiles ofrece amplias posibilidades para la exclusi¨®n y la manipulaci¨®n. Por supuesto que no estamos aqu¨ª ante un vigilante manipulador, sino m¨¢s bien frente a un mecanismo banal de discriminaci¨®n, que promete neutralidad pero que no puede garantizarla por diversas circunstancias que tienen que ver precisamente con la l¨®gica algor¨ªtmica.

Los algoritmos tienen una dimensi¨®n pol¨ªtica en la medida en que intervienen en el orden social y estructuran nuestras decisiones. Cuando decimos que algo tiene una dimensi¨®n pol¨ªtica solemos indicar dos cosas en apariencia contradictorias: que hay mucha pol¨ªtica y muy poca. Que haya mucha pol¨ªtica en los algoritmos quiere decir que est¨¢n ejerciendo un tipo de autoridad que solo corresponde a la pol¨ªtica y configurando la realidad social como solo la pol¨ªtica est¨¢ autorizada a hacer. Que haya poca pol¨ªtica en ellos quiere decir que deben ser politizados, es decir, sometidos a los procesos de autorizaci¨®n pol¨ªtica expresa, que en una democracia tienen unos espacios y procedimientos determinados.

La segunda cuesti¨®n nos remite a por qu¨¦ resulta tan tentador confundir la l¨®gica pol¨ªtica con la l¨®gica del mercado y si los procedimientos algor¨ªtmicos pueden ser subsumidos en la categor¨ªa del consumo. Un primer argumento para no confundir lo uno con lo otro es que la democracia se basa en el principio de no abandonarse a la benevolencia de las autoridades (Przeworski). Si la democracia no es una provisi¨®n de servicios, el ciudadano no es un cliente satisfecho. La gobernanza algor¨ªtmica es un tipo de gobernanza que trata a los ciudadanos m¨¢s bien como consumidores que en el mejor de los casos validan la satisfacci¨®n puntual de sus preferencias pero a los que no se les ha pedido opini¨®n sobre la sociedad que desean o alg¨²n control sobre la clase final de sociedad que resultar¨ªa de la agregaci¨®n de esas preferencias.

Los algoritmos as¨ª entronizados tienen un efecto despolitizador. La l¨®gica algor¨ªtmica despolitiza en la medida en que neutraliza el posible cuestionamiento del automatismo que procura nuestra satisfacci¨®n. Sus ventajas en t¨¦rminos de satisfacci¨®n de las necesidades individuales podr¨ªan ser tan embaucadoras que ni siquiera se plantee una alternativa a ese tipo de gobernanza, a sus fines y procedimientos.

El tercer marco categorial para entender la l¨®gica digital nos lo ofrecen las categor¨ªas de la burocracia y la jerarqu¨ªa. ?Podr¨ªa ser la Administraci¨®n digital un sistema que hiciera superfluos otros modos de autoorganizaci¨®n de la sociedad, concretamente de aquellos que calificamos como propiamente democr¨¢ticos? ?Cabr¨ªa pensar en una gobernanza algor¨ªtmica que hiciera innecesarios los debates ideol¨®gicos acerca de sus conceptos, principios y valores?

En una sociedad democr¨¢tica la pol¨ªtica no se reduce a la racionalidad administrativa. Ning¨²n sofisticado dispositivo para calcular y decidir parece en condiciones de hacer superfluo el momento propiamente pol¨ªtico en el que discutimos y decidimos los fines a cuyo servicio ponemos los instrumentos de gesti¨®n de que disponemos. La pol¨ªtica es inevitable porque, aunque pueda ayudarnos, la inteligencia artificial no es capaz de concebir ni garantizar esa igualdad a la que aspira la democracia. Donde mejor se pone de manifiesto esta limitaci¨®n es en el hecho de que la tecnolog¨ªa no disuelve las controversias debidas a nuestras diferentes concepciones de la igualdad ni garantiza la satisfacci¨®n simult¨¢nea de preferencias e intereses diversos.

Incluso all¨¢ donde hay un amplio acuerdo acerca de la conveniencia de promover la igualdad no necesariamente se comparte la misma idea de igualdad. Hay quien se da por satisfecho con que sean id¨¦nticas las condiciones de partida, mientras que otros la entienden como una similitud en los resultados; tenemos adem¨¢s todo el debate entre igualdad formal e igualdad diferenciada. ?C¨®mo deben articularse categor¨ªas, grupos e individuos para hacer frente a las discriminaciones que proceden de la pertenencia a un determinado grupo y las que se deben a ser agrupado de esa manera? Son asuntos que deben ser objeto de discusi¨®n pol¨ªtica y no de agregaci¨®n algor¨ªtmica.

Si hubiera acuerdo acerca de qu¨¦ significa igualdad entonces el algoritmo desarrollar¨ªa una tarea puramente t¨¦cnica; se tratar¨ªa nada m¨¢s que de encontrar el mejor modo de operacionalizar esa idea de justicia. El problema es que la idea de justicia es un verdadero campo de batalla democr¨¢tico, un concepto elevadamente controvertido en cualquier sociedad plural. Hay m¨¢s desacuerdos acerca de los valores en s¨ª mismos que sobre los medios de conseguirlos. Ning¨²n dispositivo tecnol¨®gico puede ahorrarnos el trabajo de discusi¨®n democr¨¢tica en torno a los fines, aunque pueda facilitarnos enormemente la tarea de implementaci¨®n de los objetivos que democr¨¢ticamente hemos decidido perseguir.