La democracia de los algoritmos

La idea de Alan Turing del ordenador como una ¡°m¨¢quina universal¡± no significa que valga para resolver cualquier problema. La gobernanza algor¨ªtmica es muy adecuada para mejorar ciertos aspectos del proceso pol¨ªtico, pero resulta de escasa utilidad para otros; puede corregir deficiencias y sesgos humanos, sirve para identificar determinadas preferencias, para medir los impactos, pero es inadec...

La idea de Alan Turing del ordenador como una ¡°m¨¢quina universal¡± no significa que valga para resolver cualquier problema. La gobernanza algor¨ªtmica es muy adecuada para mejorar ciertos aspectos del proceso pol¨ªtico, pero resulta de escasa utilidad para otros; puede corregir deficiencias y sesgos humanos, sirve para identificar determinadas preferencias, para medir los impactos, pero es inadecuada para aquellas dimensiones del proceso pol¨ªtico que no son susceptibles de computaci¨®n y optimizaci¨®n, ¨¢reas que no tienen una f¨¢cil cuantificaci¨®n y medida, o sea, para el momento genuinamente democr¨¢tico en el que se deciden los criterios y objetivos que posteriormente la tecnolog¨ªa puede optimizar.

La raz¨®n de que los algoritmos sean pol¨ªticamente limitados reside en su car¨¢cter instrumental. Los algoritmos sirven para conseguir objetivos predeterminados, pero ayudan poco a determinar esos objetivos, tarea propia de la voluntad pol¨ªtica, de la reflexi¨®n y deliberaci¨®n democr¨¢tica. La funci¨®n de la pol¨ªtica es decidir el dise?o de las estrategias de optimizaci¨®n algor¨ªtmica y mantener siempre la posibilidad de alterarlas, especialmente en entornos cambiantes. En una democracia todo debe estar abierto a momentos de repolitizaci¨®n, es decir, a la posibilidad de cuestionar los objetivos establecidos, las prioridades y los medios. Para esto es para lo que sirve la pol¨ªtica y para lo que no sirven los algoritmos. El gobierno algor¨ªtmicamente optimizado no tiene capacidad para resolver los conflictos propiamente pol¨ªticos o la dimensi¨®n pol¨ªtica de esos conflictos, es decir, cuando est¨¢n en cuesti¨®n los marcos, fines o valores. Como dec¨ªa Lucy Suchman en otro contexto, los robots act¨²an muy bien cuando el mundo ha sido dispuesto del modo en que deb¨ªa ser dispuesto.

La gobernanza algor¨ªtmica se orienta a realizar objetivos que no han sido discutidos, que ella misma no establece ni pone en cuesti¨®n. Ahora bien, la pol¨ªtica democr¨¢tica no es un mero procesamiento de informaci¨®n, sino su interpretaci¨®n en un contexto de pluralismo garantizado; no se trata de c¨®mo realizar mejor ciertos objetivos sino de c¨®mo decidirlos. La resoluci¨®n de problemas de car¨¢cter administrativo es muy diferente de la pol¨ªtica entendida como el conflicto de interpretaciones acerca de la realidad, donde no se trata de optimizar resultados como de establecerlos.

Hay una gran diferencia entre c¨®mo aprenden los sistemas algor¨ªtmicos y c¨®mo se toman las decisiones democr¨¢ticas. Los sistemas autom¨¢ticos de decisi¨®n procesan informaci¨®n para realizar lo mejor posible ciertos objetivos, mientras que la pol¨ªtica democr¨¢tica, en contraste, no trata de optimizar objetivos predefinidos sino sobre todo de averiguar cu¨¢les deber¨ªan ser esos objetivos. Lo pol¨ªtico empieza all¨ª donde se ha de debatir acerca de qu¨¦ deben satisfacer los algoritmos, qu¨¦ valores deben cumplir, a qu¨¦ concepci¨®n de lo justo deben servir.

Hay un ejemplo cotidiano de esa diferencia entre decidir objetivos e implementarlos en la inadvertencia con la que se confunde lo uno y lo otro. Me refiero a ese lugar com¨²n seg¨²n el cual no deber¨ªa importarnos qui¨¦n gobierna, si es de derechas o de izquierdas, sino que gestione bien, como si esa gesti¨®n pudiera valorarse sin recurrir a estimaciones ideol¨®gicas (lo podr¨ªamos llamar ¡°el Principio Bert¨ªn Osborne¡±). Ese t¨®pico resulta plausible solo en la medida en que, efectivamente, derecha e izquierda ya no son lo que eran y como categor¨ªas r¨ªgidas cada vez explican menos. Pero quien lo defiende no suele estar deseando una pol¨ªtica desideologizazada sino una pol¨ªtica despolitizada.

Como ocurre en la pol¨ªtica en general, tambi¨¦n cuando hablamos de gobernanza algor¨ªtmica la idea de producir mejores decisiones con la ayuda de m¨¢quinas requiere que haya previamente un criterio acerca de qu¨¦ es una buena decisi¨®n. Es cierto que la inteligencia artificial sirve para informar decisiones y optimizar resultados pero, aunque algunos economistas hayan intentado cuantificar y medir el bienestar agregado, no hay una noci¨®n predefinida e incontestable de qu¨¦ es un resultado satisfactorio en pol¨ªtica. La democracia es un sistema pol¨ªtico que parte de la ignorancia acerca de qu¨¦ pueda ser una buena decisi¨®n, que recela de que alguien pretenda saberlo y pone en marcha procedimientos de aprendizaje colectivo para superar esa perplejidad.

El sentido de las instituciones de la mediaci¨®n en una democracia consiste en establecer una distancia entre la voluntad inmediata y la decisi¨®n pol¨ªtica. El procedimiento para ello es la apertura de espacios en los que sea posible algo as¨ª como una desaceleraci¨®n de las decisiones para permitir el libre intercambio de las opiniones y los puntos de vista. Una democracia requiere esta capacidad cuando se trata de satisfacer preferencias e intereses diversos, que no pocas veces plantean exigencias disparatadas.

A este respecto, la presencia del pueblo en la democracia algor¨ªtmica es m¨¢s de voluntad de todos que de voluntad general, por utilizar la terminolog¨ªa de Rousseau, de agregaci¨®n que de configuraci¨®n, de soberan¨ªa que de democracia: nuestras preferencias de partida son tomadas en consideraci¨®n, por supuesto, pero se nos priva del momento de construcci¨®n deliberativa en el que esas preferencias ya no son meramente agregadas sino que interaccionan con otras. El problema de la gobernanza algor¨ªtmica es que gracias a los algoritmos intervenimos en la expresi¨®n de preferencias e intereses, pero no en la construcci¨®n de una totalidad social deseable que nos habr¨ªa permitido eventualmente modificarlos. Nuestra presencia en el proceso democr¨¢tico algor¨ªtmico ser¨ªa la de poner nuestros rastros y huellas a disposici¨®n de los sistemas de decisi¨®n, pero no la de intervenir en el di¨¢logo en el que se ponderan esos datos y se delibera acerca de la idea de sociedad deseable a partir de ellos. En una democracia algor¨ªtmica ser ciudadano consistir¨ªa en tener el derecho a emitir deseos pero no a ponderarlos con los de otros e incluso modificar esos deseos propios.

La gran promesa de la gobernanza algor¨ªtmica es que unos resultados ¨®ptimos nos hacen olvidar los procedimientos deseables. Es un tipo de gobernanza que parece preferir la efectividad aunque sea al precio de ser excluidos de la toma de decisiones (o reducidos a una presencia m¨ªnima, impl¨ªcita e individual, bajo la forma de requerimientos y preferencias presentes en nuestras huellas digitales). Pero si la ciudadan¨ªa no puede supervisar ni controlar de alg¨²n modo las decisiones algor¨ªtmicas, no podemos llamar a eso autogobierno del pueblo.

Siendo muy importante los resultados del gobierno, lo definitorio de la democracia es m¨¢s el procedimiento que el resultado. El gobierno democr¨¢tico no consiste en proporcionar ciertos outputs, sino en garantizar determinados inputs, concretamente aquellos que aseguran la igual libertad de todos los ciudadanos para tomar parte en el proceso de formaci¨®n de la voluntad pol¨ªtica y en los procesos de decisi¨®n. La gobernanza algor¨ªtmica ¨²nicamente puede ser democr¨¢tica cuando sus objetivos y procedimientos han sido expresamente autorizados por el pueblo en un acto de naturaleza pol¨ªtica. Esta gobernanza tiene al menos tres debilidades desde el punto de vista democr¨¢tico: que pensemos que al emitir se?ales digitales ya hemos expresado suficientemente lo que queremos, que lo hayamos hecho sin interiorizar expl¨ªcitamente la compatibilidad de nuestra voluntad con la de otros, que no advirtamos la profunda heterodeterminaci¨®n que esto supone. Una gobernanza que parece legitimarse porque no impone sino que complace corre el riesgo de que estemos tan satisfechos que dejemos de preocuparnos por las condiciones en que se ha producido esa satisfacci¨®n.

Daniel Innerarity es catedr¨¢tico de Filosof¨ªa Pol¨ªtica, investigador Ikerbasque en la Universidad del Pa¨ªs Vasco y profesor en el Instituto Europeo de Florencia. @daniInnerarity