Las m¨¢quinas, las instituciones y la democracia

El mundo contempor¨¢neo, su complejidad y desarrollo nos obligan cada vez m¨¢s a confiar ¡ªen m¨¢quinas, algoritmos, expertos, instituciones, ¨¦lites, intermediarios, representantes¡­¡ª y con frecuencia esa confianza es decepcionada y se rompe hasta el punto de desatar el movimiento contrario, una gen¨¦rica voluntad de desintermediaci¨®n: el deseo de recuperar el control, verificar por nosotros mismos la informaci¨®n, estar correctamente representados, exigir que haya siempre un humano en los procesos autom¨¢ticos de decisi¨®n, recuperar la autodeterminaci¨®n o administrar con mayor celo la delegaci¨®n.
...

El mundo contempor¨¢neo, su complejidad y desarrollo nos obligan cada vez m¨¢s a confiar ¡ªen m¨¢quinas, algoritmos, expertos, instituciones, ¨¦lites, intermediarios, representantes¡­¡ª y con frecuencia esa confianza es decepcionada y se rompe hasta el punto de desatar el movimiento contrario, una gen¨¦rica voluntad de desintermediaci¨®n: el deseo de recuperar el control, verificar por nosotros mismos la informaci¨®n, estar correctamente representados, exigir que haya siempre un humano en los procesos autom¨¢ticos de decisi¨®n, recuperar la autodeterminaci¨®n o administrar con mayor celo la delegaci¨®n.

Las m¨¢quinas y las instituciones tienen mucho en com¨²n e igualmente el modo como nos relacionamos con ellas. Podemos establecer un paralelismo entre nuestra actitud hacia la tecnolog¨ªa y la crisis de representaci¨®n pol¨ªtica, entre la sospecha popular frente a la creciente sofisticaci¨®n tecnol¨®gica y el deseo populista de recuperar el control pol¨ªtico supuestamente perdido en la cadena de la delegaci¨®n. Es muy razonable aspirar a que ni la t¨¦cnica ni los pol¨ªticos escapen de nuestro control, pero hay que ver c¨®mo lo hacemos para que ni la t¨¦cnica ni los pol¨ªticos controlados de cualquier manera anulen la prestaci¨®n que esperamos de ellos.

La delegaci¨®n del control

La tecnolog¨ªa y las instituciones nos ayudan a lidiar con la complejidad. En los dos ¨¢mbitos realizamos una gran cantidad de delegaciones que implican una renuncia a controlar o, al menos, una limitaci¨®n de nuestro control. El mejor funcionamiento y la seguridad de ciertas m¨¢quinas con un determinado nivel de complejidad ser¨ªa imposible si los humanos nos empe?¨¢ramos en incrementar nuestro control sobre ellas, si no estuvi¨¦ramos dispuestos a renunciar a una parte de nuestra soberan¨ªa tecnol¨®gica. De ah¨ª que cedamos control a los coches, a los aviones, a los sistemas de calefacci¨®n y refrigeraci¨®n, a los drones, a las contrase?as y, en el plano social y pol¨ªtico, a los profesionales, expertos, representantes o instituciones de diverso tipo.

Los usuarios y los ciudadanos somos los soberanos en ¨²ltima instancia, pero no necesariamente en todo momento, porque hay ocasiones en las que preferimos limitar esa soberan¨ªa, compartirla e incluso renunciar a ella. Podemos examinar esta paradoja de un soberano que autolimita su poder por analog¨ªa con aquellos sistemas que son inteligentes porque son capaces de oponerse a la voluntad expresa de quienes los dirigen. La sofisticaci¨®n de muchos dispositivos incluye procedimientos que impiden hacer lo que quiera a quien est¨¢ al mando (de un artefacto o de un gobierno), desde los sistemas de frenado autom¨¢tico en nuestros veh¨ªculos hasta los l¨ªmites constitucionales para el sistema pol¨ªtico. ?No ser¨¢ que nuestras mejores tecnolog¨ªas exigen que renunciemos a una parte al menos de nuestro control sobre ellas? ?Y si la democracia fuera un sistema cuya inteligencia consiste en que es capaz de combinar institucionalmente la delegaci¨®n del poder con el control sobre ¨¦l o, por agudizar a¨²n m¨¢s la paradoja, la soberan¨ªa popular con la sospecha hacia esa misma soberan¨ªa?

?Y si la democracia fuera un sistema cuya inteligencia consiste en que es capaz de combinar institucionalmente la delegaci¨®n del poder con el control sobre ¨¦l?

Lo dir¨¦ de una manera un tanto provocativa: la paradoja de todo sistema inteligente es que no nos permite hacer lo que queremos. Veamos algunos ejemplos; uno del derecho constitucional, otro de los sistemas de conducci¨®n automatizada y otro de los productos financieros. A lo que m¨¢s se parece una Constituci¨®n es a un conjunto de prohibiciones y limitaciones; dificulta incluso su propia modificaci¨®n, a la que pone condiciones de procedimiento y mayor¨ªas cualificadas para asegurarse as¨ª de que esos cambios no son una ocurrencia ocasional ni el resultado de una mayor¨ªa exigua. El sistema de freno ABS, por ejemplo, sirve para impedir que, en un momento de p¨¢nico, frenemos tanto como quisi¨¦ramos, lo que pondr¨ªa en peligro nuestra estabilidad y terminar¨ªa haci¨¦ndonos m¨¢s da?o, que es lo que en ¨²ltima instancia quisi¨¦ramos evitar. Formulado de otra manera: la industria del autom¨®vil dej¨® de confiar en los conductores mucho antes de que los conductores dejaran de confiar en la industria del autom¨®vil; es m¨¢s, la evoluci¨®n de esta industria pone de manifiesto que los conductores confiamos menos en nosotros que en los coches. Uno puede comprar libremente los productos financieros que quiera (y que pueda, claro), pero la experiencia de la crisis econ¨®mica anterior nos ha llevado a endurecer las condiciones obligando a la instituciones crediticias a asegurarse de que quien los compra tenga la solvencia y el conocimiento necesario para adquirir un producto que no est¨¢ exento de riesgos. En todos estos casos se distingue nuestra voluntad de control ahora frente a nuestro deseo de control general. La voluntad popular no debe confundirse con la encuesta del d¨ªa; mi deseo de controlar no es tanto frenar a toda costa como evitar un accidente; mi libertad de comprar puede atender tambi¨¦n a los riesgos de comprar cualquier cosa. De alguna manera, la inteligencia sist¨¦mica ha configurado una serie de protocolos para que las personas no puedan hacer lo que quieran cuando est¨¢n por medio artefactos especialmente peligrosos, sea un veh¨ªculo, un producto financiero¡­ o un gobierno.

El control de la delegaci¨®n

Los humanos no nos resignamos d¨®cilmente a aceptar que las cosas puedan escapar de nuestro control, sea la tecnolog¨ªa o los procesos pol¨ªticos. Tratamos de aumentar el control con medidas suplementarias de seguridad, exigiendo que haya m¨¢s humanos en el loop (proceso), con mayor producci¨®n legislativa o minimizando la delegaci¨®n que concedemos a nuestros representantes a los que queremos controlar lo m¨¢s estrechamente que sea posible.

La expresi¨®n take back control (recupera el control) fue el lema de los partidarios del Brexit, pero, adem¨¢s de un eslogan de propaganda pol¨ªtica, corresponde a un movimiento general de resistencia contra la p¨¦rdida de control, real o aparente, que experimentamos frente a la tecnolog¨ªa sofisticada y ante la pol¨ªtica en un entorno de creciente complejidad. El mantra de ¡°empoderar¡±, por ejemplo, corresponde al supuesto de que uno se hace m¨¢s fuerte cuanto menos delega, que el pueblo es m¨¢s soberano cuanto m¨¢s inmediata es su voluntad, que la representaci¨®n desfigura al representado, que la vigilancia sobre los pol¨ªticos aumenta su rendimiento, que el incremento de la participaci¨®n mejora necesariamente la pol¨ªtica, que un refer¨¦ndum es siempre mejor que la deliberaci¨®n¡­ Flota en el ambiente una excesiva confianza en el poder constituyente y una excesiva sospecha hacia el poder constituido.

La idea de que no siempre ¡°m¨¢s¡± equivale a ¡°mejor¡± ¡ªcomo ha experimentado cualquiera en el ¨¢mbito de la informaci¨®n o de los datos, cuya proliferaci¨®n tambi¨¦n puede despistar¡ª resulta especialmente v¨¢lida cuando hablamos de control: tambi¨¦n aqu¨ª tener algo bajo control puede suponer una anulaci¨®n de sus posibles prestaciones. Y, en sentido contrario, no siempre la delegaci¨®n es una renuncia a ejercer la libre decisi¨®n o las propias responsabilidades, del mismo modo que confiar no equivale a creerse o aceptar cualquier cosa. No necesariamente la mejor pol¨ªtica y las decisiones m¨¢s democr¨¢ticas son las adoptadas con mayor participaci¨®n, con representantes m¨¢s monitorizados y en la proximidad. Para muchas decisiones puede requerirse competencia t¨¦cnica, delegaci¨®n, discreci¨®n, confianza y distancia. Esta experiencia nos deber¨ªa llevar a subrayar la importancia de los procedimientos y las instituciones que moderan el control sobre el proceso pol¨ªtico, tanto el que ejercen los representantes como los representados, el del pueblo soberano.

El populismo reivindica una especie de control directo sobre la realidad entendido como la recuperaci¨®n de algo que una vez tuvimos ¡ªantes de la delegaci¨®n¡ª, pero que de hecho no hemos tenido nunca. Desde esta perspectiva, el populismo podr¨ªa definirse como una sobrevaloraci¨®n del control directo y una infravaloraci¨®n del control indirecto. Su consecuencia es que desincentiva la exploraci¨®n de formas aceptables de transacci¨®n y equilibrio entre control y delegaci¨®n, supervisi¨®n y confianza, en las que discurre nuestra relaci¨®n con la tecnolog¨ªa y nuestra convivencia democr¨¢tica.

La delegaci¨®n como control

Del mismo modo que en muchos entornos tecnol¨®gicos ceder poder a las m¨¢quinas nos permite gobernar mejor la situaci¨®n general (m¨¢s eficacia, prestaciones o seguridad), establecer procedimientos de delegaci¨®n puede entenderse como una mejora de nuestro autogobierno. Evidentemente, esto no se consigue con cualquier cesi¨®n o delegaci¨®n, sino con aquella que est¨¢ dise?ada de tal manera que el control inmediato al que se renuncia es recuperado de alguna manera como supervisi¨®n general. La delegaci¨®n, tecnol¨®gica o pol¨ªtica, consiste en renunciar al control directo para ganar en control general. Esta es la gran discusi¨®n en la que estamos metidos acerca del humanismo tecnol¨®gico o lo que llamo democracia compleja, cuya soluci¨®n no puede consistir ni en la tecnolog¨ªa descontrolada ni en la pol¨ªtica tecnocr¨¢tica sin soberan¨ªa popular, pero tampoco en empe?arse en mantener el concepto de control propio del populismo tecnol¨®gico y pol¨ªtico.

Esta idea de una delegaci¨®n como control general o supervisi¨®n parece abrirse paso en distintos ¨¢mbitos donde el control inmediato resulta imposible o desaconsejable. Podr¨ªamos mencionar el hecho de que, con relaci¨®n a la inteligencia artificial, entre los legisladores se ha ido produciendo un paulatino desplazamiento desde el t¨¦rmino control al de confianza; parecen haber entendido que la presencia humana que desean en las m¨¢quinas, salvo que queramos arruinar su eficacia, no puede ser pensada en t¨¦rminos de sumisi¨®n, sino de fiabilidad. Algunas formas de dise?o institucional recorren un camino similar. Del mismo modo que la soberan¨ªa formal no significa necesariamente soberan¨ªa efectiva, puede haber formas de control que impidan el control real y cabe pensar en autolimitaciones de la pulsi¨®n de controlar que generen un mejor rendimiento de los sistemas controlados y una mayor supervisi¨®n general sobre ellos.

La delegaci¨®n de tareas y responsabilidades es un principio b¨¢sico de las organizaciones cuando quieren abordar tareas de cierta envergadura y en ellas el control jer¨¢rquico tiene que ir siendo sustituido por una confianza horizontal. Cuanto m¨¢s inteligente es un sistema, una tecnolog¨ªa, una persona, una instituci¨®n, menos tolera el control directo, m¨¢s margen de delegaci¨®n necesita para cumplir satisfactoriamente las funciones que esperamos de ¨¦l; su sometimiento a un control estricto arruinar¨ªa su performatividad.

Cuanto m¨¢s inteligente es un sistema, una tecnolog¨ªa, una persona, una instituci¨®n, menos tolera el control directo

Defender el valor pol¨ªtico de la delegaci¨®n no significa estar a favor de la pol¨ªtica autoritaria o de la tecnocracia, ni de que decidan los algoritmos, sino llamar la atenci¨®n sobre la necesidad de que quien constituye la fuente ¨²ltima de autoridad en una democracia ¡ªel pueblo soberano¡ª controle tambi¨¦n su voluntad de control sobre el proceso pol¨ªtico. Una voluntad de control inmoderada puede ser tan disfuncional como la p¨¦rdida de control. Lo que deber¨ªa interesarnos es que el proceso pol¨ªtico resulte comprensible a todos y que haya una rendici¨®n de cuentas, no que el pueblo est¨¦ siempre presente en cada decisi¨®n pol¨ªtica o contemple en directo todos los actos de ese proceso.

Ese control que es fundamental para que la tecnolog¨ªa no nos deshumanice o la pol¨ªtica no carezca de legitimidad popular no tiene por qu¨¦ ser directo, continuo e inmediato. Puede haber control tecnol¨®gico y social sin que eso signifique una presencia permanente del controlador. El sistema controlado ¡ªel dispositivo tecnol¨®gico o los representantes pol¨ªticos¡ª no es una instancia de mera ejecuci¨®n de las instrucciones de los controladores. En el dise?o equilibrado de todo esto nos jugamos que la tecnolog¨ªa est¨¦ centrada en el humano y la pol¨ªtica siga siendo democr¨¢tica. Se trata de pensar de qu¨¦ modo la delegaci¨®n puede ser una forma sofisticada de control, frente a la delegaci¨®n del control y al control de la delegaci¨®n.

Daniel Innerarity es catedr¨¢tico de Filosof¨ªa Pol¨ªtica e investigador Ikerbasque en la Universidad del Pa¨ªs Vasco.