Inteligencia artificial y democracia

Los efectos de la inteligencia artificial sobre los diversos aspectos de nuestra vida han suscitado toda clase de expectativas y preocupaciones. Han impulsado un esfuerzo regulatorio que, en la Uni¨®n Europea se ha traducido en c¨®digos ¨¦ticos, una regulaci¨®n para proteger la privacidad y una propuesta reciente acerca de las precauciones que hemos de tener con los sistemas autom¨¢ticos de decisi¨®n. Las perspectivas desde las que se ha enfocado la cuesti¨®n son fundamentalmente el derecho privado, la reforma administrativa, la ciberseguridad y las recomendaciones ¨¦ticas, pero apenas la hemos pensado desde el punto de vista de la democracia, salvo algunos ensayos de corte catastrofista o, en el otro extremo, planteando unas promesas de democratizaci¨®n completamente ilusorias. La digitalizaci¨®n tiene una gran relevancia pol¨ªtica que no solo tiene que ver con el hecho de que de sea objeto de la pol¨ªtica (que haya unas pol¨ªticas de lo digital), sino que la digitalizaci¨®n misma ha de ser entendida como un proceso pol¨ªtico. En los debates acerca de la inteligencia artificial se habla mucho de su dimensi¨®n ¨¦tica, jur¨ªdica, econ¨®mica, pero muy poco de su dimensi¨®n pol¨ªtica.

Es necesario pensar qu¨¦ quiere decir autogobierno democr¨¢tico y qu¨¦ sentido tiene la libre decisi¨®n pol¨ªtica en esta nueva constelaci¨®n. Se tratar¨ªa de desarrollar una teor¨ªa de la decisi¨®n democr¨¢tica en un entorno mediado por la inteligencia artificial, elaborar una teor¨ªa cr¨ªtica de la raz¨®n autom¨¢tica. Necesitamos una filosof¨ªa pol¨ªtica de la inteligencia artificial, una aproximaci¨®n que no puede ser cubierta ni por la reflexi¨®n tecnol¨®gica ni por los c¨®digos ¨¦ticos.

Tenemos que prestar una mayor atenci¨®n a las disrupciones que esta nueva constelaci¨®n (sistemas cada vez m¨¢s inteligentes, una tecnolog¨ªa m¨¢s integrada y una sociedad m¨¢s cuantificada) va a producir en nuestra forma de organizaci¨®n democr¨¢tica. Ciertas decisiones ya no son adoptadas ¨²nicamente por los seres humanos sino confiadas en todo o en parte a sistemas que procesan datos y dan lugar a un resultado que no era plenamente pronosticable. ?Qu¨¦ pasa con la libre decisi¨®n ¡ªque es el n¨²cleo normativo de la democracia¡ª en entornos automatizados? ?Qui¨¦n decide cuando decide un algoritmo? El nuevo entorno digital nos va a obligar a pensar nuevamente algunas de las categor¨ªas b¨¢sicas de la pol¨ªtica y a gobernar este mundo con otros instrumentos. Estamos hablando de tecnolog¨ªas especialmente sofisticadas y complejas, en las que sirven de muy poco gen¨¦ricos llamamientos a su ¡°humanizaci¨®n¡± o ciertos c¨®digos ¨¦ticos que parecen desconocer su naturaleza. M¨¢quinas que aprenden, an¨¢lisis de datos en proporciones gigantescas o la actual proliferaci¨®n de sistemas de decisi¨®n automatizada no son dispositivos que puedan regularse con procedimientos simples de intervenci¨®n, pero eso es una disculpa para no hacer nada sino para que las instituciones regulatorias act¨²en por lo menos con la misma inteligencia que aquello que tienen obligaci¨®n de regular.

El que estemos asistiendo a un cambio brutal en nuestro entorno tecnol¨®gico, de consecuencias en buena parte imprevisibles, explica el hecho de que no sepamos muy bien c¨®mo diagnosticar la situaci¨®n y el escenario se haya llenado de valoraciones extremas, poco matizadas, de entusiasmo desmedido o de tintes apocal¨ªpticos, formuladas tambi¨¦n por intelectuales de los que tenemos derecho a esperar un juicio m¨¢s sereno. Estas valoraciones han ido evolucionando en un plazo de tiempo muy corto. Hace relativamente poco est¨¢bamos celebrando el potencial democratizador de la red en lo que se conoci¨® como las primaveras ¨¢rabes y el acceso universal al espacio p¨²blico mientras que ahora estamos atemorizados con los bots, las injerencias electorales y la desinformaci¨®n. El n¨²mero de septiembre de 2018 de la MIT Technology Review fue dedicado a la cuesti¨®n de si la tecnolog¨ªa estaba amenazando a nuestra democracia y The Economist del 18 de diciembre de 2019 ya hablaba de un ¡°aithoritarianism¡±, de un autoritarismo de la inteligencia artificial que podr¨ªa destruir las instituciones democr¨¢ticas. Esto explica que haya descripciones tan enfrentadas de la situaci¨®n en la que nos encontramos: mientras unos festejan la llegada de una pol¨ªtica sin prejuicios ideol¨®gicos, otros nos advierten sobre el final de la democracia. Hay quien asegura que la nueva tecnolog¨ªa vendr¨ªa a resolver los problemas ante los que ha fracasado la vieja pol¨ªtica; otros hacen responsable al nuevo entorno tecnol¨®gico de la p¨¦rdida de capacidad de gobierno sobre los procesos sociales y la des-democratizaci¨®n de las decisiones pol¨ªticas.

El interrogante fundamental que se nos plantea es qu¨¦ lugar ocupa la decisi¨®n pol¨ªtica en una democracia algor¨ªtmica. La democracia es libre decisi¨®n, voluntad popular, autogobierno. ?Hasta qu¨¦ punto es esto posible y tiene sentido en los entornos hiperautomatizados, algor¨ªtmicos, que anuncia la inteligencia artificial? La democracia representativa es un modo de articular el poder pol¨ªtico que lo atribuye a un ¨®rgano determinado y de acuerdo con una cadena de responsabilidad y legitimidad en la que se verifica el principio de que todo el poder procede del pueblo. Desde esta perspectiva la introducci¨®n de sistemas inteligentes autonomizados aparece como algo problem¨¢tico.

La tendencia general a un pilotaje automatizado de los asuntos humanos no es solo un aumento cuantitativo de los instrumentos que tenemos a nuestra disposici¨®n sino una transformaci¨®n cualitativa de nuestro ser en el mundo, un mundo en cuyo centro ya no nos encontramos. Con la automatizaci¨®n podr¨ªamos estar programando nuestra propia obsolescencia. Marvin Minsky afirmaba que deber¨ªamos considerarnos unos afortunados si en el futuro las m¨¢quinas inteligentes nos tienen como animales de compa?¨ªa. ?C¨®mo conseguir que no se cumpla esta siniestra profec¨ªa y los seres humanos tengamos una cierta soberan¨ªa en estos nuevos entornos tecnol¨®gicos?

Cuando hablamos de una inteligencia artificial centrada en el ser humano y democr¨¢tica hay b¨¢sicamente dos estrategias que permiten pensar en una reapropiaci¨®n de los procesos automatizados de decisi¨®n: el dise?o del ecosistema humanos-m¨¢quinas y la transparencia.

En primer lugar se tratar¨ªa de dise?ar la mejor presencia de los humanos en procesos caracterizados por una enorme complejidad, teniendo en cuenta que se trata de un equilibrio que incluye inevitablemente una cierta tensi¨®n: hemos de pensar ese ecosistema de modo que los humanos no quedemos subordinados (algo incompatible con nuestro ideal de autodeterminaci¨®n) y al mismo tiempo debemos intervenir en las m¨¢quinas sin arruinar su performatividad. Con esto no estoy planteando una soluci¨®n sino llamando la atenci¨®n sobre un problema que a veces pasan por alto algunas soluciones ¨¦ticas y human¨ªsticas que no son m¨¢s que meras exhortaciones.

La otra estrategia de humanizaci¨®n de la tecnolog¨ªa es a trav¨¦s de la transparencia como posibilidad de explicar, entender y exigir responsabilidad a la inteligencia artificial por parte de los humanos. Aqu¨ª tambi¨¦n hay soluciones y exigencias que parecen no tener en cuenta la complejidad de los sistemas o las limitaciones subjetivas de comprensi¨®n. La gran tarea a este respecto gira en torno a nociones que son m¨¢s realistas que la transparencia, como la explicabilidad, la generaci¨®n de confianza o la idea de que entender no es tanto un asunto subjetivo sino colectivo, que tiene que ser facilitado y regulado institucionalmente.

Los seres humanos hemos sido capaces de inventar, con mayor o menor fortuna, procedimientos e instituciones democr¨¢ticas para realidades muy distintas: para las ciudades griegas y para las ciudades-Estado del renacimiento, para los Estados nacionales y para alguna de nuestras instituciones globales como la Uni¨®n Europea. ?Estamos tan seguros de que esto no se puede conseguir en la nueva constelaci¨®n digital? Creo que no tenemos derecho a dejar de intentarlo mientras no se demuestre que es un objetivo imposible

Daniel Innerarity es catedr¨¢tico de Filosof¨ªa Pol¨ªtica e investigador Ikerbasque en la Universidad del Pa¨ªs Vasco. @daniInnerarity