Los algoritmos que elegir¨¢n al pr¨®ximo presidente del Gobierno

En 1955, Isaac Asimov public¨® su relato?Sufragio universal. En ¨¦l describe c¨®mo la primera democracia electr¨®nica utiliza el computador m¨¢s avanzado del mundo (Multivac) para decidir el voto de toda una naci¨®n, con la intervenci¨®n de un ¨²nico votante humano.

Si bien no hemos llegado a ese inquietante futuro, el papel de la inteligencia artificial y de la ciencia de datos es cada vez m¨¢s importante en el curso de las elecciones democr¨¢ticas. Las campa?as electorales de Barack Obama y Donald Trump, el Partido Sint¨¦tico de Dinamarca y el robo masivo de informaci¨®n en la campa?a de Macron son buenos ejemplos.

El ¡°an¨¢lisis de sentimiento¡±

Uno de los primeros casos de ¨¦xito en el uso de t¨¦cnicas de?big data?y an¨¢lisis de redes sociales para ajustar una campa?a electoral fue el de Barack Obama para las presidenciales de Estados Unidos en 2012. En su campa?a (y en muchas otras despu¨¦s), las encuestas tradicionales de intenci¨®n de voto, basadas en llamadas telef¨®nicas o entrevistas personales, se complementaron con el an¨¢lisis de redes sociales.

Estos an¨¢lisis ofrecen un m¨¦todo barato y casi en tiempo real de?medir la opini¨®n de los votantes. Para ello se aplican t¨¦cnicas de?Procesamiento del Lenguaje Natural?(PLN), en particular las dedicadas al?an¨¢lisis de sentimiento. Dichas t¨¦cnicas analizan los mensajes contenidos en tuits, blogs, etc. y tratan de medir si las opiniones vertidas en ellos son positivas o negativas con respecto a un cierto pol¨ªtico o a un cierto mensaje electoral.

El principal problema que tienen es el?sesgo muestral, pues los usuarios m¨¢s activos en redes sociales suelen ser j¨®venes y tecn¨®filos, y?no representan a toda la poblaci¨®n. Por eso, estas t¨¦cnicas tienen limitaciones a la hora de predecir resultados electorales, aunque resultan muy ¨²tiles para estudiar las tendencias de voto y el estado de opini¨®n de la gente.

El caso Donald Trump

M¨¢s inquietante que el estudio de las emociones en redes sociales resulta su uso para influenciar estados de opini¨®n y modular el voto. Un caso bien conocido es el de la campa?a de Donald Trump en las presidenciales de EE?UU de 2016. El?big data?y los?perfiles psicogr¨¢ficos?tuvieron mucho que ver con una victoria que no hab¨ªan logrado predecir las encuestas.

No se trat¨® de una manipulaci¨®n en masa, sino que diferentes votantes recibieron diferentes mensajes basados en predicciones sobre su susceptibilidad a diferentes argumentos, recibiendo informaci¨®n sesgada, fragmentada y a veces contradictoria con otros mensajes del candidato. La tarea fue encomendada a la empresa?Cambride Analytica, que se vio implicada en una pol¨¦mica por la recopilaci¨®n no autorizada de informaci¨®n sobre millones de usuarios de Facebook.

El m¨¦todo de Cambride Analytica se bas¨® en los estudios de psicometr¨ªa de?Kosinski, que comprob¨® como con un n¨²mero limitado de?likes?se puede obtener un perfil del usuario tan acertado como si lo hicieran sus familiares o amigos.

El problema con este enfoque no est¨¢ en el uso de la tecnolog¨ªa, sino en la naturaleza ¡°encubierta¡± de la campa?a, la manipulaci¨®n psicol¨®gica a votantes susceptibles a trav¨¦s de apelaciones directas a sus emociones o la difusi¨®n deliberada de noticias falsas a trav¨¦s de?bots. Fue el caso de Emmanuel Macron en las presidenciales francesas de 2017. Su campa?a sufri¨® un?robo masivo de correos electr¨®nicos?a solo dos d¨ªas de las elecciones. Multitud de?bots?se encargaron de difundir evidencias de comisi¨®n de delitos supuestamente contenidos en la informaci¨®n, que luego resultaron falsas.

Acci¨®n pol¨ªtica y gobierno

No menos inquietante que el punto anterior es la posibilidad de que una inteligencia artificial (IA) nos gobierne.

Dinamarca abri¨® el debate en sus ¨²ltimas elecciones legislativas, a las que concurri¨® el?Partido Sint¨¦tico?liderado por una IA, un?chatbot llamado Leader Lars, con la aspiraci¨®n de entrar en el parlamento. Detr¨¢s del?chatbot?hay humanos, naturalmente, en particular la fundaci¨®n MindFuture de arte y tecnolog¨ªa.

Leader Lars fue entrenado con los programas electorales de partidos daneses marginales desde 1970 para configurar una propuesta que representara al 20?% de la poblaci¨®n danesa que no acude a las urnas.

Si bien el Partido Sint¨¦tico parece una extravagancia (con propuestas tan atrevidas como una renta b¨¢sica universal superior a 13.400 € al mes), ha servido para estimular el debate sobre la capacidad de una IA para gobernarnos. ?Puede realmente una IA contempor¨¢nea, bien entrenada y con suficientes recursos, gobernarnos?

Si analizamos el pasado reciente de la inteligencia artificial, vemos que los avances se suceden uno tras otro a velocidad de v¨¦rtigo, particularmente en el campo del procesamiento del lenguaje natural tras la aparici¨®n de las arquitecturas basadas en transformers. Los?transformers?son enormes?redes neuronales artificiales?entrenadas para aprender a generar textos, pero f¨¢cilmente adaptables a muchas otras tareas. De alguna manera, estas redes aprenden la estructura general del lenguaje humano y acaban teniendo un conocimiento del mundo a trav¨¦s de lo que han ¡°le¨ªdo¡±.

Uno de los ejemplos m¨¢s avanzados y espectaculares lo ha desarrollado OpenAI y se llama?ChatGPT. Se trata de un?chatbot capaz de responder de manera coherente a casi cualquier pregunta formulada en lenguaje natural, de generar texto o de efectuar tareas tan complicadas como escribir programas inform¨¢ticos a partir de unas pocas indicaciones.

Libres de corrupci¨®n, pero sin transparencia

Las ventajas de usar una IA para la acci¨®n de gobierno ser¨ªan varias. Por una parte, su capacidad de procesar datos y conocimiento para la toma de decisiones es muy superior a la de cualquier humano. Tambi¨¦n estar¨ªa libre (en principio) del fen¨®meno de la corrupci¨®n y no le influir¨ªan los intereses personales.

Pero, a d¨ªa de hoy, los?chatbots?solo reaccionan, se alimentan de la informaci¨®n que alguien le proporciona y dan respuestas. No son realmente libres de pensar ¡°espont¨¢neamente¡±, de tomar la iniciativa. Es m¨¢s adecuado ver estos sistemas como or¨¢culos, capaces de responder a preguntas del tipo ¡°qu¨¦ crees que pasar¨ªa si¡­¡±, ¡°que propondr¨ªas en caso de¡­¡±, m¨¢s que como agentes activos o controladores.

Los posibles problemas y?peligros de este tipo de inteligencias, basadas en grandes redes neuronales, han sido analizados en la literatura cient¨ªfica. Un problema fundamental es el de la falta de transparencia (¡°explicabilidad¡±) de las decisiones que toman. En general act¨²an como ¡°cajas negras¡± sin que podamos saber qu¨¦ razonamiento han llevado a cabo para llegar a una conclusi¨®n.

Y no olvidemos que detr¨¢s de la m¨¢quina est¨¢n los humanos, que han podido introducir ciertos sesgos (consciente o inconscientemente) en la IA a trav¨¦s de los textos que han usado para entrenarla. Por otro lado, la IA no est¨¢ libre de dar datos o consejos err¨®neos, como muchos usuarios de ChatGPT han podido experimentar.

Los avances tecnol¨®gicos permiten vislumbrar una futura IA capaz de ¡°gobernarnos¡±, por el momento no sin el imprescindible control humano. El debate deber¨ªa moverse pronto del plano t¨¦cnico al plano ¨¦tico y social.

Jorge Gracia del R¨ªo es investigador ¡°Ram¨®n y Cajal¡± en Lenguajes y Sistemas Inform¨¢ticos, Universidad de Zaragoza.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.