?Llegar¨¢ un algoritmo inform¨¢tico a ser presidente del Gobierno?

Las m¨¢quinas, con los algoritmos que las hacen funcionar, comenzaron a entender frases simples en ingl¨¦s en los a?os sesenta. M¨¢s tarde aprendieron a traducir textos m¨¢s complejos a cientos de lenguajes, filtrar nuestros correos electr¨®nicos y reconocer un texto escrito a mano. Y hoy ya son capaces de ganarnos en juegos de estrategia y l¨®gica, entender lo que decimos y actuar en consecuencia, asistir a los m¨¦dicos y vencer a los mejores jugadores de ajedrez o Go.

Un bot es un programa inform¨¢tico que imita el comportamiento humano, y un chatbot es el bot que simula una conversaci¨®n con una persona. Los primeros pueden decirse que existen desde hace 50 a?os. Y los segundos, los bots conversacionales, est¨¢n brotando por todas partes. En la prensa, a estos algoritmos se les denomina Inteligencias Artificiales. Yo prefiero llamarlos algoritmos inform¨¢ticos, porque tienen mucha inform¨¢tica adem¨¢s de los algoritmos espec¨ªficos de Inteligencia Artificial (IA), que es una parte de la inform¨¢tica.

Los programas m¨¢s avanzados son capaces de entender el discurso humano y mantener una conversaci¨®n l¨®gica y seudointeligente, y adem¨¢s en varios idiomas, lo que tambi¨¦n est¨¢ permitiendo grandes avances en la traducci¨®n autom¨¢tica y permite vislumbrar el traductor instant¨¢neo en el horizonte. Las capacidades de la herramienta ChatGPT es una buena muestra de lo que decimos.

Pero lograr esta comprensi¨®n autom¨¢tica de la informaci¨®n no es f¨¢cil porque el programa inform¨¢tico no solo tiene que leer o escuchar la informaci¨®n, sino tambi¨¦n relacionarla e interpretarla para entenderla y poder actuar o responder en consecuencia. Si durante una conversaci¨®n alguien dice Sevilla, el algoritmo inform¨¢tico debe poder distinguir si se refiere a la ciudad o al club de f¨²tbol, y para ello no solo necesita poder procesar el lenguaje, sino haber sido dotado de mucha informaci¨®n, de definiciones de conceptos y conocimientos b¨¢sicos para poder razonar y extraer la soluci¨®n del contexto, como lo har¨ªa una persona.

Las m¨¢quinas y los algoritmos inform¨¢ticos son el futuro y en muchos casos ya el presente, y sus avances despiertan sorpresa, temor y, habitualmente, preocupaci¨®n. Sin duda, el principal miedo con los algoritmos inform¨¢ticos y sus avances, es su hipot¨¦tica capacidad de tomar decisiones que jueguen en contra de los seres humanos. La realidad es que, a diferencia de las historias que nos cuentan algunas pel¨ªculas, las m¨¢quinas, los algoritmos, no son conscientes de su propia existencia, no tienen sus propios objetivos y sentimientos. Esto est¨¢ a siglos de nuestras capacidades tecnol¨®gicas actuales.

Pero ?Necesitan los algoritmos una gu¨ªa ¨¦tica? La Unesco ha tomado la iniciativa. Sus 193 miembros han adoptado esta semana una lista de recomendaciones que quiere ser una gu¨ªa ¨¦tica, la primera de car¨¢cter mundial. Esta gu¨ªa puede consultarse aqu¨ª.

Una recomendaci¨®n, la n¨²mero 26, es taxativa: ¡°Los sistemas de IA no deber¨ªan utilizarse con fines de calificaci¨®n social o vigilancia masiva¡±. Otro de los consejos, el 36, estipula que ¡°un sistema de IA nunca podr¨¢ reemplazar la responsabilidad final de los seres humanos y la obligaci¨®n de rendir cuentas¡±. ¡°Por regla general ¨Ca?ade el texto¨C las decisiones de vida o muerte no deber¨ªan cederse a los sistemas de inteligencia artificial¡±.

Pero el debate es m¨¢s profundo

?Podr¨¢ existir un partido pol¨ªtico dirigido por un algoritmo inform¨¢tico y cuyo l¨ªder sea un chatbot?. Quiz¨¢ suene a ciencia ficci¨®n o al argumento de una serie dist¨®pica, pero es un hecho real; ese partido ya existe, y forma parte de la campa?a electoral en Dinamarca. Se llama Synthetic Party, y est¨¢ liderado por Leader Lars, un chatbot con el que cualquier ciudadano puede hablar.

Los impulsores del Synthetic Party aspiran a presentarse a las pr¨®ximas contiendas electorales en Dinamarca. Para ello piden que se cambie la ley para que un algoritmo se pueda presentar como candidato a las elecciones. Lo que piden no es presentarse un grupo de personas asesoradas por el algoritmo. Quieren que sea el algoritmo inform¨¢tico el que se presente a las elecciones y tome las decisiones pol¨ªticas pertinentes a partir de la interacci¨®n que haya tenido con los electores.

Pero, ?cu¨¢l es su ideolog¨ªa?, ?progresista?, ?conservadora? ¡°El partido es sint¨¦tico, lo que literalmente significa que homogeneiza lo que parece contradictorio o dispar¡±, explica Asker Bryld Staunaes, miembro del grupo de artistas Computer Lars y del centro tecnol¨®gico MindFuture y principal creador e impulsor del Synthetic Party.

Hay otros movimientos similares en el resto del mundo. Le llaman pol¨ªticos virtuales. En Wikipedia se puede encontrar informaci¨®n sobre estos movimientos y art¨ªculos relacionados.

Pero la pregunta es: ?Queremos que un algoritmo inform¨¢tico se presente a las elecciones? Mi respuesta es no. No, por varias razones. La primera es que la pol¨ªtica es un quehacer humano b¨¢sico. Es la actividad que usamos para tomar decisiones globales. La pol¨ªtica es inherentemente conflictiva en la medida en que hay intereses contrapuestos en la sociedad y, por lo tanto, nos enga?an cuando propugnan una pol¨ªtica sint¨¦tica, neutra, por encima de los intereses.

En l¨ªnea con las recomendaciones de la Unesco, creo que siempre tiene que haber una persona que sea responsable de las recomendaciones que hace un algoritmo y m¨¢s en el terreno de la pol¨ªtica. De la misma manera, creo que debemos pedir que una persona se responsabilice de cada decisi¨®n que un algoritmo puede tomar, pero no escudarse tras ¨¦l. Ya sea al pedir una hipoteca, en la priorizaci¨®n en un hospital, etc.

Reivindico la importancia de la pol¨ªtica, de la participaci¨®n pol¨ªtica y la necesidad de los pol¨ªticos. Defender que un algoritmo inform¨¢tico tome las decisiones es pensar que la neutralidad es posible y que los pol¨ªticos deber¨ªan desaparecer. Es un movimiento antipol¨ªtico que, si lo pensamos con detalle, prefiere que las cosas sigan como est¨¢n.

Miguel Toro es catedr¨¢tico de Lenguajes y Sistemas Inform¨¢ticos de la Universidad de Sevilla.

Cr¨®nicas del Intangible es un espacio de divulgaci¨®n sobre las ciencias de la computaci¨®n, coordinado por la sociedad acad¨¦mica SISTEDES (Sociedad de Ingenier¨ªa de Software y de Tecnolog¨ªas de Desarrollo de Software). El intangible es la parte no material de los sistemas inform¨¢ticos (es decir, el software), y aqu¨ª se relatan su historia y su devenir. Los autores son profesores de las universidades espa?olas, coordinados por Ricardo Pe?a Mar¨ª (catedr¨¢tico de la Universidad Complutense de Madrid) y Macario Polo Usaola (profesor titular de la Universidad de Castilla-La Mancha).

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.