M¨¢quinas de pensar, m¨¢quinas de matar: ?Es inteligente fabricar artefactos m¨¢s inteligentes que nosotros?

La m¨¢quina inteligente se reproduce y evoluciona m¨¢s r¨¢pido que el resto de las especies. Y lo hace siguiendo la estrategia de la flor, que seduce a la abeja para diseminar su semilla. Las m¨¢quinas de pensar seducen a inteligencias de otra especie prometiendo rentabilidad y dominio. Ya lo dijo Francis Bacon: conocer es poder. Poco despu¨¦s, Hobbes a?adi¨® que la naturaleza del Estado es depredadora, como lo son las grandes corporaciones, que crecen a base de ingerir peque?as empresas. Inteligencias que devoran inteligencias. ?Es inteligente construir un artefacto m¨¢s inteligente que nosotros? ?No acaba siempre la inteligencia mayor dominando a la menor? Nuestros hijos lo experimentan cada d¨ªa, sometidos a la tenaza del algoritmo. El saber mecanizado de hoy tiende al monopolio, a establecer una ¨²nica versi¨®n de la realidad. Frente a la diversidad de las culturas, la uniformidad de la m¨¢quina.

La primera m¨¢quina de pensar, prototipo del ChatGPT, se la debemos a un mallorqu¨ªn. La segunda a un fil¨®sofo alem¨¢n. Ramon Llull pretend¨ªa convertir infieles, Leibniz calcular. Dos formas de unificaci¨®n. Desde entonces, que las m¨¢quinas piensen por nosotros ha sido uno de los sue?os del ciudadano. Como civilizaci¨®n, nuestra deuda con las artes mec¨¢nicas es inmensa. Sin embargo, a pesar de sus maravillosos prodigios, algunos han visto en ellas una pulsi¨®n de muerte. Samuel Butler describi¨® esa din¨¢mica. Las m¨¢quinas no saben hacer el amor y reproducirse. Para ello utilizan a la especie humana, prometiendo el dominio militar, pol¨ªtico y econ¨®mico. La m¨¢quina, que no sabe desear, es capaz de hacer desear. Desde entonces, ingenieros y tecn¨®cratas han logrado una aceleraci¨®n in¨¦dita en la evoluci¨®n de las m¨¢quinas, mientras la especie humana queda rezagada.

Desconfiar del utopismo tecnol¨®gico no significa demonizar la t¨¦cnica. La t¨¦cnica ha existido desde el Neol¨ªtico y nuestra historia no puede entenderse sin ella. S¨®lo recientemente, cuando se ha plegado al mito mecanicista, la t¨¦cnica ha tomado una deriva que afecta al ejercicio mismo de la libertad. Va en busca de su perfecci¨®n, y nos hace creer que la manejamos a ella, cuando es ella la que, sigilosamente, va configurando nuestra forma de vida y de trabajar. A cambio, nos facilita la vida. Nos plegamos con gusto a las comodidades que ofrece. Multiplica la eficacia en procesos de producci¨®n y explotaci¨®n de recursos. Pero todo ello tiene un precio, sobre todo cuando la t¨¦cnica entra en los dominios de la inteligencia. Este peri¨®dico public¨® hace unos d¨ªas una entrevista con uno de los ¨²ltimos desertores del maquinismo, Geoffrey Hinton, que dejaba la vicepresidencia de ingenier¨ªa de Google. Sus confidencias deber¨ªan poner en guardia a los defensores de la libertad.

El mito moderno de la ciencia consiste en no ver que las ciencias tambi¨¦n pueden ser depredadoras (de otras ciencias o campos de investigaci¨®n), en creer que son democr¨¢ticas y que trabajan por el bienestar del g¨¦nero humano. Pueden hacerlo y tambi¨¦n pueden no hacerlo. No hace mucho vimos c¨®mo se utilizaba con fines b¨¦licos el conocimiento at¨®mico de los f¨ªsicos m¨¢s brillantes del mundo. M¨¢s recientemente, hemos visto c¨®mo la inyecci¨®n contra el engendro v¨ªrico no llegaba a los pa¨ªses m¨¢s pobres. ?Es que hay alguien suficientemente ingenuo para creer que el poder tecnol¨®gico estar¨¢ democr¨¢ticamente repartido? ?Que no ahondar¨¢ en la brecha entre ricos y pobres? ?Que no dejar¨¢ todo el poder en manos de una exigua oligarqu¨ªa? La filosof¨ªa se ocupa, entre otras cosas, de las pasiones humanas. El capitalismo desarrollado valora, por encima de todas, una de ellas: la ambici¨®n. No hace falta ser un lince para advertir que siempre habr¨¢ quienes fabriquen robots soldado o m¨¢quinas de matar (los m¨¢s activos en la guerra de Ucrania no son los reclutas, sino los drones).

La utop¨ªa contempor¨¢nea ya no es la reforma social, sino el sue?o tecnol¨®gico. La biotecnolog¨ªa y la IA son los proyectos estrella de las grandes corporaciones, que han desplazado a las universidades. Mientras tanto, las redes sociales y los metaversos se encargan de configurar mentes infantilizadas, narcisistas y sometidas al fetiche de la popularidad. Estos dos vectores, una cultura de la distracci¨®n y una inteligencia mec¨¢nica que configura los deseos de las masas, trazan una deriva siniestra.

Las novelas de ciencia ficci¨®n, desde hace m¨¢s de un siglo, vienen anticipando escenarios. William Grove y Karel ?apek (que acu?¨® el t¨¦rmino robot) fueron algunos de sus pioneros. Ambos relatan c¨®mo m¨¢quinas esclavas se rebelaban contra sus creadores humanos, como hacen m¨¢s tarde los replicantes de Philip K. Dick, o en Matrix, donde las m¨¢quinas ya han ganado la batalla y utilizan a los humanos como bater¨ªas. De todas estas historias, la m¨¢s interesante es la de Arthur C. Clarke. En ella la inteligencia artificial de una nave espacial asesina a los tripulantes que pretenden desactivarla. La literatura es el discurso te¨®rico de los procesos hist¨®ricos. Algunos gur¨²s de la IA han empezado a advertir ese reverso tenebroso que aparec¨ªa en las novelas. ¡°Si la m¨¢quina es inteligente se dar¨¢ cuenta de que consigue mejor sus objetivos si se vuelve m¨¢s poderosa¡±. Ese poder ¡°podr¨ªa desatar el fin de la civilizaci¨®n en cuesti¨®n de a?os¡±, cuenta Geoffrey Hinton en la citada entrevista. Especialmente ahora que la IA ha introducido el llamado ¡°aprendizaje profundo¡± o intuitivo (una refutaci¨®n sutil del racionalismo y de la sobreestimaci¨®n de la l¨®gica simb¨®lica).

El asunto ya no es si la IA puede llegar a ser consciente o si tiene experiencias o deseos. Es decir, si la inteligencia es s¨®lo informaci¨®n, o tambi¨¦n experiencia y deseo. Estamos ante otro tipo de problema: las graves consecuencias de depositar nuestra inteligencia en estas m¨¢quinas de pensar. El individuo, si ha alcanzado un cierto grado de sabidur¨ªa y madurez, es capaz de controlar sus deseos, de armonizarlos con el entorno. ?Ser¨¢n estas m¨¢quinas capaces de hacerlo? Es un hecho que la competencia entre pa¨ªses y grandes compa?¨ªas es hoy d¨ªa fren¨¦tica. Muchas de las personas m¨¢s inteligentes e intuitivas del planeta est¨¢n seriamente preocupadas. Hinton sugiere poner todos los esfuerzos en que la IA sea segura. Es pedir peras al olmo. Una bomba o un virus modificado son artefactos explosivos. Han nacido para su diseminaci¨®n. La amenaza de estos engendros es su naturaleza expansiva. Lo mismo puede decirse de la inteligencia mec¨¢nica. El Sol contiene su explosividad con la gravedad, que es una de las formas de la seriedad. Los astrof¨ªsicos saben que llegar¨¢ un d¨ªa en que ya no pueda hacerlo. Entonces acabar¨¢ la vida en la Tierra (si no la hemos acabado nosotros antes). Ese compromiso de las estrellas con las formas de vida es el que ahora hemos de reclamar a las grandes corporaciones (m¨¢s poderosas que los Estados). En sus manos hemos depositado el destino de la civilizaci¨®n. La IA, ese h¨ªbrido naturaleza-cultura (Latour), puede acabar con la naturaleza y con la cultura. Lo que hemos querido ser, con lo que somos. Prometeo encadenado. Nada nuevo bajo el sol.

Ap¨²ntate aqu¨ª a la newsletter semanal de Ideas.