La decisi¨®n y la m¨¢quina

La saga cinematogr¨¢fica Terminator es una de las distop¨ªas m¨¢s populares. Cuenta que, tras haber alcanzado la inteligencia de sus creadores humanos, las m¨¢quinas se rebelar¨¢n contra ellos y, para exterminarlos, producir¨¢n otras m¨¢quinas, asesinas y perfectas. Estallar¨¢ entonces la guerra total entre los hombres y sus artefactos y el destino de la humanidad quedar¨¢ en manos de un salvador providencial; etc¨¦tera. T¨ªpico patr¨®n mesi¨¢nico judeoprotestante: con su conspiraci¨®n y su redentor que nos salva.

El guion sin embargo es una variante del viejo mito del Golem. Su novedad est¨¢ en los espectaculares efectos especiales y en algunos gags inolvidables; y en un actor ideal ¡ªArnold Schwarzenegger¡ª, en la realidad, ¨¦l mismo una especie de Golem. Su personaje es el ogro de los relatos infantiles; o Yago, el perverso intrigante de Otelo, pues, como ¨¦l, es un ser de absoluta maldad, una criatura implacable cuya malignidad, por inmotivada e inexplicable, produce espanto.

?Podemos hacernos una idea del mal absoluto? Si est¨¢ encarnado en una m¨¢quina no parece tan dif¨ªcil, en cambio entender a Yago es mucho m¨¢s complicado, pues cuando un individuo es muy malo nuestros ojos se inventan un nihilista demoniaco con estatura moral, como Iv¨¢n Karamazov. El mal es dif¨ªcil; y poco nos ayudan las pautas dominantes, pues a medida que nuestras reglas y costumbres son cada vez m¨¢s permisivas, resulta muy dif¨ªcil imaginar un personaje absolutamente inicuo que sea tambi¨¦n veros¨ªmil. Porque hoy en d¨ªa todo el mundo es malo en alguna medida ¡ªotro t¨®pico judeoprotestante difundido por la cultura popular y refrendado por los psicopedagogos¡ª, de ah¨ª que los guionistas de cine escojan malos psicopatol¨®gicos, como Henry o Leatherface o Anton Chigurh o Hannibal Lecter, etc¨¦tera. Sin embargo, aunque narrativamente veros¨ªmil, el psic¨®pata es poco convincente en lo moral. De hecho, las leyes penales no admiten que el loco pueda ser considerado responsable de sus actos, justamente porque est¨¢ loco; y el mal, no menos que el bien, necesita un sujeto responsable. En efecto, que podamos identificar la responsabilidad en una acci¨®n nos permite determinar la intenci¨®n y su motivo y, sobre todo, la trasgresi¨®n, que en ¨²ltima instancia nos permitir¨¢ juzgarla moralmente.

Pero para eso ha de ser plausible que el sujeto se equivoque, que elija entre el mal o el bien y se desv¨ªe. A¨²n m¨¢s, se requiere una condici¨®n trascendental que no deriva de la idea que el sujeto se haga sobre lo bueno o lo malo, sino de una decisi¨®n ciega entre las dos instancias que, a su vez, puede ser correcta o equivocada. En suma, la responsabilidad presupone la posibilidad del error: no solo en la alternativa entre el bien y el mal, sino en el acto de decidir entre una opci¨®n u otra. Si una acci¨®n, cualquiera que sea, solo puede ser correcta ¡ªaunque se trate de hacer el mal¡ª, las decisiones dejan de ser tales y la moralidad se extingue.

As¨ª pues, si concebimos un artefacto en el que hayan sido eliminados todos los errores posibles ¡ªy eso seguramente ocurrir¨¢ tras alguna revoluci¨®n maqu¨ªnica¡ª, ya no ser¨¢n necesarias las tomas de decisiones ni el c¨¢lculo de riesgos, y la idea de responsabilidad ser¨¢ tan vac¨ªa como una met¨¢fora blanca. Pongamos el caso de los nuevos autom¨®viles sin conductor: ?tiene sentido sancionar una infracci¨®n de tr¨¢fico si quien la comete es un algoritmo? No. Es del todo improbable que un aut¨®mata liberado de la decisi¨®n por el algoritmo cometa infracciones; y, si falla, ?para qu¨¦ perder el tiempo con reprimendas o sanciones? Lo mejor ser¨¢ acudir al t¨¦cnico para que lo corrija. ?Pero entonces para qu¨¦ nos servir¨¢ tener un c¨®digo de circulaci¨®n?

Las m¨¢quinas, por otra parte, no solo no se equivocan, sino que, al contrario que los seres humanos, son perfectibles. Y como no se equivocan, tampoco deciden. Por eso la hip¨®tesis de Terminator puede ser inquietante y muy eficaz como ficci¨®n cinematogr¨¢fica, pero es falsa: puede que los artilugios t¨¦cnicos lleguen a ser casi humanos pero nunca decidir¨¢n rebelarse contra los hombres. En cambio, la batalla contra el error se libra a diario en nuestros artilugios cibern¨¦ticos. Cada actualizaci¨®n hace m¨¢s perfecto el artefacto ¡ªy, de paso, introduce alg¨²n sofisticado robot para afinar el control social¡ª. El perfeccionamiento indefinido nos empobrece desde un punto de vista ¨¦tico puesto que recorta la esfera de la incertidumbre en la experiencia y anula nuestra capacidad para tomar decisiones, que viene a ser sustituida por soluciones protocolizadas y programadas, como les pasa a los m¨¦dicos actuales cuando tratan una enfermedad.

Y no hablemos de esa ilusi¨®n de que Google ¡°aprende¡± y es cada a?o m¨¢s preciso e inteligente. Falso. Google no aprende, nosotros somos cada vez m¨¢s tontos.

Lo que diferencia a los hombres de las m¨¢quinas no es el sentimiento, simulable mediante un simple juego de lenguaje; ni es la raz¨®n, que, como ya sab¨ªan los mecanicistas del siglo XVII, es puro c¨¢lculo; ni por supuesto la memoria, que una m¨¢quina puede atesorar hasta niveles inimaginables para un ser humano; sino la decisi¨®n, que implica el error e introduce el caos y las contingencias en el mundo, las felices y las infelices.

He aqu¨ª el ¨²nico derecho a decidir que es preciso defender. Y a toda costa.

Esa ilusi¨®n de que Google aprende y es cada a?o m¨¢s preciso es falsa: Google no aprende, nosotros somos cada vez m¨¢s tontos