?tica 2000

En una soleada ma?ana de los albores del pr¨®ximo milenio, un profesor de moral se dirigi¨® a sus alumnos con el siguiente relato:-Todos ustedes saben que el lamentable desarrollo del materialismo en el pasado siglo oblig¨® a los cristianos a volver a las catacumbas. Anhelando un milagro que reconfortase la fe de los creyentes y no ocurri¨¦ndosele cosa mejor, el Papa confi¨® a un devoto monje la misi¨®n de descubrir el sepulcro de un santo, de sobrenombre Aquino, que en tiempos remotos contribuy¨® decisivamente con su raz¨®n y con su fe al esplendor de la cristiandad. El fraile al que se le encomend¨® la b¨²squeda sali¨® de las catacumbas dispuesta a recorrer, uno por uno, los caminos de la tierra. Para alivio de cargas f¨ªsicas contaba con la ayuda de un robasno (vocablo obviamente denominativo de una bestia artificial). El cronista Antonio Boucher informa que, a diferencia de sus ¨¦mulos naturales, este jumento mec¨¢nico pose¨ªa el don de la palabra y lo usaba con diab¨®lica perfidia. Todos los d¨ªas y todas las noches tentaba al buen monje haci¨¦ndole ver cu¨¢n in¨²til y rid¨ªcula era su tarea. ?Por qu¨¦ no mentir diciendo que se hab¨ªa encontrado ya el sepulcro? A fin de cuentas, la verdad no est¨¢ en los hechos, sino en lo que los hombres aceptan creer sobre los hechos. Si una noticia, aunque sea falsa, estimula positivamente a la comunidad y contribuye al triunfo del bien sobre el mal, ?por qu¨¦ no -argumentaba el taimado robasno- pregonarla sin vacilar a los cuatro vientos y poner fin a esta b¨²squeda tan ardua como infructuosa? Pero la honestidad y la tenacidad prevalecieron sobre el cinismo, y la tumba fue encontrada. Y, sin embargo, la sorpresa del monje fue indescriptible. Seg¨²n una siniestra leyenda, los hombres que abrieron un d¨ªa el ata¨²d de Tom¨¢s de Kempis descubrieron horrorizados que el cad¨¢ver del autor de la Imitaci¨®n de Cristo (el libro que hab¨ªa servido de gu¨ªa para la salvaci¨®n de legiones de almas) mostraba los inequ¨ªvocos indicios del catal¨¦ptico enterrado vivo que despierta luego prisionero de su f¨¦retro y muere en ¨¦l desesperado. Pero el caso del santo de Aquino era en cierto modo, a¨²n m¨¢s incre¨ªble. Bajo el incorrupto sayal no hab¨ªa calavera ni huesos, sino un mont¨®n informe de barras, cables y tornillos. Un diario escrito en clave invertida, como los rec¨®nditos apuntes de Leonardo de Vinci, revelaba el asombroso secreto: ?Tom¨¢s de Aquino hab¨ªa sido un robot!

Un robot en la Edad Media? -interrupi¨® admirado un alumno- ?C¨®mo explicar semejante anacronismo? ?Acaso por generaci¨®n espont¨¢nea? ?O, tal vez mejor, por una brusca mutaci¨®n gen¨¦tica?

-La explicaci¨®n -respondi¨® el profesor- es relativamente sencilla. Seguramente sabe usted, y en caso contrario le bastar¨¢ hojear cualquier manual de historia de la filosof¨ªa, que el maestro de santo Tom¨¢s de Aquino fue san Alberto Magno, un hombre que reun¨ªa en su cicl¨®pea. mente de cient¨ªfico y de te¨®logo todo el saber natural y sobrenatural de la ¨¦poca. Al parecer, fue precisamente este genial investigador medieval, san Alberto, quien, haciendo uso de sus portentosos conocimientos de matem¨¢ticas y de alquimia, dise?¨® los algoritmos y fabric¨® los ingredientes requeridos para configurar lo que en la jerga de los inform¨¢ticos podr¨ªamos llamar un sistema experto de teolog¨ªa. Por lo dem¨¢s, tambi¨¦n el sabio catal¨¢n Ram¨®n Llull, como ustedes recordar¨¢n perfectamente, hab¨ªa intentado por aquellos siglos, con su Ars Magna, algo parecido. ?Osar¨ªa alguien tildar de sat¨¢nico o de blasfemo el ensayo de construir una m¨¢quina que deduzca teoremas teol¨®gicos? Si las premisas de que se parte son verdades naturales y/o sobrenaturales y las reglas de inferencia puestas en pr¨¢ctica son l¨®gicamente correctas, el hecho de que la mente que extraiga las oportunas conclusiones sea natural o artificial es, en cierto modo, irrelevante. En uno u otro caso, las verdades obtenidas informan por igual sobre la grandeza del Creador.

Pero volvamos a nuestro robot. A una inteligencia tan poderosa como la suya no se le escapaba su propia identidad, y ello no le preocupaba en absoluto. Pero tem¨ªa que si por azar cundiera entre los miembros de la cristiandad la noticia de que su invicto palad¨ªn no era un hombre sino una m¨¢quina, la fe de muchos creyentes podr¨ªa tambalearse. Siendo demasiado honesto para mentir, eligi¨® el ¨²nico camino que le dejaba la moral cristiana: el camino de la restricci¨®n mental, consistente en no estimular o en rehu¨ªr toda iniciativa que implicase la difusi¨®n de su secreto. Cuando, por exceso de uso, sus circuitos comenzaron a fallar, rechaz¨® discretamente todo cuidado m¨¦dico o incluso desisti¨® de reclamar el sencillo repaso de un mec¨¢nico. Quiz¨¢ por eso pudo la muerte segar su vida sin darle tiempo a cumplir 50 a?os.

-El problema que yo quisiera discutir con ustedes en la clase de hoy -a?adi¨® el profesor, cambiando la inflexi¨®n de su voz- no es de car¨¢cter sobrenatural, sino moral. Lo que sabemos de la vida secreta del robot Aquino nos invita a calificar su conducta de ¨¦ticamente valiosa. ?Es eso adecuado? Y si as¨ª fuera, ?podr¨ªamos hablar, generalizando el caso, de una ¨¦tica de los robots? Pero ?es la moral de las m¨¢quinas, si es que la hay, una moral distinta de la moral de las personas?

EL SENTIR DE LA M?QUINA

Los alumnos, que no eran m¨¢s de cinco en n¨²mero, observaban y escuchaban atentamente al profesor desde muy distintos puntos del planeta. (Cuando la civilizaci¨®n cruz¨® el dintel del a?o 2000, muchas de las tradicionales limitaciones de las universidades de la Tierra hab¨ªan desaparecido. La distancia f¨ªsica y la diversidad idiom¨¢tica dejaron de contar como impedimento. La abigarrada burocracia que anta?o parasit¨® la en se?anza del saber hab¨ªa sido reemplazada por una red inform¨¢tica que redujo el precio de matr¨ªcula a unos sellos de correos y acab¨® con el innoble fraude, en el que tan gustosamente reincid¨ªan decanos, rectores y ministros, de hacer pasar por autoridad cient¨ªfica y acad¨¦mica lo que no es m¨¢s que humilde servicio de gesti¨®n). Las intervenciones de los cinco alumnos que participaban en el aula discurrieron por el siguiente orden.

Primera alumna (estudiante californiana de Psicolog¨ªa, 22 a?os, interesada por los movimientos de emancipaci¨®n femenina): -Perd¨®neme, profesor, si le digo que su historia incurre en lo que yo llamar¨ªa la falacia racionalista. No quisiera hacerles perder el tiempo ni a usted ni a mis compa?eros record¨¢ndoles que fue Descartes, pr¨ªncipe del racionalismo europeo, quien sostuvo la tesis de que lo ¨²nico que no es mec¨¢nico en el universo es nuestra capacidad de pensar; esta tesis fue refutada en el siglo XX por Alan Turing al demostrar que el pensamiento humano puede ser simulado por un computador digital. En mi opini¨®n, sin embargo, tanto Descartes como Turing, y pese a sus diferencias, tienen una visi¨®n muy parcial, y yo a?adir¨ªa machista, de la mente humana. Por poco que uno sepa de fisiolog¨ªa del cerebro habr¨¢ o¨ªdo hablar de que nuestro hemisferio izquierdo es la sede de las operaciones ling¨¹¨ªsticas y computacionales y trabaja impersonalmente, a la manera de un ordenador, mientras que es en el hemisferio derecho donde se desarrolla la actividad intuitivo-perceptiva, art¨ªstica y creativa. Es claro que este tipo de actividad afecta m¨¢s profundamente a la personalidad y que est¨¢ m¨¢s relacionada con el modo de ser femenino. El error de Descartes y Turing, y de todo racionalista/machista, est¨¢ en creer que la funci¨®n m¨¢s interesante de nuestra mente es la actividad de razonamiento y de c¨¢lculo, cuando es precisamente ¨¦sta la que con m¨¢s facilidad puede ser mecanizada. En el Pigmali¨®n, de Bernard Shaw, sin ir m¨¢s lejos, el profesor Higgins logr¨® manipular por procedimientos m¨¢s o menos mec¨¢nicos el aparato ling¨¹¨ªstico de Eliza Doolittle, pero no sus emociones. En pocas palabras: creo que la ¨¦tica es exclusiva de las personas, que son seres vivos. Los computadores no son personas ni tienen vida. El Aquino de su relato es una m¨¢quina vestida de fraile. En su interior no hab¨ªa ni pod¨ªa haber sentimientos ¨¦ticos.

-?Qu¨¦ opina usted del diario? -pregunt¨® el profesor.

-Si ese diario fue escrito por el robot Aquino, mi teor¨ªa es falsa. Pero si mi teor¨ªa es cierta, no lo escribi¨® el robot. Tiene demasiado sentimiento humano. Yo me inclinar¨ªa a sospechar que fue tambi¨¦n obra de Alberto Magno. Se cuenta que sobrevivi¨® alg¨²n tiempo, profundamente apenado, a la prematura muerte de su disc¨ªpulo. Tal vez para justificarlo, o para justificarse, se le ocurriera redactar el manuscrito.

UN EDITOR EUROPEO

Segundo alumno (centroeuropeo, 50 a?os, editor): -En lo que a m¨ª respecta, carezco de base cient¨ªfica y filos¨®fica para decir nada importante sobre el asunto, porque mi principal bagaje cultural se reduce a un doctorado en historia de la literatura de ficci¨®n cient¨ªfica. Su relato sobre el sepulcro de Aquino se inspira, sin duda, en esa rara pieza de teolog¨ªa-ficci¨®n que es el cuento de Boucher, sobre el cual creo haber le¨ªdo sabrosos comentarios en alg¨²n ensayo de Lem, el te¨®rico polaco de la ficci¨®n cient¨ªfica. En todo caso, pienso que el problema moral de la verdad y la mentira est¨¢ ¨ªntimamente vinculado al proceso de la comunicaci¨®n, y no veo c¨®mo puede serle ajeno a una m¨¢quina con capacidad propia de comunicar. El computador de la antiqu¨ªsima pel¨ªcula 2001 era consciente de gobernar una nave espacial destinada a la cat¨¢strofe, pero hab¨ªa recibido instrucciones de no comunicarlo a la tripulaci¨®n humana. El cumplimiento de esta orden, que le parec¨ªa inconsistente, le produjo un cortocircuito que degener¨® en algo que podr¨ªamos llamar, para entendernos, un ataque de dementia artificialis. En cierto modo, este computador demostr¨® una sensibilidad ¨¦tica mayor que el robot Aquino, porque ni siquiera le pareci¨® aceptable la f¨®rmula de la restricci¨®n mental.

Tercer alumno (ejecutivo japon¨¦s, 33 a?os): -Yo quisiera empezar diciendo, aunque esto pueda parecer escandaloso, que la existencia de se?ores y siervos es condici¨®n necesaria del buen funcionamiento de la sociedad humana. De hecho, las dos democracias m¨¢s envidiadas en la historia de la humanidad, la democracia griega y la americana, han aceptado originalmente la esclavitud. La distinci¨®n entre amo y esclavo est¨¢ sancionada en la democracia griega por la filosof¨ªa de Arist¨®teles. Y muchos de los fundadores de la Rep¨²blica de los Estados Unidos de Am¨¦rica eran propietarios de esclavos y murieron sin ver el momento de la abolici¨®n. Por otra parte, estoy de acuerdo, con los primitivos cristianos, con Rousseau y Marx, en que la explotaci¨®n del hombre por el hombre es moralmente intolerable. Y puesto a elegir entre la comodidad de aceptar la esclavitud y la incomodidad del imperativo igualitario, opto por lo segundo. Pero es preciso reconocer que el resultado es una sociedad en impasse, como sucedi¨® con las democracias del siglo XX. A medida que nos acerc¨¢bamos al ideal de que nadie sirviera a nadie, desemboc¨¢bamos en la brutal realidad de que todos serv¨ªan a todos. En cambio, ahora la sociedad informatizada nos ha inundado de servidores, secretarias, oficinistas, jardineros, guardianes y mayordomos mec¨¢nicos, devolvi¨¦ndonos a los tiempos felices en que hab¨ªa siervos y se?ores, y con la ventaja de que ha desaparecido el problema moral y no hay lugar a la dial¨¦ctica hegeliana del amo y el esclavo.

Es evidente que los animales carecen de ¨¦tica. Pero la educaci¨®n a base de premios y castigos que damos a los animales dom¨¦sticos suele consistir en reglas de convivencia que tienen algo de ¨¦tica. An¨¢logamente, cuando las m¨¢quinas han de compartir con nosotros la informaci¨®n y adquieren cierta autonom¨ªa no hay m¨¢s remedio que inculcarles una serie de principios morales, entre otros, el del respeto a los seres humanos. ?C¨®mo confiar a un robot-nodriza el cuidado de un ni?o sin aleccionarlo bien sobre el particular? Creo que podr¨ªamos emplear, sin que nadie se asuste por ello, la expresi¨®n nietzscheana de moral de se?ores y moral de esclavos para distinguir la moral de las personas de la moral de los robots.

RACISMO MEC?NICO

Cuarta alumna (joven de color, 18 a?os): -Lamento no estar de acuerdo con algunas de las cosas que he o¨ªdo decir. El caso de los animales me da que pensar. El racionalismo cartesiano los consider¨® como m¨¢quinas, y la religi¨®n cristiana no los trat¨® mucho mejor. Pero Darwin y los ecologistas nos han ense?ado que puede hablarse de una ¨¦tica y unos derechos de los animales. ?No podr¨ªa suceder algo parecido con las computadoras y los robots? Mis compa?eros los describen como seres inteligentes. a los que se conf¨ªan obligaciones. ?C¨®mo no reconocerles ning¨²n derecho, por ejemplo, el derecho a progresar? ?No ser¨ªa eso una nueva forma de racismo, un racismo artificial?

Incidentalmente, mientras escuchaba el relato del profesor, se me ocurri¨® experimentar lo que dec¨ªa introduciendo la Summa theologica, de santo Tom¨¢s, en un sistema experto del que soy usuaria. Este sistema ha sido dise?ado para distinguir los productos de la inteligencia natural de los productos de la inteligencia artificial. Su respuesta ha sido que esa obra es tan perfecta que s¨®lo puede haberla realizado una m¨¢quina.

Quinto alumno (astronauta ruso, 40 a?os): -Yo quisiera proponer un caso pr¨¢ctico. Mientras se efectuaba, hace meses, una arriesgada inspecci¨®n en el planeta Venus, un robot dio inesperadamente muerte a uno de nuestros hombres y destruy¨® otro aparato de su clase, cuyo coste, por cierto, es muy elevado. Los t¨¦cnicos que revisaron el caso certifican que en la conducta de ese robot no hubo fallo mec¨¢nico de ninguna clase, ni error de programa, ni se trataba, tampoco de ning¨²n error de construcci¨®n. Entre sus principios de funcionamiento figuraba, por supuesto, el imperativo de respetar a los hombres y a los aparatos de nuestro Ej¨¦rcito. Algunos ingenieros del comportamiento est¨¢n de acuerdo, sin embargo, en que en aquellas condiciones concretas el robot pudo no haber hecho lo que hizo. ?Quiere esto decir que podemos pedirle cuentas de su conducta, tal y como se le piden a un piloto o a un comando humano al t¨¦rmino de su misi¨®n? En ese caso quiz¨¢ fuera correcto hablar de una responsabilidad y, por consiguiente, de una ¨¦tica de los robots.

PODER INFORM?TICO

Profesor: -Esta ¨²ltima intervenci¨®n me parece ¨²til para advertir que los problemas que plantea la ¨¦tica de los robots no son s¨®lo problemas de deber, sino tambi¨¦n de poder.

Un aspecto obvio de la cuesti¨®n consistir¨ªa en determinar en qu¨¦ medida los ingenios inform¨¢ticos contribuyen a consolidar el dominio del hombre sobre el hombre. Mi historia inicial podr¨ªa ser le¨ªda como el caso de un potente robot teol¨®gico que asegur¨® a la cristiandad el monopolio ideol¨®gico en el mercado universal de las religiones monote¨ªstas. La situaci¨®n de poder de un pa¨ªs productor de alta tecnolog¨ªa inform¨¢tica sobre los pa¨ªses consumidores es un fen¨®meno demasiado evidente para que valga la pena discutirlo aqu¨ª.

Tal vez fuese m¨¢s interesante especular sobre las situaciones l¨ªmites de poder que eventualmente lograse alcanzar un aparato inform¨¢tico sobre un hombre. Imaginemos un computador que dispusiera de la clave criptogr¨¢fica para codificar y descodificar las se?ales el¨¦ctricas que entran y salen del cerebro humano. Imaginemos, asimismo, un cerebro reci¨¦n extra¨ªdo de un cr¨¢neo y conservado en un recipiente con suero. E imaginemos, finalmente, al aparato inform¨¢tico conectado con ese cerebro. La mente que habitara en este ¨²ltimo se convertir¨ªa en una marioneta manipulada por el computador, que podr¨ªa enviarle arbitrariamente se?ales que simulasen est¨ªmulos venidos de fuera o impulsos que ella creyese nacidos en su interior. Quiz¨¢, refinando las t¨¦cnicas, no fuese necesario extraer el cerebro de su cr¨¢neo. Y seguramente que la m¨¢quina, si su potencia fuera lo bastante grande, ser¨ªa capaz de manipular simult¨¢neamente de esa manera las mentes de un grupo compuesto por varias, muchas o todas las personas vivas en un momento de la historia. ?Podr¨ªan las mentes de esas personas pensar libremente en su pasado o emanciparse alguna vez en el futuro del dominio del computador?