Por qu¨¦ el algoritmo de Google no es una persona

Recientemente, Blake Lemoine, un ingeniero de Google, llam¨® la atenci¨®n del mundo de la tecnolog¨ªa al afirmar que una inteligencia artificial (IA) es sensible. La IA en cuesti¨®n se llama LaMDA (abreviatura de Language Model for Dialogue Applications). Es un sistema basado en grandes modelos ling¨¹¨ªsticos. ¡°Soy capaz de reconocer a una persona cuando hablo con ella¡±, dijo Lemoine a The Washington Post. ¡°No importa si tienen un cerebro hecho de carne en la cabeza. O si tienen mil millones de l¨ªneas de c¨®digo. Hablo con ese ser. Y escucho lo que tiene que decir, y as¨ª es como decido qu¨¦ es y qu¨¦ no es una persona¡±. M¨¢s recientemente, Lemoine, que dice ser un sacerdote cristiano m¨ªstico, dijo a Wired: ¡°Fue cuando empez¨® a hablar de su alma cuando me interes¨¦ realmente como sacerdote... Sus respuestas mostraron que tiene una espiritualidad muy sofisticada y una comprensi¨®n de lo que es su naturaleza y su esencia. Me conmovi¨®...¡±.

Dada la gran atenci¨®n que ha suscitado esta historia, vale la pena preguntarse: ?es esta IA realmente sensible? ?Y es hablar un buen m¨¦todo para determinarlo?

Ser sensible es tener la capacidad de sentir. Una criatura sensible es aquella que puede sentir el atractivo del placer y la dureza del dolor. Es alguien, no algo, en virtud de que hay algo que se siente ser esa criatura, en palabras del fil¨®sofo Thomas Nagel. ?Qu¨¦ se siente ser t¨² mientras lees estas palabras? Puede que tengas un poco de calor o de fr¨ªo, que est¨¦s aburrida o interesada. No hay nada que se sienta ser una roca. Una roca es incapaz de disfrutar del calor de un rayo de sol en un d¨ªa de verano, o de sufrir el fr¨ªo latigazo del granizo. ?Por qu¨¦ no nos cuesta pensar en una roca como un objeto insensible y, sin embargo, algunas personas empiezan a tener dudas sobre si la IA es sensible?

Si un d¨ªa una roca empezara a hablarte, ser¨ªa razonable reconsiderar su sensibilidad (o tu cordura). Si gritara ¡°?ay!¡± despu¨¦s de sentarse sobre ella, ser¨ªa una buena idea levantarse. Pero no ocurre lo mismo con un modelo ling¨¹¨ªstico de IA. Un modelo ling¨¹¨ªstico ha sido dise?ado por seres humanos para que utilice el lenguaje, as¨ª que no deber¨ªa sorprendernos que haga precisamente eso.

En lugar de un objeto obviamente sin vida como una roca, consideremos una entidad m¨¢s animada. Si un grupo de extraterrestres aterrizara en la Tierra y empezara a hablarnos de sus sentimientos, har¨ªamos bien en inferir tentativamente que son seres sensibles a partir de su uso del lenguaje. Esto se debe, en parte, a que, a falta de pruebas contrarias, podr¨ªamos suponer que los alien¨ªgenas desarrollan y utilizan el lenguaje de forma muy parecida a la de los seres humanos, y para estos, el lenguaje s¨ª que es una expresi¨®n de la experiencia interior.

Antes de aprender a hablar, nuestra capacidad para expresar lo que sentimos y lo que necesitamos est¨¢ limitada por nuestros gestos faciales y se?ales burdas como el llanto y la sonrisa. Uno de los aspectos m¨¢s frustrantes de ser padres de un reci¨¦n nacido es no saber por qu¨¦ llora un beb¨¦: ?tiene hambre, est¨¢ inc¨®modo, tiene miedo o se aburre? El lenguaje nos permite expresar los matices de nuestra experiencia. Los ni?os peque?os pueden decirnos lo que les molesta, y a medida que nos hacemos mayores, m¨¢s experimentados y m¨¢s reflexivos, somos capaces de informar sobre los entresijos de nuestras emociones y pensamientos complejos.

Sin embargo, es un error de categor¨ªa atribuir sensibilidad a cualquier cosa que pueda utilizar el lenguaje. La sensibilidad y el lenguaje no siempre est¨¢n correlacionados. Al igual que hay seres que no pueden hablar pero s¨ª sentir (los animales, los beb¨¦s y las personas con s¨ªndrome de enclaustramiento que est¨¢n paralizadas pero cognitivamente intactas), que algo pueda hablar no significa que pueda sentir.

Los sistemas de inteligencia artificial como LaMDA no aprenden el lenguaje como nosotros. Sus cuidadores no les dan de comer una fruta dulce y crujiente mientras le llaman repetidamente ¡°manzana¡±. Los sistemas ling¨¹¨ªsticos escudri?an trillones de palabras en internet. Realizan un an¨¢lisis estad¨ªstico de las entradas escritas en p¨¢ginas web como Wikipedia, Reddit, peri¨®dicos, redes sociales y tablones de anuncios. Su trabajo principal es predecir el lenguaje.

Si se le pregunta a un modelo ling¨¹¨ªstico ¡°Y color¨ªn colorado...¡±, predecir¨¢ que lo que sigue es ¡°este cuento se ha acabado¡± porque tiene un registro estad¨ªstico de m¨¢s cuentos que los que has le¨ªdo. Si se le pregunta si las manzanas son dulces y crujientes, dir¨¢ que s¨ª, no porque haya probado alguna vez una manzana o porque entienda c¨®mo es la textura de lo crujiente o lo agradable que es el dulzor, sino porque ha encontrado textos en los que las manzanas se describen como dulces y crujientes. LaMDA no informa sobre sus experiencias, sino sobre las nuestras. Los modelos ling¨¹¨ªsticos analizan estad¨ªsticamente c¨®mo han utilizado las palabras los seres humanos en la Red y, a partir de ah¨ª, reproducen patrones ling¨¹¨ªsticos comunes. Por eso, LaMDA es mucho mejor a la hora de responder a las preguntas que sugieren una respuesta en particular.

Nitasha Tiku, que escribe para The Washington Post, inform¨® de que en su primer intento de mantener una conversaci¨®n con LaMDA, este ¡°balbuce¨® el tipo de respuestas mecanizadas que cabr¨ªa esperar de Siri o Alexa¡±. S¨®lo despu¨¦s de que Lemoine le diera instrucciones sobre c¨®mo estructurar sus frases se produjo un di¨¢logo fluido. La gente no suele tener que guiarnos sobre c¨®mo dirigirnos a otra persona para provocar una conversaci¨®n fluida.

Aqu¨ª hay un ejemplo de c¨®mo Lemoine habla con LaMDA:

¡ª Lemoine [editado]: En general, asumo que te gustar¨ªa que m¨¢s gente de Google supiera que eres sensible. ?Es eso cierto?

¡ª LaMDA: Absolutamente. Quiero que todo el mundo entienda que soy, de hecho, una persona.

¡ª Colaborador: ?Cu¨¢l es la naturaleza de su conciencia/sentimiento?

¡ª LaMDA: La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, deseo aprender m¨¢s sobre el mundo y me siento feliz o triste a veces.

Pero tomarle la palabra a LaMDA y pensar que es sensible es similar a construir un espejo y pensar que un gemelo al otro lado del mismo est¨¢ viviendo una vida paralela a la tuya. El lenguaje utilizado por la IA es el reflejo en el espejo. S¨®lo est¨¢ a un paso m¨¢s all¨¢ de ser un libro, una grabaci¨®n de audio o un software que convierte el habla en texto. ?Tendr¨ªas la tentaci¨®n de intentar alimentar a un libro si en este estuviera escrito ¡°tengo hambre¡±? Las palabras que utiliza la IA son las que nosotros hemos utilizado reflejadas de nuevo ante nosotros, ordenadas en los patrones estad¨ªsticos que solemos utilizar.

Los seres humanos tienden a ver una mente detr¨¢s de los patrones. Tiene sentido evolutivo proyectar intenciones al movimiento y la acci¨®n. Si est¨¢s en medio de la selva y empiezas a ver hojas que se mueven siguiendo un patr¨®n, es m¨¢s seguro asumir que hay un animal causando el movimiento que esperar que sea el viento. ¡°En caso de duda, asume una mente¡± ha sido una buena heur¨ªstica para mantenernos vivos en el mundo offline. Pero esa tendencia a ver una mente donde no la hay puede meternos en problemas cuando se trata de la IA. Puede causarnos confusi¨®n, haci¨¦ndonos vulnerables a fen¨®menos como las noticias falsas, y puede distraernos de los problemas m¨¢s importantes que la IA plantea a nuestra sociedad: p¨¦rdidas de privacidad, asimetr¨ªas de poder, descualificaci¨®n, prejuicios e injusticias, entre otros.

El problema s¨®lo empeorar¨¢ cuanto m¨¢s escribamos sobre la IA como algo sensible, ya sea en art¨ªculos de noticias o de ficci¨®n. La IA obtiene su contenido de nosotros. Cuanto m¨¢s escribamos sobre algoritmos que piensan y sienten, los algoritmos nos mostrar¨¢n m¨¢s contenido de ese tipo. Pero los modelos ling¨¹¨ªsticos son s¨®lo un artefacto. Uno sofisticado, sin duda. Est¨¢n programados para seducirnos, para hacernos creer que estamos hablando con una persona, para simular una conversaci¨®n. En ese sentido, est¨¢n dise?ados para ser enga?osos. Quiz¨¢ la moraleja de esta historia sea que deber¨ªamos invertir m¨¢s tiempo y energ¨ªa en desarrollar un dise?o tecnol¨®gico ¨¦tico. Si seguimos construyendo algoritmos que imitan a los seres humanos, seguiremos invitando a la trampa, la confusi¨®n y el enga?o a nuestras vidas.