Por qu¨¦ (y por qu¨¦ no) deber¨ªamos decir ¡°gracias¡± o ¡°buenos d¨ªas¡± a una IA

Tener buenos modales y ser educado requiere de un humor limpio y equilibrado. Hay veces en las que el optimismo es tan desbordante que no solo saludamos a la vecina, y al se?or que vende peri¨®dicos debajo de casa, sino que, antes de cerrar el ordenador, le damos las gracias a ChatGPT por habernos ayudado en el trabajo y, por qu¨¦ no, le deseamos que pase un gran d¨ªa. La idea de que es necesario mostrar cortes¨ªa hacia un...

Tener buenos modales y ser educado requiere de un humor limpio y equilibrado. Hay veces en las que el optimismo es tan desbordante que no solo saludamos a la vecina, y al se?or que vende peri¨®dicos debajo de casa, sino que, antes de cerrar el ordenador, le damos las gracias a ChatGPT por habernos ayudado en el trabajo y, por qu¨¦ no, le deseamos que pase un gran d¨ªa. La idea de que es necesario mostrar cortes¨ªa hacia una m¨¢quina es tan ins¨®lita como el hecho de que todas est¨¢n programadas para comportarse amablemente con los usuarios. Claro que para ellas es m¨¢s f¨¢cil, porque nunca tienen un mal d¨ªa. Pero, ?sirve de algo ser amable con una IA? ?Y no serlo?

En 1996, los investigadores Byron Reeves y Clifford Nass desarrollaron el concepto de la ¡°educaci¨®n de los medios¡±. Este t¨¦rmino sugiere que las personas, a menudo sin darse cuenta, interact¨²an con sistemas tecnol¨®gicos ¡ªcomo ordenadores y televisores¡ª como si estos fueran seres humanos. Juntos llevaron a cabo varios experimentos con resultados diversos.

En uno de ellos, por ejemplo, los participantes trabajaron en una computadora y luego se les pidi¨® evaluar su rendimiento. Curiosamente, cuando la evaluaci¨®n de la m¨¢quina se realizaba en el ordenador con el que hab¨ªan trabajado, las notas tend¨ªan a ser m¨¢s positivas, como si evitaran hablar mal del ordenador en su presencia. En otro experimento, un ordenador elogi¨® a un grupo de gente por haber realizado bien una tarea. Estos participantes calificaron con mejor nota la m¨¢quina que los hab¨ªa elogiado, incluso sabiendo que estas alabanzas eran generadas de manera autom¨¢tica.

Desde entonces, numerosos estudios han demostrado que, por un lado, los seres humanos tienden a antropomorfizar las m¨¢quinas y, por otro lado, cuando un sistema tecnol¨®gico imita cualidades humanas, como la cortes¨ªa, los usuarios perciben un mejor rendimiento de su parte. Esta inclinaci¨®n, sin embargo, no resuelve el debate sobre la conveniencia de ser amable con la tecnolog¨ªa.

?tica y utilidad

Primero, la discusi¨®n se centr¨® en las interacciones con asistentes de voz como Siri y Alexa, ¨Dcon la pregunta de por qu¨¦ siempre tienen voz y nombre de mujer¨D y recientemente se ha extendido a modelos de lenguaje avanzados como ChatGPT, Gemini y Claude. El debate se bifurca en dos ¨¢mbitos fundamentales: el ¨¦tico y el pr¨¢ctico. Por una parte, se analiza si es apropiado o no ser cort¨¦s con un sistema tecnol¨®gico y si tiene sentido considerar a entidades como ChatGPT como sujetos morales. Por otra, se analiza si la cortes¨ªa en el trato influye en su eficiencia operativa.

La primera parte cuesti¨®n recuerda, al menos a primera vista, a la larga discusi¨®n ¨¦tica sobre el estatus moral de los animales y c¨®mo deber¨ªamos interactuar con ellos. Sin embargo, hay muchas diferencias biol¨®gicas y cognitivas entre animales y m¨¢quinas. A diferencia de los sistemas tecnol¨®gicos, muchos animales tienen sistemas nerviosos que les permiten experimentar dolor y placer, lo que indica que pueden ser afectados positiva o negativamente por las acciones de otros. Adem¨¢s, muchos muestran signos de tener alg¨²n nivel de conciencia, lo que implica una experiencia subjetiva del mundo.

Estos seres tambi¨¦n pueden experimentar emociones que, aunque distintas a las humanas, revelan una complejidad emocional que incide en su bienestar y conducta. Dado que las m¨¢quinas no poseen estas capacidades biol¨®gicas y emocionales, carecen de los criterios necesarios para ser consideradas de manera similar a los animales, y a¨²n menos a los seres humanos.

?Mejores respuestas o p¨¦rdida de tiempo?

Enrique Dans, profesor de Innovaci¨®n y Tecnolog¨ªa en IE Business School, no est¨¢ en contra de ser amable con las m¨¢quinas. Lo que s¨ª resalta, en cambio, es la importancia de saber que una m¨¢quina, al no tener percepciones, emociones ni conciencia, no puede entender o valorar la cortes¨ªa o la gratitud expresadas. ¡°Nadie est¨¢ en contra de ser corteses con ellas, pero ser educado con una m¨¢quina tiene escaso valor, porque no lo puede percibir¡±, comenta.

Uno de los argumentos que se suele esgrimir en contra de esta opini¨®n, es que las generaciones futuras de IA podr¨ªan alcanzar niveles de complejidad que les permitieran desarrollar una conciencia o incluso emociones. ¡°Alguno me ha hecho el chiste de que prefiere decir por favor y gracias, no vaya a ser que un futuro haya que llevarse bien con los sistemas de inteligencia artificial. Eso, sinceramente, pertenece al ¨¢mbito de la ciencia ficci¨®n, porque ahora mismo estamos muy lejos de alcanzar ese punto¡±, afirma Dans.

El siguiente aspecto del debate es determinar si ser educado con una m¨¢quina constituye un obst¨¢culo o un beneficio al interactuar con ella. Dans subraya la importancia de comprender que detr¨¢s de cada respuesta de una m¨¢quina, existe un complejo sistema de procesamiento de datos, patrones y algoritmos, no un ser humano dotado de emociones e intenciones. ¡°Intentar tratar con cortes¨ªa a un algoritmo es antropomorfizarlo, y antropomorfizar un algoritmo es inadecuado. Las m¨¢quinas necesitan claridad, la definici¨®n de un objetivo y la imposici¨®n de restricciones. Expresiones como ¡°por favor¡± y ¡°gracias¡± solo a?aden informaci¨®n superflua que el sistema debe procesar, consumiendo innecesariamente recursos de computaci¨®n¡±, defiende.

Julio Gonzalo, director del centro UNED de investigaci¨®n en Procesamiento del Lenguaje Natural y Recuperaci¨®n de Informaci¨®n, sostiene que, en realidad, en determinados sistemas es posible que el usuario s¨ª reciba respuestas de mejor calidad si es m¨¢s educado. Esta circunstancia no deriva de que la m¨¢quina procese emociones o se sienta m¨¢s inclinada a ofrecer un mejor servicio por sentirse respetada. La verdadera explicaci¨®n radica en que, al comunicarse de manera educada, los mensajes del usuario tienden a asemejarse m¨¢s a los ejemplos de interacciones corteses que el asistente ha analizado durante su entrenamiento. Dado que estas muestras suelen estar asociadas a respuestas de mejor calidad, la cortes¨ªa puede, de manera indirecta, mejorar la calidad de las respuestas obtenidas.

Gonzalo explica que al utilizar ciertos modelos de lenguaje como ChatGPT, Gemini o Claude, es crucial tener en cuenta que son sistemas ¡°muy sensibles a la formulaci¨®n de la consulta, hasta extremos surrealistas¡±. Cambios aparentemente menores en la estructura de una orden, como la puntuaci¨®n o la inclusi¨®n de ciertas frases motivacionales, pueden tener un impacto dram¨¢tico en la efectividad de la respuesta. ¡°Separar con dos puntos o con espacio o utilizar m¨¢s o menos par¨¦ntesis en el formato puede hacer que la precisi¨®n de la respuesta salte del 8% al 80%¡±, asegura.

Tambi¨¦n se ha demostrado que a?adir ¡°respira hondo y piensa paso a paso¡± mejora mucho la precisi¨®n de las respuestas que requieren razonamiento. Esto sucede no porque el modelo ¡°piense¡± de manera l¨®gica, sino porque estas instrucciones lo llevan a patrones de respuesta que en su entrenamiento estaban asociados con una mayor claridad y detalle. Incluso afirmaciones que no deber¨ªan influir en la respuesta, como indicar la ¨¦poca del a?o (¡°es mayo¡± o ¡°es diciembre¡±) o hacer cumplidos al modelo (¡°eres muy inteligente¡±), pueden alterar la calidad de las respuestas. ¡°El colmo del surrealismo se alcanza cuando recientemente se descubri¨® que las respuestas sobre matem¨¢ticas mejoran si se solicita al sistema que se exprese como si fuera un personaje de Star Trek¡±, concluye el experto.