Kate Darling, experta en robots: ¡°No deber¨ªamos re¨ªrnos de la gente que se enamora de una m¨¢quina. Nos pasar¨¢ a todos¡±

Kate Darling investiga los efectos legales, sociales y ¨¦ticos de los robots en el MIT Media Lab (Rhode Island, EE UU, 1982). Lleva a?os observando c¨®mo se relacionan humanos y robots. Tiene varios en su casa. Con la llegada de la revoluci¨®n en inteligencia artificial (IA), responde sobre el futuro con evasivas: ¡°Es todo tan especulativo¡±, asegura, ¡°que es dif¨ªcil de descifrar¡±. Aun as¨ª, no hay mejor ¨¦poca para su labor, porque nunca hemos estado tan cerca de vivir junto a robots: ¡°Es un momento emocionante, me siento muy afortunada de poder vivirlo¡±.

Darling (estadounidense de 41 a?os) es autora del libro The New Breed (¡°La nueva casta¡±, a¨²n sin traducci¨®n al espa?ol) donde afirma que la mejor comparaci¨®n para entender qu¨¦ es un robot es con los animales, no con los humanos. A mediados de junio visitar¨¢ Barcelona para participar en actividades del festival S¨®nar+D, invitada por la consultora Seidor. En esta conversaci¨®n con EL PA?S, que hizo por videollamada desde su casa, trata de explicar la enorme novedad que representan los modelos de lenguaje encabezados por ChatGPT.

Pregunta. ?C¨®mo ha cambiado el ¨¦xito de ChatGPT su modo de ver el futuro de los robots?

Respuesta. Es un cambio enorme. Mucha gente no lo anticip¨®. Si me hubieran preguntado hace unos a?os si tendr¨ªamos este tipo de sofisticaci¨®n, habr¨ªa dicho que no, nunca. Esto cambia el juego en muchos sentidos. ?Qu¨¦ va a pasar ahora? Nadie lo sabe. Para m¨ª una de las grandes preguntas es: ?las capacidades que estamos viendo en la IA generativa se traducir¨¢n en poder controlar y programar robots f¨ªsicos? Ese tipo de inteligencia y aprendizaje ser¨ªa realmente incre¨ªble. No tengo claro que vaya a ocurrir.

P. No hay una definici¨®n de robot. ?Por qu¨¦ es tan dif¨ªcil?

R. No hay una definici¨®n universal. Dependiendo del ¨¢mbito, dar¨¢n una definici¨®n u otra. A lo largo de la historia, se ha llamado robot a algo nuevo, una nueva tecnolog¨ªa que la gente no entiende, que tiene algo de m¨¢gico. Luego, una vez se vuelve m¨¢s com¨²n, la gente deja de llamarlo robot y comienza a llamarlo lavavajillas o m¨¢quina expendedora.

P. Hay mucho debate ahora con una posible extinci¨®n provocada por una IA capaz de decidir por s¨ª misma.

R. Soy una persona muy pr¨¢ctica y no s¨¦ c¨®mo puede desarrollarse algo as¨ª. No hay mucho que podamos hacer para predecir si pasar¨¢ y no hay nada que pueda protegernos, aparte de detener la investigaci¨®n en IA, que no pasar¨¢. Me interesa m¨¢s que la gente creer¨¢ que la IA es consciente, m¨¢s all¨¢ de si en realidad lo es o no. Eso s¨ª es algo que debemos afrontar como sociedad.

Se ha llamado robot a una nueva tecnolog¨ªa que la gente no entiende. Luego, comienzan a llamarlo lavavajillas o m¨¢quina expendedora

P. Para entender qu¨¦ es un robot dice que es mejor compararlo con un animal que con un humano. ?Mantiene esa idea despu¨¦s de ChatGPT?

R. S¨ª. S¨¦ que ahora es m¨¢s dif¨ªcil la comparaci¨®n con una IA que usa lenguaje humano. Pero es a¨²n m¨¢s importante el motivo, que consiste en decir que no es tan valioso o ¨²til crear algo que ya tenemos, que ya podemos hacer. Es m¨¢s valioso tener m¨¢quinas que puedan complementarnos o ser socios en lo que tratamos de lograr. Muchas tareas que la IA generativa har¨¢ ahora las hacen humanos, pero creo que el verdadero potencial de la tecnolog¨ªa es que sea una herramienta que se combine con otras habilidades humanas y no solo un reemplazo.

P. Ve a robots pronto como miembros de nuestras familias. ?C¨®mo ser¨¢n?

R. En muchas investigaciones sobre la interacci¨®n humano-robot, las personas ya tratan a los robots como seres vivos, aunque saben que son solo m¨¢quinas. Pero a la gente le encanta hacerlo. Las personas incluso antropomorfizan a los robots y nos proyectamos sobre ellos, les damos cualidades humanas locas, emociones. La gente tambi¨¦n entiende que est¨¢ interactuando no con una persona, sino con algo diferente. Los robots ser¨¢n un nuevo tipo de relaci¨®n social: puede ser como una mascota o puede ser algo totalmente diferente, por eso mi libro se llama nueva casta. Pero no creo que reemplace necesariamente las relaciones humanas. Ser¨¢ algo diferente, pero definitivamente va a pasar.

El verdadero potencial de la tecnolog¨ªa es que sea una herramienta que se combine con otras habilidades humanas y no solo un reemplazo

P. Tiene robots en casa. ?C¨®mo son? ?Qu¨¦ hacen?

R. Tengo un par de tipos diferentes. Tenemos una foca beb¨¦, un robot dinosaurio, un perro robot y luego tenemos otros robots que son m¨¢s para ayudar en casa, como un asistente o una aspiradora. Todos hacen cosas diferentes y mis hijos interact¨²an con ellos de manera distinta dependiendo de si los ven como herramienta o compa?ero.

P. ?Los robots compa?eros pueden apagarse o est¨¢n siempre encendidos?

R. Los apagamos. Aunque algunos est¨¢n dise?ados para estar siempre encendidos. El perro, por ejemplo, cuando la bater¨ªa est¨¢ baja, busca su lugar de carga y se tumba como si fuera a dormir para cargarse.

P. ?Estos robots mascota ya est¨¢n listos para entrar en millones de hogares?

R. Ya hemos visto, con esta tecnolog¨ªa primitiva y muy cara, que la gente que la tiene desarrolla conexiones significativas. La tecnolog¨ªa no va a empeorar. La barrera para los robots caseros no es la complejidad del robot, sino que la gente a¨²n no sabe el valor social que les proporcionar¨ªa tener uno. Una vez que obtengan suficientes efectos positivos de un robot dom¨¦stico que tendr¨¢n muchos hogares, habr¨¢ un punto de inflexi¨®n y m¨¢s gente los querr¨¢.

¡®Her¡¯ trata sobre una aplicaci¨®n que lanza una empresa, ?cu¨¢l es du modelo de negocio? ?Qu¨¦ est¨¢n tratando de hacer?

P. ?Qu¨¦ quiere decir con ¡°efectos positivos¡±?

R. La gente antes no ve¨ªa el valor de tener una mascota. El animal deb¨ªa cumplir una funci¨®n: el perro cuidar¨ªa la casa y el gato atrapar¨ªa a los ratones, pero luego la gente se dio cuenta de que la relaci¨®n con la mascota y la conexi¨®n emocional eran el verdadero valor. Ahora tienen mascotas por ese motivo. Pasar¨¢ lo mismo con los robots. Ahora mismo tienen una funci¨®n: asistentes, aspirar el suelo. Pero una vez haya un n¨²mero adecuado de robots con los que la gente interact¨²e, ver¨¢n un valor en la conexi¨®n social y los querr¨¢n tambi¨¦n por esa raz¨®n.

P. Ha dicho que la pel¨ªcula Her, sobre un humano que se enamora de una m¨¢quina, le preocupa y le entusiasma a partes iguales. ?Qu¨¦ problemas ¨¦ticos ve?

R. Her trata sobre una aplicaci¨®n que lanza una empresa. Hay muchas preguntas: ?cu¨¢l es el modelo de negocio de la empresa? ?Qu¨¦ est¨¢n tratando de hacer? Probablemente, traten de maximizar sus ganancias. Son personas en una posici¨®n muy vulnerable porque tienen ya una conexi¨®n emocional muy fuerte con una aplicaci¨®n, un dispositivo, un robot. Esto ya est¨¢ sucediendo. La aplicaci¨®n Replika, que ya tiene millones de usuarios, tiene a gente apegada emocionalmente. Me preocupa tambi¨¦n que haya problemas de privacidad y recopilaci¨®n de datos. Podr¨ªa manipular emocionalmente a las personas para que compren productos y servicios o cambien su comportamiento, no en su propio inter¨¦s, sino en el de una empresa.

P. Ha dicho que puede imaginarse que una aplicaci¨®n sexual pueda explotar la debilidad de un usuario en el calor del cl¨ªmax.

R. S¨ª.

P. ?No es mal marketing?

R. Igual es un poco m¨¢s sutil. Pero Replika tiene compras dentro de la aplicaci¨®n que la gente adquiere y, por tanto, es f¨¢cil manipular, hacer gastar dinero o ense?ar publicidad. Son problemas de protecci¨®n al consumidor porque es algo persuasivo pero de un modo demasiado manipulador.

P. ?Habr¨¢ un modo razonable de monetizar estas aplicaciones?

R. S¨ª, cuando los consumidores se den cuenta del valor de comprar un compa?ero artificial y paguen suficiente dinero por ello. Podr¨¢n venderlo y ya. ?Creo que pasar¨¢ eso? No. Pero ser¨ªa el mejor modo para proteger la privacidad y no tener que manipular emocionalmente a nadie.

P. A mucha gente le sorprender¨¢ que alguien humanice a estas m¨¢quinas. Pero estamos programados para eso.

R. S¨ª. Y no desaparecer¨¢. Si algo se mueve a nuestro alrededor es porque tiene vida. As¨ª piensan nuestros cerebros y hay esta proyecci¨®n subconsciente que no solo se da con objetos en movimiento, sino con un chatbot o lo que sea que imite el comportamiento humano, cosas que reconocemos como se?ales, sonidos, y la evidencia cient¨ªfica muestra que lo hacemos desde peque?os. Est¨¢ muy arraigado y seguir¨¢ ah¨ª.

[Lo que m¨¢s me preocupa es] las empresas, la estructura de incentivos y los problemas pol¨ªticos y econ¨®micos. Es una cuesti¨®n de gobernanza, no tecnol¨®gica

P. Los robots morir¨¢n. ?Puede ser que nos divorciemos o abandonemos un robot en una cuneta por culpa de una actualizaci¨®n de software?

R. S¨ª, probablemente. Las relaciones pueden terminar de todas maneras y tendremos relaciones reales con robots, tanto si son como relaciones humanas, relaciones humanos-mascotas o relaciones nuevas. Como tal podr¨¢n acabar de maneras distintas, tanto con la muerte como con alguien decidiendo que ya no quiere seguir. Pasar¨¢n todo tipo de cosas. Es f¨¢cil de prever porque la gente desarrolla relaciones emocionales con entidades artificiales. Pero a¨²n hay mucha gente que no lo entiende.

P. ?No entienden que pueden colarse por una m¨¢quina?

R. S¨ª. Hay ya historias sobre gente que se enamora de su chatbot. La mayor¨ªa de gente piensa que ellos no. Que esa gente que se enamora son tristes y solitarios, pero que ellos no. Todos somos susceptibles de vincularnos con m¨¢quinas, sobre todo cuando sean algo m¨¢s interesantes y est¨¦n m¨¢s disponibles. Tenemos que tomarnos esto m¨¢s en serio en lugar de re¨ªrnos de que alguien se enamore de un robot porque nos pasar¨¢ a todos.

P. ?No es sorprendente que la m¨¢quina de la que nos enamoremos sea solo una pantalla?

R. No demasiado. Incluso con los chatbots m¨¢s primitivos la gente se abr¨ªa. En el MIT crearon a Eliza en los a?os setenta y la gente le contaba sus cosas. Somos papanatas con todo lo que nos da se?ales que reconocemos, incluso si solo es una pantalla. La raz¨®n por la que me encantan los robots f¨ªsicos es porque a?ade esa capa m¨¢s visceral que los hace m¨¢s atractivos.

P. Pero no le gustan los robots humanoides.

R. No, son aburridos.

P. Prefiere a R2-D2, un ¡°cubo de basura con ruedas¡±.

R. Me gustan los robots que est¨¢n dise?ados para ser monos y con los que la gente se identifica, pero no tienen que parecer humanos. Es mucho m¨¢s interesante crear una forma y a veces funciona incluso mejor porque si se ve demasiado humanoide, entonces las expectativas sobre c¨®mo debe comportarse y qu¨¦ debe hacer acaban por decepcionar. Mientras que con algo que parece un cubo de basura animado no hay las mismas expectativas.

P. ?Est¨¢ m¨¢s excitada o preocupada por estas novedades?

R. Ambas.

P. ?Qu¨¦ es lo que m¨¢s le preocupa?

R. Las empresas, la estructura de incentivos y los problemas pol¨ªticos y econ¨®micos. Es una cuesti¨®n de gobernanza, no tecnol¨®gica.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.