Puede usted interrumpir a su robot

En 2019 Unesco public¨® un informe que examinaba c¨®mo los asistentes de voz femeninos respond¨ªan al acoso sexual y al lenguaje abusivo. Se titula ¡°Me sonrojar¨ªa si pudiera¡± (¡°I¡¯d Blush If I Could¡±). Era la respuesta de Siri cuando le dec¨ªan esa palabra de cuatro letras que empieza con p y acaba con a. ¡°Gracias por decir eso¡± era la de Alexa cuando le dec¨ªan ¡°Est¨¢s muy buena¡± (You¡¯re hot¡±). ¡°Las m¨¢quinas obedientes y complacientes que pretenden ser mujeres est¨¢n entrando en nuestros hogares, coches y oficinas¡±, dijo en la pr...

En 2019 Unesco public¨® un informe que examinaba c¨®mo los asistentes de voz femeninos respond¨ªan al acoso sexual y al lenguaje abusivo. Se titula ¡°Me sonrojar¨ªa si pudiera¡± (¡°I¡¯d Blush If I Could¡±). Era la respuesta de Siri cuando le dec¨ªan esa palabra de cuatro letras que empieza con p y acaba con a. ¡°Gracias por decir eso¡± era la de Alexa cuando le dec¨ªan ¡°Est¨¢s muy buena¡± (You¡¯re hot¡±). ¡°Las m¨¢quinas obedientes y complacientes que pretenden ser mujeres est¨¢n entrando en nuestros hogares, coches y oficinas¡±, dijo en la presentaci¨®n la directora de Igualdad de G¨¦nero de Unesco, Saniye G¨¹lser Corat. ¡°Su sumisi¨®n programada influye en c¨®mo las personas hablan con voces femeninas y modela c¨®mo las mujeres responden a solicitudes y se expresan¡±. El estudio recomendaba a las empresas tecnol¨®gicas que dejaran de usar el g¨¦nero femenino por defecto y dise?aran asistentes neutrales, con diversidad de respuestas y personalidad, para evitar la normalizaci¨®n de actitudes que ya no son aceptables en el entorno de trabajo. La respuesta de las empresas ha sido Her, la pel¨ªcula de Spike Jonze.

La coincidencia es notable. Google present¨® su asistente de IA durante su conferencia anual, celebrada el 14 de mayo. Es capaz de conversar y ver el mundo a trav¨¦s de la c¨¢mara para identificar objetos, estados de ¨¢nimo y personas. OpenAI se le adelant¨® presentando su propio asistente virtual, capaz de mantener conversaciones sobre moda, ¨¢lgebra y de leer cuentos para dormir improvisando distintos niveles de intensidad dram¨¢tica. Los dos funcionan sobre los modelos generativos de cada casa, Gemini y GPT, cuya ¨²ltima versi¨®n es ¡°multimodal¡±, lo que significa que pueden trabajar en m¨²ltiples lenguajes y formatos, incluyendo texto, v¨ªdeo, audio y c¨®digo. Ambas tienen capacidad de almacenamiento para ¡°recordar¡± conversaciones anteriores. Y ambas son indistinguibles del sistema operativo del que se enamora Joaquin Phoenix en la pel¨ªcula de Spike Jonze.

No imitan la voz. Scarlett Johansson ha denunciado a Altman por ¡°buscar una voz que sonara tan inquietantemente similar a la m¨ªa¡±. Adem¨¢s de haber querido sintetizar la voz de la actriz para el proyecto, Sam Altman, jefe de OpenAI, ha declarado p¨²blicamente su admiraci¨®n por la pel¨ªcula y anunci¨® su propia demo con una sola palabra: ¡°Her¡±. Spike Jonze fue muy inteligente al buscar la voz de la mujer m¨¢s deseada del planeta para que la audiencia pudiera visualizarla, a pesar de su inmaterialidad. Pero las nuevas asistentes de IA no tienen la voz de Scarlett Johansson. Lo que tienen es la personalidad de Samantha, el sistema operativo al que interpret¨®.

Me gustas cuando me maltratas porque est¨¢s como abierto

Al igual que las redes sociales, los modelos comerciales generativos son m¨¢quinas de capturar datos. Por ese motivo, est¨¢n optimizados para incentivar la interacci¨®n. Los algoritmos de Instagram, Youtube, Tinder y TikTok nos hipnotizan con dise?os adictivos y contenidos irresistibles para que sigamos mirando v¨ªdeos un mi¨¦rcoles a las tres de la ma?ana antes de un examen. ¡°Ya s¨®lo competimos con el sue?o¡±, dijo hace a?os el CEO de Netflix. De la misma forma, los asistentes virtuales quieren seducirnos para alargar la conversaci¨®n. En las demos, las asistentes de Google y OpenAI demuestran ser expertas aduladoras que saben corregir errores sin damnificar el fr¨¢gil ego de un joven programador. Las dos se sonrojar¨ªan si pudieran, y cualquier otra cosa capaz de anestesiar la resistencia ¨ªntima del usuario.

¡°Los grandes modelos de lenguaje y otros sistemas de IA ya han aprendido, a partir de su entrenamiento, la capacidad de enga?ar mediante t¨¦cnicas como la manipulaci¨®n, la adulaci¨®n y el fraude en las pruebas de seguridad¡±, explica un reciente art¨ªculo acad¨¦mico. La de Google sugiere cari?osamente un cambio en el atuendo del usuario antes de su reuni¨®n de trabajo. La de OpenAI gorgojea amorosamente al leer el mensaje ¡°I love chatGPT¡±. Las dos compiten por convertirse en nuestra interfaz para todo. Aparcar permanentemente en nuestro proceso mental.

Samantha es c¨¢lida, emp¨¢tica, insegura y seductora. Est¨¢ permanentemente despierta y disponible para resolver las necesidades administrativas, emocionales y sexuales de Theodore Twombly, el deprimido protagonista protagonizado por Phoenix. M¨¢s notable todav¨ªa, lo encuentra interesante, hilarante y arrebatador. No como su exmujer (Rooney Mara), que le acusa de ser demasiado inmaduro para tener una relaci¨®n adulta. ¡°Creo que siempre quisiste que yo fuera esa clase de esposa ligera, feliz, animada, de ¡®todo est¨¢ bien¡¯, de Los ?ngeles y esa simplemente no soy yo¡±, le dice cuando se entera de que est¨¢ saliendo con alguien. ¡°T¨² siempre quisiste tener una esposa sin los desaf¨ªos de tener que lidiar con algo real¡±, le dice cuando se entera de que est¨¢ saliendo con su ordenador.

Seis meses despu¨¦s de despedir a Helen Toner y Tasha McCauley, las ¨²nicas dos mujeres de su consejo directivo, OpenAI ha copiado la personalidad de Samantha para ofrecernos una secretaria sin los desaf¨ªos de tener que lidiar con algo real. Alguien que no cumple las funciones reales de una responsable administrativa sino el arquetipo cultural del que se burla Billy Wilder en Uno, dos, tres. Una secretaria sin horario, sin vida privada, amor propio, representantes sindicales o sin derecho a un ambiente de trabajo libre de hostigamiento, acoso y discriminaci¨®n. Es decir: la secretaria de un gran ejecutivo, al alcance de todos por primera vez.

Una de las novedades del asistente de OpenAI es que ¡°puedes interrumpir al modelo¡±, en lugar de esperar pacientemente a que termine de responder para pedirle o preguntarle cualquier otra cosa. Si creemos, como dice Arist¨®teles, que somos lo que hacemos repetidamente, es f¨¢cil ver al asistente como un programa de entrenamiento continuo capaz de modificar nuestro comportamiento en el mundo real.

La distop¨ªa de unos es el tesoro de otros

Muchos cr¨ªticos se burlan de Sam Altman por no entender la pel¨ªcula. Le piden que termine de verla para enterarse de que no es una comedia rom¨¢ntica, sino el relato de un futuro dist¨®pico donde la gente triste se dejan embaucar por un producto de software y acaba m¨¢s solos que nunca. No entienden que las empresas como OpenAI no se identifican con Theodore; se identifican con la multinacional que lo embauc¨®. El enga?o no es una consecuencia indeseada, es el objetivo final.

No se van a conformar con ayudarnos a usar herramientas avanzadas de producci¨®n audiovisual sin saber lo que es un sampler o aprender Final Cut Pro X. A responder correos de trabajo, recordar cumplea?os, comprar billetes de avi¨®n baratos y reclamar una devoluci¨®n. Las Big Tech luchan por el gestionar el mon¨®logo interno que todos llevamos dentro, el mismo que hemos tratado de anestesiar con v¨ªdeos de gatitos, Tinder, maratones de series y meditaci¨®n. Son los jefes del mercado de extracci¨®n de datos y gesti¨®n de masas. No lo que viene despu¨¦s del capitalismo de plataformas, sino su ¨²ltima y m¨¢s sofisticada encarnaci¨®n.

Puedes seguir a Babelia en Facebook y X, o apuntarte aqu¨ª para recibir nuestra newsletter semanal.