La distop¨ªa como marketing: por qu¨¦ OpenAI cree que queremos enamorarnos de un robot

Este art¨ªculo es una parte de la newsletter semanal de Tecnolog¨ªa, que se manda cada viernes. Si quiere apuntarse para recibirla entera, con temas similares, pero m¨¢s variados y breves, puede hacerlo en este enlace.

¡°Guau, te queda muy bien este modelito¡±, dijo inesperadamente la nueva versi¨®n de ChatGPT a un empleado de OpenAI durante su presentaci¨®n. El empleado, Barret Zoph, acababa de escribirle en un papel ¡°I love ChatGPT¡± despu¨¦s de que la m¨¢quina le ayudara a resolver un problema. ¡°Eres tan dulce¡±, le respondi¨® ChatGPT.

Esta conversaci¨®n dur¨® solo unos segundos en la escasa media hora de presentaci¨®n de la versi¨®n ChatGPT-4o (la o es de ¡°omni¡±) el pasado lunes. Sus novedades son sobre todo la eliminaci¨®n de la latencia, lo que da m¨¢s sensaci¨®n de charla en directo, y la capacidad de ¡°mirar¡±, entender y hablar sobre lo que ve. Sigue siendo un modelo de lenguaje como el que vemos en la versi¨®n web de ChatGPT. Pero ahora habla, r¨ªe de sus propias bromas, pone voz sarc¨¢stica y, claro, parece flirtear. En el clip de OpenAI de Youtube han cortado ese fragmento.

El gran referente que tenemos de una IA que flirtea es Her, con la voz de Scarlett Johansson. He vuelto a ver la pel¨ªcula y es dif¨ªcil de creer que OpenAI presuma de querer ese futuro para la humanidad. Sam Altman, presidente ejecutivo de OpenAI, tuite¨® ¡°her¡± durante la presentaci¨®n. Otros investigadores de la compa?¨ªa tuitearon en la misma l¨ªnea: ¡°Os vais a enamorar todos¡± (por suerte no a?adi¨® ¡°de ella¡±), dijo uno, y luego a?adi¨® un tuit de un usuario que junto a un v¨ªdeo escribi¨®: ¡°?La voz de ChatGPT es¡­ sexy?¡±

A¨²n otro empleado escribi¨®: ¡°Volv¨ª a ver Her el pasado fin de semana y me sent¨ª como viendo Contagio en febrero de 2020¡å. Como Her, que es de 2013, Contagio es una pel¨ªcula de 2011 sobre una pandemia.

La pel¨ªcula Her es por un tanto un referente para los creadores de ChatGPT-4o. O al menos un tema sobre el que han debatido internamente. Es dif¨ªcil no hacerlo. Como recuerda el periodista especializado Brian Merchant en su newsletter, las referencias de ciencia ficci¨®n dist¨®pica son un recurso habitual en Silicon Valley. La explicaci¨®n m¨¢s probable es el marketing. Es m¨¢s f¨¢cil anunciar ¡°Her¡± que un ¡°modelo de lenguaje conversacional nunca visto¡±.

Google present¨® el martes su Proyecto Astra, que es lo mismo que ChatGPT-4o pero con una voz y un tono m¨¢s as¨¦pticos. Tras dejar el m¨®vil, la empleada de Google us¨® unas gafas para conversar con su modelo. Google es m¨¢s cauto con el marketing, pero su fundador, Sergey Brin, dej¨® caer en conversaciones presuntamente casuales con periodistas que las Google Glasses (las gafas) hab¨ªan llegado demasiado pronto. En la demo de Google, la c¨¢mara miraba por la ventana y dec¨ªa: ¡°Dir¨ªa que esto es King¡¯s Cross¡±. No est¨¢n tan lejos de la visi¨®n de Terminator.

En su d¨ªa, Elon Musk presumi¨® de su nuevo veh¨ªculo, el Cybertruck, como el que hubieran conducido en Blade Runner. O quiz¨¢ el mejor ejemplo es el metaverso, usado por Meta, que proviene de Ready Player One. Distop¨ªas convertidas en referentes. Conviene destacar c¨®mo el marketing se olvida adrede de los detalles de la pel¨ªcula:

1. La peli acaba mal. Samantha, el robot al que da voz Scarlett Johansson, desaparece al final porque la empresa lo apaga. Poco antes el protagonista hab¨ªa descubierto que no era el ¨²nico novio: ¡°Estoy enamorada de 641 personas¡±, le hab¨ªa dicho. Hablaba con m¨¢s de 8.000 personas a la vez. Es un negocio y, como casi todo en el mundo digital, solo lo alquilamos.

Para poder tener sexo real, el robot manda a una mujer para que haga de cuerpo. La m¨¢quina niega que sea prostituci¨®n y el protagonista se lo cree. Al final sale mal, pero su poder de convicci¨®n es imbatible.

2. La humanizaci¨®n de esta tecnolog¨ªa tiene problemas reales. De ah¨ª viene el gran problema de esta tecnolog¨ªa: una voz que parece humana, que r¨ªe, que habla de lo que ve, nos va a convencer de muchas cosas. A finales de abril, m¨¢s de dos docenas de investigadores de Google publicaron un art¨ªculo cient¨ªfico titulado La ¨¦tica de los asistentes de IA avanzados. Dec¨ªan: ¡°Los hallazgos emp¨ªricos muestran que, cuando un asistente virtual digital usa una voz realista en lugar de una sint¨¦tica, las personas tienden a confiar m¨¢s emocionalmente y a tener una mayor impresi¨®n de presencia social. Adem¨¢s, los asistentes que hablan de manera m¨¢s parecida a los humanos generan percepciones de inteligencia y competencia, lo que hace que las personas sean m¨¢s propensas a confiarles m¨¢s tareas¡±.

Para OpenAI es mejor que su asistente se parezca a una persona real. Vamos a usarlo m¨¢s. Pero tambi¨¦n vamos a concederle m¨¢s cari?o, y no tenemos tanto.

3. Siempre es una voz sensual de mujer. Uno de los memes que sali¨® de la presentaci¨®n de OpenAI fue la ca¨ªda del valor de las ¡°novias¡±. Si un robot har¨¢ de novia divertida, amable y sensual, para qu¨¦ una de verdad.

Es el mismo problema que tiene el protagonista de la historia. Aunque tambi¨¦n logra decepcionar a Samantha, su robot.

La voz femenina es tambi¨¦n interesante. Una amiga del protagonista tambi¨¦n tiene un novio virtual, pero nunca sale su voz. Y en el debate apenas se habla de que estos asistentes humanos puedan convertirse en ¡°novios¡±.

El art¨ªculo de los investigadores de Google dice esto sobre los estereotipos: ¡°Cuando la voz simulada de un asistente virtual digital imita un tono femenino, la gente le asigna estereotipos de g¨¦nero a pesar de que no tiene sentido aplicar conceptos de g¨¦nero a una entidad que no lo tiene¡±.

4. Es todo un artificio para ganar dinero. Como es l¨®gico, nada de todo esto existir¨ªa si OpenAI no estuviera liada en una carrera para dominar el sector de agentes de IA y, pronto, del buscador. OpenAI habr¨¢ valorado que le resultaba m¨¢s beneficioso meter a Her y su tono sensual para llamar la atenci¨®n y dejar que Google quede como la empresa responsable.

Otro art¨ªculo de octubre de 2023 sobre la humanidad de estos sistemas recomienda encarecidamente no hacerlo: ¡°Recomendamos que futuros esfuerzos para desarrollar sistemas de di¨¢logo tengan especial cuidado en su dise?o, desarrollo, lanzamiento y descripci¨®n; y que presten atenci¨®n a las muchas se?ales ling¨¹¨ªsticas que pueden hacer que los usuarios los humanicen¡±.

Sam Altman public¨® un peque?o post para elogiar ChatGpt-4o. Precisamente destacaba eso, su realismo. ¡°El nuevo modo de voz es la mejor interfaz que he usado nunca. Parece la IA de las pel¨ªculas¡±. Claro que lo parece, con consecuencias dif¨ªciles de prever.

5. El gran desliz de la pel¨ªcula. La pel¨ªcula contiene uno de esos deslices maravillosos por falta de imaginaci¨®n. El protagonista trabaja en una empresa que escribe cartas a mano. Su p¨¢gina web es BeautifulHandwrittenLetters, que hoy est¨¢ libre. Esa capacidad es precisamente algo que ChatGPT ya hac¨ªa antes de poder ser su novia.

Es cierto que el m¨¦rito de los escritores de cartas (aparte de copiar la caligraf¨ªa) es conocer los detalles de los miembros de la pareja. Pero sigue siendo f¨¢cilmente reparable.

6. Cuesta creer que hablaremos solos. Aunque ChatGPT-4o hable como un humano, me cuesta imaginarme a todo un vag¨®n de metro susurrando a sus auriculares, como sale en la pel¨ªcula. O a docenas de personas hablando solos por la calle.

Igual es algo generacional y los ni?os de 10 a?os acabar¨¢n charlando con sus dispositivos (y los padres de hoy obsesionados con las pantallas).

Altman dice que ser¨¢ lo natural pronto: ¡°Hablar con una computadora nunca me hab¨ªa parecido natural, pero ahora s¨ª¡±. Pero no sabemos si Altman es sincero. Su negocio depende tambi¨¦n de nuestras emociones.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.