El viudo por muerte inform¨¢tica o por qu¨¦ es peligroso que la IA hable como Scarlett Johansson

Akihiko Kondo, que ha cumplido 41 a?os el pasado ¨²ltimo d¨ªa de mayo, se cas¨® con el holograma de su cantante virtual favorita, Hatsune Miku, en una ceremonia simb¨®lica hace seis a?os. Solo dos aniversarios despu¨¦s, Gatebox, la empresa responsable del avatar, dej¨® el servicio y el joven administrativo de una escuela p¨²blica japonesa enviud¨® por muerte inform¨¢tica. La historia de Kondo, aunque parezca extravagante, no es m¨¢s que un anticipo de una realidad de consecuencias impredecibles: la sustituci¨®n de relaciones personales reales por agentes robotizados programados para responder al usuario seg¨²n sus expectativas. El investigador y profesor de rob¨®tica de la Universidad de Sheffield Tony Prescott ha presentado el libro The Psychology of Artificial Intelligence (La psicolog¨ªa de la inteligencia artificial), con el que sostiene que la IA puede ser un paliativo de la soledad. Pero con riesgos, seg¨²n admite ¨¦l y decenas de investigadores.

Que ChatGPT-4o se presentara con una voz parecida a la de Scarlett Johansson no es casualidad. Los angloparlantes que vieron la pel¨ªcula Her, escrita, dirigida y producida por Spike Jonze y galardonada con el Oscar al mejor guion en 2014, tardaron segundos en asociar el nuevo agente (asistente virtual) de Open AI con la actriz, cuya interacci¨®n termina enamorando al solitario protagonista.

El ¨²ltimo informe del Laboratorio de Consumo e Industria de Ericsson (Ericsson Consumer & Industry Lab) refleja que ¡°el 50% de los usuarios iniciales de la inteligencia artificial cree que las personas simular¨¢n sus matrimonios para anticipar cambios o incluso prever el divorcio¡±. Un abrumador 71% de estos consumidores de IA cree que esta utilidad ser¨¢ beneficiosa.

La sustituci¨®n de la interacci¨®n humana, con todas sus complejidades, por una relaci¨®n h¨ªbrida entre humano y m¨¢quina implica muchas ventajas, pero tambi¨¦n numerosos riesgos m¨¢s reales e inmediatos que los reflejados en algunos cap¨ªtulos de Black Mirror. ¡°Los robots sociales est¨¢n dise?ados espec¨ªficamente para interacciones personales que involucran emociones y sentimientos humanos. Pueden aportar beneficios, pero tambi¨¦n causar da?os emocionales a niveles muy b¨¢sicos¡±, advierte Matthias Scheutz, director del Laboratorio de Interacci¨®n Humano-Robot en la Universidad de Tufts (EE UU).

La experiencia de Akihiko Kondo es un resumen de esta complejidad y difiere de otras m¨¢s relacionadas con experiencias art¨ªsticas, como The Hybrid Couple de Alicia Framis, que simula un matrimonio con un holograma como reflexi¨®n, o Meirivone Rocha, una brasile?a de 39 a?os que infl¨® sus seguidores en las redes al difundir su supuesta boda con un mu?eco.

El japon¨¦s, en una entrevista a la BBC, relata haber sufrido acoso por parte de compa?eros, admite que los amigos a trav¨¦s de internet y los juegos siguen siendo su ¡°comunidad¡± y confiesa que nunca ha tenido pareja: ¡°He tenido algunos amores no correspondidos en los que yo siempre era rechazado y me hizo descartar la posibilidad de estar con alguien¡±. Soledad, acoso, dependencia psicol¨®gica y tecnol¨®gica, habilidades sociales limitadas, celibato involuntario (el peligroso movimiento en la red antesala de la violencia machista), satisfacci¨®n artificial de necesidades, compa?eros virtuales con apariencia de realidad¡­ La extravagante historia de Kondo abre la puerta a un an¨¢lisis de las virtudes y peligros de la injerencia de la IA en las relaciones personales.

Ventajas

No son pocos ni simples los beneficios de una inteligencia artificial humanizadas.

Soledad. Prescott admite los riesgos, pero destaca una de las principales ventajas: ¡°En una ¨¦poca en la que muchas personas describen sus vidas como solitarias, puede ser valioso tener la compa?¨ªa de la IA como una forma de interacci¨®n social rec¨ªproca que sea estimulante y personalizada. La soledad humana a menudo se caracteriza por una espiral descendente en la que el aislamiento conduce a una autoestima m¨¢s baja, lo que desalienta una mayor interacci¨®n con las personas. El compa?erismo de la IA podr¨ªa ayudar a romper este ciclo como andamiaje de la autoestima y ayudar a mantener o mejorar las habilidades sociales. Si es as¨ª, las relaciones con las IA podr¨ªan ayudar a las personas a encontrar compa?¨ªa tanto con humanos como con otros artificiales¡±.

Cuidado. Joan Claire Tronto, profesora de ciencias pol¨ªticas en la Universidad de Minnesota, ampl¨ªa el concepto de cuidado (care) a todo aquello que ¡°hacemos para mantener, continuar y reparar nuestro mundo con el fin de que podamos vivir en ¨¦l lo mejor posible¡±. En su trabajo, una clave es ¡°el compromiso de satisfacer las necesidades de los dem¨¢s¡±. Y la IA puede hacerlo sin descanso. Luis Merino es catedr¨¢tico de la Universidad Pablo de Olavide y responsable de rob¨®tica social, la disciplina destinada a asistencia de colectivos humanos de forma aut¨®noma y con capacidad de aprender de las emociones de los destinatarios de los servicios: ¡°El objetivo es que los robots entiendan nuestras intenciones y emociones y aprendan de ellas¡±.

Beneficio o inter¨¦s. El m¨¢ximo responsable de Open AI, Sam Altman, describe a su ¨²ltimo modelo como ¡°colega supercompetente¡±. El primer t¨¦rmino hace referencia a su humanizaci¨®n y el segundo a los beneficios que aporta por la ejecuci¨®n de tareas en nombre del usuario. Esta ¨²ltima ventaja aporta ¡°bienestar individual¡±, seg¨²n Brad Hooker, profesor de filosof¨ªa en la Universidad de Reading. Este inter¨¦s es inherente a la interacci¨®n humana. No siempre se busca un beneficio, pero es dif¨ªcil que una relaci¨®n prospere si los costes superan constantemente a los beneficios.

Desarrollo humano. La IA puede promover actitudes y conductas que faciliten la realizaci¨®n personal y la interacci¨®n con los dem¨¢s. En una evaluaci¨®n de ChatGPT, Gemini y Llama (Meta), la Universidad de Illinois ha mostrado la importancia de esta habilidad. ¡°Los agentes pueden ayudar a aumentar, por ejemplo, la conciencia sobre los comportamientos saludables, a comprometerse emocionalmente con los cambios y a darse cuenta de c¨®mo sus h¨¢bitos podr¨ªan afectar a las personas que los rodean¡±, explica Michelle Bak, investigadora de los modelos.

Autonom¨ªa. Se refiere al potencial de la IA para aportar informaci¨®n relevante para que el individuo act¨²e y decida de acuerdo con sus propias motivaciones e intereses.

Riesgos

De cada una de estas categor¨ªas de ventajas surgen ramas de riesgos asociados. Estos son algunos destacados por los investigadores:

Da?os f¨ªsicos o emocionales. Las an¨¦cdotas de los primeros modelos de IA amenazando, insultando o promoviendo comportamientos da?inos o violentos no son nuevas, aunque peri¨®dicamente alimenten desproporcionadas e insustanciales reacciones. Hace un a?o que la cadena de supermercados Pak ¡®n¡¯ Save de Nueva Zelanda fue advertida porque su IA planificadora de men¨²s recomendaba bebidas con cloro gaseoso y bocadillos con veneno y pegamento. Obviamente, nadie sigui¨® estos consejos porque el sentido com¨²n prima, pero puede haber casos menos evidentes y extremos.

Amelia Glaese, investigadora de Google DeepMind y ahora de Open AI, busca f¨®rmulas y sistemas para evitar estos accidentes. ¡°Utilizamos el aprendizaje por refuerzo a partir de la retroalimentaci¨®n humana para (¡­) que nuestro agente sea m¨¢s ¨²til e inofensivo y proporcione evidencias de las fuentes que respaldan las afirmaciones¡±.

La humanizaci¨®n del robot con empat¨ªa y herramientas de voz y v¨ªdeo a?ade peligrosidad al ofrecer una interacci¨®n m¨¢s realista e inmersiva y hacer creer al usuario que est¨¢n con un amigo o interlocutor de confianza. Una aplicaci¨®n extrema puede ser la tentaci¨®n de mantener una versi¨®n virtual de un ser querido fallecido y evitar as¨ª el duelo necesario para continuar la vida.

Los investigadores reclaman que estos desarrollos se prueben en circuitos cerrados (sandbox) antes de ofrecerse, se supervisen y eval¨²en de forma constante, se analice la variedad de da?os que pueden causar en distintos ¨¢mbitos y se prevean f¨®rmulas para mitigarlos.

Limitaci¨®n del desarrollo personal. ¡°Algunos usuarios buscan con sus compa?eros de IA relaciones que est¨¦n libres de los obst¨¢culos, sin opiniones, preferencias y normas que pueden entrar en conflicto con las suyas¡±, advierte un estudio de media docena de universidades para DeepMind. Y, adem¨¢s, con un lenguaje adulador.

Shannon Vallor, fil¨®sofa especializada en ¨¦tica de la ciencia e inteligencia artificial, advierte sobre el peligro de que los nuevos sistemas promuevan relaciones ¡°sin fricciones¡±, pero tambi¨¦n sin valores: ¡°No tienen la vida mental y moral que los humanos tenemos detr¨¢s de nuestras palabras y acciones¡±.

Ese tipo de relaci¨®n supuestamente ideal, seg¨²n estos expertos, desalienta la necesidad de cuestionarnos y avanzar en el desarrollo personal al mismo tiempo que promueve la renuncia a la interacci¨®n real y generar dependencia de esas m¨¢quinas dispuestas a halagar y buscar una satisfacci¨®n a corto plazo.

Manipulaci¨®n. Esa dependencia emocional de un sistema capaz de persuadir es el acceso inmediato a la interferencia en los comportamientos, intereses, preferencias, creencias y valores de los usuarios, a su capacidad para tomar decisiones libres e informadas. ¡°Las emociones que los usuarios sienten hacia sus asistentes podr¨ªan ser explotadas para manipularlos o, llevadas al extremo, coaccionarlos para creer, elegir o hacer algo que, de otro modo, no habr¨ªan cre¨ªdo, elegido o hecho¡±, advierte el documento de DeepMind.

Dependencia material. El final de la experiencia de Akihiko Kondo y su matrimonio virtual con un holograma es un claro ejemplo. Fue la empresa responsable de la programaci¨®n y mantenimiento del sistema la que puso fin a la soluci¨®n que encontr¨® el administrativo japon¨¦s para satisfacer ciertas necesidades. Los desarrolladores pueden generar la dependencia y luego interrumpir la tecnolog¨ªa por la din¨¢mica del mercado o los cambios normativos sin tomar las medidas adecuadas para mitigar los posibles da?os al usuario.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.