Los humanos ya repiten palabras que aprenden de ChatGPT, como ¡°ahondar¡± o ¡°meticuloso¡±

El investigador Ezequiel L¨®pez estaba hace poco en una conferencia acad¨¦mica y le sorprendi¨® o¨ªr la insistencia de los ponentes en alguna palabra, como delve, que es ahondar, adentrarse o profundizar, en ingl¨¦s. Otro investigador del Instituto Max Planck para el Desarrollo Humano (Berl¨ªn) tuvo una sensaci¨®n parecida: hab¨ªa algunas palabras que, de repente, se repet¨ªan en las presentaciones y que antes apenas se o¨ªan.

Hab¨ªa ya alguna investigaci¨®n sobre c¨®mo se hab¨ªan colado repetidamente palabras curiosas en art¨ªculos cient¨ªficos, frases o p¨¢rrafos escritos por ChatGPT u otras inteligencias artificiales. ?Podr¨ªa ser que ahora los humanos estuvieran ya repitiendo oralmente palabras popularizadas por las m¨¢quinas? Decidieron analizarlo. El primer reto fue encontrar suficientes ponencias recientes. Reunieron unos 300.000 v¨ªdeos de conferencias acad¨¦micas y crearon un modelo para comprobar la frecuencia de aparici¨®n de algunas palabras durante los ¨²ltimos a?os: ¡°Nuestra pregunta es si puede que haya un efecto de adopci¨®n y transmisi¨®n cultural, que las m¨¢quinas est¨¢n cambiando nuestra cultura y que luego se propague¡±, dice L¨®pez.

La respuesta es que s¨ª. En 2022 detectaron un punto de inflexi¨®n en palabras en ingl¨¦s que antes se o¨ªan poco como delve (ahondar), meticulous (meticuloso), realm (reino, dominio) o adept (ser diestro en algo). Iyad Rahwan, profesor del Instituto Max Planck y coautor de la investigaci¨®n, afirma: ¡°Es surrealista. Hemos creado una m¨¢quina que puede hablar, que aprendi¨® a hacerlo de nosotros, de nuestra cultura. Y ahora nosotros estamos aprendiendo de la m¨¢quina. Es la primera vez en la historia que una tecnolog¨ªa humana puede ense?arnos cosas de manera tan expl¨ªcita¡±.

No es tan extra?o que los humanos repitamos palabras nuevas que acabamos de aprender. Y m¨¢s si son hablantes no nativos, como se da en una parte importante de la muestra en este caso. ¡°No creo que sea un motivo de alarma porque al final est¨¢ democratizando la habilidad de la comunicaci¨®n. Si t¨² eres japon¨¦s y eres l¨ªder mundial de tu campo cient¨ªfico, pero cuando hablas en ingl¨¦s en una conferencia pareces un americano de parvulario, se generan unos sesgos tambi¨¦n sobre tu autoridad¡±, dice L¨®pez.

ChatGPT permite que estos hablantes no nativos capturen mejor matices e incorporen palabras que antes no usaban. ¡°Si no eres nativo ingl¨¦s y ma?ana vas al cine y hay una palabra nueva que te sorprende, es probable que la adoptes tambi¨¦n, como ocurre con wiggle room (margen de maniobra) en Oppenheimer; o con lockdown durante la pandemia¡±, dice L¨®pez. Pero hay una salvedad, se?ala este investigador. Es muy particular que las palabras adoptadas en esas conferencias acad¨¦micas no sean sustantivos que ayudan a describir algo con m¨¢s precisi¨®n, sino palabras instrumentales como verbos o adjetivos.

Hay dos consecuencias curiosas de esta adopci¨®n. Primero, desde que se ha hecho evidente en el mundo acad¨¦mico que estas palabras son creaciones de ChatGPT, se han convertido en malditas: usarlas puede llegar a estar mal visto. ¡°Yo ya lo estoy viendo esto en mi propio laboratorio. Cada vez que alguien usa ¡®ahondar¡¯, todos lo pillan al instante y se burlan de ¨¦l. Se ha vuelto una palabra tab¨² para nosotros¡±, dice Rahwan.

La segunda consecuencia puede ser peor. ?Qu¨¦ pasar¨ªa si, en lugar de hacernos adoptar palabras de manera aleatoria, estas m¨¢quinas pudieron meternos en la cabeza palabras m¨¢s connotadas? ¡°Por un lado, lo que encontramos es bastante inofensivo. Pero esto muestra el enorme poder de la IA y de las pocas empresas que la controlan. ChatGPT es capaz de tener conversaciones simult¨¢neas con mil millones de personas. Esto le da un poder considerable para influir en c¨®mo vemos y describimos el mundo¡±, afirma Rahwan. Una m¨¢quina como esta podr¨ªa determinar la forma en que la gente habla de guerras como las de Ucrania u Oriente Medio, o c¨®mo describe a personas de una raza en particular o aplica una visi¨®n sesgada a eventos hist¨®ricos.

De momento, por su adopci¨®n global, el ingl¨¦s es el idioma donde es m¨¢s f¨¢cil detectar estos cambios. ?Pero pasar¨¢ tambi¨¦n en espa?ol? ¡°Me lo he preguntado. Supongo que algo similar pasar¨¢, pero el grueso de ciencia y tecnolog¨ªa es en ingl¨¦s¡±, dice L¨®pez.

Tambi¨¦n afecta la inteligencia colectiva

La IA generativa puede tener consecuencias insospechadas en muchos otros ¨¢mbitos aparte del lenguaje. En otra investigaci¨®n publicada en Nature Human Behaviour, L¨®pez y sus coautores han encontrado que la inteligencia colectiva, tal y como la entendemos, est¨¢ en peligro si empezamos a usar masivamente la IA. P¨¢ginas de c¨®digo colaborativo como GitHub o Stack Overflow perder¨¢n su rol si cada programador emplea un bot para generar c¨®digo. Ya no habr¨¢ necesidad de consultar lo que han hecho antes otros colegas, ni mejorarlo o comentarlo.

Para Jason Burton, profesor de la Universidad de Negocios de Copenhague y coautor del art¨ªculo, ¡°los modelos de lenguaje no significan el fin de GitHub o Stack Overflow. Pero ya est¨¢n cambiando c¨®mo las personas contribuyen y se relacionan con estas plataformas. Si la gente recurre a ChatGPT en lugar de buscar cosas en foros p¨²blicos, es probable que sigamos viendo una disminuci¨®n de actividad en esas plataformas, porque los posibles colaboradores ya no tendr¨¢n su audiencia¡±.

La programaci¨®n es solo una posible v¨ªctima de la IA. La Wikipedia y sus escritores igual pasan a ser simples revisores si todo lo escribe un bot. Incluso la educaci¨®n es algo que habr¨ªa que revisar, seg¨²n L¨®pez: ¡°Imaginemos que, en el sistema educativo actual, profesores y alumnos se van apoyando cada vez m¨¢s en estas tecnolog¨ªas; unos para dise?ar preguntas y otros para buscar las respuestas. En alg¨²n momento habr¨¢ que replantearse cu¨¢l es la funci¨®n que deber¨ªan tener estos sistemas y cu¨¢l ser¨ªa nuestro nuevo rol eficiente en convivencia con ellos. Sobre todo para que la educaci¨®n no acabe consistiendo en que alumnos y profesores finjan por ambas partes y representen, durante ocho horas al d¨ªa, una obra de teatro¡±.

Estos modelos de lenguaje no son solo la promesa de algo malo para la inteligencia colectiva. Tambi¨¦n son capaces de resumir, agregar o mediar en complejos procesos de deliberaci¨®n colaborativa. Pero, como se?ala Burton, la cautela debe ser b¨¢sica en estos procesos para evitar la coincidencia en el pensamiento grupal: ¡°Incluso si cada capacidad individual se ve mejorada al usar una aplicaci¨®n como ChatGPT, esto a¨²n podr¨ªa llevar a malos resultados a nivel colectivo. Si todos comienzan a depender de la misma aplicaci¨®n, podr¨ªa homogeneizar sus perspectivas y hacer que muchas personas cometan los mismos errores y pasen por alto las mismas cosas, en lugar de que cada persona cometa errores diferentes y se corrijan entre s¨ª¡±. Por eso, con su estudio, estos investigadores piden reflexi¨®n y posibles intervenciones pol¨ªticas para permitir un campo m¨¢s diverso de desarrolladores de modelos de lenguaje y, as¨ª, evitar un panorama dominado por un solo modelo.