Expertos en inteligencia artificial reclaman frenar seis meses la ¡°carrera sin control¡± de los ChatGPT

La velocidad a la que se est¨¢n desplegando herramientas basadas en inteligencia artificial (IA) generativa, la que es capaz de crear textos, im¨¢genes o m¨²sica a partir de una serie de instrucciones, est¨¢ asustando a los expertos. M¨¢s de un millar de empresarios, intelectuales e investigadores de primer nivel relacionados con esta tecnolog¨ªa han firmado una carta abierta en la que solicitan una moratoria en su desarrollo para recapacitar sobre sus consecuencias.

M¨¢s concretamente, piden una pausa de ¡°al menos seis meses en el desarrollo y pruebas de sistemas de IA m¨¢s poderosos que GPT4¡å, la ¨²ltima versi¨®n del gran modelo de lenguaje que usa ChatGPT. La carta advierte de que este ¨²ltimo modelo ya es capaz de competir con los humanos en un creciente n¨²mero de tareas, y que podr¨ªa usarse para destruir empleo y difundir desinformaci¨®n. Por ello, reclaman un desarrollo seguro y solo cuando est¨¦n seguros de que sus efectos ser¨¢n positivos. ¡°Desafortunadamente¡±, asegura la carta, ¡°este nivel de planificaci¨®n y gesti¨®n no est¨¢ ocurriendo, a pesar de que en los ¨²ltimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez m¨¢s poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable¡±.

El magnate Elon Musk, fundador de Tesla y SpaceX y due?o de Twitter, se cuenta entre las personalidades que han rubricado la carta. Curiosamente, Musk es uno de los fundadores de OpenAI, la empresa que ha desarrollado ChatGPT, que fue la primera que decidi¨® poner al alcance del gran p¨²blico su gran modelo autom¨¢tico de lenguaje, algo que no hab¨ªa hecho nadie hasta entonces, pese a que Google o Meta hac¨ªa a?os que ten¨ªan sus propios desarrollos en marcha.

El historiador Yuval Noah Harari, famoso por sus libros Sapiens y Homo Deus, o Yoshua Bengio, cuya aportaci¨®n en las redes neuronales profundas le vali¨® el premio Turing (considerado el Nobel de la inform¨¢tica), son otros de los firmantes m¨¢s conocidos. Entre ellos destacan tambi¨¦n Steve Wozniak, cofundador de Apple, o Jaan Tallinn, cofundador de Skype.

El sello espa?ol de la carta lo ponen expertos de renombre internacional como Ramon L¨®pez de M¨¢ntaras, uno de los pioneros de la IA en Europa; Carles Serra, director del Instituto de la IA del CSIC, y Francesc Giralt, catedr¨¢tico em¨¦rito de la Universitat Rovira i Virgili. El primero de ellos firma otra carta abierta publicada ayer en EL PA?S en la que se queja de la decisi¨®n del Gobierno de cerrar un acuerdo de colaboraci¨®n con un instituto de IA financiado por Emiratos ?rabes Unidos. Serra renunci¨® la semana pasada a su puesto en el Consejo Asesor de la IA como protesta por ese convenio.

Desarrollo, pero con responsabilidad

¡°La IA avanzada puede representar un cambio profundo en la historia de la vida en la Tierra y deber¨ªa ser planificada y gestionada con cuidado y con recursos¡±, dice un principio acordado en 2017 por figuras clave de la disciplina en una conferencia internacional. ¡°Desafortunadamente, este nivel de planificaci¨®n y de gesti¨®n no se est¨¢ dando¡±, se lamenta la carta.

¡°Un reciente comunicado de OpenAI relacionado con la IA general dice que ¡®En alg¨²n momento, ser¨ªa importante tener supervisi¨®n independiente antes de entrenar nuevos sistemas y para que los esfuerzos m¨¢s avanzados acuerden limitar el ritmo de crecimiento de la potencia computacional usada para crear nuevos modelos¡¯. Estamos de acuerdo. Ese momento es ahora¡±, expresa la carta en lo que parece una indirecta a OpenAI pese a estar firmada por uno de sus fundadores, Elon Musk.

El pistoletazo de salida de la nueva carrera por la IA generativa lo dio OpenAI, una empresa participada, entre otros, por el hombre m¨¢s rico del mundo y por Microsoft. El lanzamiento el pasado oto?o de la versi¨®n beta de ChatGPT, su famoso bot conversacional, puso en manos del gran p¨²blico una tecnolog¨ªa en la que empresas como Google o Meta ven¨ªan trabajando desde hace lustros.

Microsoft supo captar la tendencia y anunci¨® una inversi¨®n de 10.000 millones de d¨®lares en la empresa. Al poco tiempo, desvel¨® que su buscador Bing y las aplicaciones de Office llevar¨ªan un chatbot parecido a ChatGPT. Google no quiso ser menos y present¨® Bard, su propia versi¨®n de chatbot conversacional. Meta tambi¨¦n tiene el suyo: LLaMa. Mientras, OpenAI present¨® ChatGPT4, una nueva versi¨®n mucho m¨¢s potente y pulida de su bot conversacional, y ya trabaja en ChatGPT5.

Todo esto ha sucedido en menos de cinco meses. Alarmados por la velocidad de esta carrera, los firmantes de la carta solicitan una pausa de medio a?o para pensar c¨®mo se debe encauzar. ¡°Si esta pausa no se puede materializar pronto, los gobiernos deber¨ªan intervenir e imponer una moratoria¡±, solicitan los expertos.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.