Investigadores de OpenAI avisaron de un avance que amenazaba a la humanidad antes del despido de Altman

Varios investigadores de la plantilla de OpenAI enviaron al consejo de administraci¨®n poco antes del despido de Sam Altman como consejero delegado una carta, seg¨²n han publicado la agencia Reuters y el medio especializado The Information, que citan fuentes familiarizadas con el asunto sin identificar. En ella, advert¨ªan de un poderoso descubrimiento de inteligencia artificial que, seg¨²n ellos, podr¨ªa amenazar a la humanidad. No est¨¢ claro el papel que jug¨® esa carta en el despido de Altman. Fuentes citadas por Reuters la se?alan como decisiva, mientras que el medio especializado The Verge asegura que la carta no lleg¨® al consejo y que no tuvo que ver en el despido de Altman.

La v¨ªspera de su cese fulminante, Altman intervino en la cumbre de directivos celebrada en paralelo a la de la Asociaci¨®n Econ¨®mica Asia Pac¨ªfico (Apec). ¡°Cuatro veces en la historia de OpenAI, la m¨¢s reciente hace solo un par de semanas, he tenido la oportunidad de estar en la sala en la que empujamos el velo de la ignorancia hacia atr¨¢s y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida¡±, dijo all¨ª. En principio no se dio especial importancia al comentario ni se supo a qu¨¦ desarrollos concretos alud¨ªa.

Seg¨²n The Information, algunos empleados de OpenAI creen que las palabras de Altman se refer¨ªan a una innovaci¨®n realizada por los investigadores de la empresa a principios de este a?o que les permitir¨ªa desarrollar modelos de inteligencia artificial mucho m¨¢s potentes, seg¨²n una persona familiarizada con el asunto. El avance t¨¦cnico, liderado por el cient¨ªfico jefe de OpenAI, Ilya Sutskever, suscit¨® la preocupaci¨®n de algunos empleados por el hecho de que la empresa no dispusiera de las salvaguardias adecuadas para comercializar modelos de inteligencia artificial tan avanzados.

Seg¨²n las fuentes citadas por Reuters, la carta fue uno de los factores de una larga lista de agravios que condujeron al despido de Altman. La agencia no ha podido hacerse con una copia de la carta ni hablar con los investigadores que la escribieron. Seg¨²n una de las fuentes, la directiva Mira Murati, escogida inicialmente como sustituta provisional de Altman, mencion¨® el proyecto, llamado Q*, a los empleados este mi¨¦rcoles y dijo que se hab¨ªa enviado una carta al consejo antes del despido de Altman, que luego ha sido readmitido por la presi¨®n de empleados e inversores.

Tras la publicaci¨®n de la noticia, un portavoz de OpenAI declar¨® a Reuters que Murati hab¨ªa informado a los empleados de lo que iban a publicar los medios, pero que no se pronunci¨® sobre la veracidad de la informaci¨®n. Seg¨²n esta, el fabricante de ChatGPT ha hecho progresos en Q* (pronunciado Q-Star), que algunos creen internamente que podr¨ªa ser un gran avance en la b¨²squeda de la superinteligencia (la que supera a la humana), tambi¨¦n conocida como inteligencia artificial general (AGI, por sus siglas inglesas). Otras fuentes familiarizadas con el proyecto Q*, sin embargo, no consideran que se trate de un avance rompedor.

Problemas matem¨¢ticos

Gracias a sus enormes recursos inform¨¢ticos, el nuevo modelo fue capaz de resolver ciertos problemas matem¨¢ticos. Aunque solo realiza operaciones matem¨¢ticas al nivel de los estudiantes de primaria, la superaci¨®n de ese tipo de pruebas hizo que los investigadores se mostraran muy optimistas sobre el futuro ¨¦xito de Q*, afirm¨® la fuente. A diferencia de una calculadora que puede resolver un n¨²mero limitado de operaciones, la IAG puede generalizar, aprender y comprender.

Los investigadores consideran que las matem¨¢ticas son la frontera del desarrollo de la IA generativa. Actualmente, la IA generativa es buena escribiendo y traduciendo idiomas mediante la predicci¨®n estad¨ªstica de la siguiente palabra, como en ChatGPT. Las respuestas a una misma pregunta pueden variar mucho. Pero conquistar la capacidad de hacer c¨¢lculos matem¨¢ticos donde solo hay una respuesta correcta implica que la IA tendr¨ªa una mayor capacidad de razonamiento que se asemejar¨ªa a la inteligencia humana. Esto podr¨ªa aplicarse, por ejemplo, a la investigaci¨®n cient¨ªfica novedosa, creen los investigadores de IA.

Seg¨²n Reuters, en su carta al consejo, los investigadores se?alaron las proezas de la IA y su peligro potencial. Los inform¨¢ticos llevan mucho tiempo debatiendo sobre el peligro que suponen las m¨¢quinas superinteligentes, si se planteasen, por ejemplo, que les interesa la destrucci¨®n de la humanidad. En el consejo de OpenAI hab¨ªa dos personas muy sensibles a esos riesgos, que han dimitido como parte del acuerdo para el retorno de Altman.

Seg¨²n la carta que los empleados han enviado al consejo pidiendo su dimisi¨®n, esos independientes transmitieron a los directivos que permitir la destrucci¨®n de la compa?¨ªa podr¨ªa ser consistente con su misi¨®n en favor de la humanidad. Y, de hecho, ficharon a un nuevo jefe provisional, Emmet Shear, que se autodefine como un apocal¨ªptico partidario de frenar el desarrollo de la inteligencia artificial, aunque luego ha colaborado en el regreso de Altman.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.