OpenAI antepone los productos llamativos a la seguridad, asegura un extrabajador

Jan Leike cree que OpenAI ¡°est¨¢ asumiendo una enorme responsabilidad en nombre de toda la humanidad¡±. Y la opini¨®n de Leike es importante, pues era, hasta ahora, el encargado de analizar esa responsabilidad y neutralizar sus riesgos. En un largo hilo de X, el responsable de seguridad de la empresa creadora de ChatGPT ha dicho que esta prioriza la creaci¨®n de productos nuevos y llamativos a la seguridad. Y por todos estos motivos ha justificado su marcha.

Leike era codirector del departamento de superalineaci¨®n, junto a Ilya Sutskever, quien abandon¨® la empresa hace unos d¨ªas. Sus subordinados, William Saunders Leopold Aschenbrenner completan la lista de bajas. OpenAI desmantela as¨ª su equipo de seguridad, que se encargaba de garantizar que los potentes sistemas de inteligencia artificial respetaran los valores y objetivos humanos.

Todo el mundo tecnol¨®gico estaba mirando a la empresa de San Francisco, pero por otros motivos. Esta misma semana ha lanzado ChatGPT-4o, la versi¨®n gratuita y mejorada de su chatbot conversacional. Durante la presentaci¨®n, a muchos les llam¨® la atenci¨®n la capacidad del asistente de flirtear con los presentadores del evento y las referencias que hizo el consejero delegado de la empresa, Sam Altman, a la pel¨ªcula Her, en la que un hombre se enamora de un chat conversacional. La distop¨ªa como marketing.

En este contexto se han ido produciendo una cascada de bajas. La de Ilya Sutskever ha sido la m¨¢s sonada, pues fue uno de los fundadores y, hasta hace poco, miembro del n¨²cleo duro de la tecnol¨®gica. Sutskever escribi¨® en el post de X en el que anunciaba su marcha que confiaba en que OpenAI ¡°construir¨¢ una AGI segura y beneficiosa¡± bajo su actual direcci¨®n.

Sutskever representaba el ala m¨¢s conservadora de la empresa y por ese motivo, el pasado noviembre, fue uno de los que intentaron el repentino cese de Altman, al que acusaban de un exceso de temeridad. Altman recuper¨® su puesto, en un drama empresarial que sigue teniendo consecuencias a d¨ªa de hoy. Esta idea cobra fuerza ahora con la cascada de dimisiones: en la empresa habr¨ªa una serie de ingenieros que abogaban por esperar antes de comercializar modelos tan avanzados. Pero la est¨¢n abandonando.

Se espera que OpenAI lance pr¨®ximamente ChatGPT Search, el motor de b¨²squeda apoyado en IA que pondr¨ªa patas arriba el sector de los buscadores, hasta ahora controlado por Google, y el esperado ChatGPT5, la nueva versi¨®n de su herramienta estrella. La empresa tambi¨¦n ha desarrollado otros productos como el generador de im¨¢genes Dall-E y el generador de v¨ªdeos Sora.

Con todas estas novedades en el mercado y un debate abierto sobre los riesgos de la inteligencia artificial, las reflexiones de Leike son claras y no dejan en buen lugar a su antigua empresa. ¡°He estado en desacuerdo con la direcci¨®n de OpenAI sobre las prioridades fundamentales de la empresa durante bastante tiempo¡± ha explicado. ¡°Hasta que finalmente llegamos a un punto de ruptura¡±. El ingeniero opina que OpenAI deber¨ªa invertir m¨¢s recursos en cuestiones como la seguridad, el impacto social, la confidencialidad y la seguridad para su pr¨®xima generaci¨®n de modelos. ¡°Estos problemas son muy dif¨ªciles de resolver, y me preocupa que no estemos en el buen camino¡±, ha escrito.

En la misma red social, Altman ha contestado a su extrabajador, mostr¨¢ndose agradecido por el servicio prestado estos a?os y asegurando estar ¡°muy triste¡± por su marcha. En un mensaje que ha prometido ampliar en los pr¨®ximos d¨ªas, ha reconocido que las cr¨ªticas del ingeniero tienen su base: ¡±Tiene raz¨®n, nos queda mucho por hacer y estamos comprometidos a hacerlo.¡±

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.