El dinero impone su ley en OpenAI

La ins¨®lita crisis de OpenAI tiene los ingredientes de m¨²ltiples tramas cinematogr¨¢ficas. En una pel¨ªcula de suspense, Sam Altman es el h¨¦roe: el l¨ªder visionario despedido injustamente que vuelve a la empresa por aclamaci¨®n de los empleados. En otra de ciencia ficci¨®n, es el villano: el directivo que entreg¨® la inteligencia artificial a los intereses comerciales y provoc¨® la desaparici¨®n de la humanidad. El despido y readmisi¨®n de Altman tienen sus ra¨ªces en la tensi¨®n entre los catastrofistas y los pragm¨¢ticos a cuenta de la inteligencia artificial, pero tambi¨¦n reflejan la pugna entre la concepci¨®n de OpenAI como una empresa sin ¨¢nimo de lucro y su ascenso como la start up m¨¢s valiosa de Silicon Valley. En esa ¨²ltima batalla, el dinero parece haber impuesto su ley, al tiempo que los m¨²ltiples giros de guion prueban los problemas de gobernanza de la firma.

Walter Isaacson, bi¨®grafo de Elon Musk, cuenta que la decisi¨®n de fundar OpenAI surgi¨® en una cena privada del fundador de Tesla con Sam Altman en Palo Alto (California), en pleno Silicon Valley. En aquel momento, Google encabezaba la carrera de la inteligencia artificial, pero Musk y Altman pensaban que lo hac¨ªa sin reparos morales sobre la seguridad y los potenciales riesgos para la humanidad. La idea inicial era crear un laboratorio de inteligencia artificial sin ¨¢nimo de lucro que dise?ar¨ªa un software de c¨®digo abierto e intentar¨ªa contrarrestar el creciente dominio de Google en el ¨¢mbito.

Musk y Altman ficharon como cient¨ªfico jefe a un ingeniero de investigaci¨®n de Google, Ilya Sutskever, con un salario de 1,9 millones de d¨®lares m¨¢s bonus. Eso provoc¨® la ruptura de relaciones entre Musk y Larry Page, uno de los cofundadores de Google.

OpenAI se fund¨® como una organizaci¨®n sin ¨¢nimo de lucro a finales de 2015 con el objetivo proclamado de ¡°construir una inteligencia artificial general segura y beneficiosa para la humanidad¡±. Se lanz¨® con el objetivo de lograr 1.000 millones de d¨®lares en donaciones. Tras varios a?os la cifra recaudada estaba en 130,5 millones, que sirvieron para financiar el funcionamiento de la organizaci¨®n y su trabajo exploratorio inicial. La superinteligencia es la que supera a la humana, tambi¨¦n conocida como inteligencia artificial general (AGI, por sus siglas inglesas).

Musk rompi¨® con OpenAI en 2018, tras intentar que se integrase con los proyectos de inteligencia artificial de Tesla, a lo que Altman se neg¨®. Entonces busc¨® c¨®mo acceder a m¨¢s recursos. ¡°Cada vez estaba m¨¢s claro que las donaciones por s¨ª solas no podr¨ªan compensar el coste de la potencia computacional y el talento necesarios para impulsar la investigaci¨®n b¨¢sica, poniendo en peligro nuestra misi¨®n¡±, explican en la empresa,

Se cre¨® una nueva estructura. Se manten¨ªa la organizaci¨®n sin ¨¢nimo de lucro con su consejo como ¨®rgano rector de todo el grupo, pero nac¨ªa una nueva filial con capacidad para emitir acciones, contratar nuevos empleados y captar capital. Esa nueva empresa tiene sus beneficios limitados, est¨¢ obligada a perseguir la misi¨®n de la entidad sin ¨¢nimo de lucro y est¨¢ controlada por ella ¡°para investigar, desarrollar y desplegar la superinteligencia, de forma que se equilibre la comercializaci¨®n con la seguridad y la sostenibilidad, en lugar de centrarse en la mera maximizaci¨®n del beneficio¡±, seg¨²n OpenAI.

La firma dejaba y sigue dejando claro que invertir en ella es una apuesta ¡°de alto riesgo¡±. Los inversores pueden perder todo el dinero sin lograr ning¨²n retorno, advierte en su p¨¢gina web, que va todav¨ªa m¨¢s all¨¢: ¡°Ser¨ªa prudente considerar cualquier inversi¨®n en OpenAI Global, LLC [la filial empresarial] con el esp¨ªritu de una donaci¨®n, en el entendimiento de que puede ser dif¨ªcil saber qu¨¦ papel desempe?ar¨¢ el dinero en un mundo post inteligencia artificial general¡±.

La compa?¨ªa establec¨ªa que el principal beneficiario deb¨ªa ser la humanidad, no los inversores de OpenAI. Aun as¨ª, esa forma societaria fue suficiente para empezar a captar sumas multimillonarias. Inversores de capital riesgo tambi¨¦n hicieron sus aportaciones en 2018 y poco despu¨¦s la firma lleg¨® a un acuerdo estrat¨¦gico con Microsoft. La empresa fundada por Bill Gates inyect¨® primero 1.000 millones de d¨®lares como parte de un acuerdo en que se convert¨ªa en su socio tecnol¨®gico y de computaci¨®n; luego otros 2.000 y finalmente lleg¨® a un acuerdo por 10.000 millones adicionales, sin exigir representaci¨®n en el consejo.

Microsoft tiene acceso a licencias de propiedad intelectual y de comercializaci¨®n de ciertos desarrollos, pero el consejo tiene la potestad de determinar que se ha alcanzado la inteligencia artificial general y Microsoft no tendr¨ªa derecho sobre la misma.

Pese a las cautelas adoptadas, el giro empresarial levant¨® suspicacias. Los hermanos Daniela y Dario Amodei, vinculados al movimiento del altruismo efectivo ¨Dque pone el acento en los riesgos de la inteligencia artificial¨D dejaron OpenAI por sus diferencias con los acuerdos con Microsoft y con la direcci¨®n que estaba tomando y fundaron otra empresa de inteligencia artificial con sede en San Francisco, Anthropic, junto a otros antiguos empleados de OpenAI. Uno de los principales inversores iniciales en Anthropic fue Alameda Research, la firma paralela de Sam Bankman-Fried, declarado culpable de diversos delitos por la ca¨ªda del mercado de criptomonedas FTX. Anthropic ha acabado recurriendo a fondos de Google y Amazon para financiarse.

El propio Musk sigue sin aceptar muy bien aquel cambi¨® de orientaci¨®n de OpenAI. Seg¨²n cuenta Isaacson en su biograf¨ªa, Musk ret¨® a Altman a principios de este a?o a que justificara legalmente el cambio con los documentos fundacionales de OpenAI en la mano. Altman trat¨® de demostrarle que todo era leg¨ªtimo, pero no le convenci¨®. ¡°OpenAI fue creada como una empresa de c¨®digo abierto (por eso le di el nombre de Open AI), sin ¨¢nimo de lucro para que sirviera como contrapeso de Google, pero ahora se ha convertido en una empresa de c¨®digo cerrado y maximizaci¨®n de beneficios controlada en t¨¦rminos efectivos por Microsoft¡±, dijo, seg¨²n Isaacson.

La herida de Musk, de hecho, no ha cicatrizado. Esta semana, al hilo de la crisis de la firma de inteligencia artificial, retransmitida en directo en buena medida en X, su red social, el multimillonario magnate ha difundido una carta de supuestos antiguos empleados de OpenAI con ataques a Altman y su aliado Greg Brockman. ¡°A lo largo de nuestro tiempo en OpenAI, hemos sido testigos de un inquietante patr¨®n de enga?o y manipulaci¨®n por parte de Sam Altman y Greg Brockman, impulsados por su insaciable af¨¢n de lograr la inteligencia general artificial (AGI). Sus m¨¦todos, sin embargo, han suscitado serias dudas sobre sus verdaderas intenciones y hasta qu¨¦ punto priorizan realmente el beneficio de toda la humanidad¡±, dec¨ªan en esa carta.

¡°Muchos de nosotros, al principio esperanzados con la misi¨®n de OpenAI, optamos por dar a Sam y Greg el beneficio de la duda. Sin embargo, a medida que sus acciones se volv¨ªan cada vez m¨¢s preocupantes, quienes se atrev¨ªan a expresar sus inquietudes eran silenciados o expulsados. Este silenciamiento sistem¨¢tico de la disidencia cre¨® un ambiente de miedo e intimidaci¨®n, sofocando cualquier debate significativo sobre las implicaciones ¨¦ticas del trabajo de OpenAI¡±, a?ad¨ªan, para pedir luego a los consejeros que no cedieran al regreso de Altman: ¡°Imploramos al consejo de administraci¨®n que se mantenga firme en su compromiso con la misi¨®n original de OpenAI y no sucumba a las presiones de los intereses lucrativos. El futuro de la inteligencia artificial y el bienestar de la humanidad dependen de su compromiso inquebrantable con el liderazgo ¨¦tico y la transparencia¡±.

El consejo de administraci¨®n de OpenAI era disfuncional. De ¨¦l hab¨ªan ido saliendo varios de sus miembros por diferencias con la empresa, por conflictos de intereses o por proyectos personales. Los consejeros eran incapaces de ponerse de acuerdo para cubrir las bajas. Hab¨ªa quedado reducido a seis componentes. Tres de ellos, empleados y fundadores: Greg Brockman, presidente; San Altman, consejero delegado, e Ilya Sutskever, cient¨ªfico jefe. Los otros tres, independientes: Adam D¡¯Angelo, fundador de Quora; Tasha McCauley, ingeniera y emprendedora, y Helen Toner, de la Universidad de Georgetown. Estas dos ¨²ltimas est¨¢n vinculadas a la corriente del llamado altruismo efectivo, que aboga por poner coto al desarrollo de la inteligencia artificial, que ven como una caja de Pandora, una posible amenaza existencial para la humanidad.

El movimiento del altruismo efectivo levanta cada vez m¨¢s contestaci¨®n. Uno de sus cr¨ªticos ac¨¦rrimos, Marc Andreessen, otro inversor de larga trayectoria de Silicon Valley, recuerda que ¡°el miedo a que la tecnolog¨ªa de nuestra propia creaci¨®n se alce y nos destruya est¨¢ profundamente arraigado en nuestra cultura¡±. Cree que con la inteligencia artificial se est¨¢ repitiendo el mito de Prometeo, de Frankestein o de Terminator. ¡°Mi opini¨®n es que la idea de que la IA decidir¨¢ matar literalmente a la humanidad es un profundo error de categor¨ªa. (...) La idea de que en alg¨²n momento desarrollar¨¢ una mente propia y decidir¨¢ que tiene motivaciones que le llevan a intentar matarnos es una superstici¨®n. En resumen, la IA no quiere, no tiene objetivos, no quiere matarte, porque no est¨¢ viva. Y la IA es una m¨¢quina: no va a cobrar vida m¨¢s de lo que lo har¨¢ tu tostadora¡±, sostiene tajante. ¡°El ¡®riesgo de la IA¡¯ se ha convertido en un culto. (...) Resulta que este tipo de culto no es nuevo: existe una larga tradici¨®n occidental de milenarismo, que genera cultos apocal¨ªpticos. El culto del riesgo de la IA tiene todas las caracter¨ªsticas de un culto milenarista del apocalipsis¡±, concluye.

Steven Pinker, cient¨ªfico cognitivo de la Universidad de Harvard, coincide: ¡°Yo era un fan del altruismo efectivo (...), pero se convirti¨® en un culto. Estoy dispuesto a donar para salvar el mayor n¨²mero de vidas en ?frica, pero no para pagar a t¨¦cnicos que se preocupan de que la IA nos convierta a todos en clips¡±, se?alaba este viernes.

El caso es que, bas¨¢ndose en cuestiones de seguridad, la consejera Toner public¨® en octubre un art¨ªculo acad¨¦mico que arremet¨ªa contra algunas decisiones de OpenAI y elogiaba las de su rival Anthropic, algo que Altman se tom¨® como una afrenta. ¡°Anthropic reforz¨® la credibilidad de sus compromisos con la seguridad de la IA retrasando el lanzamiento anticipado de su modelo y absorbiendo posibles p¨¦rdidas de ingresos en el futuro¡±, escrib¨ªa.

Al tiempo, otras actuaciones del consejero delegado no gustaban al consejo. Ven¨ªa de celebrar junto al jefe de Microsoft, Satya Nadella, una conferencia con desarrolladores al m¨¢s puro estilo de empresas como Apple. Tambi¨¦n estaba en un proceso de captar inversores con una valoraci¨®n de la empresa cercana a los 86.000 millones. En paralelo buscaba financiaci¨®n para nuevos proyectos. La v¨ªspera de su despido se hab¨ªa referido a un reciente avance que ¡°empujaba el velo de la ignorancia hacia atr¨¢s y la frontera del descubrimiento hacia delante¡±.

La desconfianza se hab¨ªa instalado en el ¨®rgano de gobierno del que depend¨ªa todo el grupo. En ese momento, Sutskever se aline¨® por sorpresa con los tres independientes y juntos decidieron despedir a Altman y echar a Brockman del consejo en sendas videoconferencias el viernes a mediod¨ªa. La empresa acusaba a Altman de no haber sido sincero o franco con el consejo, por sorpresa y sin m¨¢s explicaciones. El directivo de 38 a?os se conect¨® a su despido desde un hotel de Las Vegas, a donde hab¨ªa acudido a ver el Gran Premio de F¨®rmula 1 de ese fin de semana.

¡°La mayor¨ªa de las empresas del tama?o y la importancia de OpenAI tienen consejos de administraci¨®n de entre ocho y 15 consejeros, la mayor¨ªa de los cuales son independientes y todos ellos tienen m¨¢s experiencia en consejos de administraci¨®n de esta envergadura que los consejeros independientes de OpenAI¡±, se?alaba al estallar la crisis Marissa Mayer, directiva con una larga trayectoria de Silicon Valley. ¡°No creo que cuenten con un asesoramiento jur¨ªdico s¨®lido ni con buenas estructuras de gobernanza¡±, a?ad¨ªa.

El despido provoc¨® un terremoto. Brockman decidi¨® dejar no solo el consejo, sino dimitir de la empresa. Inversores y empleados empezaron a presionar, m¨¢s a¨²n cuando no se aportaron razones concretas para el despido. En una primera reuni¨®n del consejo con directivos, estos reprocharon al consejo que estaba poniendo en peligro el futuro de la compa?¨ªa. La sorpresa fue monumental cuando la respuesta del consejo fue que ¡°permitir la destrucci¨®n de la empresa ser¨ªa coherente con la misi¨®n¡± que consideraban que ten¨ªan encomendada, de proteger a la humanidad.

Eso era demasiado para inversores y empleados. Unos consejeros independientes parec¨ªan dispuestos a llevarse por delante a la firma m¨¢s prometedora en inteligencia artificial por unas supuestas amenazas para la humanidad poco fundamentadas. Para los empleados peligraba su creaci¨®n, su trabajo y sus acciones. Se plantaron. En las redes sociales corazones de colores de los empleados se alternaban con un mensaje: ¡°OpenAI no es nada sin su gente¡±. Altman fue el domingo a la sede de OpenAI a negociar su reincorporaci¨®n. Llevaba una tarjeta de invitado. Tuite¨® un selfi: ¡°Primera y ¨²ltima vez que llevo una de estas¡±. Los consejeros independientes, sin embargo, se resistieron a ceder y ficharon a un consejero delegado provisional, Emmeth Shear, igual de apocal¨ªptico.

Para los inversores tambi¨¦n era una pesadilla. Eran conscientes de que la estructura del grupo es peculiar, pero no pod¨ªan imaginarse que el propio consejo de administraci¨®n actuase como un kamikaze. Microsoft, el que m¨¢s se jugaba, se movi¨® r¨¢pido y anunci¨® el fichaje de Altman. Con eso se garantizaba no perder comba en la carrera de la inteligencia artificial. O manten¨ªa la colaboraci¨®n con OpenAI o se hac¨ªa con sus empleados. Para el resto, el riesgo era de perder el grueso de su inversi¨®n.

Con la oferta de Microsoft (y la de otras empresas) encima de la mesa, los empleados amenazaron con marcharse si no se readmit¨ªa a Altman. El 95% de los empleados firmaron una carta pidiendo la dimisi¨®n del consejo, entre ellos Mira Murati, la directora tecnol¨®gica, designada inicialmente como sustituta interina de Altman, y Sutskever, cient¨ªfico jefe, arrepentido de haber participado en el golpe, seg¨²n un mensaje que public¨® en la red social X.

Los incentivos econ¨®micos para seguir en OpenAI en lugar de marcharse a Microsoft eran muy fuertes. Los empleados tienen su participaci¨®n en el capital y la valoraci¨®n de la empresa antes de la actual crisis se hab¨ªa disparado hasta cerca de 90.000 millones de d¨®lares a lomos del fulgurante ¨¦xito de ChatGPT, de cuyo lanzamiento se cumple un a?o este 30 de noviembre. Precisamente estaba en marcha una venta de acciones de empleados a inversores que habr¨ªa hecho millonarios a varios trabajadores de OpenAI.

Pese al anuncio del fichaje, el jefe de Microsoft segu¨ªa dispuesto a que Altman volviese a ponerse al frente de OpenAI. Las negociaciones continuaron durante dos d¨ªas. El propio Shear, segundo sustituto interino, apoy¨® la vuelta de Altman como el camino para ¡°maximizar la seguridad sin dejar de hacer lo correcto para todas las partes implicadas¡±. Al final, la soluci¨®n incluy¨® la dimisi¨®n de las dos consejeras independientes y de Sutskever. Se form¨® un consejo inicial con Bret Taylor, expresidente de X y ex consejero delegado de Salesforce, como presidente, con dos vocales: Adam D¡¯Angelo, que se manten¨ªa, y el ex secretario del Tesoro Larry Summers. Altman volv¨ªa a ser jefe ejecutivo de la empresa, pero sin ser miembro del consejo. ¡°Estamos colaborando para resolver los detalles. Muchas gracias por su paciencia¡±, dec¨ªa el tuit de la empresa. Para la plantilla, fue una fiesta. ¡°Des-dimito¡±, dijo Brockman.

Los empleados de OpenAI ten¨ªan libre la semana de Acci¨®n de Gracias, aunque hasta el martes estuvieron pendientes de la vuelta de Altman. Cuando este lunes se reincorporen de lleno a sus puestos, las cosas ya no ser¨¢n igual que 10 d¨ªas antes. En realidad, a¨²n no se sabe c¨®mo ser¨¢n. Se anuncia una investigaci¨®n independiente sobre las decisiones y actuaciones de Altman y las circunstancias que llevaron a su despido. Al tiempo, el sistema de gobernanza del grupo est¨¢ en cuesti¨®n y podr¨ªa ser reformado en los pr¨®ximos meses. El cofundador de OpenAI pas¨® la noche de Acci¨®n de Gracias con D¡¯Angelo, el ¨²nico consejero que ha sobrevivido al terremoto, y mand¨® felicitaciones de parte de las familias de ambos.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.