El nuevo jefe de OpenAI, un ¡®apocal¨ªptico¡¯ que quiere frenar la inteligencia artificial

?Qui¨¦n es la persona adecuada para dirigir una empresa puntera en inteligencia artificial (IA) con Microsoft como principal socio? Tras el despido de Sam Altman, los consejeros independientes de OpenAI han pensado que el ideal es Emmett Shear, una persona que ve la inteligencia artificial como una amenaza para la humanidad y que odiaba a Microsoft. A ChatGPT nunca se le habr¨ªa ocurrido.

Shear, de 40 a?os, ...

?Qui¨¦n es la persona adecuada para dirigir una empresa puntera en inteligencia artificial (IA) con Microsoft como principal socio? Tras el despido de Sam Altman, los consejeros independientes de OpenAI han pensado que el ideal es Emmett Shear, una persona que ve la inteligencia artificial como una amenaza para la humanidad y que odiaba a Microsoft. A ChatGPT nunca se le habr¨ªa ocurrido.

Shear, de 40 a?os, se ha definido a s¨ª mismo como un doomer, un fatalista o apocal¨ªptico. Pertenece al grupo de los que creen que hay un riesgo alto de que la inteligencia artificial tome conciencia de s¨ª misma, inicie un proceso de automejora continua y acabe destruyendo a la humanidad. Algo as¨ª como Terminator, pero sin viajes en el tiempo. Se ha mostrado partidario de frenar el desarrollo de la inteligencia artificial para minimizar los riesgos.

En una entrevista de junio pasado para un podcast explicaba su posici¨®n. Tras decir que por lo general est¨¢ a favor de las nuevas tecnolog¨ªas, matiza: ¡°Tengo una preocupaci¨®n muy espec¨ªfica con la IA¡±. Shear explicaba que la inteligencia artificial ir¨¢ siendo capaz de programar, dise?ar microprocesadores, materiales, energ¨ªa y todo lo necesario para construir una inteligencia artificial, entrando en un bucle en que cada inteligencia artificial mejorar¨¢ a la siguiente cada vez de forma m¨¢s r¨¢pida. ¡°Ese tipo de inteligencia es algo intr¨ªnsecamente muy peligroso¡±, indicaba, antes de referirse a la secuencia de argumentos y condicionantes que acaba de explicar: ¡°S¨¦ que Eliezer [Yudkowsky, un activista de la seguridad en la inteligencia artificial] piensa que estamos todos condenados con seguridad. Compro su argumento de la destrucci¨®n, compro la cadena l¨®gica, pero mi probabilidad de destrucci¨®n es como entre el 5% y el 50%, un rango muy amplio¡±, indicaba.

Aun as¨ª, lo consideraba aterrador: ¡°Eso deber¨ªa hacer que te cagues en los pantalones. Y no es solo la extinci¨®n a nivel humano. Extinguir humanos ya es bastante malo. Es como, la destrucci¨®n potencial de todo valor en el cono de luz. No solo para nosotros, sino para cualquier especie alien¨ªgena atrapada en la estela de la explosi¨®n. Es como una bomba destructora del universo¡±, a?ad¨ªa, comparando el riesgo de la inteligencia artificial con que alguien inventara una forma de hacer bombas nucleares 10 veces m¨¢s potentes solo con arena y lej¨ªa.

El nuevo consejero delegado de OpenAI ha hecho toda su carrera en Twitch, la red social de v¨ªdeos. Inform¨¢tico superdotado, fund¨® Justin.tv con su compa?ero de clase Justin Kan. Luego esa empresa evolucion¨® a convertirse en Twitch. Ayud¨® a transformar una plataforma especializada en la retransmisi¨®n de videojuegos en un gigante del entretenimiento, que Amazon compr¨® por 970 millones de d¨®lares en 2014. ?l mismo es muy aficionado a los videojuegos: ¡°Lo de Twitch fue porque me gusta mucho, mucho, mucho, mucho Starcraft¡±, dijo en una conferencia de la empresa sobre el juego de estrategia de Activision Blizzard, seg¨²n Bloomberg. Casi nadie retransmit¨ªa juegos en streaming. Estuvo dirigiendo Twitch hasta marzo pasado, cuando decidi¨® dejarlo para dedicar tiempo a su hijo reci¨¦n nacido. La plataforma ha recibido cr¨ªticas por no ser capaz de frenar el machismo, sexismo, racismo y acoso a menores de muchos de sus usuarios en los comentarios.

Machismo

El directivo no se corta en las redes sociales y eso le ha llevado por ejemplo a hacer comentarios hirientes contra Microsoft, principal socio, cliente y proveedor de OpenAI. ¡°Cuando hac¨ªa pr¨¢cticas en Microsoft, cada cheque me parec¨ªa el pago de un trocito de mi alma por correo¡±, tuite¨® en julio. Pero tambi¨¦n a mostrarse como machista y sexista. En agosto, antes de su nombramiento en OpenAI, Shear respondi¨® a un mensaje sobre mujeres que defend¨ªan el ¡°uso libre¡±, estar sexualmente disponibles siempre para sus parejas, afirmando que se trataba de un ¡°fetiche BDSM [dominaci¨®n, sumisi¨®n y sadomasoquismo] de no consentimiento/humillaci¨®n¡±. A?adi¨® en otro mensaje que ¡°el 40-60% de las mujeres parecen tener fantas¨ªas de violaci¨®n/no consentimiento¡±, citando un art¨ªculo de Wikipedia.

El nuevo jefe interino de OpenAI se ha mostrado partidario de frenar el desarrollo de la inteligencia artificial: ¡°Estoy a favor de una relentizaci¨®n. No podemos aprender a construir una IA segura sin experimentar, y no podemos experimentar sin progresar, pero probablemente tampoco deber¨ªamos avanzar a toda velocidad¡±, tuiteaba hace solo dos meses.

Shear es una elecci¨®n peculiar para una empresa puntera en inteligencia artificial, pero cuadra con la idea de los actuales consejeros independientes que se han hecho con el poder en OpenAI. Seg¨²n la carta en que los empleados pidieron su dimisi¨®n, esos consejeros, que no tienen como tarea maximizar el valor de la empresa sino el bien de la humanidad, informaron a los directivos de que ¡°permitir la destrucci¨®n de la empresa ser¨ªa coherente con la misi¨®n¡±. El nuevo directivo est¨¢ vinculado al movimiento del altruismo efectivo, al igual que dos consejeras independientes que han quedado con el control de OpenAI. Ese movimiento tiene fuertes reservas sobre la inteligencia artificial avanzada.

A diferencia de la destituci¨®n de Altman, OpenAI no ha anunciado p¨²blicamente el fichaje de Shear, as¨ª que no ha expuesto sus razones ni el motivo de que su cargo sea provisional. Present¨® el nombramiento a trav¨¦s de una comunicaci¨®n interna y fue el propio directivo el que cont¨® en la red social X sus razones para aceptar el puesto: ¡°Hoy he recibido una llamada invit¨¢ndome a considerar una oportunidad ¨²nica en la vida: convertirme en el CEO interino de OpenAI. Tras consultarlo con mi familia y reflexionar sobre ello durante solo unas horas, he aceptado¡±, escribi¨®.

¡°Hac¨ªa poco que hab¨ªa dimitido de mi cargo de CEO de Twitch debido al nacimiento de mi hijo, que ahora tiene nueve meses. Pasar tiempo con ¨¦l ha sido tan gratificante como pens¨¦ que ser¨ªa, y estaba evitando felizmente un empleo a tiempo completo. He aceptado este trabajo porque creo que OpenAI es una de las empresas m¨¢s importantes que existen en la actualidad. Cuando el consejo comparti¨® la situaci¨®n y me pidi¨® que aceptara el puesto, no tom¨¦ la decisi¨®n a la ligera. En ¨²ltima instancia, sent¨ª que ten¨ªa el deber de ayudar si pod¨ªa¡±, explic¨® este lunes como parte de un largo mensaje.

?La vuelta de Altman?

En su declaraci¨®n de intenciones habla de garantizar el ¨¦xito y la estabilidad de OpenAI y muestra su ¡°respeto¡± por todo lo que ha construido la firma hasta ahora. ¡°No es solo un proyecto de investigaci¨®n y un producto de software incre¨ªbles, sino una empresa incre¨ªble. Estoy aqu¨ª porque lo s¨¦, y quiero hacer todo lo que est¨¦ en mi mano para protegerla y hacerla crecer a¨²n m¨¢s¡±, afirma.

Shear no lo tendr¨¢ f¨¢cil. El 95% de los empleados de OpenAI ha amenazado con marcharse de la compa?¨ªa por el despido de Sam Altman. Microsoft se ha mostrado dispuesto a ficharlos a todos si hace falta, pero otras compa?¨ªas tecnol¨®gicas tambi¨¦n les han lanzado ofertas. El futuro de la firma de inteligencia artificial est¨¢ en el aire con esa potencial deserci¨®n masiva.

El propio Shear se ha puesto como prioridad investigar las circunstancias del despido de Altman y, seg¨²n Bloomberg, est¨¢ dispuesto a dimitir si no hay pruebas de comportamiento inadecuado por parte de su antecesor. En paralelo, hay negociaciones abiertas para la potencial vuelta de Sam Altman a la empresa como consejero delegado, a pesar de que se haya anunciado su fichaje por Microsoft. Se manejan distintas opciones y por ahora no hay acuerdo. Un hipot¨¦tico regreso a la compa?¨ªa vendr¨ªa acompa?ado de cambios en la gobernanza y de algunas garant¨ªas para los inversores.

Como curiosidad, cuando se pregunta a ChatGPT qui¨¦n ser¨ªa un buen consejero delegado para OpenAI, su lista de cinco es la siguiente: el fundador de Tesla y SpaceX, Elon Musk; el jefe de Microsoft, Satya Nadella; el cofundador de DeepMind Demis Hassabis; la anterior directora de operaciones de Facebook, Sheryl Sandberg, y el cofundador de Coursera Andrew Ng.

Una alternativa para la mayor parte de las tareas ser¨ªa poner al frente una inteligencia artificial, pero eso es idea de Emmett: ¡°Sin iron¨ªas. La mayor parte del trabajo de director general (y la mayor¨ªa de los puestos ejecutivos) es muy automatizable. Por supuesto, hay decisiones clave que no se pueden sustituir¡±, tuite¨® la v¨ªspera del despido de Sam Altman.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.