El riesgo de externalizar nuestro futuro al sector privado

El pasado mes de septiembre, el gobernador de California, Gavin Newsom, vet¨® un?proyecto de ley de seguridad de la inteligencia artificial, y la Real Academia Sueca de Ciencias le entreg¨® el Premio Nobel de Qu¨ªmica a David Baker, profesor de la Universidad de Washington, y a Demis Hassabis y John M. Jumper, empleados de la subsidiaria DeepMind de Google y de su empresa derivada Isomorphic Labs. Tal vez parezca que estos dos episodios tienen poco en com¨²n, pero juntos sugieren que externalizar el futuro de la humanidad a corporaciones privadas que maximizan el lucro es algo a celebrar. Si bien el?proyecto de ley?de California no era perfecto, representaba el primer esfuerzo sustancial para hacer que los desarrolladores se hicieran responsables de los potenciales perjuicios que sus modelos de inteligencia artificial (IA) pudieran causar. Asimismo, se centraba no solo en cualquier riesgo sino en el ¡°perjuicio cr¨ªtico¡±, como el desarrollo de armas de destrucci¨®n masiva o la generaci¨®n de un da?o, como m¨ªnimo, de al menos 500 millones de d¨®lares.

La industria tecnol¨®gica, Google incluida, hizo un lobby feroz contra el proyecto de ley, apelando a un argumento muy viejo. Como?se?al¨®?el?Financial Times en uno de sus editoriales, las nuevas regulaciones podr¨ªan ¡°frenar el surgimiento de un tipo de innovaci¨®n que ayudar¨ªa a diagnosticar enfermedades, acelerar la investigaci¨®n cient¨ªfica e impulsar la productividad¡±: una vez m¨¢s, esos costes de oportunidad se consideran m¨¢s perjudiciales que cualquier da?o que la IA pudiera causar a la capacidad de las personas de controlar su propio destino, o incluso de vivir en paz en sus sociedades.

El Premio Nobel 2024 representa la primera ocasi¨®n en que el galard¨®n ha sido otorgado en una ciencia natural a empleados de una corporaci¨®n multinacional. Todos los?ganadores anteriores?eran o hab¨ªan sido profesores universitarios o investigadores de institutos de investigaci¨®n financiados por los gobiernos, que hab¨ªan publicado sus resultados en publicaciones revisadas por expertos y puesto sus hallazgos a disposici¨®n del mundo. M¨¢s all¨¢ de si fue o no la intenci¨®n de la Academia sueca, su decisi¨®n de incluir a los investigadores de Google viene a legitimar la privatizaci¨®n de la ciencia, que ya no es parte de los bienes comunes de la humanidad. Como muchos otros recursos antes, la ciencia de IA est¨¢ encerrada en un jard¨ªn amurallado al que solo pueden acceder aquellos que pagan la entrada.

Es verdad, el modelo de IA AlphaFold2, que les vali¨® el premio a Hassabis y a Jumper, junto con su c¨®digo fuente, est¨¢ a disposici¨®n del p¨²blico. Seg¨²n?AlphaFold.com, ¡°DeepMind de Google y el Instituto Europeo de Bioinform¨¢tica de EMBL (EMBL-EBI) se han asociado para crear AlphaFold DB para que la comunidad cient¨ªfica pueda acceder a estas predicciones de manera gratuita¡±. Por otro lado, DeepMind tiene?m¨²ltiples patentes?para AlphaFold. Seg¨²n la l¨®gica de los derechos de propiedad, la empresa, no el p¨²blico, siempre tendr¨¢ la ¨²ltima palabra sobre el uso de la tecnolog¨ªa. El sitio web de AlphaFold es una ¡°.com¡±, lo que denota algo fundamentalmente diferente del?Proyecto del Genoma Humano, por ejemplo, con su URL ¡°.gov¡±.

En el mundo de la tecnolog¨ªa de la informaci¨®n, ¡°gratis¡± nunca es gratis. Los pagos se hacen en datos, no en d¨®lares. Los datos que le permiten a AlphaFold predecir la estructura tridimensional de una prote¨ªna provienen del domino p¨²blico. El socio de DeepMind en el desarrollo de AlphaFold es una organizaci¨®n de investigaci¨®n intergubernamental?financiada?por m¨¢s de 20 Estados miembros de la Uni¨®n Europea.?Seg¨²n?Jumper, ¡°los datos p¨²blicos fueron esenciales para el desarrollo de AlphaFold¡±. Sin los datos compilados y organizados por cient¨ªficos que recibieron para ello dinero de los contribuyentes, AlphaFold no existir¨ªa.

A pesar de la clarividencia de los funcionarios p¨²blicos a la hora de crear esta gigantesca base de datos, los gobiernos suelen ser menospreciados por no tener el conocimiento, las capacidades, los recursos y la previsi¨®n necesarios para promover las innovaciones y hacer avanzar el progreso cient¨ªfico y econ¨®mico. Constantemente nos dicen que solo el sector privado, con sus incentivos monetarios convincentes, puede hacer lo necesario para impulsar que el mundo evolucione hacia adelante.

En realidad, el sector privado normalmente se aprovecha del trabajo realizado por cient¨ªficos financiados con dinero p¨²blico o empleados por institutos p¨²blicos de investigaci¨®n. El primer sat¨¦lite fue lanzado por el Gobierno de Estados Unidos, no por Elon Musk; el ej¨¦rcito norteamericano desarroll¨® internet antes de que pasara a comercializarse, y las empresas farmac¨¦uticas?rara vez invierten?en investigaci¨®n b¨¢sica. ?Por qu¨¦ preocuparse cuando se puede?esperar?a que los cient¨ªficos?financiados?por los Institutos Nacionales de Salud de Estados Unidos u organismos similares hagan avanzar un campo hasta el punto en que se puedan hacer inversiones rentables?

Esa es la l¨®gica de las grandes corporaciones con ¨¢nimo de lucro. Su objetivo son los retornos financieros, los beneficios cuanto mayores mejor, no el progreso humano. Una vez en el juego, intentan monopolizar el conocimiento cient¨ªfico asegur¨¢ndose patentes u ocultando sus hallazgos detr¨¢s de barreras provistas por la ley de secreto comercial. Sin la ayuda del Estado, no tendr¨ªan ni ciencia b¨¢sica ni protecciones legales para los monopolios que les proporcionan grandes beneficios ¡ªque luego esgrimen como prueba de su superioridad sobre el Gobierno¡ª.

No es dif¨ªcil entender por qu¨¦ las empresas privadas disfrutan de este juego. El misterio es por qu¨¦ los gobiernos se prestan voluntariamente al juego de la industria, entregando a?os de investigaci¨®n financiada con fondos p¨²blicos sin garantizar que la poblaci¨®n tenga voz y voto a la hora de determinar c¨®mo se la usa. La?legislaci¨®n?de California habr¨ªa exigido que los modelos de IA incluyeran una capacidad de desconexi¨®n total en caso de que las cosas salieran mal, pero esta estipulaci¨®n se elimin¨® con el resto del proyecto de ley.

No hay nada nuevo en el argumento de que si no sabemos lo suficiente sobre los da?os futuros, deber¨ªamos abstenernos de interferir en los mercados ¡°privados¡±, que siempre funcionan mejor sin la ¡°interferencia¡± del Gobierno. Las empresas petroleras y gas¨ªferas dependieron de ¨¦l cuando negaron el riesgo del cambio clim¨¢tico y su contribuci¨®n al mismo, a pesar de que su propia investigaci¨®n les dijera lo contrario. Sin embargo, aqu¨ª estamos otra vez. Aparentemente, deber¨ªamos poner nuestro futuro en manos de las corporaciones privadas cuyo ¨²nico objetivo es maximizar el valor de los accionistas. ?Qu¨¦ podr¨ªa salir mal?