Los principales creadores de la IA alertan sobre el ¡°peligro de extinci¨®n¡± que supone esta tecnolog¨ªa para la humanidad

La inteligencia artificial (IA) supone un ¡°riesgo de extinci¨®n¡± para la humanidad, al igual que cat¨¢strofes como una guerra nuclear o una pandemia. Esas son las conclusiones de un grupo de 350 ejecutivos, investigadores e ingenieros expertos en esta tecnolog¨ªa en una carta abierta de tan solo 22 palabras publicada este martes por el Centro para la Seguridad de la IA, una organizaci¨®n sin fines de lucro. ¡°Mitigar el riesgo de extinci¨®n [para la humanidad] de la IA deber¨ªa ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear¡±, cita el enunciado que ha sido firmado, entre otros, por los altos ejecutivos de tres de las principales empresas de inteligencia artificial: Sam Altman (presidente ejecutivo de OpenAI), Demis Hassabis (Google DeepMind) y Dario Amodei (Anthropic). Entre los firmantes tambi¨¦n se encuentran los investigadores Geoffrey Hinton y Yoshua Bengio, a quienes menudo se les considera padrinos del movimiento moderno de IA. Hinton dej¨® hace unas semanas Google, donde ocupaba una vicepresidencia, porque cree que esta tecnolog¨ªa puede llevarnos al fin de la civilizaci¨®n en cuesti¨®n de a?os, seg¨²n confesaba a EL PA?S.

La declaraci¨®n llega en un momento de creciente preocupaci¨®n hacia un sector en r¨¢pido desarrollo y dif¨ªcil de controlar. El mismo Sam Altman se hab¨ªa ya pronunciado sobre este tema durante su comparecencia ante el Senado estadounidense, cuando reconoci¨® la importancia de regular la inteligencia artificial generativa. ¡°Mi peor miedo es que esta tecnolog¨ªa salga mal. Y si sale mal, puede salir muy mal¡±, dijo hace apenas dos semanas durante la primera audiencia sobre IA celebrada en el Capitolio. El padre de OpenAI ¡ªla compa?¨ªa que ha desarrollado ChatGPT, el programa de inteligencia artificial m¨¢s popular y poderoso en este campo¡ª a?adi¨® que comprend¨ªa que la ¡°gente est¨¦ ansiosa por c¨®mo [la IA] puede cambiar la forma en que vivimos¡±, y que por esta raz¨®n es necesario ¡°trabajar juntos para identificar y gestionar las posibles desventajas para que todos podamos disfrutar de las tremendas ventajas¡±.

No era la primera vez que uno de los empresarios m¨¢s involucrados en esta tecnolog¨ªa hac¨ªan declaraciones de esta envergadura con respeto al futuro de la IA. En marzo, m¨¢s de un millar de intelectuales, investigadores y empresarios hab¨ªan firmado otra carta abierta en la que solicitaban frenar durante ¡°al menos seis meses el desarrollo de sistemas de IA m¨¢s poderosos que GPT4¡å, la ¨²ltima versi¨®n de ChatGPT. En la carta, los firmantes advert¨ªan de que la herramienta de OpenAI ya es capaz de competir con los humanos en un creciente n¨²mero de tareas, y que se podr¨ªa utilizar para destruir empleo y difundir desinformaci¨®n. ¡°Desafortunadamente, este nivel de planificaci¨®n y gesti¨®n no est¨¢ ocurriendo, a pesar de que en los ¨²ltimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez m¨¢s poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable¡±, aseguraba la carta, que firm¨® tambi¨¦n el magnate Elon Musk, fundador de Tesla y SpaceX y due?o de Twitter, que es tambi¨¦n uno de los fundadores de OpenAI.

Otra voz de alarma en este campo fue la del brit¨¢nico Geoffrey Hinton, que a principio de mayo dej¨® su trabajo en Google para poder advertir con mayor libertad de los peligros que plantean estas nuevas tecnolog¨ªas. ¡°Por lo que sabemos hasta ahora sobre el funcionamiento del cerebro humano, probablemente nuestro proceso de aprendizaje es menos eficiente que el de los ordenadores, confesaba hace unas semanas a EL PA?S. Hinton aseguraba en esa misma entrevista que quedan ¡°de cinco a 20 a?os¡± para que la inteligencia artificial supere a la humana. ¡°Nuestros cerebros son el fruto de la evoluci¨®n y tienen una serie de metas integradas, como no lastimar el cuerpo, de ah¨ª la noci¨®n del da?o; comer lo suficiente, de ah¨ª el hambre; y hacer tantas copias de nosotros mismos como sea posible, de ah¨ª el deseo sexual. Las inteligencias sint¨¦ticas, en cambio, no han evolucionado: las hemos construido. Por lo tanto, no necesariamente vienen con objetivos innatos. As¨ª que la gran pregunta es, ?podemos asegurarnos de que tengan metas que nos beneficien a nosotros?¡±, dec¨ªa.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.