Geoffrey Hinton, el ¡®padrino¡¯ de la IA, deja Google y avisa de los peligros de esta tecnolog¨ªa

El brit¨¢nico Geoffrey Hinton, uno de los grandes pioneros en el desarrollo de la inteligencia artificial (IA), ha dejado su trabajo en Google para poder advertir con mayor libertad de los peligros que plantean estas nuevas tecnolog¨ªas, seg¨²n asegur¨® en una entrevista publicada este lunes por The New York Times. A menudo llamado el padrino de la IA, Hinton asegur¨® que a sus 75 a?os lamenta ahora haber dedicado su carrera a este ¨¢mbito. ¡°Me consuelo con la excusa normal: si no hubiese sido yo, otro lo habr¨ªa hecho¡±, se?al¨® al diario neoyorquino. La voz de alarma se suma a las advertencias que en los ¨²ltimos meses han hecho otros expertos, sobre todo a ra¨ªz del lanzamiento de la inteligencia artificial generativa como el popular ChatGPT y las grandes apuestas que los gigantes tecnol¨®gicos est¨¢n haciendo en este ¨¢mbito. Hinton era vicepresidente de Ingenier¨ªa en Google.

¡°Es dif¨ªcil ver c¨®mo se puede evitar que los malos actores lo usen para cosas malas¡±, dijo Hinton en la entrevista, en la que avisa sobre la excesiva velocidad a la que se est¨¢n logrando avances. ¡°Mire c¨®mo era hace cinco a?os y c¨®mo es ahora¡±, apunt¨®. ¡°Tome la diferencia y prop¨¢guela hacia adelante. Eso asusta¡±, se?al¨® Hinton, que el a?o pasado recibi¨® el Premio Princesa de Asturias de Investigaci¨®n Cient¨ªfica y T¨¦cnica junto a otros tres pioneros de la IA por su trabajo.

A corto plazo, este experto teme sobre todo que internet se vea inundada de falsos textos, fotos y v¨ªdeos, y que los ciudadanos no puedan ser capaces de distinguir lo que es real, pero tambi¨¦n cree que estas tecnolog¨ªas pueden reemplazar a muchos trabajadores y, m¨¢s adelante, suponer incluso una amenaza para la humanidad. ¡°Algunos cre¨ªan en la idea de que estas cosas en realidad podr¨ªan volverse m¨¢s inteligentes que las personas¡±, explic¨®. ¡°Pero la mayor¨ªa de la gente pensaba que estaba muy lejos. Yo mismo pensaba que estaba muy lejos. Cre¨ªa que faltaban entre 30 y 50 a?os o incluso m¨¢s. Obviamente, ya no pienso eso¡±, a?adi¨®.

En su opini¨®n, se deber¨ªan frenar los trabajos en este ¨¢mbito hasta que se entienda bien si ser¨¢ posible controlar la IA, una idea en l¨ªnea con otros llamamientos p¨²blicos de personalidades del sector tecnol¨®gico que han pedido suspender temporalmente los experimentos. Hace unas semanas se conoc¨ªa que m¨¢s de un millar de empresarios, intelectuales e investigadores de primer nivel relacionados con esta tecnolog¨ªa hab¨ªan firmado una carta abierta en la que solicitan una moratoria en su desarrollo para recapacitar sobre sus consecuencias.

M¨¢s concretamente, estos expertos ped¨ªan una pausa de ¡°al menos seis meses en el desarrollo y pruebas de sistemas de IA m¨¢s poderosos que GPT4¡å, la ¨²ltima versi¨®n del gran modelo de lenguaje que usa ChatGPT. La carta advierte de que este ¨²ltimo modelo ya es capaz de competir con los humanos en un creciente n¨²mero de tareas, y que podr¨ªa usarse para destruir empleo y difundir desinformaci¨®n. Por ello, reclaman un desarrollo seguro y solo cuando est¨¦n seguros de que sus efectos ser¨¢n positivos. ¡°Desafortunadamente¡±, asegura la carta, ¡°este nivel de planificaci¨®n y gesti¨®n no est¨¢ ocurriendo, a pesar de que en los ¨²ltimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez m¨¢s poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable¡±.

A trav¨¦s de Twitter, Hinton quiso puntualizar despu¨¦s que no deja Google para poder criticar a la empresa, sino para poder hablar de los peligros de la inteligencia artificial sin tener que preocuparse del impacto que esas opiniones causar¨ªan en la compa?¨ªa en la que trabajaba, una empresa que seg¨²n ¨¦l ¡°ha actuado de forma muy responsable¡±.

Geoffrey Hinton, profesor de la Universidad de Toronto (Canad¨¢) y premio Fundaci¨®n BBVA Fronteras del Conocimiento en 2017, desarroll¨® en 2004 los conceptos en los que se ha venido trabajando desde hace medio siglo y los ha orientado al aprendizaje mec¨¢nico y reconocimiento de elementos tan complejos como el habla o la imagen. Hinton cre¨® una comunidad de investigaci¨®n a la que se sumaron Yann LeCun, de la Universidad de New York, y Yoshua Bengio, de la de Montreal (Canad¨¢). En 1986, Hinton invent¨® los algoritmos de retropropagaci¨®n, fundamentales para el entrenamiento de redes neuronales. Con ellos, en 2012 consigui¨® crear una red neuronal convolucional llamada AlexNet, compuesta por 650.000 neuronas y entrenada con 1,2 millones de im¨¢genes, que registr¨® tan solo un 26% de errores en el reconocimiento de objetos y redujo a la mitad el porcentaje de sistemas anteriores. LeCun sum¨® una tecnolog¨ªa de reconocimiento ¨®ptico de caracteres.

¡°No me gustaban las primeras teor¨ªas de la inteligencia artificial (IA) porque se basaban mucho en la l¨®gica y eso es algo que los humanos tardamos mucho en desarrollar¡±, explic¨® Hinton a EL PA?S tras la concesi¨®n de su premio. El investigador explic¨® que estaba m¨¢s interesado en conocer c¨®mo funciona el cerebro humano, cu¨¢les son los fundamentos del aprendizaje y en buscar la forma de aplicar esos principios a las m¨¢quinas. ¡°El cerebro humano es la mejor m¨¢quina. Mi objetivo era comprender c¨®mo trabaja la gente y simular ese sistema y creo que la mejor manera de hacerlo es construir modelos de redes neuronales artificiales¡±, explic¨®.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.