Anders Sandberg, neurocient¨ªfico: ¡°Estamos al principio de la historia y tenemos la responsabilidad de no estropear demasiado las cosas¡±
El investigador de Oxford cree que las mayores amenazas para la humanidad las crean los propios humanos
Cuando se trata del futuro a largo plazo, un joven puede preocuparse por si tendr¨¢ pensi¨®n cuando se jubile o c¨®mo ser¨¢ el planeta cuando sus bisnietos est¨¦n en la universidad. Pero, ?y lo que viene despu¨¦s, qu¨¦? Para Anders Sandberg (Solna, Suecia, 50 a?os), investigador en el Instituto sobre el Futuro de la Humanidad de la Universidad de Oxford, pensar en el largo plazo supone reflexionar sobre lo que ocurrir¨¢ dentro de miles de a?os. El objetivo es garantizar que los humanos de los pr¨®ximos siglos y milenios tengan la oportunidad de nacer y sobrevivir.
Sandberg es neurocient¨ªfico computacional y forma parte de una corriente filos¨®fica conocida como largoplacista, que estudia el futuro lejano. Para llegar hasta all¨¢, la humanidad tendr¨¢ que supervivir a una serie de amenazas. ¡°Existen las naturales, como los impactos de asteroides y los supervolcanes, pero la probabilidad de que esos eliminen a la humanidad a lo largo de un siglo es mucho menor de lo que supone el cambio clim¨¢tico o una guerra nuclear¡±, afirma.
A la lista de riesgos de baja probabilidad, pero de mucho impacto, Sandberg a?ade la inteligencia artificial (IA), que, mal empleada, puede llevar a un caos sist¨¦mico. Seg¨²n argumenta, las mayores amenazas las crean los propios humanos y ah¨ª es donde est¨¢ el riesgo, pero ¨¦l sigue optimista. ¡°En el ahora se pueden tomar decisiones¡±, dice el investigador a EL PA?S, tras impartir una conferencia sobre el futuro de la humanidad en el Centro Nacional de Investigaciones Oncol¨®gicas (CNIO), en Madrid. Sandberg estudia adem¨¢s otras cuestiones filos¨®ficas relacionadas con la cognici¨®n aumentada, la criogenia humana y la b¨²squeda de vida extraterrestre.
Pregunta. ?C¨®mo se compara el cambio clim¨¢tico con los riesgos que representan las nuevas tecnolog¨ªas o la inteligencia artificial?
Respuesta. Los riesgos de la inteligencia artificial actualmente son casi nulos, pero muchos investigadores piensan que van a crecer y llegar a ser muy importantes, incluso en un futuro pr¨®ximo. Lo interesante es que podemos evitarlo. Podemos trabajar en la creaci¨®n de mecanismos de seguridad para la inteligencia artificial, as¨ª como para las biotecnolog¨ªas. El riesgo disminuye si hacemos bien nuestro trabajo. El cambio clim¨¢tico es complicado porque se trata de algo sist¨¦mico: afecta a la econom¨ªa, la pol¨ªtica, la cadena de suministro, el ecosistema. Y eso significa que requiere soluciones muy diferentes. Para corregir la inteligencia artificial, incluso si descubres c¨®mo hacerla de forma segura, a¨²n necesitamos a los Gobiernos y las leyes. Eso, para m¨ª, es lo que garantiza su seguridad.
P. ?Qu¨¦ tecnolog¨ªas podr¨ªan escapar del control?
R. La gente suele mencionar que los robots se comportan mal, pero creo que los sistemas de asesoramiento podr¨ªan ser los m¨¢s peligrosos. Imagine un programa creado para asesorar a una empresa y hacerla m¨¢s rentable. Si es lo suficientemente bueno, tiene sentido usarlo porque da buenos consejos. Los ejecutivos que no los siguen podr¨ªan ser despedidos y eso maximiza los ingresos de la empresa, pero no respeta la ¨¦tica. Al final, convierte la empresa en algo m¨¢s despiadada, no porque sea mala, sino porque maximiza las ganancias. Y esto podr¨ªan replicarlo las dem¨¢s empresas. Si hay una ley que lo proh¨ªba, contratar¨¢n abogados para darle una vuelta. La situaci¨®n se vuelve m¨¢s problem¨¢tica mientras sea m¨¢s poderosa. Si tenemos sistemas muy potentes capaces de crear tecnolog¨ªas muy inteligentes, es posible que ambos tengan efectos peligrosos.
P. ?Alg¨²n ejemplo?
R. Los humanos pueden pedir a un ordenador un arma apocal¨ªptica o un brazo rob¨®tico y eso amplifica la habilidad maliciosa. El otro problema es que queramos que el ordenador haga algo, pero no entienda por qu¨¦ lo queremos. Por lo tanto, los verdaderos riesgos podr¨ªan estar en que consigamos tecnolog¨ªas poderosas que alteren la forma de dirigir nuestra sociedad y que hagan que los humanos pierdan el control sobre ese efecto. Hasta cierto punto, ya lo hemos sufrido porque Estados, corporaciones y grandes instituciones ya usan inteligencia artificial, pero a¨²n est¨¢n hechas de personas y reglas. Automatizar todo el proceso podr¨ªa suponer un mundo controlado por grandes sistemas que no son humanos, que no se preocupen por los valores y que simplemente se alejan en una direcci¨®n aleatoria que no se estableci¨® con prudencia.
P. Meta cre¨® a la plataforma de IA Galactica con la promesa de ayudar a la ciencia. Pero la tumb¨® despu¨¦s de tan solo tres d¨ªas por los contenidos falsos que produjo. ?Es un ejemplo de c¨®mo la inteligencia artificial mal estructurada podr¨ªa arruinar los sistemas?
R. Galactica est¨¢ muy bien hecha para cosas que parecen una explicaci¨®n cient¨ªfica basada en lo que est¨¢ escrito en internet. Pero no dice la verdad, sino que inventa cosas que parecen ser verdaderas. Esto es peligroso porque en la ciencia no se debe inventar cosas. Es muy importante ser correcto, aunque sea aburrido. As¨ª que podr¨ªamos acabar con sistemas que inventan noticias y hechos, todos falsos, que nos confundir¨ªan mucho. Sobre todo, teniendo en cuenta que los sistemas de inteligencia artificial se entrenan con lo que hay en internet. Si hay muchos contenidos cient¨ªficos falsos que parecen muy serios porque tienen las ecuaciones correctas y est¨¢n escritos en un estilo acad¨¦mico, es posible que en un futuro se obtengan sistemas a¨²n m¨¢s mentirosos. La verdad es muy valiosa y tambi¨¦n muy fr¨¢gil. Muchos de nosotros no sabemos c¨®mo manejarla bien, pero los sistemas de inteligencia artificial son a¨²n peores.
P. ?Debemos tener miedo del futuro?
P. Tener miedo a algo significa querer huir de ello. El futuro es emocionante y horroroso, y est¨¢ lleno de posibilidades. Es como un videojuego, un gimnasio en la selva o un parque infantil: hay cosas peligrosas con las que debes tener cuidado. Tambi¨¦n hay cosas muy interesantes. Y hay cosas con las que debemos jugar para crecer y ser mejores. As¨ª que no debemos temer por el futuro, pero tener esperanzas y asegurarnos de que valga la pena hacerlo.
P. ?Pensar¨¢n las generaciones futuras que los contempor¨¢neos de ahora son delincuentes con el planeta?
R. Hasta cierto punto, culpamos a nuestros antepasados de hace miles de a?os por llevar a los mamuts a la extinci¨®n, pero no sab¨ªan de ecolog¨ªa ni siquiera sab¨ªan que pod¨ªan hacer que el mamut se extinguiera. Es posible que las generaciones futuras tengan opiniones sobre lo que estamos haciendo y algunas hasta tendr¨¢n raz¨®n. A veces, suponemos que el futuro va a ser m¨¢s sensato, con m¨¢s conocimiento y recursos. Pero estamos aqu¨ª al principio de la historia y tenemos la responsabilidad de no estropear demasiado las cosas.
El futuro es como un videojuego, un gimnasio en la selva o un parque infantil: hay cosas peligrosas, pero otras muy interesantes
P. ?El pr¨®ximo paso es el espacio?
R. El espacio es una de las muchas paradas. Estamos expandiendo al espacio computacional, con la realidad virtual y la comprensi¨®n de la inteligencia artificial, pero tambi¨¦n a un nivel psicol¨®gico. En un futuro, y probablemente relativamente pr¨®ximo, daremos los primeros pasos para intentar dirigirnos al universo. Tal vez ese no sea el lugar m¨¢s conveniente para vivir, pero es ¨²til tener una copia de seguridad. Debemos tener copias de seguridad de nuestra civilizaci¨®n y lo m¨¢s lejos posible.
P. ?Cree que millonarios y exploradores espaciales como Elon Musk utilizan la posibilidad de un futuro en Marte como pretexto para no hacerse cargo de los problemas actuales?
R. Siempre hay una pelea entre los diferentes problemas. ?Debo salvar a las personas que padecen malaria o pensar en la pobreza? ?Debo hacer frente a la pobreza cuando pueden producirse pandemias? Es posible que las pandemias no sean tan graves como las guerras nucleares. Hay muchas cosas en las que trabajar. Podemos discutir sobre cu¨¢les son las prioridades, pero al final tendr¨¢s que seleccionar una. Algunas personas usan pretextos al pensar en un futuro lejano, pero muchas est¨¢n escapando de los grandes problemas de la humanidad al enfocarse solamente en el ahora. Hay gente que va a trabajar en la lucha contra la pobreza porque no se atreve a abordar una guerra nuclear. Eso tambi¨¦n es un pretexto. En la pr¨¢ctica, deber¨ªamos tener el mayor n¨²mero posible de personas tratando de resolver la mayor cantidad posible de problemas. A veces, la soluci¨®n a un problema tambi¨¦n es ¨²til para otro. Gracias a la b¨²squeda de soluciones a la covid, ahora tenemos vacunas de ARN. Eso parece estar creando una revoluci¨®n para ayudar a curar muchas otras enfermedades, incluidas las no pand¨¦micas. El espacio nos da muchas herramientas ¨²tiles para reciclar en la Tierra, la fabricaci¨®n de alimentos espaciales parece ser ¨²til como recursos de emergencia en nuestro planeta tambi¨¦n.
Tal vez el espacio no sea el lugar m¨¢s conveniente para vivir, pero es ¨²til tener una copia de seguridad. Debemos tenerlas y lo m¨¢s lejos posible
P. ?Es posible tener un desarrollo infinito en un planeta finito?
R. Tal vez. Mucha gente dice que el crecimiento econ¨®mico no puede continuar para siempre, pero este pensamiento asume que el valor econ¨®mico est¨¢ plasmado en cosas. La Mona Lisa no tiene tantos kilogramos de material. Sin embargo, su valor es enorme, y podr¨ªamos aprender a apreciar m¨¢s el arte y apreciarla [la obra] a¨²n m¨¢s. El valor, que en realidad es de lo que se trata el crecimiento econ¨®mico, no est¨¢ tan ligado a la cantidad de materia. Del mismo modo, el desarrollo tecnol¨®gico, a menudo, implica hacer m¨¢s con menos material. Los aviones modernos son m¨¢s livianos que los antiguos porque llevan mejores materiales y funcionan con menos combustible. De hecho, muchas tecnolog¨ªas avanzadas requieren menos recursos que en el pasado. En un largo plazo, el desarrollo infinito no cabe en un planeta finito y es mucho m¨¢s seguro esparcirlo. Pero decir que es mejor tener menos tecnolog¨ªa no tiene sentido, porque significa menos eficiencia. Optar por la baja tecnolog¨ªa es un lujo hoy en d¨ªa.
P. ?Qu¨¦ descubrimientos espera encontrar en la pr¨®xima d¨¦cada?
R. Me encantar¨ªa ver una buena forma de incorporar los valores humanos a la inteligencia artificial, para que podamos averiguar lo que realmente queremos cuando le pedimos que un ordenador haga algo. Y que incluso las m¨¢quinas sean capaces de decir ¡°no voy a hacerlo porque no entendiendo completamente ese problema¡±. Actualmente, la IA ejecuta lo que el humano le dice, lo cual es peligroso. Del mismo modo, creo que debemos trabajar duro para obtener mejores fuentes de energ¨ªa. Me alegra ver los avances en la fusi¨®n. Supongo que la energ¨ªa solar va a ser mucho m¨¢s poderosa y que vamos a ver el desarrollo con precisi¨®n at¨®mica, la nanotecnolog¨ªa, lo que va a revolucionar el mundo. Podremos hacer las cosas de forma m¨¢s limpia, con menos recursos y energ¨ªa. Asimismo, crear mejores formas de reciclar materiales y fabricar ordenadores eficaces.
P. Hace unos a?os, usted dijo que muchos cient¨ªficos ten¨ªan miedo de arruinar sus carreras al dedicarse a estudios sobre criogenia, por ejemplo. ?Ocurre lo mismo con los largoplacistas?
R. S¨ª, mucha gente en astronom¨ªa, por ejemplo, piensa que es totalmente razonable dedicar un gran esfuerzo a entender el pasado del universo, pero se enfada cuando le pido que utilice las mismas ecuaciones para predecir unos cientos de miles de millones de a?os en el futuro. Ellos argumentan que la ciencia tiene que compararse con la realidad y no puede ponerse a prueba el largo plazo. Pero hay pron¨®sticos clim¨¢ticos que se proyectan en el futuro y son bastante importantes para establecer pol¨ªticas. Hay muchos argumentos metodol¨®gicos en la ciencia y algunos de ellos son muy relevantes, pero creo que muchas personas solo se centran en una forma de usar sus conocimientos y no son conscientes de que se pueden aplicar a otros dominios. Creo que vale la pena intentar aprender todo lo que podamos sobre el futuro, no porque queramos tener una predicci¨®n perfecta, sino m¨¢s bien obtener informaci¨®n que nos ayude a guiar nuestras pr¨®ximas acciones.
Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter y apuntarte aqu¨ª para recibir nuestra newsletter semanal.
Tu suscripci¨®n se est¨¢ usando en otro dispositivo
?Quieres a?adir otro usuario a tu suscripci¨®n?
Si contin¨²as leyendo en este dispositivo, no se podr¨¢ leer en el otro.
FlechaTu suscripci¨®n se est¨¢ usando en otro dispositivo y solo puedes acceder a EL PA?S desde un dispositivo a la vez.
Si quieres compartir tu cuenta, cambia tu suscripci¨®n a la modalidad Premium, as¨ª podr¨¢s a?adir otro usuario. Cada uno acceder¨¢ con su propia cuenta de email, lo que os permitir¨¢ personalizar vuestra experiencia en EL PA?S.
En el caso de no saber qui¨¦n est¨¢ usando tu cuenta, te recomendamos cambiar tu contrase?a aqu¨ª.
Si decides continuar compartiendo tu cuenta, este mensaje se mostrar¨¢ en tu dispositivo y en el de la otra persona que est¨¢ usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aqu¨ª los t¨¦rminos y condiciones de la suscripci¨®n digital.