¡°Los datos que entregas acabar¨¢n por estrangularte en el sistema¡±

Ranga Yogeshwar (Luxemburgo, 1959) es una especie de canario en la mina, capaz de analizar y alertar de los desaf¨ªos que nos deparan las innovaciones. ?l piensa que en el campo de la inteligencia artificial, innovamos sin ser capaces de comprender los sistemas que creamos y las consecuencias que pueden tener.

Yogeshwar recibe a El PA?S en su casa de Lanzenbach, una aldea cerca de Colonia, en pleno campo. El habit¨¢culo vital de este conocido f¨ªsico divulgador en Alemania es, sin embargo, el mundo. Lo recorre impartiendo conferencias y conociendo de primera mano las innovaciones que regir¨¢n el futuro y nos cambiar¨¢n como sociedad. Pol¨ªticos y empresarios alemanes y de medio mundo le llaman para que les cuente a d¨®nde vamos. ?l lo explica en su libro Pr¨®xima estaci¨®n: futuro (Arpa), en el que alerta del mal uso de los datos y de que podemos acabar siendo esclavos de la digitalizaci¨®n de nuestro comportamiento. Pero Yogeshwar no pertenece al club de los agoreros, ni propone ninguna vuelta atr¨¢s. ?l lo que cree es que la pol¨ªtica puede y debe moldear una innovaci¨®n que no debe dejarse en manos solo de ingenieros e inversores. ¡°Al final ser¨¢ bueno, porque nos haremos las preguntas fundamentales y encontraremos respuestas mejores de las que hab¨ªamos encontrado hasta ahora¡±.

Pregunta. ?C¨®mo nos est¨¢ cambiando la innovaci¨®n?

Respuesta. Hay cosas esenciales que permanecer¨¢n. No queremos vivir en un estado de miedo permanente, ni morir de hambre, pero hay que ver c¨®mo nos ha cambiado por ejemplo la comunicaci¨®n, qu¨¦ pasa ahora en las familias. Cuando yo era joven y me iba de viaje era un tiempo de separaci¨®n de mis padres, de crecer, pero ahora cuando los chicos se van, est¨¢n conectados todo el tiempo con su familia. ?C¨®mo va a influir esto en su personalidad? O las ecochambers, si te rodeas todo el tiempo de gente que piensa como t¨², te encierras en una burbuja y eso tambi¨¦n modela la personalidad. Me pregunto si acabaremos en una sociedad muy diferente, que no se parece nada a la idea de sociedad cohesionada que ten¨ªamos hasta ahora, sino una en la que sean islas con unas reglas elementales para relacionarnos.

P. La filosof¨ªa ha dedicado mucho tiempo a analizar la diferencia entre los humanos y los animales. ?De las m¨¢quinas inteligentes, en qu¨¦ nos diferenciaremos?

Nuestra relaci¨®n con el progreso es como los ni?os en Navidad: abren los paquetes y tratan de hacer funcionar el juguete

R. El desarrollo de la inteligencia artificial nos fuerza a repensar qu¨¦ somos y qu¨¦ nos hace humanos. Podemos perdonar, nos encantan las excepciones. Es decir, aspiramos a tratar a todo el mundo por igual, pero si es tu amigo, haces algo especial por ¨¦l. A veces eres irracional. Fumas aunque no tenga sentido, las m¨¢quinas no hacen eso. Puede que gracias a la innovaci¨®n acabemos replante¨¢ndonos cosas esenciales, como el estar enfocados hacia la productividad y el rendimiento econ¨®mico; puede que haya transformaciones de las que ahora ni siquiera somos conscientes. Puede, por ejemplo, que vayamos hacia una era postextual en la que contemos y escuchemos historias en lugar de leer y escribir, que es un proceso muy complejo. Ahora ya no lees las instrucciones de un aparato, ves un tutorial. Tal vez, nuestra inteligencia puede disminuir porque la de las m¨¢quinas crezca.

P. No parece un futuro muy prometedor.

R. Yo soy optimista. Vemos, por ejemplo, que empezamos a querer pasar tiempo desconectados, lo que los brit¨¢nicos llaman digital detox [desintoxicaci¨®n digital]. Al final, aprenderemos c¨®mo utilizar bien la innovaci¨®n. Nuestra relaci¨®n con el progreso, para m¨ª, es como los ni?os en Navidad: abren los paquetes y tratan de hacer funcionar el juguete. Cuando no lo consiguen, es cuando miran las instrucciones. Tratamos de ir muy r¨¢pido, pero ahora poco a poco estamos empezando a estudiar las instrucciones de la revoluci¨®n digital. Los conquistadores llegaron a Am¨¦rica, se hicieron con el lugar y mataron a los ind¨ªgenas y esa es la misma mentalidad cowboy que vemos en la era digital. Google y Facebook son los conquistadores que se apoderan de los contenidos, pero estamos entrando en una fase en la que empezamos a civilizar estos contenidos y creo firmemente que seremos capaces de hacerlo. Estableceremos reglas, entenderemos tendencias y, tal vez, en los pr¨®ximos a?os nos demos cuenta de que hay que partir los googles y los amazons porque sean demasiado grandes. Estableceremos reglas por las que no utilizaremos tecnolog¨ªas que no entendamos completamente, porque habr¨¢ reacciones en contra. La historia nos demuestra que siempre hay un proceso de civilizaci¨®n. Al final ser¨¢ bueno, porque nos haremos las preguntas fundamentales y encontraremos respuestas mejores de las que hab¨ªamos encontrado hasta ahora.

Al final aprenderemos a usar bien la innovaci¨®n

P. Usted explica que nuestro futuro no es lineal, que no hay una continuidad desde el pasado, que hay disrupciones. ?Qu¨¦ consecuencias tiene este tipo de progreso?

R. La velocidad es una nueva cualidad. La electricidad, por ejemplo, se introdujo poco a poco o el tel¨¦fono, que tard¨® 75 a?os en llegar a 100 millones de usuarios. Antes hab¨ªa tiempo para adaptarse; era un proceso org¨¢nico. A veces se tardaba incluso una o dos generaciones, lo que significaba que no era una intrusi¨®n en tu vida personal, porque era la siguiente generaci¨®n la que lo ten¨ªa que gestionar. Ahora, si miramos a Facebook u otras redes sociales, o los tel¨¦fonos inteligentes, en apenas 11 a?os, todo el mundo tiene uno. Es decir, las cosas suceden de manera tan r¨¢pida que no hay tiempo para adaptarse de una manera civilizada. Las innovaciones se implantan y, de repente, nos damos cuenta de que necesitamos leyes. Empezamos a regular la privacidad, pero es un proceso muy lento comparado con la velocidad de la innovaci¨®n. En la inteligencia artificial surgen multitud de dilemas ¨¦ticos.

P. ?C¨®mo pueden convivir los algoritmos y la ¨¦tica?

R. Es un tema que va a estar muy presente, pero no se puede tratar de una forma tradicional porque la ¨¦tica es cambiable. Hace 50 a?os, por ejemplo, se aceptaba que se pegara los hijos, pero cambiamos. Necesitamos trabajar con una ¨¦tica que tenga en cuenta c¨®mo nos va a cambiar la tecnolog¨ªa. Por ejemplo, nuestro concepto de privacidad no va a ser el mismo en unos a?os. Es una situaci¨®n muy din¨¢mica y como no podemos anticipar los cambios, tal vez haya que dise?ar un proceso ¨¦tico que continuamente cuestione y adapte las cosas.

P. ?Es posible impedir que la moral y la ley vayan siempre por detr¨¢s?

R. Necesitamos una cultura en la que el progreso sea el resultado de un proceso de reflexi¨®n de la sociedad y no el resultado exclusivo de la ingenier¨ªa y los inversores. ?Queremos tener m¨¢quinas que tomen decisiones cruciales? Y si las tenemos, ?c¨®mo de transparentes deben ser las decisiones? Me refiero, por ejemplo, al sesgo de los datos que proporcionas a los sistemas, porque el problema es que nadie comprende realmente c¨®mo funcionan. No sabemos qu¨¦ pasa en las capas m¨¢s profundas y, por lo tanto, desconocemos si se adoptan las decisiones adecuadas. Por ejemplo, Google empez¨® a etiquetar fotos, pero de repente, las personas negras aparec¨ªan etiquetadas como gorilas, porque los datos que hab¨ªan introducido en el sistema estaban sesgados, porque probablemente no hab¨ªan suministrado suficientes im¨¢genes de personas negras. En algunas aplicaciones no pasa nada por que haya errores, pero en las que est¨¢n ¨ªntimamente ligadas con nuestra democracia, no es una opci¨®n. No se puede detener a alguien sin decirle exactamente por qu¨¦, no quiero que me detengan porque un algoritmo lo ordene. Al final, se reduce a la cuesti¨®n de si optamos por la correlaci¨®n o por la causalidad, que es la base de nuestra democracia.

P. ?A qu¨¦ se refiere?

R. Establecemos y comercializamos sistemas a pesar de que no los comprendemos. No sabemos si son estables o sesgados. Todo va muy r¨¢pido. Estuve en una conferencia con jefes de recursos humanos y me explicaron que utilizaban inteligencia artificial para las entrevistas de trabajo. Tienen un sistema que analiza qu¨¦ palabras utilizan los aspirantes para definir un perfil. Si utiliza ciertas palabras, concluyen que es un tipo optimista y proactivo o al rev¨¦s. En Estados Unidos, por ejemplo, el sistema Compas predice si un detenido va a cometer un nuevo crimen a trav¨¦s de algoritmos. Lo que pas¨® fue que encontraron un sesgo importante hacia los detenidos negros, porque hab¨ªan metido los datos sesgados. No me cansar¨¦ de decirlo: los datos son un problema.

Robots fuera del armario

Yogeshwar deja de hablar y muestra en el ordenador de su estudio una invenci¨®n que da una idea de lo avanzado que est¨¢ el procesamiento de voz. Una m¨¢quina pide una cita para ir a la peluquer¨ªa haci¨¦ndose pasar por una persona y es capaz de mantener una conversaci¨®n, respondiendo a las preguntas de la recepcionista. ¡°Es inmoral. No puedes tener m¨¢quinas que se hacen pasar por humanos. Falta una reflexi¨®n ¨¦tica. Los robots del futuro tienen que salir del armario y decir: 'Hola, soy un asistente de inteligencia artificial¡±.

P. Usted habla de velocidad y de complejidad. Mucha gente se siente alienada y rechaza un progreso que no comprende. Hay un movimiento reaccionario.

R. Hay que preguntarse cu¨¢l es nuestro objetivo. ?Tener una sociedad digitalizada que nos haga la vida m¨¢s f¨¢cil? o ?ser m¨¢s felices? Porque si queremos eso, puede que no haya mucha relaci¨®n, porque poco a poco el ser humano se adentra en la categor¨ªa de las m¨¢quinas. Podemos acabar sometidos a la dictadura del comportamiento. Es decir, tu m¨®vil, por ejemplo, controla el ejercicio que haces. Ya hay aseguradoras que te piden tus datos para calcular tu p¨®liza. Dentro de cinco a?os veremos a un tipo corriendo por un parque y le preguntaremos si le gusta salir a correr y responder¨¢ que no, pero que tiene que hacerlo para que quede reflejado en sus datos. La libertad que se prometi¨® puede terminar en justo lo contrario, en una dictadura de tu comportamiento. La libertad de comportarte como te de la gana, de beberte un vaso de vino por la noche, de fumarte un cigarro va a desaparecer porque todos los datos que entregas, acabar¨¢n estrangul¨¢ndote en un sistema. Empieza con los seguros m¨¦dicos y r¨¢pidamente se extiende a muchas otras ¨¢reas. Y eso genera un cierto sentimiento de desconfianza hacia el futuro, es la segunda fase de la era digital.

P. A usted tambi¨¦n le preocupa la evoluci¨®n de los medios de comunicaci¨®n.

R. Los pilares de la democracia son los medios, el lugar donde se pone en ejecuci¨®n y los medios se han vuelto populistas porque se rigen por los clics, por la audiencia medida con algoritmos que amplifican resultados. Ahora la pelea est¨¢ por la atenci¨®n no por las ideas. En un periodo de tiempo muy corto hemos visto un cambio en la prensa que desconcierta a mucha gente. Vemos muchos cambios en muy poco tiempo y nos hace plantearnos hacia d¨®nde nos dirigimos, qui¨¦n est¨¢ controlando el cambio o si alguien lo est¨¢ controlando. Para muchas personas, la respuesta es que el cambio se gestiona a s¨ª mismo y sienten que ellos no tienen nada que aportar. Las ¨¦lites no son capaces de comunicar la esencia de los cambios y la gente siente que vive en una democracia en la que no puede participar. Por eso, aunque a la gente le vaya bien, sienten cierto desasosiego y miedo fruto de la transformaci¨®n, que afecta tambi¨¦n a sus negocios. Porque igual han trabajado un mont¨®n de a?os para llegar a una posici¨®n y de repente eso no vale nada. Desconf¨ªan de la innovaci¨®n y se entregan al populismo. Y culpan a los extranjeros, piensan que la soluci¨®n es encerrarse como si viniera un hurac¨¢n, que en realidad es la innovaci¨®n. Es puro miedo.

P. ?Puede hacer algo la pol¨ªtica?

R. La pol¨ªtica puede hacer mucho pero desafortunadamente la europea y alemana han hecho muy poco. La mayor¨ªa de los pol¨ªticos no entienden lo que est¨¢ pasando, son literalmente ignorantes. Yo les explico por ejemplo que la fisonom¨ªa de las ciudades va a cambiar por el monopolio de Amazon y que van a desaparecer las librer¨ªas y es algo en lo que ni han pensado. Hay una enorme ignorancia sobre el cambio m¨¢s crucial que est¨¢ sucediendo.

P. ?Y la industria?

R. Viven enamorados de su pasado y no piensan en el futuro. En Estados Unidos, el 70% de las empresas tienen un jefe de transformaci¨®n digital, que estudia c¨®mo va a cambiar la empresa con la digitalizaci¨®n o si va a seguir existiendo. En Alemania, no llega al 20%. Aqu¨ª vienen las empresas extranjeras y se llevan a los j¨®venes con m¨¢s talento. Si miramos a EE UU y a China, nos damos cuenta de que Europa va a morir en el proceso de la innovaci¨®n de inteligencia artificial. ?Por qu¨¦ nada nace en Europa con contadas excepciones? Le cedemos nuestros datos a EEUU y desde Snowden sabemos que nos tratan de manera diferente. Internet, la carta Magna de la era digital se cre¨® para ser utilizado por todo el mundo y ahora lo ¨²nico que vemos es negocio.

P. ?Qu¨¦ cambios geopol¨ªticos va a traer la innovaci¨®n?

R. Si analizamos de d¨®nde van a venir los cient¨ªficos en 2030, vemos que el 37% vendr¨¢ de China y el 1,4% de Alemania. Dejemos de creer que los chinos son est¨²pidos. Son muy innovadores y tienen ambici¨®n.