David Cuartielles: ¡°La privacidad de los datos como concepto ¨¦tico es muy flexible¡±

David Cuartielles, Zaragoza 1974, uno de los fundadores de Arduino, la empresa de software y hardware libre, cree que la privacidad de los datos personales est¨¢ sobrevalorada. En su opini¨®n el hecho de que puedan estar en unas pocas manos es lo que les otorga valor para quien quiere hacer negocio -o manipular- con ellos, pero cree que si estuvieran en manos de todos perder¨ªan esa componente y acabar¨ªa redundando en beneficio de toda la sociedad. La feria Maker Faire Bilbao se celebra en el Azkuna Zentroa. Su director Fernando P¨¦rez se congratula de tener una feria que habla y contecta a las "diferentes culturas, desde las tecnol¨®gicas hasta las visuales y las art¨ªsticas". Cuartielles, que tambi¨¦n cree que Maker Faire es una feria de culturas, augura que los seres humanos van a seguir teniendo el control de los procesos vitales pese a la vigencia de los algoritmos y la Inteligencia Artificial.

Pregunta. En los a?os previos a la gran crisis financiera de 2006 se contrataban matem¨¢ticos para dise?ar algoritmos que calcularan todo tipo de riesgos. La crisis sin embargo lleg¨®.

Respuesta. Claro. Se generan muchos problemas en los resultados de un c¨¢lculo solo cambiando una variable. Amazon hace una cosa muy interesante, hace cambios de precios en tiempo real por localizaci¨®n, como tambi¨¦n compa?¨ªas a¨¦reas. Busca un vuelo y ver¨¢s que ese precio cambia de un d¨ªa para otro. Es especialmente sensible a la demanda, a la situaci¨®n pol¨ªtica o geopol¨ªtica. Un algoritmo lo traduce y ofrece cambios de precios dependiendo de donde est¨¦s, del contexto pol¨ªtico. Eso genera diferencias sociales. Esos algoritmos funcionan ofertando precios con los datos de toda la competencia, pero si vives en el campo y no hay ninguna referencia cercana te va a ofrecer un producto m¨¢s caro. Son proclives a generar errores.

P. Es decir, que los algoritmos no tienen valores como solidaridad o igualdad...

R. Hay todo un debate sobre la ¨¦tica de un algoritmo, es decir, hacer que un algoritmo pueda determinar qu¨¦ datos va a utilizar y c¨®mo los va a usar porque si no, puede producir errores, y esos errores afectar a personas.

P. ?Cambridge Analitics o el uso masivo de datos para fines pol¨ªticos es uno de esos casos?

R.Cambrigde Analitics es otra cosa. La discusi¨®n ¨¦tica no tiene solo que ver con casos tan flagrantes como este, sino por ejemplo con que la gente piense que sus datos son supervaliosos. Y creo que la gente est¨¢ equivocada. Yo creo que lo que habr¨ªa que hacer es d¨¢rselos a todos, porque cuanta m¨¢s gente los tenga menos valen para quienes los quieren para su beneficio. Y adem¨¢s repercutir¨¢ en nuestro favor. Si la manera que tengo de pagar un sistema gratuito como el correo electr¨®nico es con un anuncio o si la foto que mando de mi hijo o novia desde un pa¨ªs remoto sirve para determinar un determinado riesgo m¨¦dico en mi pa¨ªs, pues bienvenido sea. La privacidad como concepto ¨¦tico es muy flexible y est¨¢ sujeto a cambios.

P. ?Usted ha hablado de soberan¨ªa algor¨ªtmica? Es decir ?pueden acabar mandando ellos?

R. En Suecia estamos estudiando el sistema de agua caliente para las casas. La central calienta el agua y la transmite a las viviendas de la ciudad. Se trata de un sistema que no es puramente mec¨¢nico, sino que tiene sistemas de informaci¨®n que asisten a los t¨¦cnicos. Se podr¨ªa informatizar con sistemas que lo manejaran y aprendiera. Si sabes que a las doce la gente se ducha, tienes que saber que unas horas antes tiene que haber un flujo determinado hacia ese barrio, por ejemplo. Se podr¨ªa, pero ?qu¨¦ pasar¨ªa si dejas el sistema sin supervisi¨®n?, es decir, le dejas que vaya aprendiendo de los usos de la gente. Poco a poco el sistema aprende y se autogestiona y los seres humanos dejamos de conocer el sistema. Eso puede suceder en una generaci¨®n, no hay que esperar cien a?os.

P. ?Y no se podr¨ªa desentra?ar despu¨¦s su conocimiento y tomar el control?

R. Lo que aprende va oculto en el sistema. T¨² tienes una maquina con nodos que aprenden en funci¨®n de los est¨ªmulos y de las respuestas. A partir de ah¨ª una serie de funciones dentro de un programa se autoeval¨²an y establecen una serie de pasos, y controles de entradas y salidas que aunque seas el mejor programador del mundo, para ti no significan nada. Ese es el problema. Imag¨ªnate un sistema que regula cientos de miles de llaves de paso de agua en una ciudad y de repente no sabes lo que significan los puntos de tu red. No sabr¨ªamos c¨®mo se entrena, solo ver¨ªamos los resultados.

P. ?Podr¨ªa tomar el control?

R. Yo creo que esto no va a suceder. Nosotros empleamos lenguaje humano para explicar el funcionamiento de las cosas. Y asignamos cualidades humanas a algo que no las tiene. Un sistema que toma decisiones es un sistema que controla. Pero si no creas un sistema preparado para aprender otras cosas no lo va a hacer. Si haces un sistema que sea capaz de abrir y cerrar un grifo de repente no va a conectarse a tu wifi y meterte un virus, que es un poco lo que la gente se cree que va a suceder. Esos sistemas no tendr¨ªan la capacidad para dar ese paso evolutivo. Lo que la gente teme, es que creemos sistemas de automatismos tan sofisticados que despu¨¦s nos desliguemos del control del automatismo y al final no seamos capaces de controlar, pero yo creo que eso no va a suceder.

P. ?Ni siquiera con los algoritmos en los procesos de Machine Learning?

R. La Inteligencia artificial, o el Machine Learning, o el aprendizaje profundo, o como se le quiera llamar se utiliza sobre todo para utilizar grandes cantidades de datos que una persona no ser¨ªa capaz de ver a primera vista. Lo que se suele hacer con esos datos es visualizarlos en gr¨¢ficos para ver si pasa algo y analizarlos. Los algoritmos lo que hacen es autom¨¢ticamente ver esos eventos y determinar la naturaleza del evento. Pero para eso hay que programarlos.

P. ?La supremac¨ªa cu¨¢ntica puede alterar ese cierto orden?

R. La supremac¨ªa cu¨¢ntica tiene que ver con el c¨¢lculo r¨¢pido de muchos datos. Es decir, significa que se pueden resolver operaciones enormes en minutos cuando ahora costar¨ªa miles de a?os. Por ejemplo el c¨¢lculo de n¨²meros primos. Lo que va a suceder es que avancemos a sistemas h¨ªbridos de computaci¨®n digital y cu¨¢ntica. Se podr¨¢n hacer simulaciones muy r¨¢pidas con el ¨¢tomo, o en qu¨ªmica para ver la evoluci¨®n de una droga, o de un componente de una droga, o de enfermedades raras. La inteligencia artificial aplicada a esa capacidad de supercomputaci¨®n va a suponer avances importantes para la sociedad, lo veo claro como el agua.

P. ?Cu¨¢l es el proyecto m¨¢s importante de Arduino para 2020?

R. Vamos a entrar al tema profesional muy fuerte. Vamos a hacer una apuesta mucho m¨¢s fuerte. Ya estamos como Arduino hoy, pero hay mucha gente que cree que somos una empresa para que experimenten los cr¨ªos de doce a?os, y luego sin embargo nuestras placas est¨¢n en un mont¨®n de herramientas y m¨¢quinas. Lo que vamos a hacer es trabajar en lanzar una serie de sistemas mucho m¨¢s potentes t¨¦cnicamente para que la industria no tenga ninguna excusa en utilizarlos.