La inteligencia artificial tiene una deuda contigo

Las fronteras entre el mundo digital y el mundo f¨ªsico han ca¨ªdo hace tiempo. Vivimos conectados a nuestro m¨®vil. Los muros de las redes sociales son visitados por m¨¢s personas que las plazas municipales y nuestras vidas est¨¢n influenciadas por decisiones tomadas por algoritmos. Para bien ¨Cdecisiones m¨¦dicas cr¨ªticas¨C, para fines m¨¢s dudosos ¨Cinfluencia pol¨ªtica- o simplemente para optimizar ciertos procesos, como encontrar un taxi o robar segundos de tu atenci¨®n.

• Datos de carne y hueso

Muchos de estos algoritmos se alimentan de los datos que cada uno de nosotros y nuestras vidas producen -el big data- que, junto con el aumento de la capacidad de computaci¨®n, han permitido la explosi¨®n actual de la inteligencia artificial (IA). Este t¨¦rmino fue propuesto por primera vez sin mayor fanfarria en la conferencia de Dartmouth de 1956 por John McCarthy, Marvin Minsky, Nathan Rochester, y Claude Shannon (probablemente el cient¨ªfico m¨¢s infravalorado del siglo XX). Hoy el concepto IA se presenta en una nebulosa al alcance de la comprensi¨®n de unos pocos, aun cuando est¨¢ en boca de cient¨ªficos, empresarios, pol¨ªticos y periodistas. Estamos en un punto de inflexi¨®n sobre su uso, y es importante desmitificarla, que sepamos qu¨¦ es realmente y decidamos como sociedad qu¨¦ queremos de ella.

• La f¨¢brica de m¨¢scaras de la IA

En los ¨²ltimos a?os una familia de algoritmos llamada deep learning ha revolucionado el campo de la IA. Ha batido todos los r¨¦cords distinguiendo fotos de perros y gatos en internet, traduciendo idiomas o ganando al juego de mesa ancestral Go. Sin embargo, el deep learning no es magia. Y de inteligencia hay poco. El deep learning es como una f¨¢brica de m¨¢scaras de escayola. ?C¨®mo funciona?

Un mill¨®n de personas se ponen en la cola de la f¨¢brica. El artesano de la f¨¢brica pone un molde de escayola h¨²meda en la cara del primero de la fila ¨Cuna chica joven-. La escayola se moldea seg¨²n sus rasgos. Llega la segunda persona ¨Cesta vez un chico-. El artesano pone un segundo molde para hacer la cara del chico. Llega una tercera persona; es una chica. El artesano coge el molde inicial que a¨²n est¨¢ h¨²medo y se lo pone a la nueva chica, de manera que la m¨¢scara tiene rasgos comunes a la primera y a la tercera persona -las chicas-.

Y as¨ª sucesivamente. El artesano va moldeando dos m¨¢scaras mientras la escayola est¨¢ a¨²n h¨²meda, una de hombre y otra de mujer. Una vez que la cola ha terminado, el artesano deja secar las dos m¨¢scaras promedio hasta que est¨¢n listas para su uso. A partir del d¨ªa siguiente, un sistema de IA hecho de las m¨¢scaras servir¨¢ para abrir autom¨¢ticamente la puerta de unas oficinas. Cada vez que llegue alguien a las oficinas se probar¨¢ las m¨¢scaras y la puerta solo se abrir¨¢ si la cara del visitante encaja en una de las dos que se han moldeado -por ejemplo, solo las mujeres podr¨¢n entrar-.

Esta met¨¢fora describe exactamente c¨®mo funcionan las redes neuronales deep learning. La IA para reconocimiento facial no es m¨¢s que un molde que literalmente guarda los rasgos comunes de los p¨ªxeles de las fotos que le mostremos de una determinada clase: hombre o mujer, blanco o negro, perro o gato, o los rasgos faciales de la poblaci¨®n de Oviedo, Nueva York, Par¨ªs o Kampala.

En este proceso es importante distinguir varios conceptos y su correspondencia metaf¨®rica:

1. Las personas que pusieron su cara ¨C sus datos- para crear la m¨¢scara. Cuantos m¨¢s datos, mejor caracterizaci¨®n tendr¨¢ la m¨¢scara.
2. La f¨¢brica de m¨¢scaras, que necesita del artesano. Las herramientas del artesano son los algoritmos. Lo interesante es que la mayor¨ªa de las herramientas son c¨®digo abierto, est¨¢n disponibles sin coste alguno en internet. Sin embargo, solo unos pocos expertos (los artesanos) en grandes empresas y del ¨¢mbito acad¨¦mico son capaces de usarlas. Y no porque sea muy complicado, sino por la falta de un plan para que mucha m¨¢s gente pueda acceder a esa formaci¨®n.
3. Las m¨¢scaras ¨C los modelos- que se crean con esos algoritmos. Una vez creadas, las m¨¢scaras se pueden usar fuera de la f¨¢brica ¨Cno requieren de maquinaria especial- de manera muy sencilla y casi gratis: pueden usarse para abrir puertas, desbloquear el tel¨¦fono m¨®vil o cobrar sin pasar por caja en un supermercado.

M¨¢s informaci¨®n

El Gobierno impulsa un c¨®digo ¨¦tico para domar los algoritmos

Carme Artigas: ¡°El dato va a ser la nueva moneda¡±

• F¨¢bricas ¨¦ticas de algoritmos

Hace unos meses, empleados de una multinacional de IA enviaban una carta a su CEO donde argumentaban que no deb¨ªan delegar las responsabilidades ¨¦ticas de las tecnolog¨ªas que desarrollaban. La f¨¢brica puede crear m¨¢scaras que se acoplan a un dron y lo transforman en un peque?o mis¨ªl guiado por m¨¢scaras de reconocimiento facial. Una m¨¢scara aplicada sobre una lectura de tu ADN puede identificar que probablemente desarrolles una enfermedad letal. ?Es razonable que, en base a esa lectura, ninguna aseguradora te haga un seguro de salud?

El aspecto ¨¦tico debe de estar presente en toda la cadena de la IA, no solo en el prop¨®sito del uso de la m¨¢scara. Imaginemos que queremos crear una m¨¢scara para decidir qu¨¦ curr¨ªculum seleccionar para la entrevista de entre miles de candidatos que quieren trabajar en nuestra empresa. Para crear la m¨¢scara, usamos los datos de la gente que la empresa ha contratado y han triunfado en el pasado, as¨ª la m¨¢scara tendr¨¢ el patr¨®n del empleado perfecto. Ese empleado resultar¨ªa ser un hombre, puesto que en la empresa hay m¨¢s hombres que mujeres y la m¨¢scara que hemos creado ha identificado el g¨¦nero masculino como parte del patr¨®n de empleado perfecto. La m¨¢scara de selecci¨®n de curr¨ªculums discriminar¨¢ por g¨¦nero. Las m¨¢scaras (los modelos) son el espejo de los datos que se usan para entrenar al sistema de IA. Solo eso.

Hace unos meses compart¨ª una semana con 1.000 estudiantes de doctorado en IA de todo el mundo. Sorprendentemente ¨Co no- la ¨¦tica y el impacto social de la IA no salieron a debate en ning¨²n momento. Igual que las m¨¦dicas o los enfermeros, los ingenieros y cient¨ªficas de datos deber¨ªan suscribir un c¨®digo hipocr¨¢tico con principios ¨¦ticos. Y siendo muy pr¨¢cticos, formaciones de ¨¦tica deber¨ªan de ser obligatorias tanto en la academia como en las empresas.

Propongo que aquellos cuyas acciones valgan para entrenar modelos sean compensados cada vez que se usen¡±

Probablemente la mayor amenaza para la democracia como la conocemos sean los v¨ªdeos deep fake: v¨ªdeos generados por IA que parecen totalmente reales y est¨¢n basados en millones de v¨ªdeos de archivo accesibles desde internet. Esta herramienta permitir¨¢ muy pronto (antes de las pr¨®ximas elecciones de cualquier pa¨ªs en el que est¨¦s pensando) crear, por ejemplo, un v¨ªdeo con apariencia totalmente real donde el pol¨ªtico escogido est¨¦ diciendo exactamente las palabras que el creador del artificio quiera. Ser¨¢ la evoluci¨®n de las fake news que utiliza tambi¨¦n el v¨ªdeo: todo puede ser mentira.

• Inteligencia artificial en el supermercado

Las m¨¢scaras se pueden empaquetar f¨¢cilmente, puesto que no necesitan de la f¨¢brica ni de artesanos para ser usadas. Se podr¨ªan comprar y vender en el supermercado. Una m¨¢scara, una vez fabricada, no tiene apenas costes por usarla o mantenerla. As¨ª que el modelo de negocio sobre el que se quieren basar inicialmente las empresas de IA es cobrar por cada vez que usas la m¨¢scara.

Pongamos a 1.000 camareros en la cola de la f¨¢brica. Esta vez vamos a crear una m¨¢scara que capture los movimientos necesarios para poner una ca?a -una m¨¢scara din¨¢mica o robot-. Despu¨¦s de estudiar a los 1.000 camareros podemos poner a la m¨¢scara a servir cervezas en un bar. De hecho ya no har¨¢n falta m¨¢s camareros, puesto que tenemos robots a los que no hay que pagar. El conocimiento de los camareros se ha codificado en la m¨¢scara y ahora los camareros son prescindibles.

Los m¨¦dicos del sistema sanitario espa?ol dedican muchos minutos a introducir datos en formularios que tambi¨¦n son colas en la f¨¢brica de m¨¢scaras. ?Y a qui¨¦n pertenecer¨¢n estas m¨¢scaras? A las empresas que recopilan esta informaci¨®n -en ocasiones las que simplemente deber¨ªan dar soporte inform¨¢tico- , cuando deber¨ªan ser, en parte, del sistema p¨²blico, de los m¨¦dicos y de los pacientes.

El que haya amasado suficientes datos para fabricar una m¨¢scara tendr¨¢ el poder de replicar una acci¨®n de manera casi gratuita. Esto dar¨¢ una ventaja sin parang¨®n a los primeros en llegar, algo de lo que empresas y algunos gobiernos son conscientes. Lo que algunos ya han descrito como la nueva guerra fr¨ªa.

• Los royalties que te debe la inteligencia artificial

?Deber¨ªan los camareros recibir una compensaci¨®n cada vez que se use la m¨¢scara (poner una cerveza) que se entren¨® con sus datos? ?Deber¨ªan los m¨¦dicos recibir compensaci¨®n cada vez que la IA detecte un tumor basado en los diagn¨®sticos que ellos hicieron en el pasado?

Mi propuesta va m¨¢s all¨¢ de que las empresas de IA recojan gratis tus datos o paguen por tus datos una sola vez. Propongo que aquellos cuyas acciones valgan para entrenar modelos (crear m¨¢scaras) deber¨ªan de ser compensados CADA VEZ que se usa la m¨¢scara. Cada vez que el robot camarero ponga una cerveza, parte del pago por esa cerveza ir¨¢ destinado a aquellos camareros cuyos datos ense?aron al robot. Una especie de royalties, o sistema de derechos de autor similar al que existe en la industria musical cuando escuchamos una canci¨®n online. Pero con cualquier sistema de IA basado en entrenamiento de redes neuronales. Un mecanismo para ensalzar la creatividad y la relevancia humana, redistribuir parte del aumento de productividad producido por la IA e intentar ecualizar un mundo cada vez m¨¢s desigual.

La carrera por hacerse con las m¨¢scaras sin nada a cambio ya ha empezado.

Miguel Luengo-Oroz es chief data scientist de UN Global Pulse, un laboratorio de ideas de Naciones Unidas que usa el big data?y las tecnolog¨ªas emergentes para actuar en contextos de desa?rrollo y crisis humanitarias.