Yoshua Bengio: ¡°En la era digital deber¨ªan prohibirse los anuncios pol¨ªticos, como los de tabaco¡±

¡°La inteligencia artificial es en realidad muy est¨²pida. A d¨ªa de hoy es menos capaz que un rat¨®n¡±. El profesor Yoshua Bengio (Par¨ªs, 1964) desliza esta reflexi¨®n nada m¨¢s empezar la conversaci¨®n con EL PA?S, acostumbrado quiz¨¢s a que se magnifiquen las posibilidades de esta tecnolog¨ªa. El caso es que las investigaciones de este franco-canadiense han permitido mejorarla mucho. Su trabajo fue reconocido en 2018 con el Premio Turing, considerado el Nobel de la inform¨¢tica, por su contribuci¨®n al desarrollo de las redes neuronales profundas. Estas redes neuronales son el modelo m¨¢s aplicado en el avance del llamado aprendizaje autom¨¢tico o deep learning, la rama de la inteligencia artificial con mayor proyecci¨®n de los ¨²ltimos a?os.

Las inquietudes del doctor Bengio van m¨¢s all¨¢ de los avances puramente cient¨ªficos que lidera desde la Universidad de Montreal. Le preocupan las consecuencias que pueda tener la tecnolog¨ªa en la que trabaja sobre el mundo real. Prueba de ello es su colaboraci¨®n con la iniciativa CodeCarbon, que pretende inferir la huella clim¨¢tica de los algoritmos. ¡°Ahora estamos tomando las decisiones que marcar¨¢n el curso de los pr¨®ximos a?os¡±, apunta. Sus resquemores son tambi¨¦n de car¨¢cter filos¨®fico: teme que la inteligencia artificial pueda da?ar la democracia. En su opini¨®n, hace falta m¨¢s regulaci¨®n.

Pregunta. ?De qu¨¦ es capaz hoy en d¨ªa el aprendizaje autom¨¢tico?

Respuesta. Se usa en muchos sectores, sobre todo para hacer predicciones o clasificaciones. El ejemplo m¨¢s simple es reconocer el contenido de las im¨¢genes o de v¨ªdeos: objetos, animales, rostros humanos¡­ Estas aplicaciones son muy ¨²tiles en medicina, por ejemplo. Otro bloque tiene que ver con el uso del lenguaje por parte de los ordenadores. La traducci¨®n autom¨¢tica todav¨ªa no es como la de un profesional, pero va mejorando. Hay otro avance alucinante, que adem¨¢s es reciente y nos puede ayudar a combatir la pandemia: la habilidad del deep learning para descubrir la estructura de las prote¨ªnas, los ladrillos con los que se construye la vida. Ahora mismo no sabemos c¨®mo transponer la secuencia del ADN en la forma de estas prote¨ªnas, y eso es muy importante para dise?ar medicamentos. Por supuesto, Google, Facebook, Amazon o Microsoft, est¨¢n apostando muy fuerte por el aprendizaje autom¨¢tico, que usan de muchas formas.

P. Como acad¨¦mico, ?qu¨¦ le parece que el objetivo principal de esas compa?¨ªas cuando usan la tecnolog¨ªa que usted ha ayudado a desarrollar sea colocar mejor los anuncios?

R. Creo que la publicidad no es buena para el capitalismo. Al final se trata de manipulaci¨®n psicol¨®gica. Podr¨ªa aplicarse a cuestiones menores, que te lleve por ejemplo a elegir CocaCola frente a Pepsi, pero se convierte en algo serio cuando altera tus elecciones cr¨ªticas, logrando por ejemplo que te comas algo que es malo para tu salud para sacar provecho de ello. Creo que ah¨ª deber¨ªa haber un debate moral fuerte, porque la publicidad tiene un impacto social importante. Resulta adem¨¢s que la gente no se da cuenta de que la publicidad no es buena para la propia eficiencia del capitalismo: es una barrera entre las empresas ya establecidas y las emergentes. Eso torpedea las posibilidades de las peque?as empresas de desarrollar productos potencialmente mejores, por lo que ralentiza la innovaci¨®n.

P. ?Qu¨¦ propone?

R. La ¨²nica forma de mejorar la situaci¨®n para todos ser¨ªa cambiar las normas del juego: prohibir algunos tipos de publicidad. En Canad¨¢ no puedes anunciar tabaco. Creo que deber¨ªan estar prohibidos los anuncios con motivaciones pol¨ªticas, especialmente en la era digital. Deber¨ªamos ser en¨¦rgicos en la regulaci¨®n de esta industria.

P. ?Cree que la democracia est¨¢ en peligro por el uso que hacen algunos del aprendizaje autom¨¢tico?

R. Absolutamente. Estamos construyendo grandes herramientas, como la inteligencia artificial o la biotecnolog¨ªa. Pero toda herramienta se puede transformar en un arma. Siempre pueden ser usadas por los individuos, empresas y pa¨ªses m¨¢s poderosos para aumentar su poder. Y por definici¨®n, esto va en contra de la democracia, la cual consiste en compartir el poder, en que todos tengan voz. Estas herramientas [en referencia a la microsegmentaci¨®n o los deepfakes] pueden constre?ir nuestros sistemas legales y la forma en que los usamos y convertirse en un peligro para la democracia. En el caso de las redes sociales, es obvio que el uso de la microsegmentaci¨®n levanta una gran preocupaci¨®n. Se podr¨ªa regular el abuso que hacen de ciertas tecnolog¨ªas si esta tiene efectos negativos sobre la democracia.

La inteligencia artificial crear¨¢ riqueza, pero tenemos que vigilar que no se concentre excesivamente

P. Dice que la inteligencia artificial es menos lista que un rat¨®n. ?Tendemos a sobreestimar las capacidades de esta tecnolog¨ªa?

R. Por supuesto. Mucha gente cree que la inteligencia artificial es m¨¢gica. No lo es. Como cient¨ªfico, nuestro trabajo principal es entender sus limitaciones. Debemos tener cuidado con c¨®mo hablamos de esta tecnolog¨ªa para que se entienda su potencial para resolver problemas y el hecho de que hay empresas que la usan leg¨ªtimamente para sacar beneficio econ¨®mico. Nada es totalmente blanco o negro. Para tomar buenas decisiones debemos saber qu¨¦ pueden hacer o no estas m¨¢quinas y qu¨¦ es plausible que puedan conseguir dentro de tres, cinco o diez a?os.

P. ?De qu¨¦ ve usted capaz al deep learning para finales de esta d¨¦cada?

R. M¨¢s que en t¨¦rminos de capacidad, prefiero centrarme en su generalizaci¨®n. Creo que hay muchos sectores de la sociedad en los que todav¨ªa no se usa, quiz¨¢s porque no hay datos suficientes para trabajar. Eso cambiar¨¢ en los pr¨®ximos a?os. Los ordenadores ganar¨¢n presencia en nuestras vidas, est¨¢ claro. Y cuanta m¨¢s importancia cobren, mayor ser¨¢ la necesidad de estudiar su impacto social. Incluso si interrumpimos hoy la investigaci¨®n en todo el mundo, creo que la inteligencia artificial ser¨¢ mucho m¨¢s importante dentro de una d¨¦cada que ahora. Crear¨¢ riqueza, pero tenemos que vigilar que esa riqueza no se concentre excesivamente.

P. Hay pa¨ªses que invierten much¨ªsimo dinero en inteligencia artificial pero no tienen en cuenta los aspectos ¨¦ticos que usted menciona.

R. Es un problema serio, similar a la crisis clim¨¢tica planetaria. Si cada pa¨ªs piensa solo en su propio inter¨¦s, todos salen perdiendo. Debemos promover tratados internacionales que garanticen que nos movemos colectivamente hacia formas de uso beneficiosas de la inteligencia artificial. No creo que tengamos las instituciones internacionales correctas para que ello suceda. El elemento clave, por ahora ausente, es ligar estas cuestiones al comercio internacional. La ¨²nica forma de hacer que los pa¨ªses se comporten es vincular los aspectos positivos que obtienen de los tratados internacionales, y el libre comercio internacional es uno de ellos, a los deberes asociados a formar parte de una sociedad de naciones. Hacer un uso responsable de la inteligencia artificial es sin duda una de ellas. Es una de las cosas que podr¨ªa hacer, por ejemplo, la UE: vincular el comercio a una regulaci¨®n satisfactoria del uso de este tipo de sistemas.

P. ?Se refiere a peligros como las armas aut¨®nomas?

R. Exacto. Es un muy buen ejemplo de lo que digo: como quiero proteger a mi pa¨ªs, desarrollo armas que funcionan solas y me desentiendo de c¨®mo pueda afectar al resto. Necesitamos tratados que lo regulen. El problema de las armas aut¨®nomas es que no parecen a priori una amenaza tan grave como las nucleares, que s¨ª propiciaron tratados internacionales important¨ªsimos. Por eso quiz¨¢s no ha habido tantos incentivos en promover una regulaci¨®n seria al respecto. Una vez m¨¢s, creo que la soluci¨®n est¨¢ en vincular las obligaciones morales al comercio internacional. Siempre habr¨¢ pa¨ªses que no quieran cumplir con la regulaci¨®n com¨²n: en ese caso, el precio a pagar deber¨ªa ser econ¨®mico. Si se imponen este tipo de tratados, hasta las grandes potencias tendr¨¢n que seguir unos est¨¢ndares en el desarrollo de la inteligencia artificial. Nadie se quiere quedar marginado del comercio mundial.

Lucha contra el coronavirus

Fundado por el profesor Bengio, el Instituto de Algoritmos de Aprendizaje de Montreal (MILA) tiene varios proyectos enfocados en combatir la covid. ¡°Hemos construido un software de rastreo basado en inteligencia artificial que manda una primera alerta antes de que el paciente tenga s¨ªntomas de covid. Eso es posible gracias a la gesti¨®n de datos de sus contactos¡±, explica en referencia a la app de rastreo de contactos que han desarrollado para el gobierno canadiense.

¡°Tambi¨¦n estamos trabajando en el dise?o de nuevos medicamentos antiv¨ªricos en colaboraci¨®n con la Fundaci¨®n Bill Gates. Tratamos de crear nuevas mol¨¦culas combinando medicamentos que ya existen. Por otra parte, tenemos proyectos dirigidos a entender la evoluci¨®n gen¨¦tica del virus para tratar de predecir c¨®mo puede mutar en el futuro. Asimismo, trabajamos en mejorar la log¨ªstica de los servicios p¨²blicos ayudando a la Administraci¨®n a saber d¨®nde va a tener los puntos calientes o d¨®nde va a necesitar m¨¢s asignar m¨¢s recursos¡±.

Puedes seguir a EL PA?S TECNOLOG?A RETINA en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra Newsletter.