Melanie Mitchell: ¡°Mi mayor miedo es que confiemos en una inteligencia artificial que no es tan lista¡±

La inteligencia artificial que imaginamos es ese magn¨ªfico abrigo que vemos en la foto antes de comprarlo por internet. La que tenemos es el harapo amorfo que nos llega a casa. M¨¢s de cincuenta a?os llevamos atascados en esta grieta entre realidad y expectativas. Y seg¨²n Melanie Mitchel, a¨²n nos queda: "Esto empez¨® en los principios de la era de la inteligencia artificial, en los cincuenta la gente dec¨ªa que en cuesti¨®n de 10, 15, 25 a?os ¨ªbamos a tener una inteligencia artificial completa y capaz de remplazar al ser humano en todos los empleos. Nada de eso ha ocurrido".

El primero en tirarse a la piscina fue el New York Times, envalentonado por los avances Frank Rosenblatt, padre del Perceptron: "Se espera que el ordenador sea capaz de caminar, hablar, ver escribir, reproducirse y ser consciente de su existencia".

La cabecera inaugur¨® as¨ª una tendencia que no es ajena a la prensa global actual. "El p¨²blico general y los intelectuales todav¨ªa sobrestiman la inteligencia artificial, en parte, por la desinformaci¨®n que se da en los medios", se?ala la investigadora norteamericana, profesora de Ciencias de la Computaci¨®n en Portland State University. Pero no hemos estado solos en esto.

En 1961, Claude Shannon se subi¨® al carro: "Espero con seguridad que en cuesti¨®n de diez o quince a?os algo no lejano de los robots de ciencia ficci¨®n emerger¨¢ del laboratorio". Cuatro a?os despu¨¦s se columpi¨® Herbert Simon, premio Nobel de Econom¨ªa: "En veinte a?os, las m¨¢quinas ser¨¢n capaces de hacer cualquier trabajo que pueda hace un humano". Y en esas seguimos.

P. ?Ha disminuido en algo la distancia que nos separa de esas m¨¢quinas tan inteligentes como nosotros?

R. Dir¨ªa que la mayor¨ªa de las personas que realmente trabajan en el campo de la inteligencia artificial se han dado cuenta de que esto es mucho m¨¢s dif¨ªcil de lo que se estim¨® y est¨¢n empezando a entender por qu¨¦. La gente infravalora lo compleja que es la inteligencia humana.

P. Ha afirmado que las limitaciones humanas son precisamente lo que hace que tengamos esa codiciada inteligencia general y lo que evita que pueda desarrollarse una hipot¨¦tica superinteligencia que someta a la raza humana. ?C¨®mo funciona esto?

R. Los humanos tenemos una inteligencia que podemos aplicar a muchas y muy distintas situaciones, pero tenemos defectos: nos aburrimos, no prestamos atenci¨®n, necesitamos dormir, tenemos un mont¨®n de emociones que nublan nuestro pensamiento racional... Hay quien defiende que los ordenadores ser¨¢n m¨¢s inteligentes porque no tendr¨¢n estos l¨ªmites. Mi argumento es que esto que consideramos limitaciones, en realidad puede ser fundamental para nuestra inteligencia.

El mundo funciona as¨ª. Interactuamos constantemente con otras personas y eso es clave en nuestra inteligencia. Todav¨ªa estamos muy lejos de entender la inteligencia humana y c¨®mo funciona. Por eso pienso que es ingenuo asumir que un ordenador con inteligencia general no tendr¨ªa el mismo tipo de limitaciones, como si esta pudiera separarse de todas sus cualidades humanas.

P. ?Qu¨¦ papel ha tenido la ciencia ficci¨®n en estos desajustes?

R. Creo que los no expertos que han le¨ªdo mucha ciencia ficci¨®n y visto muchas pel¨ªculas piensan que estamos mucho m¨¢s pr¨®ximos a la inteligencia artificial general de lo que realmente estamos. La gente del sector tambi¨¦n est¨¢ muy influenciada por ella, realmente quieren que sus m¨¢quinas sean como el ordenador de Star Trek. La ciencia ficci¨®n ha tenido un gran impacto en la cultura y las creencias relacionadas con la inteligencia artificial.

P. ?Esto es bueno o malo?

R. Es dif¨ªcil decirlo. La ciencia ficci¨®n siempre ha sido una gran fuente de inspiraci¨®n. La gente se interesa en las ciencias porque se interes¨® antes en ciencia ficci¨®n. Eso es bueno. Pero tomarlo demasiado en serio y creer demasiado en ello puede ser peligroso.

Mucha gente teme que vayamos a tener sistemas superinteligentes y malvados por lo que ha visto en la ciencia ficci¨®n, mientras que mi mayor miedo no es que vayamos a tener una inteligencia artificial demasiado inteligente, sino que acabemos confiando en una que no es tan lista.

Mitchell desembarc¨® en la inteligencia artificial en los a?os ochenta, despu¨¦s esquivar una potencialmente descorazonadora carrera como profesora de matem¨¢ticas en Nueva York y mudarse a Boston para hacer un curso de introducci¨®n a las Ciencias de la Computaci¨®n. En los noventa obtuvo su doctorado, bajo la tutela -entre otros- de Douglas Hofstadter, autor del c¨¦lebre G?del Escher Bach: un eterno y gr¨¢cil bucle. "Sin duda, GEB inspir¨® a m¨¢s gente joven a meterse en inteligencia artificial que cualquier otra obra. Yo fui una de ellos", recuerda.

La profesora repasa en su ¨²ltimo libro -Artificial Intelligence: A Guide for Thinking Humans- todo cuanto ha visto y o¨ªdo en estos a?os: desde las funestas profec¨ªas de Nick Bostrom hasta la absoluta indiferencia del psic¨®logo e investigador Gary Marcus, para quien en las ¨²ltimas y alabadas d¨¦cadas "apenas ha habido avances".

P. ?C¨®mo es posible que la comunidad investigadora est¨¦ tan dividida en torno a este tema?

R. Dir¨ªa que la facci¨®n que predice que vamos a tener inteligencia artificial de nivel humano muy pronto es muy peque?a, pero recibe m¨¢s atenci¨®n que la gente que es menos optimista. Otra raz¨®n es que la investigaci¨®n en inteligencia artificial sol¨ªa hacerse en universidades y laboratorios puramente acad¨¦micos, pero ahora se ha vuelto corporativa. Las empresas han apostado por la inteligencia artificial y est¨¢n intentando promocionar sus productos y sus marcas. En esto se da una tendencia natural a sobreprometer que no solo existe en este sector, sino en todas las tecnolog¨ªas.

P. Ahora mismo, hasta las aplicaciones m¨¢s avanzadas que ya hemos desarrollado parecen poco realistas, considerando los recursos que exigen...

R. S¨ª. Las aplicaciones m¨¢s avanzadas a la inteligencia artificial implican lo que la gente llama big data. Un ejemplo ser¨ªan los programas de reconocimiento facial que se usan en todo tipo de aplicaciones, buenas y malas. Esto requiere un n¨²mero enorme de fotos de caras que han sido etiquetadas manualmente por humanos. Y tambi¨¦n se precisa lo que llamamos redes neuronales, que tienen que ser cuidadosamente construidas por humanos para procesar los datos. Hay much¨ªsima implicaci¨®n humana, mucho dinero y mucha potencia de computaci¨®n dedicada a entrenar estos sistemas.

Esto nos lleva a una gran pregunta: ?Llevar¨¢ esta tendencia de bases de datos m¨¢s y m¨¢s grandes y poder computacional cada vez mayor a mejores sistemas de inteligencia artificial? ?O estamos tocando techo? Creo que nadie lo sabe realmente, pero hay evidencias que muestran que estamos agotando nuestra habilidad para mejorar el rendimiento de estos sistemas.

Entre las voces que confluyen con esta ¨²ltima idea, est¨¢ la del responsable de inteligencia artificial de Facebook, Jerome Pesenti, para quien "en muchos sentidos" ya hemos llegado al l¨ªmite de nuestras capacidades. Y el mundo empresarial parece darle la raz¨®n: seg¨²n las predicciones de PWC, solo un 4% de los ejecutivos se plantean implementar inteligencia artificial en el grueso de sus empresas durante el inminente 2020. Hace un a?o eran el 20%.

La consultora habla de un ba?o de realidad que se soluciona con un reajuste de estrategias. Pesenti prescribe el aprovechamiento extremo de las capacidades actuales. Mitchell, que ha visto su campo de estudio florecer y marchitarse en varias ocasiones, no descarta que se avecine un nuevo invierno de la inteligencia artificial. "Los inviernos son una cuesti¨®n de expectativas. Normalmente tenemos primaveras cuando se anuncian grandes proyectos y entra mucho dinero al campo bien a trav¨¦s de startups con capital riesgo o bien con fondos p¨²blicos. Entonces resulta que la gente fue demasiado optimista y ocurre una gran decepci¨®n porque nadie reconoci¨® lo dif¨ªcil que era el problema. El ejemplo perfecto de esto son los coches aut¨®nomos".

P. ?Estar¨ªamos teniendo esta conversaci¨®n si John McCarthy no hubiera puesto a este campo un nombre tan ambicioso como "inteligencia artificial"?

R. Eso ha sido objeto de debate. Herbert Simon propuso otro nombre: "Procesamiento de informaci¨®n compleja". Es mucho menos sexi que "inteligencia artificial", ?verdad? Pero tal vez es m¨¢s preciso. Estos nombres acaban imbuidos de cierto encanto. Hay un atractivo en "inteligencia" que no ves en "procesamiento de informaci¨®n".

Ocurre lo mismo con el deep learning, que suena muy importante y profundo, pero la palabra "hondo" (deep) no hace referencia a ninguna idea de comprensi¨®n o inteligencia profunda, sino al tama?o de la red neuronal, a cuantas capas de neuronas simuladas tiene. Adem¨¢s, utilizamos la palabra "aprendizaje" (learning) para estos sistemas, que distan mucho del aprendizaje humano. Pero bueno, si los llamamos as¨ª, suenan mucho m¨¢s inteligentes de lo que realmente son.

P. En m¨²ltiples ocasiones ha se?alado que el deep learning ha acumulado demasiada atenci¨®n, en detrimento de otras aproximaciones. ?Otro gallo cantar¨ªa si no hubiera sido as¨ª?

R. S¨ª. Creo que en la comunidad investigadora existe la tendencia a trabajar en los sistemas que han resultado m¨¢s exitosos. Ahora todo el mundo est¨¢ trabajando en deep learning y desatendiendo otras ¨¢reas que podr¨ªan producir resultados ¨²tiles. Todo el mundo se sube al carro del deep learning y eso genera una falta de diversidad en la investigaci¨®n. Si esto no ocurriese, tal vez tendr¨ªamos otros m¨¦todos que nos condujesen a mayores progresos.

P. Pese a todo, ?dir¨ªa que vale la pena seguir aspirando a una inteligencia artificial que emule nuestras capacidades?

R. Es muy dif¨ªcil predecir como de r¨¢pido va a progresar el campo en el futuro. ?Eliminar¨¢ empleos? No lo sabemos. Es realmente complicado determinar qu¨¦ impacto van a tener estas tecnolog¨ªas. Mucha gente especula, pero hay mucho desacuerdo en esas especulaciones.

Como con cualquier tecnolog¨ªa poderosa, mucho es compensar. No creo que debamos parar la investigaci¨®n, pero tenemos que ser muy conscientes de las posibles implicaciones. Creo que la gente est¨¢ empezando a hacer esto. Hace veinte a?os la inteligencia artificial no era tan famosa. No hab¨ªa mucha necesidad de hablar de ¨¦ticas y regulaci¨®n. Ahora empezamos a forcejear con estos asuntos.

P. Ya que hay que temer la rebeli¨®n de las m¨¢quinas, ?de qu¨¦ tenemos que cuidarnos?

R. Tenemos que preocuparnos por el uso humano de la inteligencia artificial. Esta tecnolog¨ªa no se va a volver repentinamente inteligente. No va a dominar el mundo. Eso est¨¢ muy lejos de lo que tenemos ahora. Creo que lo ¨²nico que s¨ª podemos predecir es que eso no va a ocurrir en ning¨²n momento del futuro cercano.

Lo que s¨ª pienso es que tenemos tecnolog¨ªas de inteligencia artificial a las que estamos dando autonom¨ªa. Las ponemos a tomar decisiones sobre gente, c¨¢rceles, solicitudes de pr¨¦stamos... La cuesti¨®n es: ?confiamos en ellas?, ?estamos aplic¨¢ndolas como deber¨ªamos?, ?reconocemos sus limitaciones?, ?necesitamos regularlas? En Estados Unidos ya hay ciudades que est¨¢n prohibiendo el reconocimiento facial en las fuerzas de seguridad, por sus potenciales usos indebidos. Creo que empezaremos a ver m¨¢s y m¨¢s regulaci¨®n conforme la gente se vaya dando cuenta de que estos sistemas tal vez no son tan listos como nos hemos pensado.

M¨¢s informaci¨®n

?Qui¨¦n le explica al algoritmo que esto no es una pipa?

La inteligencia artificial es muy burra