En la mente de la m¨¢quina

Tras un par de a?os cantando las excelencias del deep learning (aprendizaje profundo), algunos cient¨ªficos cr¨ªticos est¨¢n empezando, si no a pisar el freno, s¨ª al menos a meter primera y pararse a pensar en sus limitaciones. El f¨ªsico y periodista cient¨ªfico Mitchell Waldrop ha recopilado un buen censo para la revista profesional PNAS, y de su an¨¢lisis se desprenden tres o cuatro talones de Aquiles de esta tecnolog¨ªa computacional que ha revolucionado la inteligencia artificial y la rob¨®tica en los ¨²ltimos tiempos. El reconocimiento de voz del tel¨¦fono y el reconocimiento facial que encuentra a cinco delincuentes en un estadio de f¨²tbol son ejemplos cotidianos de los superpoderes del deep learning, como empiezan a serlo tambi¨¦n los sistemas financieros que te conceden un cr¨¦dito (o no) y los robots de recursos humanos que eval¨²an tu solicitud de empleo. Pero no todo el campo es or¨¦gano.

Est¨¢n, por ejemplo, los ataques antagonistas (adversarial attacks). Como un sistema de reconocimiento visual aprende a base de engullir miles de fotos etiquetadas correctamente, a menudo basta alimentarle con unos pocos ¡°ejemplos antagonistas¡± para confundirle y que, por ejemplo, clasifique un pl¨¢tano como una tostadora. De hecho, el mismo n¨²mero de fotos que hay que utilizar para entrenar a estos ingenios (de 10.000 para arriba) revela una considerable desventaja respecto al cerebro de un ni?o, que no necesita ver 10.000 pl¨¢tanos para aprender a distinguirlos de otras frutas. Un par de veces puede bastar.

Otro obst¨¢culo gordo para los cient¨ªficos de la computaci¨®n es que los sistemas de deep learning suelen guardar sus secretos. Por ejemplo, pueden haber aprendido a reconocer tu voz a la perfecci¨®n, pero, si les preguntas c¨®mo lo hacen, no te responden. Expresado en unos t¨¦rminos menos antropom¨®rficos, una vez que el sistema sabe hacer algo muy bien, no podemos distinguir una pauta en su arquitectura que explique su habilidad. En ese sentido, son cajas negras cerradas a nuestra curiosidad bajo cuatro llaves. Para aprender algo sobre ellos, habr¨ªa que investigarlos como si fueran un fen¨®meno natural. Neurocient¨ªficos como David Cox prev¨¦n problemas legales con los sistemas que usan los bancos para decidir sus cr¨¦ditos: si te deniegan una hipoteca, tendr¨¢s derecho a saber por qu¨¦.

Por ¨²ltimo, est¨¢ lo que Waldrop llama ¡°falta de sentido com¨²n¡±. Un sistema de deep learning puede reconocer pautas mejor que una persona, pero las entiende mucho peor. Mejor dicho, no las entiende en absoluto. Su conocimiento del pl¨¢tano ¡ªincluso obviando la embarazosa excepci¨®n de la tostadora¡ª no incluye lo que cualquier humano considerar¨ªa m¨¢s importante: que sirve para comer. Que un abrigo es para proteger del fr¨ªo, que una silla es para sentarse, que un bal¨®n puede botar. El aprendizaje profundo no conduce a un conocimiento ni profundo ni superficial. El sistema no est¨¢ hecho para eso. No sabe lo que es conocer.

El deep learning est¨¢ inspirado en el cerebro a dos niveles de organizaci¨®n. El primero es que est¨¢ hecho de ¡°neuronas¡± artificiales: unidades de computaci¨®n que reciben informaci¨®n de muchas otras neuronas (como hacen las dendritas del cerebro real) y que la procesan emitiendo un solo valor (como hace el ax¨®n de las neuronas reales). A un nivel jer¨¢rquico superior, las neuronas se apilan en m¨²ltiples capas, de modo que cada capa maneja una informaci¨®n m¨¢s abstracta que la anterior. Pero estas neuronas y capas son solo caricaturas de las que llevamos en la cabeza. Por ah¨ª no nos van a alcanzar.