M¨¢quinas listas, pero sin sentido com¨²n

M¨¢s informaci¨®n

Por qu¨¦ no debemos tener miedo de la inteligencia artificial

Imaginen que tuvi¨¦ramos una m¨¢quina para viajar en el tiempo y pudi¨¦ramos transportar a Isaac Newton desde finales del siglo XVII hasta la actualidad. Le llevar¨ªamos a un lugar que le pudiera resultar familiar como, por ejemplo, la capilla del Trinity College en la Universidad de Cambridge. Una vez all¨ª se le mostrar¨ªa un tel¨¦fono m¨®vil de ¨²ltima generaci¨®n. Newton, que demostr¨® que la luz blanca se descompone en diferentes colores al incidir un rayo de sol en un prisma, sin duda se sorprender¨ªa de que un objeto tan peque?o produjera colores tan vivos en la oscuridad de la capilla. Despu¨¦s el m¨®vil sonar¨ªa con una m¨²sica que pudiera reconocer, como una ¨®pera de H?ndel. A continuaci¨®n, le mostrar¨ªamos en la pantalla su obra Principia Mathematica y le har¨ªamos ver c¨®mo usar dos dedos para ampliar el texto. Supongamos tambi¨¦n que le mostr¨¢ramos c¨®mo hacer fotos, grabar v¨ªdeos y sonido, hacer c¨¢lculos aritm¨¦ticos con gran velocidad y precisi¨®n, contar los pasos que andamos, guiarnos hac¨ªa nuestro destino y, por supuesto, poder hablar con alguien a miles de kil¨®metros.

?Ser¨ªa capaz Newton de dar una m¨ªnima explicaci¨®n de c¨®mo funciona ese dispositivo? A pesar de que fue una de las mentes m¨¢s brillantes de la historia, invent¨® el c¨¢lculo infinitesimal e integral, explic¨® tanto la ¨®ptica como la gravedad y formul¨® las leyes del movimiento de los cuerpos que revolucionaron la f¨ªsica, Newton ser¨ªa incapaz de dar una explicaci¨®n m¨ªnimamente coherente. No podr¨ªa distinguir ese dispositivo de la magia. ?Qu¨¦ m¨¢s podr¨ªa imaginar este padre de la f¨ªsica de lo que puede hacer un dispositivo as¨ª? ?Creer¨ªa que puede funcionar indefinidamente? Al fin y al cabo, ¨¦l vivi¨® un siglo antes que Alessandro Volta, el inventor de la pila el¨¦ctrica. ?Creer¨ªa tambi¨¦n que ese dispositivo puede transformar plomo en oro? La qu¨ªmica en su ¨¦poca era la alquimia, as¨ª que posiblemente s¨ª. Todos tendemos a no ver los l¨ªmites de aquello que nos parece m¨¢gico.

Este es precisamente uno de los problemas que tenemos a la hora de imaginar las tecnolog¨ªas del futuro. Como dijo Arthur Clarke en los a?os sesenta: ¡°Cualquier tecnolog¨ªa lo suficientemente avanzada no puede distinguirse de la magia¡±. En inteligencia artificial (IA) ocurre exactamente lo mismo. Parece que su potencial no tiene l¨ªmites, pero en realidad la IA permanece atascada desde hace m¨¢s de 50 a?os en una cuesti¨®n fundamental: ?c¨®mo dotar de sentido com¨²n a las m¨¢quinas? Esta es una cuesti¨®n crucial si queremos lograr inteligencias artificiales de tipo general indistinguibles de la inteligencia humana. Hasta hoy, los investigadores en IA no vemos ning¨²n indicio que nos lleve a poder afirmar que este problema pueda ser resuelto.

Tendemos a creer que la IA no tiene l¨ªmites cuando de hecho es muy limitada y no tiene casi nada que ver con la inteligencia humana

?Cu¨¢l es la situaci¨®n real de la IA? Centr¨¦monos en los espectaculares resultados obtenidos recientemente con lo que se conoce como deep learning (aprendizaje profundo), que han permitido que un software llamado AlphaZero haya conseguido, despu¨¦s de jugar contra s¨ª mismo durante unas horas, aprender a jugar a Go y al ajedrez a unos niveles nunca antes alcanzados, superando con creces a los mejores jugadores humanos y tambi¨¦n a los mejores jugadores software (que en ajedrez ya hab¨ªan vencido hace tiempo a los mejores jugadores humanos). Pues bien, estos sistemas de aprendizaje profundo son sumamente limitados ya que ¨²nicamente son capaces de aprender a reconocer patrones analizando enormes cantidades de datos.

No es exagerado afirmar que, de hecho, no aprenden realmente nada en el sentido humano de lo que entendemos por aprender. Es decir que en realidad no saben nada nuevo despu¨¦s de haber sido entrenados para adquirir una competencia. Prueba de ello es lo que se conoce como ¡°olvido catastr¨®fico¡±, que significa que los sistemas de aprendizaje profundo pierden todo lo aprendido a partir del instante en que se les ense?a a algo nuevo.

Por ejemplo, si despu¨¦s de haber ¡°aprendido¡± a jugar a Go entrenamos a un sistema de aprendizaje profundo a diferenciar entre gatos y perros mostr¨¢ndole millones de im¨¢genes de ambos, aprender¨¢ perfectamente a distinguirlos pero ser¨¢ incapaz de volver a jugar a Go. Habr¨ªa que volver a entrenarlo para que de nuevo ¡°aprendiera a jugar a Go¡± y esto provocar¨ªa que a continuaci¨®n ser¨ªa incapaz de distinguir los gatos de los perros.

Los verdaderos peligros ya est¨¢n aqu¨ª y tienen que ver con la privacidad, la autonom¨ªa de los sistemas y con el sesgo de los algoritmos

El excesivo antropomorfismo creo que es el motivo por el que la sociedad tiene en gran medida una percepci¨®n err¨®nea de lo que es la IA. Cuando nos informan de logros espectaculares de una IA espec¨ªfica en una competencia concreta, como el caso de AlphaZero, tendemos a generalizar y atribuimos a la IA la capacidad de hacer pr¨¢cticamente cualquier cosa que hacemos los seres humanos y hacerlo mucho mejor. En otras palabras, creemos que la IA no tiene l¨ªmites cuando de hecho es extremadamente limitada y, lo que es m¨¢s importante, no tiene casi nada que ver con la inteligencia humana.

Es cierto que la inteligencia humana es el referente principal de cara a alcanzar el objetivo ¨²ltimo de la IA, es decir, una IA fuerte y general. Pero en mi opini¨®n, por muy sofisticada que llegue a ser la IA siempre ser¨¢ distinta de la humana, ya que el desarrollo mental que requiere toda inteligencia compleja depende de las interacciones con el entorno y estas interacciones dependen a su vez del cuerpo, en particular del sistema perceptivo y del sistema motor. Esto, sumado al hecho de que las m¨¢quinas muy probablemente no seguir¨¢n procesos de socializaci¨®n y culturizaci¨®n, incide todav¨ªa m¨¢s en que, por muy sofisticadas que lleguen a ser, las m¨¢quinas tendr¨¢n una inteligencia distinta a la nuestra.

El hecho de ser inteligencias ajenas a la humana, y por lo tanto ajenas a los valores y necesidades humanas, nos deber¨ªa hacer reflexionar sobre posibles limitaciones ¨¦ticas en el desarrollo de la IA. En particular, ninguna m¨¢quina deber¨ªa tomar nunca decisiones de forma completamente aut¨®noma ni dar consejos que requieran, entre otras cosas, de la sabidur¨ªa (producto de experiencias humanas) o de valores humanos.

El peligro de la IA no es la singularidad tecnol¨®gica por la existencia de unas futuras hipot¨¦ticas s¨²per inteligencias artificiales. No, los verdaderos peligros ya est¨¢n aqu¨ª y tienen que ver con la privacidad (vigilancia y control masivo de la ciudadan¨ªa); con la autonom¨ªa de los sistemas de IA (armas aut¨®nomas, high frequency trading en los mercados burs¨¢tiles); con la excesiva confianza acerca de sus capacidades (substituci¨®n de personas por m¨¢quinas en pr¨¢cticamente cualquier puesto de trabajo); con el sesgo de los algoritmos de aprendizaje y las consiguientes decisiones err¨®neas que ello supone; con la incapacidad de rendir cuentas cuando la decisi¨®n es err¨®nea; y con la imposibilidad para explicar esas decisiones en un lenguaje comprensible para las personas.

A pesar de sus limitaciones, creo que la IA tiene un extraordinario potencial para beneficiar a la sociedad siempre y cuando hagamos un uso adecuado y prudente. Es necesario aumentar la conciencia sobre los l¨ªmites de la IA, as¨ª como actuar de forma colectiva para garantizar que se utilice en beneficio del bien com¨²n con seguridad, fiabilidad y responsabilidad.

Ram¨®n L¨®pez de M¨¢ntaras es director del Instituto de Investigaci¨®n en Inteligencia Artificial del CSIC.