Inteligencia artificial y pensamiento m¨¢gico

La inteligencia artificial utiliza el mundo como laboratorio. Su presencia en todo tipo de dispositivos, desde smartphones hasta veh¨ªculos, aunque invisible comienza a ser ubicua. Toma decisiones que afectan a nuestra vida cotidiana. Determina, por ejemplo, a qu¨¦ noticias o publicidad estamos expuestos en Internet.

Por si esto fuera poco, quien siga la prensa sabr¨¢ que robots dotados de esta inteligencia pueden remplazar nuestro trabajo, convertirse en nuestro pr¨®ximo jefe o decidir si somos aptos para un nuevo empleo.

Esta inteligencia ya est¨¢ aqu¨ª, aunque de momento solo acceden empresas con los recursos suficientes. Pero, ?hasta cu¨¢ndo? Reputadas voces que miran al futuro, como Bill Gates, comienzan a preguntarse si estos robots deber¨ªan pagar impuestos. Esta es la envergadura de los cambios que se avecinan en el mercado laboral.

Sus implicaciones intelectuales, tecnol¨®gicas, pol¨ªticas, ¨¦ticas y sociales son enormes. Confiar en ella ciegamente, arriesgado. No importa lo poderosa que sea, c¨®mo y d¨®nde la apliquemos es nuestra decisi¨®n. Y para que esta sea la adecuada es necesario desterrar el pensamiento m¨¢gico actual que la rodea.

Esta tecnolog¨ªa est¨¢ dise?ada por personas y se alimenta de datos que no son necesariamente objetivos

La inteligencia artificial no piensa por s¨ª misma. Esta tecnolog¨ªa hereda nuestros sesgos a trav¨¦s de los datos que la nutren o de las creencias de quien la programa. Basta un sencillo ejemplo para demostrarlo: desde hace ya un tiempo los buscadores de internet la utilizan para etiquetar im¨¢genes, prueben a buscar en ellos fotos de distintas profesiones y ver¨¢n un claro sesgo de g¨¦nero. Traslademos este ejemplo a los procesos de selecci¨®n de las empresas o a la concesi¨®n de un cr¨¦dito de un banco. Esta tecnolog¨ªa est¨¢ dise?ada por personas y se alimenta de datos que no son necesariamente objetivos y, si pasa inadvertido a quien la programa, generar¨¢ discriminaciones. No tiene conciencia de su entorno m¨¢s all¨¢ de la tarea encomendada.

La inteligencia artificial predice, pero (de momento) no explica. Esta tecnolog¨ªa adquiere un conocimiento inductivo a trav¨¦s de la observaci¨®n. No existe ninguna teor¨ªa impuesta a priori detr¨¢s de ella. Es como una caja negra donde; por un lado, entran datos y; por otro, salen predicciones. Sin embargo, no sabemos por qu¨¦ predice lo que predice. Por ejemplo, puede determinar que la imagen que tiene delate es la de una persona, pero no nos dir¨¢ c¨®mo lleg¨® a esa conclusi¨®n. Ahora, si trasladamos esto a la decisi¨®n de concesi¨®n de una beca o una hipoteca, el resultado es que podemos sufrir una exclusi¨®n sin recibir ning¨²n tipo de explicaci¨®n del porqu¨¦ se ha producido. Otro escenario en el que la falta de una explicaci¨®n es relevante se produce cuando de forma repentina esta inteligencia comienza a fallar en sus predicciones. En este caso, muy real, no sabremos c¨®mo solucionarlo.

La inteligencia artificial tambi¨¦n se equivoca. Predecir con precisi¨®n no lo es todo. Aunque esta tecnolog¨ªa pueda predecir mejor la detecci¨®n de diabetes que nuestros gustos musicales, el coste de fallar en un diagn¨®stico m¨¦dico es mucho mayor que el de hacerlo cuando nos recomienda una canci¨®n. Saber c¨®mo y d¨®nde aplicarla requiere contraponer la probabilidad de acierto y el coste de fallo. Por eso, mientras que en diagn¨®sticos m¨¦dicos el juicio de los m¨¦dicos sigue siendo determinante, en la recomendaci¨®n de qu¨¦ canci¨®n escuchar alcanza plena autonom¨ªa. Esto puede cambiar a medida que desarrollemos mejores modelos predictivos o que la regulaci¨®n var¨ªe el coste de errar mediante la asignaci¨®n de responsabilidades.

A cada familia de algoritmos se le da muy bien resolver problemas concretos, pero no todos

La inteligencia artificial est¨¢ especializada, no es generalista. Esta tecnolog¨ªa primero nos bati¨® al ajedrez, luego en juegos m¨¢s sofisticados como ¡°Go¡± y, recientemente, tambi¨¦n al p¨®ker. Pero los algoritmos que hacen que gane al ajedrez no juegan al p¨®ker. A cada familia de algoritmos se le da muy bien resolver problemas concretos, pero no todos. Incluso, ocasionalmente, cuando tratan de adquirir nuevo conocimiento pueden tener ¡°olvidos catastr¨®ficos¡± y desaprender. Esto significa que se centra en realizar actividades que no requieren el uso de diferentes habilidades cognitivas en una secuencia de tareas. Estamos lejos de alcanzar una inteligencia artificial general capaz de resolver, por ejemplo, problemas de negocio complejos.

Arthur C. Clarke, autor de 2001, una odisea en el espacio, dec¨ªa que ¡°toda tecnolog¨ªa lo suficientemente avanzada es indistinguible de la magia¡±. La inteligencia artificial definitivamente parece magia, pero no lo es.

Tenemos trabajo por delante si queremos beneficiarnos de ella. Para evitar que herede nuestros sesgos y los perpet¨²e tendremos que a?adir un contexto m¨¢s amplio que abarque el impacto de sus decisiones en t¨¦rminos de discriminaciones o exclusiones. Para que sea m¨¢s trasparente tendremos que ir m¨¢s all¨¢ de la precisi¨®n en sus predicciones y generar modelos explicativos a su alrededor. Y para determinar en qu¨¦ casos puede llegar a gozar de plena autonom¨ªa, asistirnos o sencillamente no ser aplicada debemos evaluar cu¨¢l es el coste asociado a sus fallos con relaci¨®n a su probabilidad de acierto.?

Por ¨²ltimo, ser¨¢ necesario regularla y establecer un c¨®digo ¨¦tico sobre su uso. Se trata de una tecnolog¨ªa tan poderosa que algunos gobiernos y empresas van a tener la tentaci¨®n de hacer un mal uso de ella. Sin embargo, haciendo un buen uso y consiguiendo que sea accesible por muchos y no unos pocos, permitir¨¢ cosas como el desarrollo de una medicina preventiva, una educaci¨®n personalizada o sencillamente liberarnos del trabajo rutinario que nos ocupa.

No cabe duda de que la inteligencia artificial cambiar¨¢ el mundo tal y como lo conocemos. Pero qu¨¦ aspecto tendr¨¢ este est¨¢ en nuestras manos. Un buen principio es desprendernos del pensamiento m¨¢gico actual en torno a ella para conocer sus limitaciones, usos e implicaciones. Y, a partir de este conocimiento, hacer que trabaje en nuestro beneficio.

Fernando Maldonado, analista principal en?Delfos Research