?Alg¨²n d¨ªa las m¨¢quinas realizar¨¢n acciones aut¨®nomas?

En realidad ya existen m¨¢quinas que realizan actividades aut¨®nomas desde hace mucho tiempo. Por ejemplo, el control autom¨¢tico de la temperatura de nuestra casa. Esa es una m¨¢quina que funciona de manera aut¨®noma, de acuerdo con una programaci¨®n, sin que tengamos que estar activando y desactivando la calefacci¨®n. Ella sola, en funci¨®n de lo que capturan sus sensores, determina lo que tiene que hacer: si se pone en marcha o se apaga.

En cuanto a otro tipo de m¨¢quinas m¨¢s complejas, como pueden ser los veh¨ªculos aut¨®nomos, las cosas son distintas. Estamos en el momento de ver si los coches pueden conducirse de manera aut¨®noma o es necesaria la participaci¨®n de una persona. Cuando la acci¨®n que tiene que realizar la m¨¢quina es mucho m¨¢s complicada, dotarla de total autonom¨ªa es m¨¢s delicado. Depende de varios factores, por ejemplo, de la cantidad de informaci¨®n que la m¨¢quina necesite recibir de su entorno para poder tomar decisiones. En el caso de la conducci¨®n aut¨®noma, ese es uno de los problemas y es que el entorno en el que se tiene que mover el veh¨ªculo es muy complejo y cambiante. A esto hay que sumarle otro aspecto clave, las acciones que realice esa m¨¢quina pueden tener un riesgo para la vida, as¨ª que ah¨ª entramos en un terreno resbaladizo. ?Hasta d¨®nde estamos dispuestos a dar autonom¨ªa a las m¨¢quinas?

Por lo tanto, la respuesta a tu pregunta es que nos encontramos con tres tipos de dificultades. Hay una dificultad t¨¦cnica que tiene que ver con la interpretaci¨®n de la informaci¨®n. En los veh¨ªculos aut¨®nomos, por ejemplo, la interpretaci¨®n que hoy por hoy es capaz de hacer una m¨¢quina de la informaci¨®n del entorno que capturan sus sensores todav¨ªa no llega a lo que puede hacer una persona. En una situaci¨®n determinada, la m¨¢quina podr¨ªa no interpretar correctamente si existe un riesgo inminente; ya que esto implicar¨ªa anticipar y predecir lo que va a hacer un peat¨®n, por ejemplo, en funci¨®n del movimiento que lleva, pero siempre va a haber incertidumbre. La tecnolog¨ªa est¨¢ todav¨ªa intentando avanzar para resolver ese tipo de problemas. Es decir, para llegar a hacer una interpretaci¨®n de la escena como la que podemos hacer los seres humanos.

El desaf¨ªo es asegurar que las decisiones que toma la m¨¢quina de manera aut¨®noma y sin que sean directamente supervisadas por un humano son justas y no tienen sesgos

En lo que se refiere a la toma de decisiones, una vez que la m¨¢quina recibe e interpreta toda esa informaci¨®n del entorno, ya podemos dejar que lo haga sola. Es una cuesti¨®n de programaci¨®n, de codificar en un programa los m¨¦todos de toma de decisiones, ya sean algoritmos propiamente dichos donde hay una secuencia definida de pasos, o, ¨²ltimamente, empleando t¨¦cnicas de aprendizaje autom¨¢tico, que lo que hacen es ir acumulando informaci¨®n y en funci¨®n de la experiencia pasada van aprendiendo y pueden ir ajustando sus propios comportamientos. En definitiva, tenemos m¨¦todos para que una m¨¢quina tome decisiones y act¨²e de manera aut¨®noma. Pero surge otro problema importante, que es la visibilidad, es decir, poder ver desde fuera qu¨¦ es lo que la m¨¢quina est¨¢ decidiendo o por qu¨¦ est¨¢ tomando las decisiones que toma. El paso a los m¨¦todos de aprendizaje autom¨¢tico ha supuesto que en algunos casos perdamos esa visibilidad. No sabemos explicar bien por qu¨¦ una red de neuronas ha tomado determinada decisi¨®n. Este es uno de los retos t¨¦cnicos de hoy en d¨ªa, que las m¨¢quinas sean capaces de explicar a un humano cu¨¢l ha sido el razonamiento que ha llevado a tomar determinada decisi¨®n. Y eso es necesario para ajustarla si lo hace de manera incorrecta. Se han identificado problemas con, por ejemplo, los sesgos de g¨¦nero, en programas para selecci¨®n de personal o b¨²squeda de empleo. Hay que tener en cuenta que el programa funcionar¨¢ de acuerdo con las experiencias previas, y si alimentamos a esa m¨¢quina con informaci¨®n sesgada va a seguir replicando ese comportamiento de cara al futuro. Ah¨ª el desaf¨ªo es asegurar que las decisiones que toma la m¨¢quina de manera aut¨®noma y sin que sean directamente supervisadas por un humano son justas y no tienen sesgos, y para eso necesitamos poder entenderlas. Si no hay un grado suficiente de visibilidad, la confianza en la m¨¢quina se ver¨¢ afectada.

La tercera dificultad ya no es t¨¦cnica. Si una m¨¢quina aut¨®noma act¨²a de manera incorrecta y provoca un accidente, ?qui¨¦n es el responsable?, ?qui¨¦n asume la responsabilidad de esa acci¨®n? ?hasta d¨®nde estamos dispuestos a delegar nuestra responsabilidad? A veces son estos tipos de obst¨¢culos ¨¦ticos y legales los que impiden que se puedan automatizar ciertas tareas.

Ang¨¦lica de Antonio es profesora titular e investigadora del Departamento de Lenguajes y Sistemas Inform¨¢ticos e Ingenier¨ªa de Software de la Universidad Polit¨¦cnica de Madrid.

Pregunta enviada v¨ªa email por Jf Alveo

Nosotras respondemos es un consultorio cient¨ªfico semanal, patrocinado por la Fundaci¨®n Dr. Antoni Esteve y el programa L¡¯Or¨¦al-Unesco ¡®For Women in Science¡¯, que contesta a las dudas de los lectores sobre ciencia y tecnolog¨ªa. Son cient¨ªficas y tecn¨®logas, socias de AMIT (Asociaci¨®n de Mujeres Investigadoras y Tecn¨®logas), las que responden a esas dudas. Env¨ªa tus preguntas a nosotrasrespondemos@gmail.com o por Twitter #nosotrasrespondemos.

Coordinaci¨®n y redacci¨®n: Victoria Toro

Puedes seguir a MATERIA en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra Newsletter