Matem¨¢ticas para afrontar los retos de los coches aut¨®nomos

En estos primeros d¨ªas de este a?o 2020 ha comenzado a circular en fase de pruebas un peque?o minib¨²s aut¨®nomo en el campus de la Universidad Aut¨®noma de Madrid, en el que se ubica nuestro Instituto. Como dec¨ªa la canci¨®n, el futuro ya est¨¢ aqu¨ª. Los veh¨ªculos aut¨®nomos son una de las mayores innovaciones tecnol¨®gicas que veremos acontecer: junto con la electrificaci¨®n de veh¨ªculos y una modificaci¨®n profunda en el concepto de su propiedad, conformar¨¢n un futuro en el que deber¨ªamos esperar menos accidentes, menos contaminaci¨®n, menos tiempo de viaje perdido y un aumento en la capacidad de desplazamiento de ciertos colectivos, como el de las personas mayores.

Sin embargo, traer¨¢n tambi¨¦n inconvenientes y nuevos retos que la sociedad en su conjunto tendr¨¢ que abordar. As¨ª, es probable que algunos oficios desaparezcan, incluyendo, por ejemplo, el de taxista, a pesar de las muy probables huelgas que har¨¢n peque?as las que se produjeron el a?o pasado. En este contexto vehicular tan diferente al actual, tambi¨¦n tendr¨¢n que redefinir su modelo de negocio las compa?¨ªas de seguros. Deber¨¢n aprovecharse al m¨¢ximo las oportunidades y mitigar sus inconvenientes, para as¨ª aumentar la confianza de la sociedad sobre esta tecnolog¨ªa disruptiva. La Uni¨®n Europea ya est¨¢ realizando esfuerzos en esta direcci¨®n, financiando proyectos como TRUSTONOMY, en el que participamos los autores de este art¨ªculo. En este marco, son especialmente relevantes algunas herramientas relacionadas con tres ¨¢reas de las matem¨¢ticas: el an¨¢lisis de riesgos cl¨¢sico, y dos l¨ªneas de investigaci¨®n novedosas: el aprendizaje autom¨¢tico adversario y el an¨¢lisis de riesgos adversarios.

Los algoritmos que controlan los veh¨ªculos se basan en modelos de aprendizaje autom¨¢tico profundo, fundamentalmente en redes neuronales convolutivas, recurrentes y de aprendizaje por refuerzo. A trav¨¦s de estos procesan la informaci¨®n captada por sensores en el coche sobre la escena de tr¨¢fico y toman las decisiones pertinentes. Pese a los grandes avances conseguidos en este campo, esta tecnolog¨ªa a¨²n presenta riesgos, que deben ser considerados y, en la medida de lo posible, mitigados.

Por ejemplo, varios investigadores han mostrado que es f¨¢cil confundir a los clasificadores autom¨¢ticos empleados para reconocer una escena de conducci¨®n y as¨ª, inducir al fallo de la toma de decisiones del sistema. Basta con alterar las im¨¢genes h¨¢bilmente de forma que, aunque nuestros ojos identifiquen sin dificultad a personas en la escena, los algoritmos correspondientes no las perciban. As¨ª, donde un conductor humano frenar¨ªa ante la presencia de peatones, el veh¨ªculo aut¨®nomo seguir¨ªa su marcha, produciendo un accidente.

Basta con alterar las im¨¢genes para que, aunque nuestros ojos identifiquen sin dificultad a personas en una escena, los algoritmos correspondientes no las perciban

Para evitar estos incidentes, resulta necesario desarrollar algoritmos de clasificaci¨®n robustos frente a ataques, lo que ha dado lugar al campo de investigaci¨®n relativamente reciente del aprendizaje autom¨¢tico adversario, que desarrolla modelos y algoritmos de machine learning que tienen en cuenta la posible presencia de personas u otros algoritmo con objetivos maliciosos.

Por otro lado, tambi¨¦n son necesarios modelos de predicci¨®n de riesgos que avisen al conductor en situaciones de peligro, cuando este todav¨ªa tenga un cierto control sobre el veh¨ªculo. L¨®gicamente, la implantaci¨®n de la conducci¨®n autom¨¢tica no ser¨¢ instant¨¢nea y se ir¨¢n introduciendo modificaciones en los veh¨ªculos de manera gradual desde el nivel 0 (sin ninguna automatizaci¨®n) al nivel 5 (el veh¨ªculo completamente aut¨®nomo). Algunos modelos ya existentes en el mercado alcanzan el nivel 3, en el que el coche conduce de forma autom¨¢tica, excepto en algunos casos en los que debe intervenir el conductor. Estos sistemas monitorizan de forma continua el estado del conductor y de la ruta y, en funci¨®n de ellos, eval¨²an si es mejor que siga operando el piloto autom¨¢tico o el humano. En el segundo caso, se env¨ªa una petici¨®n de intervenci¨®n al mismo. Para tomar estas decisiones de forma efectiva y con suficiente antelaci¨®n, es esencial disponer de sofisticados modelos de predicci¨®n de riesgos.

Para evitar incidentes, resulta necesario desarrollar algoritmos de clasificaci¨®n robustos frente a ataques

Adem¨¢s, en este periodo de transici¨®n ser¨¢ imprescindible disponer de mecanismos de coexistencia entre veh¨ªculos aut¨®nomos y no aut¨®nomos. Cuando todos son aut¨®nomos, la coordinaci¨®n es razonablemente sencilla: todos ellos se comunicar¨¢n y ser¨¢ posible pasar a un modo de coordinaci¨®n de grupo, utilizando m¨¦todos de teor¨ªa de juegos cooperativos y sistemas multiagente de aprendizaje por refuerzo. Sin embargo, en un grupo heterog¨¦neo no es posible la comunicaci¨®n con los veh¨ªculos est¨¢ndar (aunque s¨ª su detecci¨®n), con lo que los sistemas de veh¨ªculos aut¨®nomos deber¨¢n predecir la evoluci¨®n de los est¨¢ndar para tomar las decisiones adecuadas, un problema en el que resulta adecuado el uso del an¨¢lisis de riesgos adversarios.

Entre otras, todas estas herramientas matem¨¢ticas ser¨¢n clave para adecuar la implantaci¨®n de esta tecnolog¨ªa que, probablemente, cambie el mundo tal y como lo conocemos.

Alex Kosgodagan es investigador postdoctoral en el ICMAT asociado al proyecto Trustonomy. David R¨ªos dirige la c¨¢tedra AXA-ICMAT de An¨¢lisis de Riesgos Adversarios en el ICMAT y es Numerario de la Real Academia de Ciencias Exactas, F¨ªsicas y Naturales.

Caf¨¦ y Teoremas es una secci¨®n dedicada a las matem¨¢ticas y al entorno en el que se crean, coordinado por el Instituto de Ciencias Matem¨¢ticas (ICMAT), en la que los investigadores y miembros del centro describen los ¨²ltimos avances de esta disciplina, comparten puntos de encuentro entre las matem¨¢ticas y otras expresiones sociales y culturales y recuerdan a quienes marcaron su desarrollo y supieron transformar caf¨¦ en teoremas. El nombre evoca la definici¨®n del matem¨¢tico h¨²ngaro Alfred R¨¦nyi: "Un matem¨¢tico es una m¨¢quina que transforma caf¨¦ en teoremas".

Edici¨®n y coordinaci¨®n: ?gata Tim¨®n (ICMAT).

Puedes seguir a Materia en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra newsletter