C¨®mo las matem¨¢ticas pueden ayudar a mejorar la seguridad del coche aut¨®nomo

Investigadores de la Universidad de Washington descubrieron en 2017 la forma de confundir al sistema de veh¨ªculos aut¨®nomos al poner pegatinas a las se?ales de tr¨¢fico. Al a?adirle a una se?al de stop las palabras love y hate, el coche la interpretaba como una de velocidad m¨¢xima 45 millas por hora ¡ªunos 70 kil¨®metros por hora¡ª. Este tipo de coches tambi¨¦n han sufrido diferentes ataques de hackers en los ¨²ltimos a?os con los que se ha llegado a controlar de forma remota el aire acondicionado, el audio o el limpiaparabrisas. E incluso a detener el motor. Hacer los algoritmos de aprendizaje autom¨¢tico m¨¢s robustos frente a ese tipo de ataques es uno de los objetivos del proyecto Trustonomy.

Esta iniciativa, que ha recibido 3,9 millones de euros del programa H2020 de la Uni¨®n Europea y durar¨¢ tres a?os, tiene como objetivo crear aceptaci¨®n y confianza en la movilidad aut¨®noma. ¡°Los coches cada vez tienen m¨¢s hardware y software y como cualquier sistema son hackeables. Pero hay que poner barreras¡±, explica David R¨ªos, participante en el proyecto. Este investigador del Instituto de Ciencias Matem¨¢ticas y director de la C¨¢tedra AXA-ICMAT en An¨¢lisis de Riesgos Adversarios se encargar¨¢ de producir modelos de an¨¢lisis de riesgo que permitan predecir y responder ante los peligros espec¨ªficos vinculados a la conducci¨®n aut¨®noma. En el proyecto participan, adem¨¢s del ICMAT, otras 15 organizaciones de Italia, Polonia, Francia, Finlandia, Reino Unido, Grecia, Chipre y Luxemburgo.

¡°Los algoritmos de visi¨®n son atacables en el sentido de que se pueden cambiar ligeramente las im¨¢genes que capturan las c¨¢maras u otra informaci¨®n que tomen los sensores y confundirlos¡±, afirma R¨ªos, que tambi¨¦n es miembro de la Real Academia de Ciencias Exactas, F¨ªsicas y Naturales. Pone como ejemplo una escena hipot¨¦tica en la que varias personas cruzan por delante de un coche. Aunque el veh¨ªculo deber¨ªa frenar, ser¨ªa posible confundir a esos algoritmos de modo que esas personas se desvanezcan y hacer que el coche, en lugar de pararse, accelere: ¡°Puedes pensar en estos coches como armas¡±. R¨ªos sostiene que los usuarios tambi¨¦n podr¨ªan tener problemas de privacidad: ¡°Imagina que se capturan datos de cu¨¢les son tus movimientos o d¨®nde vives¡±.

El proyecto Trustonomy tiene dos partes. La primera consiste en realizar un an¨¢lisis los riesgos y oportunidades que se abren con la llegada del coche aut¨®nomo. ¡°Una vez hecho el an¨¢lisis, las matem¨¢ticas ayudan a hacer los algoritmos de procesamiento de la informaci¨®n, predicci¨®n y toma de decisiones de los coches m¨¢s robustos¡±, afirma. Adem¨¢s, se realizar¨¢n diferentes pruebas con coches y camiones aut¨®nomos.

Para estudiar todos los riesgos, se desarrollar¨¢n modelos de aprendizaje autom¨¢tico, basados principalmente en estad¨ªstica bayesiana y teor¨ªa de juegos. Estos m¨¦todos, seg¨²n R¨ªos, permiten dar respuestas m¨¢s seguras ante situaciones no esperadas y de incertidumbre y hacer predicciones de c¨®mo se van a desenvolver otros agentes del entorno del veh¨ªculo como las personas, animales u otros coches.

Esta iniciativa, que ha recibido 3,9 millones de euros del programa H2020 de la Uni¨®n Europea y durar¨¢ tres a?os, tiene como objetivo crear aceptaci¨®n y confianza en la movilidad aut¨®noma

Pese a los peligros mencionados, el coche aut¨®nomo tambi¨¦n promete traer consigo numerosas ventajas. El investigador subraya que podr¨ªan reducir los accidentes, las emisiones de di¨®xido de carbono y los atascos. En definitiva, supondr¨ªan ¡°mucho tiempo ganado como individuos y como sociedad¡±. Estos veh¨ªculos, seg¨²n sostiene, ser¨ªan especialmente ¨²tiles para personas que no pueden conducir. Por ejemplo, ¡°las personas mayores o los ni?os tendr¨ªan un m¨¦todo para ir al m¨¦dico o a recoger medicinas¡±.

Esto solo ocurrir¨¢ cuando el coche aut¨®nomo no necesite llevar un humano dentro que tome los mandos en caso de una emergencia. Los veh¨ªculos aut¨®nomos se diferencian en seis categor¨ªas ¡ªdel 0 al 5¡ª. Mientras que los del nivel 0 dependen totalmente del conductor, el nivel 5 supone la conducci¨®n totalmente aut¨®noma sin intervenci¨®n humana. Hasta el momento, se han realizado sobre todo pruebas con los coches de hasta el nivel 4, en el que solo se requiere la conducci¨®n humana en casos de falta de visibilidad o ante un fallo del sistema.

R¨ªos explica que tambi¨¦n hay coches plenamente aut¨®nomos que ya han recorrido cientos de kil¨®metros¡±: ¡°Tecnol¨®gicamente es posible, pero han sido probados por pocas empresas y productores. Hay que acumular m¨¢s experiencia respecto a esta tecnolog¨ªa para que se generalice y la sociedad la conozca mejor¡±. La conducci¨®n totalmente aut¨®noma a nivel global se conseguir¨¢ en un plazo de entre 15 y 20 a?os, seg¨²n el investigador. ¡°Durante ese tiempo coexistir¨¢n en la carretera los veh¨ªculos totalmente aut¨®nomos, los semiaut¨®nomos y los no aut¨®nomos. Los coches aut¨®nomos tendr¨¢n que conocer cu¨¢les son los modelos de actuaci¨®n de los conductores humanos¡±, afirma.

Impacto en la econom¨ªa

En el proyecto tambi¨¦n se modelizar¨¢ el impacto de la conducci¨®n aut¨®noma en el empleo y la econom¨ªa. Con la llegada del coche aut¨®nomo, desaparecer¨¢n algunas profesiones y surgir¨¢n otras, seg¨²n R¨ªos: ¡°Puede que la profesi¨®n de taxista desaparezca y en su lugar haya una compa?¨ªa de coches aut¨®nomos que te ayuden a desplazarte sin necesidad de conductor¡±. Tambi¨¦n cambiar¨¢ el sentido de propiedad porque ¡°deja de tener sentido tener un coche propio¡±. ¡°Lo que har¨¦ ser¨¢ coger un coche aut¨®nomo que me lleve de casa al trabajo. Luego ese coche lo utilizar¨¢n otras personas¡±.

Tambi¨¦n es posible que cambien los seguros del coche. El investigador se?ala que al haber menos accidentes, es posible que las p¨®lizas bajen. Adem¨¢s, sostiene que la responsabilidad en el caso de que se produzca un choque se desplazar¨¢ y plantea la siguiente pregunta: ¡°Si se produce un accidente, ?es responsable el dise?ador del coche, el creador de los algoritmos, el programador de los algoritmos...?¡±.

La toma de decisiones por parte del veh¨ªculo en situaciones de emergencia es precisamente otro de los retos a afrontar. El proyecto propondr¨¢ mejoras en los algoritmos que dirigen la conducci¨®n aut¨®noma. ¡°El coche ejecuta elecciones sencillas: frenar, acelerar o cambiar su direcci¨®n, pero tiene que evaluar las consecuencias de esas decisiones¡±, explica R¨ªos. Los algoritmos identifican la posici¨®n y estado del coche y de todos los agentes que est¨¢n a su alrededor, predicen su evoluci¨®n en el tiempo y toman decisiones, minimizando los riesgos. De cara a un futuro, R¨ªos se?ala que es importante desarrollar ¡°modelos predictivos m¨¢s r¨¢pidos, que permitan tomar decisiones ¨¦ticas, y que integren el comportamiento de los otros¡±. Los veh¨ªculos podr¨ªan hacer dichas predicciones ¡°adaptadas a unas normas sociales o unos gustos personales¡±. ¡°Vamos a tener que codificar una serie de valores, evaluaciones o utilidades para las distintas consecuencias. No todos tenemos los mismos valores sociales y hay muchas ideolog¨ªas. Es una cuesti¨®n muy dif¨ªcil de resolver que tambi¨¦n discutiremos¡±, concluye.