?Escuchan nuestras conversaciones Alexa, Google o Siri?

¡°Alexa, pon la alarma a las ocho¡±, ¡°Alexa, reproduce la pel¨ªcula Oppenheimer¡± o ¡°Alexa, dime qu¨¦ tiempo har¨¢ en Semana Santa¡±. Todas estas interacciones con el altavoz inteligente se graban y est¨¢n a disposici¨®n de cualquier usuario que las pida a Amazon. Eso fue lo que hizo la crimin¨®loga Mar¨ªa Aperador. Su sorpresa fue descubrir que algunos audios no iban precedidos de la palabra de activaci¨®n, ¡°Alexa¡±, y as¨ª lo denunci¨® hace unos d¨ªas en un v¨ªdeo en TikTok e Instagram que se ha convertido en viral. ?C¨®mo es esto posible?

La pol¨ªtica de Amazon es clara al respecto: no se almacenan ni se env¨ªan a la nube audios, a menos que el dispositivo detecte la palabra de activaci¨®n. As¨ª lo confirman desde la compa?¨ªa. Y a?aden que el usuario sabr¨¢ cu¨¢ndo Alexa env¨ªa su petici¨®n a la nube por un indicador luminoso azul o un sonido del altavoz.

Teniendo esto presente, David, Arroyo, investigador del CSIC especializado en ciberseguridad y datos, ofrece una alternativa: ¡°El sistema que ellos tienen solo se activa cuando alguien pronuncia la palabra de activaci¨®n. Pero, por varios motivos, puede tener falsos positivos. Ah¨ª lo que tendr¨ªamos que ver es hasta qu¨¦ punto es robusto frente a elementos que est¨¦n perturbando lo que es la interpretaci¨®n de esa palabra de activaci¨®n¡±.

A los sistemas de aprendizaje autom¨¢tico de interpretaci¨®n de voz, como los que utilizan Alexa o los altavoces de Google o Apple, se incorporan elementos dispares para mejorar su funcionamiento. Pero, aun as¨ª, no es tarea f¨¢cil. ¡°Estos sistemas est¨¢n dise?ados para identificar todo lo que son elementos de variabilidad por pronunciaci¨®n¡±, se?ala Arroyo en referencia a los distintos acentos y formas de hablar, pero tambi¨¦n a los cambios en la resonancia o la reverberaci¨®n de la estancia en la que se encuentra el dispositivo. ¡°Habr¨ªa que saber en detalle cu¨¢l es la tasa de precisi¨®n y de falsos positivos que tiene en concreto el algoritmo que emplea Amazon¡±.

EL PA?S ha hablado con Mar¨ªa Aperador para conocer un poco m¨¢s sobre las grabaciones, que duran alrededor de 6 segundos. Son fragmentos de conversaciones casuales, de ella o de personas que estaban en su casa. La crimin¨®loga no ha revisado los m¨¢s de 500 archivos de audio que le envi¨® Amazon, pero en unos 50 que ha escuchado encontr¨® dos en los que no hab¨ªa palabra de activaci¨®n.

Un estudio elaborado por investigadores de la Universidad Ruhr de Bochum y el Instituto Max Planck para la Seguridad y la Privacidad pone de relieve la importancia de las activaciones accidentales en altavoces inteligentes. Tras analizar 11 dispositivos de ocho fabricantes diferentes, publicaron informaci¨®n sobre m¨¢s de 1.000 activaciones involuntarias. ¡°Estamos hablando de sistemas de reconocimiento de voz, que depende de c¨®mo est¨¦n implementados, pueden funcionar mejor o peor¡±, apunta sobre la posibilidad de falsos positivos Josep Albors, director de Investigaci¨®n y Concienciaci¨®n en la firma de ciberseguridad ESET Espa?a.

C¨®mo detectan los altavoces la palabra de activaci¨®n

Para activarse cuando escuchan la palabra Alexa o las frases ¡°ok, Google¡± o ¡°hey, Siri¡±, los altavoces inteligentes cuentan con un sistema en permanente rastreo de ese t¨¦rmino. ¡°Al final son dispositivos que est¨¢n a la escucha constantemente. Pero esto tambi¨¦n lo hacen los smartphones o muchos porteros autom¨¢ticos. No es exclusivo de Alexa¡±, cuenta Albors.

Arroyo tambi¨¦n hace esta apreciaci¨®n. ¡°Cuando pones el altavoz en espera activa, eso involucra que est¨¢ en todo momento absorbiendo lo que hablas. No lo graba. Pero el algoritmo est¨¢ proces¨¢ndolo, porque tiene que ver qu¨¦ palabras se est¨¢n pronunciando¡±.

Se trata de un algoritmo que funciona a nivel local, en el propio dispositivo, buscando los patrones ac¨²sticos correspondientes a la palabra de activaci¨®n. Fuentes de Amazon apuntan que su tecnolog¨ªa solo se basa en la informaci¨®n procedente de las ondas de sonido para detectar el t¨¦rmino. Adem¨¢s, destacan que el altavoz tambi¨¦n permite activarlo con un bot¨®n, con lo que se evitar¨ªa la monitorizaci¨®n del sonido. En el caso de las grabaciones, que se producen cuando se activa el dispositivo, los usuarios pueden escoger no almacenarlas en sus opciones de privacidad.

?Qu¨¦ problema tiene este rastreo permanente de la palabra de activaci¨®n? Los dos especialistas en ciberseguridad coinciden en que, si el sonido se procesara para extraer datos m¨¢s all¨¢ de la b¨²squeda de la palabra clave, los problemas de privacidad ser¨ªan muy graves. Pero tambi¨¦n coinciden en que no hay evidencia de que esto sea as¨ª. ¡°Hay muchos intereses para que eso no suceda, porque supondr¨ªa la p¨¦rdida de confianza en todos los dispositivos y un perjuicio econ¨®mico muy considerable para estas empresas¡±, indica Albors.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.