¡®Siri, ?hay alguien ah¨ª?¡¯: qui¨¦n escucha las conversaciones que los usuarios mantienen con los asistentes

Tener un altavoz inteligente en casa o en la oficina es cada vez m¨¢s habitual. Solo durante el ¨²ltimo trimestre se comercializaron a nivel mundial 38,5 millones de estos dispositivos, lo que supone un aumento de un 95% respecto al mismo trimestre del a?o anterior, seg¨²n la consultora Strategy Analytics. Los gigantes tecnol¨®gicos explican en sus pol¨ªticas de privacidad que almacenan grabaciones de conversaciones de los usuarios con los asistentes para mejorar el funcionamiento del sistema. Pero no son del todo transparentes al explicar a sus usuarios c¨®mo se utilizan esos audios. Ni qui¨¦n los escucha. Hace unos d¨ªas Bloomberg revel¨® que miles de empleados de Amazon de todo el mundo revisan a diario conversaciones aleatorias que los usuarios mantienen con Alexa. Pero, ?qu¨¦ ocurre con el resto de asistentes? ?Hay humanos que escuchan nuestros di¨¢logos con Google Assistant, Cortana, Siri o Bixby?

La respuesta, al menos con algunos de estos asistentes, es s¨ª. Google ha reconocido que cuenta con empleados que escuchan algunas grabaciones de usuarios con Google Assistant para intentar mejorar el sistema, aunque no ha dado m¨¢s detalles al respecto. Apple tambi¨¦n lo hace, seg¨²n Bloomberg y la BBC. La compa?¨ªa de Cupertino no ha confirmado ni desmentido la informaci¨®n a este peri¨®dico. De la misma forma, Microsoft y Samsung han descartado explicar si tienen trabajadores que realicen este tipo de trabajo.

Los empleados de Amazon transcriben y revisan fragmentos de conversaciones durante nueve horas al d¨ªa, seg¨²n han contado a Bloomberg dos trabajadores de la oficina de Amazon en Bucarest. Pueden llegar a revisar hasta 1.000 grabaciones por turno. El gigante tecnol¨®gico ha reconocido en un comunicado que anota "un n¨²mero extremadamente peque?o de interacciones" para mejorar la experiencia del cliente: "El acceso a las herramientas internas est¨¢ altamente controlado y solo se concede a un n¨²mero muy limitado de empleados". "Nuestras pol¨ªticas proh¨ªben estrictamente tanto el acceso de los empleados o el uso de los datos de clientes por cualquier otra raz¨®n, y tenemos una pol¨ªtica de tolerancia cero ante el incumplimiento de este sistema. Auditamos regularmente el acceso de los empleados a las herramientas internas y limitamos el acceso cuando y donde sea posible", ha afirmado Amazon.

El gran problema ¡°es que muchos de quienes usan los asistentes no saben que les est¨¢n grabando¡± porque no leen las pol¨ªticas de privacidad, explica el experto Borja Adsuara

A la abogada experta en protecci¨®n de datos y autora de Datanomics, Paloma Llaneza, le sorprende ¡°la paradoja de la privacidad¡±: ¡°A la gente le preocupa m¨¢s que haya personas escuchando sus conversaciones que el hecho de que queden grabadas y sean analizadas por una inteligencia artificial¡±. Para ella, esto ¨²ltimo es m¨¢s arriesgado, ya que ¡°las personas se olvidar¨¢n cuando lleguen a su casa de lo que hayan escuchado¡±.

Se espera que el n¨²mero de asistentes virtuales en uso a nivel mundial no pare de crecer en los pr¨®ximos a?os. Statista prev¨¦ que la cifra ascienda de 3.250 millones de asistentes en 2019 a 5.110 millones en 2021 y 8.000 millones en 2023. En la misma l¨ªnea que Llaneza se posiciona Borja Adsuara, abogado experto en derecho digital: ¡°?Qu¨¦ es m¨¢s peligroso que una persona de vez en cuando se conecte a tu asistente y escriba la conversaci¨®n o que haya una inteligencia artificial que recopile todo lo que dices y sea posible saber hasta lo que te preocupa?¡±. Considera secundario que los audios sean escuchados por personas. El gran problema ¡°es que muchos de quienes usan los asistentes no saben que les est¨¢n grabando¡± porque no leen las pol¨ªticas de privacidad.

Cuando el asistente se activa por error

La pregunta que cualquier usuario deber¨ªa hacerse, seg¨²n Llaneza, es si estos dispositivos se activan de forma remota. Todas las compa?¨ªas aseguran que los asistentes solo se activan al pronunciar un comando. Por ejemplo, Google insiste en su web que Google Assistant solo graba la voz cuando se activa el asistente con el comando ¡°ok, Google¡± y Microsoft en que las palabras clave son ¡°Hola, Cortana¡±.

Pese a ello, ha habido varios casos en los que estos gigantes tecnol¨®gicos han almacenado conversaciones privadas. Alexa se activa por error en varias ocasiones, seg¨²n han contado varios empleados de Amazon a Bloomberg. Uno de ellos ha afirmado que llega a escuchar unas 100 grabaciones al d¨ªa en las que Alexa se activa sin que el cliente se lo pida. De esta forma, aseguran haber escuchado a los usuarios discutir detalles privados como nombres o datos bancarios ¡ªen esos casos deben anotar que se trata de "datos cr¨ªticos"¡ª. Tanto Amazon como Google, Apple, Microsoft y Samsung permiten al usuario consultar las grabaciones almacenadas y eliminarlas en los ajustes del asistente. Esta puede ser una forma de comprobar si el altavoz se ha activado de manera involuntaria.

Adsuara hace la siguiente reflexi¨®n: ¡°?Por qu¨¦ lo llaman altavoces cuando quieren decir micr¨®fonos? Es verdad que nos contestan. Pero tambi¨¦n recogen todo lo que hablamos¡±. En 2018 se vendieron en todo el mundo 86,2 millones altavoces inteligentes y los env¨ªos de estos dispositivos no han parado de crecer en los ¨²ltimos meses, seg¨²n Strategy Analytics.

¡°Incorporar un micr¨®fono abierto en tu vida da lugar a que en cualquier momento puede escuchar una conversaci¨®n tuya¡±, explica Llaneza. Para ella, es primordial tener claro si las grabaciones son usadas para mejorar el sistema, entrenar inteligencias artificiales con otras finalidades, vender servicios a los usuarios o saber su estado de ¨¢nimo y hacerles un perfil.

Todas estas compa?¨ªas aseguran que usan los audios almacenados para mejorar sus asistentes. Google, en una de sus p¨¢ginas de preguntas y respuestas frecuentes, afirma utilizar las interacciones con el asistente de Google para mejorar el reconocimiento de voz y publicar anuncios ¡°m¨¢s ¨²tiles¡± para el usuario. Microsoft sostiene usar los audios para mejorar la comprensi¨®n de Cortana, el reconocimiento de voz y las respuestas. Samsung explica en esta web que las conversaciones pasadas sirven para ayudar a Bixby a entender mejor a un usuario y comprender su pronunciaci¨®n y los comandos de voz.

De la misma forma, Apple usa las grabaciones con Siri para conseguir una mejor detecci¨®n de la voz. La compa?¨ªa de Cupertino, seg¨²n un documento de seguridad de Apple, guarda algunos audios sin ninguna informaci¨®n que puede identificar al usuario durante incluso m¨¢s de dos a?os. Por ejemplo, grabaciones que hacen referencia a m¨²sica, equipos de alg¨²n deporte, jugadores o negocios.

Legislaci¨®n

Las empresas tienen la obligaci¨®n de contar cu¨¢l es la finalidad de la recogida del dato. Pero la legislaci¨®n europea no exige la explicaci¨®n de la metodolog¨ªa de la mejora del servicio. As¨ª lo explica Llaneza, que afirma que en EE UU no hay una normativa al respecto: ¡°Con que te digan que van a grabar las conversaciones con la necesidad de mejorar el servicio han cumplido la legislaci¨®n¡±.

¡°Incorporar un micr¨®fono abierto en tu vida da lugar a que en cualquier momento puede escuchar una conversaci¨®n tuya¡±, dice la abogada Paloma Llaneza

Cuando este peri¨®dico ha preguntado a las compa?¨ªas por la existencia de empleados que escuchen las conversaciones, solo ha obtenido una respuesta clara ¡ªaunque sin detalles¡ª por parte de Google y Amazon. El resto de compa?¨ªas no han contestado o han remitido a EL PA?S a webs y documentos en los que no se responde a la demanda. ¡°No van a decirnos c¨®mo est¨¢n tratando los datos porque es una cuesti¨®n en Europa especialmente sensible y porque hay una opacidad general sobre c¨®mo se tratan los datos. Las empresas no quieren que seamos conscientes de la enorme intrusi¨®n que vivimos todos los d¨ªas con estos dispositivos¡±, afirma Llaneza.

Tener un asistente en el hogar es peligroso tambi¨¦n para Adsuara. Pero el abogado subraya que tambi¨¦n lo es tener un m¨®vil, ya que cuenta con un micr¨®fono y se puede hackear: ¡°Cualquier dispositivo conectado est¨¢ entrometi¨¦ndose en la intimidad¡±. Ambos expertos coinciden en la necesidad de hacer un an¨¢lisis de riesgo. ¡°?Te compensa la incertidumbre de pensar que una empresa puede activar un micr¨®fono o estar escuchando las conversaciones a cambio de no bajar o subir el volumen o apagar la luz? Esto es lo que nos tenemos que preguntar¡±, concluye Llaneza.

Amazon domina el mercado de los altavoces inteligentes

Amazon domina el mercado de los altavoces inteligentes. Pero seguido cada vez m¨¢s de cerca de Google. Solo hace unos dos a?os, Echo, el smart speaker de Amazon, contaba con el 82% de la cuota de mercado en el mundo, seg¨²n recoge Statista con datos de Strategy Analytics. Pero desde entonces este porcentaje no ha parado de descender. Y en el cuarto trimestre de 2018 alcanz¨® el 36% con una venta de 13,7 millones de dispositivos. Google ha sido el principal beneficiario del retroceso de Amazon. Sus altavoces inteligentes han pasado del 12,4% al 30% de la cuota de mercado global, con 13,7 millones de unidades comercializadas en el ¨²ltimo trimestre de 2018. Tambi¨¦n ha aumentado en 2018 el env¨ªo de altavoces de las marcas chinas Alibaba, Baidu y Xiaomi, que suponen en total alrededor del 18% de las unidades enviadas en el ¨²ltimo trimestre del a?o pasado.