DeepSeek no es un juego: el peligro para la privacidad de la nueva IA china

En solo una semana, DeepSeek, la nueva aplicaci¨®n de inteligencia artificial (IA) china, ha superado con creces el mill¨®n de descargas (m¨¢s de la mitad en dos d¨ªas) y se espera que multiplique esa cifra, seg¨²n AppBrain a partir de los datos de ...

En solo una semana, DeepSeek, la nueva aplicaci¨®n de inteligencia artificial (IA) china, ha superado con creces el mill¨®n de descargas (m¨¢s de la mitad en dos d¨ªas) y se espera que multiplique esa cifra, seg¨²n AppBrain a partir de los datos de QR Code Generator. Pero este frenes¨ª tecnol¨®gico tiene sus consecuencias. Varios investigadores advierten de que su uso no es inocuo, que los servidores est¨¢n en un pa¨ªs ajeno a las leyes de protecci¨®n de datos y que, seg¨²n advierte Ross Burley, cofundador del Centre for Information Resilience (CIR), ¡°esta tecnolog¨ªa, si no se controla, tiene el potencial de alimentar campa?as de desinformaci¨®n, erosionar la confianza p¨²blica y afianzar narrativas autoritarias dentro de nuestras democracias¡±.

La irrupci¨®n de la IA de China, donde a DeepSeek se ha sumado Qwen 2.5, del gigante del comercio Alibaba (due?a de AliExpress), tiene un componente econ¨®mico. La adopci¨®n de IA tendr¨¢ un impacto econ¨®mico acumulado a nivel mundial de 19,9 billones de d¨®lares (17,9 billones de euros) hasta 2030, cuando esta tecnolog¨ªa generar¨¢ el 3,5% del PIB del planeta, seg¨²n el informe The global impact of artificial intelligence on the economy and jobs (El impacto global de la inteligencia artificial en la econom¨ªa y el trabajo) de la firma de an¨¢lisis IDC.

En este sentido, Marc Porcar, director general de QR Code Generator, cree China ha agitado el mercado con ¡°productos m¨¢s r¨¢pidos, baratos e inteligentes¡± para ¡°allanar el camino del pa¨ªs asi¨¢tico en un mercado que, hasta ahora, estaba dominado principalmente por Estados Unidos y OpenAI [la firma creadora de ChatGPT]¡±.

Pero pensar que se trata solo de un movimiento econ¨®mico es ingenuo, seg¨²n advierten varios investigadores. De hecho, seg¨²n recuerda, Deepak Padmanabhan, profesor de la Facultad de Ciencias de la Computaci¨®n de Queen¡¯s University (Belfast), ¡°DeepSeek ha asegurado que no tiene planes de comercializaci¨®n¡±.

Entonces, ?qu¨¦ busca China? Harin Sellahewa, profesor de Computaci¨®n y decano de la Facultad de Inform¨¢tica, Derecho y Psicolog¨ªa de la Universidad de Buckingham, explica a Science Media Centre (SMC): ¡°La pol¨ªtica de privacidad de DeepSeek establece que recopilan informaci¨®n proporcionada por el usuario, como la fecha de nacimiento (cuando corresponda), el nombre de usuario, la direcci¨®n de correo electr¨®nico o el n¨²mero de tel¨¦fono y la contrase?a. Adem¨¢s, los datos recopilados autom¨¢ticamente incluyen patrones o ritmos de pulsaci¨®n de teclas, que se pueden utilizar como datos biom¨¦tricos para identificar a las personas¡±.

Sellahewa precisa que estos datos tambi¨¦n son recopilados por otras aplicaciones de inteligencia artificial, pero matiza: ¡°Lo que m¨¢s preocupa son los derechos y las obligaciones. Dado que la informaci¨®n recopilada por DeepSeek se almacena en servidores ubicados en la Rep¨²blica Popular China, es posible que los datos personales de los usuarios no est¨¦n protegidos por las leyes¡± de los pa¨ªses occidentales.

En la misma l¨ªnea, Lukasz Piwek, profesor titular de Ciencia de Datos en la Universidad de Bath, a?ade a SMC: ¡°El enfoque regulatorio relativamente flexible de China para la tecnolog¨ªa avanzada [frente a la normativa occidental] permite una innovaci¨®n r¨¢pida, pero genera preocupaciones sobre la privacidad de los datos, el posible uso indebido y las implicaciones ¨¦ticas, particularmente para un modelo de c¨®digo abierto como DeepSeek¡±.

Deber¨ªamos estar alarmados. Que la tecnolog¨ªa china de IA se integre a¨²n m¨¢s en la sociedad occidental no solo es una mala idea, sino que es imprudente

Ross Burley, cofundador de CIR

¡°Deber¨ªamos estar alarmados¡±, alerta Ross Burley, cofundador de CIR, una organizaci¨®n independiente dedicada a exponer las violaciones de los derechos humanos y las amenazas a la democracia. Y explica: ¡°Que la tecnolog¨ªa china de IA se integre a¨²n m¨¢s en la sociedad occidental no solo es una mala idea, sino que es imprudente. Hemos visto una y otra vez c¨®mo Pek¨ªn utiliza su dominio tecnol¨®gico como arma para la vigilancia, el control y la coerci¨®n, tanto en el pa¨ªs como en el extranjero. Ya sea a trav¨¦s de dispositivos cargados de spyware [programas esp¨ªas], campa?as cibern¨¦ticas patrocinadas por el Estado o el uso indebido de la IA para reprimir la disidencia, el historial de China demuestra que su tecnolog¨ªa es una extensi¨®n de su estrategia geopol¨ªtica. Esto podr¨ªa parecer un modelo de lenguaje grande benigno, pero ya hemos visto que la IA est¨¢ suprimiendo informaci¨®n cr¨ªtica con el Gobierno chino¡±.

¡°Permitir que la IA china florezca en Occidente no solo corre el riesgo de socavar la privacidad o la seguridad; podr¨ªa remodelar fundamentalmente nuestras sociedades de maneras para las que no estamos preparados. Necesitamos salvaguardas, rendici¨®n de cuentas y una comprensi¨®n clara de que no todos los avances tecnol¨®gicos sirven al bien com¨²n, especialmente cuando se originan en un r¨¦gimen que prioriza el control sobre la libertad¡±, concluye Burley.

Van a tener perfiles y una informaci¨®n m¨¢s completa a¨²n sobre nosotros que puede terminar en EE UU o China. Se puede ejercer un control como nunca en la historia

Rafael Rodr¨ªguez Prieto, catedr¨¢tico de Filosof¨ªa del Derecho en la Universidad Pablo de Olavide

De la misma opini¨®n es Rafael Rodr¨ªguez Prieto, catedr¨¢tico de Filosof¨ªa del Derecho en la Universidad Pablo de Olavide de Sevilla y coautor de Poder e internet. Un an¨¢lisis cr¨ªtico de la red (C¨¢tedra). El profesor advierte sobre el control sobre la ciudadan¨ªa gracias a los datos que recaban la inteligencia artificial, sin distinci¨®n de su origen: ¡°Van a tener perfiles y una informaci¨®n m¨¢s completa a¨²n sobre nosotros que puede terminar en EE UU o China. Se puede ejercer un control como nunca en la historia. Lo que sucedi¨® el lunes 27 en las bolsas trasciende las p¨¢ginas de econom¨ªa para ser uno de los hechos geopol¨ªticos m¨¢s destacados de nuestro tiempo¡±.

Rodr¨ªguez Prieto destaca que DeepSeek se ha configurado con programaci¨®n de c¨®digo abierto (open source), lo que permite una mayor transparencia, eficacia en la detecci¨®n de fallos y mayor agilidad en las mejoras. Pero advierte: ¡°Este modelo no est¨¢ exento de riesgos. Con el c¨®digo cerrado, las empresas ejercen un control completo y evitan posibles da?os, a la vez que se benefician de una financiaci¨®n estable, como es el caso de las compa?¨ªas estadounidenses¡±.

Pero el mayor perjuicio recae principalmente en los usuarios, aquellos que se han lanzado a descargar fren¨¦ticamente la nueva aplicaci¨®n en la b¨²squeda de una soluci¨®n r¨¢pida y barata. As¨ª lo sostiene el profesor de la universidad sevillana: ¡°El bien com¨²n o el inter¨¦s ciudadano han quedado arrumbados por la hegemon¨ªa de una perspectiva capitalista, globalmente compartida de occidente a oriente, que introduce cualquier desaf¨ªo dentro de las coordenadas de la racionalidad instrumental y convierte las necesidades humanas en un producto mercantil que hay que rentabilizar. La ingente cantidad de plusval¨ªa en red extra¨ªda de nuestros datos y trabajo gratuito es el motor de este cambio. Y la IA no es la excepci¨®n¡±.

Es una advertencia que se suma a la de Cecilia Danesi, codirectora del m¨¢ster en Gobernanza ¨¦tica de la IA (UPSA) y autora de Derechos del consumidor en la encrucijada de la inteligencia artificial (Dykinson, 2024). La investigadora, integrante de Women for Ethical in AI de la UNESCO y coautora del informe presentado en el G20 Brasil sobre auditor¨ªas algor¨ªtmicas, alerta sobre la desprotecci¨®n del consumidor frente a los da?os que puedan causar los avances tecnol¨®gicos y reclama una mayor atenci¨®n legal sobre la responsabilidad civil de la IA: ¡°Los consumidores estamos sumamente expuestos a los da?os que pueden ocasionar. Si no tenemos normas claras de c¨®mo proceder frente a esos da?os, las personas quedan desprotegidas¡±.

No todos son advertencias negativas sobre la nueva IA y su impacto. Para el profesor Luo Mai, de la Universidad de Edimburgo, DeepSeek ¡°brinda a los investigadores y estudiantes de todo el mundo oportunidades para explorar nuevas v¨ªas de investigaci¨®n en IA, particularmente en entornos con menos recursos inform¨¢ticos¡±.