Presentado el Manifiesto OFF, que aboga por la necesidad de recuperar el control sobre la tecnolog¨ªa

Desde que los avances en inteligencia artificial han disparado las alarmas sobre su potencial y riesgos, ning¨²n gobierno, experto o empresario ha dejado de alertar sobre la urgencia de tomar medidas. Los meses posteriores al auge de ChatGPT vieron proliferar manifiestos apocal¨ªpticos, firmados por algunos de los pioneros en el campo de la IA. Desde entonces, algunos han solicitado una pausa en su desarrollo, mientras que la Uni¨®n Europea ha logrado implementar la primera ley mundial para su regulaci¨®n. No obstante, hay voces que claman por un esfuerzo a¨²n mayor. Un centenar de destacadas personalidades, tanto nacionales como internacionales, firman el Manifiesto OFF. Este documento destaca la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnolog¨ªa cada vez m¨¢s avanzada y aut¨®noma, e insta a emprender acciones m¨¢s decididas y ambiciosas.

El manifiesto, que se ha presentado este mi¨¦rcoles en Madrid, ha sido firmado por personas procedentes del mundo de la cultura, las ciencias, la educaci¨®n, la psicolog¨ªa, el derecho y los medios de comunicaci¨®n, como el director ejecutivo de PRISA Media, Carlos N¨²?ez; el presidente de CaixaBank, Jos¨¦ Ignacio Goirigolzarri; la directora de Tecnolog¨ªa, medios y Comunicaci¨®n en la Universidad de Columbia, Anya Schiffrin, o el consejero delegado de Atresmedia, Javier Bardaj¨ª, entre otros. ¡°Se trata de una iniciativa independiente que naci¨® de la preocupaci¨®n genuina acerca de tendencias que ponen de manifiesto la enorme vulnerabilidad del ser humano y de las instituciones frente a un despliegue tecnol¨®gico mal enfocado¡±, ha explicado el emprendedor y escritor Diego Hidalgo, coordinador del manifiesto. ¡°Pretende ser un primer paso hacia una movilizaci¨®n de la sociedad civil. Nuestro objetivo es retomar el control sobre la tecnolog¨ªa digital, con la ayuda de la acci¨®n p¨²blica y privada¡±.

En esta l¨ªnea, Hidalgo ha recordado los riesgos para la salud mental que supone poseer un m¨®vil en una edad temprana. ¡°Afortunadamente, algunos de los temas que aborda el manifiesto ya empiezan a tener cierta presencia en el debate p¨²blico. Uno de ellos tiene que ver con el deterioro profundo de la salud mental, en especial de los j¨®venes, de la que todav¨ªa nos cuesta tomar la medida. Las curvas que describen el malestar de los j¨®venes est¨¢n al alza, un alza absolutamente vertiginosa¡±, ha recordado. Seg¨²n un estudio realizado por la plataforma Sapiens Lab, el hecho de que un ni?o posea con 12 a?os un smartphone aumenta un 20% la probabilidad de sufrir depresi¨®n cuando sea adulto, con respecto a acceder a ¨¦l a los 18 a?os, mientras que el 74% de quienes disponen de ¨¦l desde los seis a?os han sufrido s¨ªntomas depresivos. En Espa?a, el 88% de los j¨®venes dispone de un tel¨¦fono inteligente a los 13 a?os.

Ana Caballero, abogada y vicepresidenta de la Asociaci¨®n Europea para la Transici¨®n Digital, ha expresado durante la presentaci¨®n su perplejidad sobre la mercantilizaci¨®n de los datos. ¡°Estamos ante tecnolog¨ªas que no son neutras. Pero sobre todo, estas empresas que mercantilizan con nuestros datos son extracomunitarias, y nos ven a los europeos como una gran base de datos con poder adquisitivo. Desgraciadamente, muchas veces no somos conscientes de que pagar con datos es pagar¡±, ha explicado.

Adem¨¢s de poner el foco en los riesgos que conllevan las grandes innovaciones como la inteligencia artificial, el manifiesto expone una serie de medidas calificadas de urgentes para garantizar que la tecnolog¨ªa se mantenga al servicio de la humanidad, y no en su contra. En este sentido, los firmantes abogan en primera instancia por la creaci¨®n de leyes y regulaciones que limiten el uso indebido de la tecnolog¨ªa, especialmente en cuanto a vigilancia, privacidad y monopolios.

Entre las preocupaciones, se encuentra la posibilidad de que los estados controlen excesivamente, y de forma generalizada, a los ciudadanos, a trav¨¦s del reconocimiento facial o de otras tecnolog¨ªas que no garanticen el anonimato en los espacios p¨²blicos. En Estados Unidos, por ejemplo, la tecnolog¨ªa biom¨¦trica es ampliamente utilizada en los aeropuertos, tanto por las aerol¨ªneas como por las agencias gubernamentales a cargo de la seguridad de la aviaci¨®n. ¡°La videovigilancia con tecnolog¨ªa de reconocimiento facial abre una caja de pandora que amenaza nuestra privacidad y anonimato en el espacio p¨²blico. Supone un salto diferencial hacia el rastreo sistem¨¢tico de nuestros movimientos y el control de nuestras vidas¡±, cita el manifiesto, que recuerda que Amnist¨ªa Internacional hizo un llamamiento para prohibir el uso de los sistemas de reconocimiento facial por considerarla una forma de vigilancia masiva.

Jos¨¦ Mar¨ªa Lassalle, ex secretario de Estado de Agenda Digital y director del Centro de Humanismo tecnol¨®gico de ESADE, ha insistido sobre las implicaciones que puede tener la IA en las guerras. ¡°La inteligencia artificial es algo que est¨¢ tratando de ser alguien, pero sin conciencia. Y esto est¨¢ alterando los ejes de la capacidad humana para entender esta tecnolog¨ªa, y se visualiza de una manera muy clara en el ¨¢mbito de las armas letales¡±, ha dicho durante la presentaci¨®n. ¡°Su aplicaci¨®n en las guerras, que es una experiencia humana desgraciada que nos ha acompa?ado desde nuestros or¨ªgenes como especie, puede ser disruptiva¡±.

Asimismo, el manifiesto propone la implementaci¨®n de unas medidas regulatorias que sean ¡°jur¨ªdicamente vinculantes¡±, con el objetivo de defender a los ciudadanos de los abusos que empresas privadas ¡ªy en algunos casos, los gobiernos de Estados autoritarios¡ª pueden ejercer. Esto incluye la prohibici¨®n de publicidad microfocalizada, la protecci¨®n de neuroderechos a nivel constitucional, legislaci¨®n internacional contra armas letales aut¨®nomas y el ¡°derecho a la desconexi¨®n¡±, que garantice el acceso a servicios en especial p¨²blicos de manera no digital.

Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se ha enfocado especialmente en el acceso a datos y en la ¨¦tica en el dise?o de algoritmos, sugiriendo regulaciones para asegurar su integridad. ¡°Ahora mismo, es imposible para las empresas period¨ªsticas que tradicionalmente han elaborado informaci¨®n competir con las grandes plataformas tecnol¨®gicas¡±, ha advertido Herrero-Beaumont, que ha recomendado la prevenci¨®n de la publicidad microfocalizada como medida cr¨ªtica para evitar esta deriva.

Los firmamentos han recomendado adem¨¢s la implantaci¨®n de iniciativas educativas para mejorar la alfabetizaci¨®n digital de la poblaci¨®n, fomentando una comprensi¨®n m¨¢s profunda de los impactos y limitaciones de la tecnolog¨ªa, as¨ª como el desarrollo de habilidades cr¨ªticas para manejar la influencia tecnol¨®gica en la sociedad.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y X o apuntarte aqu¨ª para recibir nuestra newsletter semanal.