Europa inaugura su herramienta para abrir las cajas negras de los algoritmos en Internet

Mar¨ªa y Alejandra utilizan la misma red social, sin embargo, el contenido al que acceden es muy diferente. Todo depende de la informaci¨®n que introducen en sus b¨²squedas, con esos datos los motores de b¨²squeda pueden llegar a ofrecer un contenido tan hiperpersonalizado que pueda llegar a fabricar realidades tan diferentes para cada una de ellas, con los riesgos a?adidos tanto para ellas como para el resto de la sociedad. Este es un caso pr¨¢ctico con los que ya est¨¢ trabajando el equipo multidisciplinar de trabajadores del Centro Europeo para la Transparencia Algor¨ªtmica (ECAT por sus siglas en ingl¨¦s) que este martes se inaugura de manera oficial en Sevilla y que est¨¢ llamado a convertirse en la principal herramienta de la Comisi¨®n Europea para garantizar que las grandes plataformas digitales cumplen con los principios para garantizar el buen funcionamiento y el control de contenidos il¨ªcitos y perjudiciales en Internet que recoge la Directiva de Servicios Digitales, que entr¨® en vigor el pasado mes de noviembre.

Los mecanismos de transparencia establecidos en la DSA y que las grandes plataformas digitales (las que tienen m¨¢s de 45 millones de usuarios y suponen el 10% del mercado potencial europeo), que obligan a sus propietarias a identificar y controlar los riesgos de sus sistemas algor¨ªtmicos hubieran podido alertar a Mar¨ªa y Alejandra. Controlar que los gigantes de Internet realizan correctamente esa autoevaluaci¨®n y anticiparse ante cualquier posibilidad de evadirlos ser¨¢ una de las principales funciones del ECAT. El centro tiene la enorme responsabilidad de abrir las cajas negras de los sistemas algor¨ªtmicos, descifrarlos y asegurar que cumplen con los criterios de la normativa europea.

¡°Este es un gran paso porque hay una enorme expectaci¨®n, ya que estamos mostrando al mundo que aplicar normas acaba marcando la diferencia sobre el terreno y que eso puede cambiar la actitud de las grandes plataformas, que deben asumir su responsabilidad social y no solo mirar por el crecimiento de su negocio¡±, se?ala un alto funcionario de la Comisi¨®n involucrado en la implementaci¨®n de la DSA. Los algoritmos y su uso son objeto de debate en muchos ¨¢mbitos, la diferencia que marca el ECAT es que su investigaci¨®n se realiza con el prop¨®sito de apoyar a los servicios legales de la Comisi¨®n para asegurar que la normativa se cumple.

El ECAT tiene su base en la sede en el Centro Com¨²n de Investigaci¨®n (JRC) que la Comisi¨®n tiene en Sevilla. De momento cuenta con 10 expertos en distintas materias no solo relacionadas con la inform¨¢tica, la inteligencia artificial o el Big Data, pero tambi¨¦n con disciplinas de car¨¢cter social, porque uno de los objetivos es detectar que las grandes compa?¨ªas y buscadores cumplen con las obligaciones relacionadas con la protecci¨®n de la infancia, que no se incita a la violencia de g¨¦nero o que los contenidos no son un riesgo para la salud mental. El objetivo es que en los pr¨®ximos meses el equipo se ampl¨ªe hasta los 30 especialistas y que en una segunda fase crezca hasta los 40.

Adem¨¢s de la tarea de supervisi¨®n de la documentaci¨®n que los gigantes de Internet les brinden sobre su autoevaluaci¨®n, que es previamente auditada por una tercera empresa, el ECAT puede tambi¨¦n iniciar investigaciones a trav¨¦s de denuncias de terceros o cuando detecte que no se est¨¢ cumpliendo con la DSA. Toda esa informaci¨®n servir¨¢ para poder armas causas legales contra estas empresas en el caso de que haya evidencias de malas pr¨¢cticas. Con todo, desde la Comisi¨®n se quiere dejar claro que el ECAT no pretende ser un ¡°Ministerio de la Verdad¡±. ¡°Si detectamos que se est¨¢ alojando o se est¨¢ derivando a contenido ilegal o se est¨¢ distribuyendo informaci¨®n falsa y no se elimina y se corrige, podemos actuar. La carga de probar que no est¨¢n actuando correctamente recae en las empresas¡±, se?ala el funcionario. En este sentido, Bruselas est¨¢ trabajando en establecer los par¨¢metros para que las grandes compa?¨ªas puedan realizar sus autoevaluaciones de riesgo en materias como la privacidad, la protecci¨®n de la salud mental¡­

En esa tarea de abrir las cajas negras hay tres pasos de transparencia que las grandes plataformas y los buscadores deben alcanzar. El primero llega al usuario medio. ¡°Las compa?¨ªas deben advertir en un lenguaje que sean capaz de entender los menores edad que acceden a sus redes, de manera que se les puedan ofrecer mejores opciones de navegaci¨®n¡±, se?ala otro responsable del ECAT. ¡°Esto otorga mayor capacidad y poder al usuario¡±. El segundo nivel es el que ata?e a la sociedad civil, expertos, ONG... ¡ª¡±esto nos ofrecer¨ªa un tipo de informaci¨®n e informes de divulgaci¨®n para los expertos¡±, se?ala el t¨¦cnico¨D. El segundo nivel muestra el par¨¢metro prospectivo que tambi¨¦n imbrica al ECAT. El nuevo centro quiere servir de puente entre la academia -universidades y grupos de investigaci¨®n- y la empresa privada -unos acuerdos que a¨²n est¨¢n por definir-.

El tercer nivel es el m¨¢s importante para los investigadores. Ese implica llegar a las tripas del algoritmo y para poder investigarlas y acceder hasta ellas, la Comisi¨®n puede designar expertos o auditores.

Las conclusiones de las investigaciones sobre el funcionamiento de los sistemas algor¨ªtmicos y su impacto tambi¨¦n ser¨¢ compartidas con el p¨²blico, siguiendo con el impulso divulgador que tambi¨¦n corresponde al ECAT, pero tambi¨¦n con el af¨¢n de poder retratar el comportamiento de las grandes compa?¨ªas. La Comisi¨®n elude entrar en las posibles fricciones o desencuentros que puedan encontrarse con los gigantes de Internet, acostumbrados a competir en un entorno m¨¢s desregulado como el de EE UU y prefiere abordarlo como una oportunidad para mejorar su imagen y generar confianza ofreciendo oportunidades en el mundo digital.

El ECAT, de la mano de los expertos, est¨¢ llamado a convertirse en el brazo de la Comisi¨®n no solo para comprender y desentra?ar como funcionan los sistemas algor¨ªtmicos para prevenir y evitar efectos indeseados, sino para garantizar a trav¨¦s de la transparencia, que lo que es ilegal en la vida real tambi¨¦n lo es en las redes sociales.

Puedes seguir a EL PA?S Tecnolog¨ªa en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.