La pr¨®xima lucha sindical: ¡°Los algoritmos se usan para contratar y despedir, deben tener supervisi¨®n humana¡±

Hombre, blanco y en la treintena. Este es el perfil mayoritario de los desarrolladores de los algoritmos que ya usan muchas empresas para tomar decisiones en el terreno de los recursos humanos, la distribuci¨®n o los h¨¢bitos de consumo. La coincidencia de estos perfiles condiciona el dise?o final de estas herramientas. ¡°Los algoritmos se nutren de datos y esos datos tienen sesgos. Los desarrolladores que crean esos algoritmos tambi¨¦n tienen sesgos (su raza, sexo o edad) y eso puede dar lugar a discriminaciones; siempre hay colectivos que van a estar en desventaja, como las mujeres o las personas racializadas¡±.

Esta denuncia llega de la secretaria general de CC OO en el Banco Santander, Noem¨ª Trabado, una de las sindicalistas que est¨¢ logrando llevar a los convenios colectivos el uso de los algoritmos y de la Inteligencia Artificial en general. Esta dirigente sindical cita, como uno de los m¨²ltiples ejemplos del fuerte impacto que pueden tener los sesgos de los algoritmos en las decisiones empresariales, el caso de una peque?a entidad de cr¨¦dito en la que una de estas herramientas para evaluar qui¨¦nes eran las personas mejor pagadoras a la hora de devolver un cr¨¦dito arrojaba constantemente que los hombres eran mejores pagadores que las mujeres. ¡°Hasta que un d¨ªa se dieron cuenta de que el hist¨®rico de los datos que usaba el algoritmo se remontaba a varios a?os de la dictadura franquista, en los que las mujeres no pod¨ªan pedir cr¨¦ditos ni siquiera tener una cuenta corriente sin autorizaci¨®n masculina, por lo que hab¨ªa varios a?os sin datos para las mujeres¡±, cuenta esta sindicalista.

Los sindicatos hace tiempo que tomaron conciencia de la necesidad de regular el uso de estas herramientas en las empresas, donde la presencia de este tipo de aplicaciones no solo es creciente, sino que empieza a ser generalizada. El acceso a las instalaciones con reconocimiento facial; la planificaci¨®n de una estrategia de ventas o marketing; la elecci¨®n de una ruta de distribuci¨®n de los productos; o los procesos de gesti¨®n de recursos humanos se dejan en manos de algoritmos o de sistemas m¨¢s complejos de IA.

¡°La inteligencia artificial ya no est¨¢ solo al alcance de las grandes empresas, ya se puede alquilar¡±, precisa Trabado, quien defiende firmemente: ¡°Estos instrumentos se usan para contratar y despedir, tienen que tener supervisi¨®n humana¡±. Como muestra, fuentes sindicales aseguran que estos sistemas est¨¢n detr¨¢s de la elecci¨®n de muchos trabajadores despedidos en los numerosos ERE aplicados por la banca o por grandes plataformas. En este punto, la gu¨ªa Informaci¨®n algor¨ªtmica en el ¨¢mbito laboral, elaborada por el Ministerio de Trabajo en mayo de 2022, recomendaba que ¡°la negociaci¨®n del algoritmo utilizado para la determinaci¨®n de las personas afectadas por el despido colectivo deber¨ªa quedar comprendido en el marco de las consultas previas¡± entre los sindicatos y la empresa en un Expediente de Regulaci¨®n de Empleo (ERE) o en otras decisiones colectivas como cambios de condiciones o un ERTE. Si bien esto no est¨¢ recogido como obligaci¨®n legal en la norma.

Precisamente, la gesti¨®n del capital humano es uno de los campos donde m¨¢s se est¨¢ generalizando la IA. As¨ª lo reconoce el director de talento del Grupo Adecco, Alberto Gavil¨¢n, quien asegura que este gigante de la selecci¨®n de personal utiliza la IA ¡°para hacer los primeros cribados en un proceso de selecci¨®n, pero nunca en momentos m¨¢s avanzados¡± del proceso, en los que la entrevista personal es ¡°imprescindible¡±. ¡°Dudo mucho que nunca vaya a ser reemplazada por una herramienta tecnol¨®gica¡±, asegura. En cualquier caso, preguntado por los sesgos algor¨ªtmicos que podr¨ªan dejar fuera de una oferta de empleo a candidatos v¨¢lidos, Gavil¨¢n asegura que ¡°sesgos tambi¨¦n los tiene un empleado de la compa?¨ªa que haga una primera selecci¨®n¡±.

En este escenario, lograr introducir cl¨¢usulas en los convenios que regulen el uso de los algoritmos y la inteligencia artificial se presenta como una de las pr¨®ximas luchas sindicales en la negociaci¨®n colectiva de sectores y, sobre todo, de empresas. Adem¨¢s de la actual normativa espa?ola sobre este asunto ¡ªque es la m¨¢s avanzada dentro de la UE a la espera de que el Parlamento Europeo saque su propuesta de reglamento, probablemente en 2024¡ª, el ¨²ltimo Acuerdo para el Empleo y la Negociaci¨®n Colectiva (AENC), firmado en mayo por las c¨²pulas patronales y sindicales, sit¨²a la negociaci¨®n sobre los derechos digitales de los trabajadores como una de las prioridades para incorporar a los convenios.

Los que primero pusieron coto a este tipo de digitalizaci¨®n de las relaciones laborales en Espa?a fueron los representantes de los trabajadores de las plataformas digitales de reparto. Su presiones, que fueron r¨¢pidamente asumidas por el Ministerio de Trabajo liderado por la vicepresidenta segunda y ministra de Trabajo en funciones, Yolanda D¨ªaz, dieron lugar a la Ley Rider, que introdujo por primera vez en el Estatuto de los Trabajadores el derecho de los comit¨¦s de empresa a ser informados por el empresario de ¡°los par¨¢metros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboraci¨®n de perfiles¡±.

Esto ocurri¨® hace ahora dos a?os, en agosto de 2021, y desde entonces los avances en el desarrollo de la regulaci¨®n de los algoritmos y la IA que usan las empresas han sido muy t¨ªmidos, a pesar de que hay un campo ampl¨ªsimo ¡ªcon m¨¢s de 4.000 convenios colectivos¡ª para acordar la utilizaci¨®n de estas herramientas en las compa?¨ªas. De momento, Trabado indica que una normativa m¨¢s detallada este tipo de regulaciones est¨¢ presente en varios convenios sectoriales nacionales como los convenios de banca; el de entidades de seguros, reaseguros y mutuas colaboradoras con la Seguridad Social; de ingenier¨ªas; de contact center; o de tecnolog¨ªas de la informaci¨®n y telecomunicaciones (TIC).

El responsable de Digitalizaci¨®n de UGT, Jos¨¦ Varela, quien trabaja tambi¨¦n en formar a los cuadros sindicales para que intensifiquen estas negociaciones en los acuerdos colectivos, se queja de que la presencia de esta regulaci¨®n es a¨²n escas¨ªsima: ¡°Apenas hay una decena de convenios que recogen el tipo de informaci¨®n que est¨¢n obligadas a facilitar las empresas en materia de algoritmos o el tipo de datos que se usan para dise?arlos¡±.

Los convenios m¨¢s adelantados

El convenio actual de banca, cuya vigencia termina a final de a?o, y en cuya negociaci¨®n particip¨® Trabado, est¨¢ entre los m¨¢s novedosos por como aborda la inteligencia artificial, incluyendo la transparencia algor¨ªtmica y la prohibici¨®n de discriminaci¨®n en el dise?o y uso de estas herramientas. Si bien la mayor¨ªa de los acuerdos colectivos ¡ªtambi¨¦n las directrices del AENC¡ª se limitan a reproducir, m¨¢s o menos, lo previsto en el Estatuto de los Trabajadores en materia de control de estas aplicaciones.

De momento, todos los expertos en la materia consultados coinciden en que es el convenio colectivo de la plataforma de reparto Just Eat es el que ha ido m¨¢s lejos en el control de los algoritmos y la IA. Adem¨¢s de recoger la ley general, este acuerdo de 2021 estipula la creaci¨®n de una Comisi¨®n Algoritmo, de car¨¢cter bipartito y formada por la empresa y los representantes de los trabajadores, que canalizar¨¢ y gestionar¨¢ toda la informaci¨®n y uso de estas herramientas. Este convenio tambi¨¦n es pionero en regular el uso del chatbot, ya que recoge el derecho de los trabajadores (repartidores en su mayor¨ªa) a saber cu¨¢ndo est¨¢n hablando con uno de estos instrumentos de la denominada IA generativa. Aunque, quiz¨¢s, entre los mayores logros de este convenio es que ¡°la empresa garantizar¨¢ que los algoritmos y/o sistemas de inteligencia usados tengan un grado de supervisi¨®n humana, al tiempo que no tengan en consideraci¨®n datos, que puedan dar lugar a la vulneraci¨®n de derechos fundamentales, como pueden ser, entre otros el sexo o la nacionalidad de las personas trabajadores¡±.

Visto este ejemplo de Just Eat, la regulaci¨®n de la IA en los convenios se podr¨ªa concretar mucho m¨¢s. El profesor de Derecho del Trabajo de la Universidad de Valencia, Adri¨¢n Todol¨ª, experto en la materia, explica los distintos niveles que pueden alcanzarse en la negociaci¨®n colectiva para incluir los algoritmos en los acuerdos colectivos. ¡°Lo que ya recoge la norma y trasladan la mayor¨ªa de los convenios que ya recogen esta materia, que a¨²n son muy pocos, es que la empresa deba informar sobre cu¨¢ndo va a utilizar estas herramientas; si lo va a hacer para medir la productividad, la velocidad del trabajo o la toma de decisiones en materia de recursos humanos; o qu¨¦ variables se utilizan para dise?ar los algoritmos que se emplean; todo esto con mayor o menor concreci¨®n¡±, explica Todol¨ª sobre lo que ya se estar¨ªa manejando en la negociaci¨®n de las condiciones laborales.

Si bien, ¡°se puede ir mucho m¨¢s all¨¢, y es a lo que aspirar¨¢n los sindicatos a partir de ahora, con reticencias esperadas por parte de las empresas¡±, a?ade Todol¨ª, autor tambi¨¦n del libro Algoritmos productivos y extractivos. C¨®mo regular la digitalizaci¨®n para mejorar el empleo e incentivar la innovaci¨®n. Este acad¨¦mico explica, por ejemplo, como los negociadores de los convenios podr¨ªan recurrir al Reglamento general de protecci¨®n de datos de la UE, que establece la intervenci¨®n humana en el uso de datos por parte de algoritmos como un derecho individual del ciudadano, ¡°y en los convenios podr¨ªa establecerse como un derecho colectivo de los trabajadores, cuando se usen estas herramientas tecnol¨®gicas¡± dice Todol¨ª.

El control de la negociaci¨®n colectiva sobre la IA podr¨ªa ser a¨²n mayor si, por ejemplo, el convenio incluyera que la supervisi¨®n humana se produjera por un tercero externo a la empresa, a trav¨¦s de una especie de auditor¨ªa o sello de calidad. Y, en ¨²ltima instancia, empresa y trabajadores podr¨ªan llegar a acordar que un comit¨¦ bipartito tuviera que aprobar el uso de los algoritmos y la IA en general en la compa?¨ªa, a?ade este acad¨¦mico.

Ganar m¨¢s por ceder los datos para los algoritmos

Por su parte, Varela (UGT) introduce dos interesantes variables en estas negociaciones entre empresas o patronales y sindicatos. La primera consiste en que si el uso de los algoritmos se evaluara, por ejemplo, en t¨¦rminos de aumento de productividad en la empresa, ¡°los trabajadores podr¨ªan reivindicar el pago de una parte de esas mejoras por haber prestado sus datos para hacer esos algoritmos y utilizarlos, as¨ª como por servir de banco de pruebas a la hora de aplicarlos¡±, asegura este responsable sindical.

Y, en segundo lugar, pone sobre la mesa lo diluidas que quedan las responsabilidades en el uso de los algoritmos para tomar decisiones laborales. ¡°Si el uso de la IA sale mal, ?qui¨¦n es el responsable? La empresa que lo ha dise?ado, la que lo ha utilizado sin evaluaci¨®n previa ni supervisi¨®n o el inform¨¢tico que le hizo un parche a la herramienta¡±, se pregunta Varela.

En ambos casos la regulaci¨®n detallada de estos instrumentos de gesti¨®n en un convenio podr¨ªa aclarar las situaciones. Lo contrario, seguir reproduciendo solo lo que dice la ley sin concretar mucho m¨¢s, ¡°solo generar¨¢ inseguridad jur¨ªdica, porque como ocurre con el resto de las relaciones laborales, lo que no se detalla en los convenios, queda a discreci¨®n de los jueces aterrizarlo a la realidad, lo que genera la citada inseguridad a las empresas¡±, concluye el profesor Adri¨¢n Todol¨ª.

Sigue toda la informaci¨®n de Econom¨ªa y Negocios en Facebook y Twitter, o en nuestra newsletter semanal