Las m¨¢quinas no son feministas ni hacen huelga

En la v¨ªspera del D¨ªa Internacional de la Mujer y la huelga feminista convocada bajo el lema ¡°Si las mujeres paramos, se para el mundo¡±, es bueno recordar que las m¨¢quinas no paran (especialmente, las basadas en sistemas aut¨®nomos o de Inteligencia Artificial) y que gran parte -cada vez mayor- de las decisiones que se toman en la actualidad se toman por dichas m¨¢quinas.

Se ha escrito mucho sobre el sesgo discriminatorio (negativo) que pueden tener las decisiones automatizadas, por los prejuicios, muchas veces inconscientes, que han transmitido a las m¨¢quinas quienes las han programado. En este caso, el sesgo machista que se observa en algunos algoritmos, debido a que quienes programan la inteligencia artificial suelen ser, en su mayor¨ªa, hombres.

Por eso, como ya he dicho en alguna ocasi¨®n, se me ocurren pocas tareas m¨¢s importantes para avanzar en la lucha por la igualdad que, no s¨®lo supervisar, sino participar activamente en la educaci¨®n de las m¨¢quinas, porque en un futuro muchas decisiones van a depender de ellas. Por lo que resulta imprescindible que cada vez m¨¢s mujeres se impliquen en estas tareas.

Derecho de informaci¨®n y de acceso

Una novedad -poco conocida por ahora- es el derecho que viene a reconocer el Reglamento europeo de Protecci¨®n de Datos a los titulares de datos personales a ser informados por el responsable del tratamiento en el momento en que se obtengan los datos (arts. 13.2.f y 14.2.g) y a obtener la confirmaci¨®n (art. 15.1.h) de la existencia de decisiones automatizadas, incluida la elaboraci¨®n de perfiles.

Ante la sospecha de que en las decisiones individuales automatizadas haya un sesgo machista y una discriminaci¨®n (negativa) por raz¨®n de g¨¦nero, podemos pedir a una empresa o administraci¨®n que nos expliquen ¡°la l¨®gica aplicada¡±?

Estos derechos (de informaci¨®n y acceso) de los titulares de datos personales, que, al mismo tiempo, son obligaciones de los responsables de los tratamientos, se establecen ¡°para garantizar un tratamiento de datos leal y transparente¡±, pues la lealtad es un principio recogido no s¨®lo en el RGPD (art. 5.1.a), sino tambi¨¦n en la Carta de los Derechos Fundamentales de la UE (art. 8.2).

Adem¨¢s, a?ade el RGPD que, en el caso de que existan decisiones individuales automatizadas, el titular de los datos tiene el derecho a recibir del responsable del tratamiento ¡°informaci¨®n significativa¡± sobre 1) la l¨®gica aplicada (algoritmos), as¨ª como 2) la importancia y las consecuencias previstas (jur¨ªdicas o similares) de dicho tratamiento -de datos personales- para el titular.

Decisiones automatizadas y derecho de impugnaci¨®n

Estos derechos (y obligaciones) de informaci¨®n sobre la existencia de decisiones individuales automatizadas, en realidad, son una excepci¨®n al derecho de toda persona ¡°a no ser objeto de una decisi¨®n basada ¨²nicamente en el tratamiento automatizado, incluida la elaboraci¨®n de perfiles, que produzca efectos jur¨ªdicos en ¨¦l o le afecte significativamente de modo similar¡± (art. 22.1).

Pero, como ocurre muchas veces en el RGPD, primero se enuncia un principio o prohibici¨®n general para, a continuaci¨®n, enumerar las m¨²ltiples excepciones: cuando la decisi¨®n individual automatizada: 1) sea necesaria para la celebraci¨®n o ejecuci¨®n de un contrato entre el interesado y un responsable del tratamiento, 2) est¨¦ autorizada por ley, o 3) se base en el consentimiento expl¨ªcito del titular.

Eso s¨ª, siempre se deben adoptar las medidas adecuadas para salvaguardar los derechos y libertades y los intereses leg¨ªtimos del titular (incluido el derecho a la igualdad y a la no discriminaci¨®n). Y el RGPD a?ade que, como m¨ªnimo, el titular de los datos personales tiene el derecho a: 1) obtener intervenci¨®n humana por parte del responsable, 2) expresar su punto de vista, y 3) impugnar la decisi¨®n.

Algoritmos y discriminaci¨®n positiva

As¨ª que, ante la sospecha de que, en las decisiones individuales automatizadas, incluida la elaboraci¨®n de perfiles, haya un sesgo machista y una discriminaci¨®n (negativa) por raz¨®n de g¨¦nero, podemos pedir a una empresa o administraci¨®n que nos expliquen ¡°la l¨®gica aplicada¡± (es decir, c¨®mo funcionan los algoritmos) y, en el caso de no estar conformes, impugnar dichas decisiones.?

Aunque no queda claro en el RGPD hasta qu¨¦ nivel de detalle se pueden exigir explicaciones sobre el funcionamiento de los algoritmos (habla de ¡°informaci¨®n significativa¡±). Si bien, aplicando los principios de lealtad y transparencia, debe ser suficientemente clara como para que el titular de los datos lo entienda. Y, por otra parte, tampoco queda claro el procedimiento de impugnaci¨®n y sus efectos.

Por ¨²ltimo, y como propuesta de reflexi¨®n para el D¨ªa Internacional de la Mujer, cabe preguntarse si, en virtud de la Carta de los Derechos Fundamentales de la UE, se puede exigir que en las decisiones individuales automatizadas (basadas en algoritmos) no s¨®lo no se produzca una discriminaci¨®n negativa (art. 21), sino que se adopten criterios o medidas de discriminaci¨®n positiva (art. 23).

Borja Adsuara es experto en derecho, estrategia y comunicaci¨®n digital