Un pu?ado de consejos (¨¦ticos y legales) que deber¨ªamos aplicar al big data desde ya

Ya lo sabes: si aspiras a un puesto trabajo, puede que parte del proceso de selecci¨®n no est¨¦ en manos de un ser humano sino de una m¨¢quina. Igual si quieres contratar un seguro o solicitar una beca. Datos de salud, de la capacidad para pagar un coche, notas escolares o h¨¢bitos de compra. Aplicaciones para controlar los contactos con Covid o estudios de movilidad. La inteligencia artificial ayuda a optimizar el rastreo de grandes vol¨²menes de datos. Pero ?qu¨¦ pasa si se pone en peligro la privacidad? ?O si el algoritmo es err¨®neo? ?Qu¨¦ aspectos legales, ¨¦ticos y procesales deben presidir los sistemas para garantizar los derechos del ciudadano?

En teor¨ªa, tomar decisiones mediante algoritmos ¡°deber¨ªa conducir a una mayor equidad: todos son juzgados con las mismas reglas, sin sesgo. Pero ocurre exactamente lo contrario¡±, explica Celia Fern¨¢ndez Aller, profesora de la Universidad Polit¨¦cnica de Madrid especializada en interrelaciones entre las TIC y los derechos humanos. Esta experta explica que, lejos de generar igualdad, los algoritmos pueden provocar m¨¢s discriminaci¨®n: por la forma en la que razonan y por el tipo de datos que los alimentan (que pueden estar sesgados).

Adem¨¢s, los modelos de datos que se utilizan ¡°son opacos, no regulados e incontestables, incluso cuando est¨¢n equivocados¡±. Esto deriva en un refuerzo de la discriminaci¨®n: por ejemplo, explica esta profesora, si un estudiante pobre no logra un pr¨¦stamo porque un modelo lo considera demasiado arriesgado (en virtud de su c¨®digo postal), quedar¨¢ excluido del tipo de educaci¨®n que podr¨ªa sacarlo de la pobreza.

Fern¨¢ndez Aller, junto a Mar¨ªa Mercedes Serrano, profesora de Derecho Constitucional de la Universidad de Castilla-La Mancha, son autoras del informe El valor del dato en la econom¨ªa digital, publicado por la Fundaci¨®n Alternativas. El documento, que analiza cuestiones ¨¦ticas y legales del uso de grandes bases de datos en nuestro d¨ªa a d¨ªa, se?ala que los modelos matem¨¢ticos suponen ¡°el abandono de la causalidad como criterio central y su sustituci¨®n por la correlaci¨®n¡±.

La elaboraci¨®n de perfiles para tomar decisiones basadas en datos puede llevar a conclusiones que aparentemente est¨¢n relacionadas, pero que en realidad no tienen ninguna correlaci¨®n, son fruto de la casualidad. ¡°Se pierde capacidad explicativa¡± concluye el informe.

Ante esa situaci¨®n, Fern¨¢ndez Aller propone ¡°ampliar el rango de los derechos¡± de los ciudadanos, facilitarlos. Entre ellos destaca el de la ¡°explicabilidad¡± de los datos, es decir, cuando un algoritmo tome una decisi¨®n que afecte a un usuario, la instituci¨®n de la que depende debe saber explicar esa resoluci¨®n al interesado. Este podr¨¢ entonces ¡°pedir informaci¨®n y tendr¨ªa derecho a que se le explicara qui¨¦n ha tomado esa decisi¨®n y cu¨¢l ha sido la argumentaci¨®n¡±.

El informe plantea que, m¨¢s all¨¢ de c¨®digos ¨¦ticos y de conducta en big data, se deben fijar leyes de obligado cumplimiento. ¡°Nunca la existencia de un c¨®digo de conducta puede sustituir el papel de una legislaci¨®n jur¨ªdicamente exigible que garantice un marco protector de los derechos¡±, se?ala el documento. ¡°El establecimiento de sanciones econ¨®micas ha sido siempre un factor que ayuda en el cumplimiento de las normas de convivencia¡±. M¨¢s a¨²n cuando el manejo de esos datos puede ser determinante en nuestra vida.

Otra medida que se plantea es un r¨¦gimen de rendici¨®n de cuentas. Es decir, que una organizaci¨®n que trate datos sea responsable en caso de abuso. El documento apunta que deber¨ªan desarrollarse m¨¢s las p¨®lizas de seguros que cubran a una empresa ante posibles casos de fraude.

Tambi¨¦n se plantea obligar a las organizaciones a reforzar la transparencia a trav¨¦s de las p¨¢ginas web corporativas. O ahondar en el principio de consentimiento con el derecho de oposici¨®n para quien no desee formar parte de un tratamiento masivo de datos personales. Ambos ¡°deben regirse con flexibilidad¡± para no frenar la innovaci¨®n.

Las expertas reconocen que la regulaci¨®n ¡°va a ser complicada¡±, ya que estos aspectos no suelen ser prioritarios. Por ello, es importante la sensibilizaci¨®n: si se convierten en ¡°temas importantes para la ciudadan¨ªa, esta presionar¨¢¡±.