RisCanvi: luces y sombras del algoritmo que ayuda al juez en Catalu?a a decidir si mereces la condicional

Cuando un recluso solicita en Espa?a ciertos permisos, como el tercer grado o la libertad condicional, el juez que debe autorizar o denegar la petici¨®n recibe un informe sobre el interno. Ese documento, elaborado por un equipo interdisciplinario del centro penitenciario, aporta elementos sobre los que sostener la decisi¨®n. En Catalu?a, parte de ese informe lo elabora un algoritmo. Se llama RisCanvi y, desde hace 12 a?os, calcula el riesgo de reincidencia de los presos. Pese a llevar tanto tiempo activo, poca gente sabe que una evaluaci¨®n tan sensible como esta recae sobre una m¨¢quina. La conveniencia de usar un sistema autom¨¢tico en estas labores divide a los expertos. Su efectividad, a la luz de los datos disponibles, no es mala.

La herramienta se aplica a todo aqu¨¦l que entra en prisi¨®n. Los presos del proc¨¦s no han sido una excepci¨®n: nadie se libra del reconocimiento f¨ªsico, del psicol¨®gico ni del algor¨ªtmico, si bien esos informes son confidenciales. RisCanvi se actualiza cada seis meses con datos aportados al sistema por los funcionarios. En un primer momento se aplica una versi¨®n corta del sistema (RisCanvi Screening), que consta de diez ¨ªtems, como el historial violento del recluso, la edad a la que delinqui¨® por primera vez, si tiene problemas con las drogas o el alcohol o si tiene recursos y apoyo familiar. El resultado que arroja el algoritmo puede ser riesgo bajo o riesgo alto. En caso de que sea alto se recurre a la versi¨®n extendida, compuesta por 43 elementos y para cuya elaboraci¨®n hace falta tambi¨¦n que un funcionario realice una entrevista pautada con el interno.

En la versi¨®n completa de RisCanvi se tienen en cuenta cuestiones como la distancia entre su domicilio y la c¨¢rcel, la historia criminal de su entorno, el nivel educativo, dificultades de socializaci¨®n, cociente intelectual, des¨®rdenes de personalidad, si el interesado es la principal fuente de ingresos de la familia o su nivel de impulsividad e inestabilidad emocional. Cada uno de estos elementos es ponderado autom¨¢ticamente y su peso varia dependiendo del sexo, la edad y la nacionalidad. El veredicto final del algoritmo puede ser riesgo bajo, medio o alto.

Unas 800 psic¨®logos, juristas, crimin¨®logos, educadores o trabajadores sociales operan habitualmente con este programa. El algoritmo se alimenta de las valoraciones sobre los reclusos que van a?adiendo los funcionarios y de las propias bases de datos de las prisiones (d¨ªas de condena, sanciones, etc¨¦tera).

Los defensores de RisCanvi (contracci¨®n de risc y canvi, riesgo y cambio en catal¨¢n) sostienen que esta herramienta ha aportado claridad y rigor en un procedimiento muy sensible. Las voces cr¨ªticas reclaman que se deber¨ªa someter a auditor¨ªas algor¨ªtmicas anuales y que se aclare qu¨¦ peso debe tener el veredicto de este sistema en la decisi¨®n final que tome el juez.

Inspiraci¨®n anglosajona

Catalu?a tiene competencias espec¨ªficas en el ¨¢mbito penitenciario. Se rige por las mismas leyes que el resto de Espa?a, pero la gesti¨®n de los centros es propia. De ah¨ª que pudiera implantar este sistema, inexistente en otras comunidades pero similar a los que funcionan en pa¨ªses como Canad¨¢, Estados Unidos o Reino Unido.

En esas experiencias se fijaron sus promotores. ¡°Quer¨ªamos tener m¨¢s acierto en el pron¨®stico, sobre todo con los reclusos de riesgo bajo y que a veces estaban en la c¨¢rcel sin salir¡±, recuerda Jordi Camps, jefe de servicios de rehabilitaci¨®n de la Direcci¨®n General de Asuntos Penitenciarios. ¡°Entendimos que un m¨¦todo m¨¢s cient¨ªfico nos pod¨ªa ayudar a unificar criterios de predicci¨®n y mejorar dichos pron¨®sticos¡±.

El equipo de Camps se puso en contacto en 2007 con el Grupo de Estudios Avanzados en Violencia de la Universitat de Barcelona (UB), cuyos investigadores son pioneros en la predicci¨®n de conductas violentas. ¡°Durante dos a?os estuvimos estudiando los factores de riesgo de los internos y seleccionamos los que tienen una capacidad predictiva. Se organiz¨® en forma de cuestionario y se elaboraron los algoritmos para hacer las predicciones¡±, explica el doctor Antonio Andr¨¦s Pueyo, catedr¨¢tico de Psicolog¨ªa y director del grupo de investigaci¨®n que desarroll¨® RisCanvi.

Del an¨¢lisis de una base de datos con 800 casos se obtuvieron los 43 ¨ªtems de que consta hoy la herramienta, en cuyo funcionamiento no interviene la inteligencia artificial. ¡°El sistema se construy¨® con t¨¦cnicas b¨¢sicas de regresi¨®n m¨²ltiple, no tiene gran complejidad¡±, subraya Pueyo.

El algoritmo vio la luz en 2009 y, desde entonces, se ha ido reajustando y recalibrando. ¡°Se basaron en el sistema OASys de Reino Unido y otros como el holand¨¦s o el canadiense, pero dise?aron un instrumento adaptado a nuestros factores de riesgo particulares¡±, apunta Marian Mart¨ªnez, psic¨®loga de la Unidad de Programas de Intervenci¨®n Especializada de Asuntos Penitenciarios.

?Funciona bien?

Yendo al detalle, RisCanvi predice cinco cosas: reincidencia general, reincidencia violenta, violencia intra penitenciaria, autolesiones en la prisi¨®n y quebrantamiento de permisos. ¡°Despu¨¦s de estar analizando los datos un par de a?os creo que RisCanvi no es dr¨¢sticamente mejor ni peor que sistemas similares de otros pa¨ªses¡±, concluye Carlos Castillo, profesor del departamento de Tecnolog¨ªas de la Informaci¨®n y Comunicaci¨®n de la Universitat Pompeu Fabra.

Castillo ha tenido acceso al algoritmo de RisCanvi. El suyo es de los pocos estudios independientes que se han hecho sobre esta herramienta. ¡°El nivel AUC [un indicador usado en los an¨¢lisis de rendimiento algor¨ªtmicos] es de 0,7, donde 0,5 es azar y 1,0 es un sistema perfecto. Lo interesante es que si pides a un humano que realice esa tarea con la informaci¨®n de los 43 ¨ªtems se obtiene un rendimiento m¨¢s o menos del mismo orden¡±, ilustra. Eso habla muy bien de los elementos que analiza la herramienta. Su identificaci¨®n y descripci¨®n, y no tanto el aspecto mec¨¢nico, es para Castillo la mayor fortaleza de RisCanvi.

El ¨²nico estudio p¨²blico que eval¨²a el rendimiento del algoritmo lo hizo el Centre d¡¯Estudis Jur¨ªdics y Formaci¨® Especialitzada (CEJFE) en 2014 y mide la reincidencia de los presos durante los primeros cuatro a?os tras salir de la c¨¢rcel. Las conclusiones son contundentes: el 77% de los internos a los que se identific¨® como de riesgo medio o alto reincidieron. Y el 57% de los que no volvieron a delinquir hab¨ªan sido etiquetados como de bajo riesgo.

La valoraci¨®n que hace RisCanvi de los internos puede ser modificada por el profesional que est¨¦ preparando el informe si considera que no es adecuada. Seg¨²n Camps, eso pasa solo en el 1% de los casos. Por otra parte, ¡°que el riesgo de reincidencia detectado por RisCanvi sea alto no significa necesariamente que el recluso no vaya a salir, sino que hay que tomar medidas adicionales, como reducir el permiso o ponerle una pulsera telem¨¢tica¡±, ilustra Mart¨ªnez. ¡°Si sigue us¨¢ndose 12 a?os despu¨¦s quiere decir que funciona a nivel interno y que ninguna crisis ha arrojado sospechas sobre el sistema¡±, concluye Pueyo.

¡°RisCanvi es bueno en la detecci¨®n de casos de bajo riesgo, que era uno de los objetivos¡±, apunta Camps. ¡°Unifica los criterios y pone orden en cu¨¢les son los factores de riesgo que pueden predecir determinadas conductas¡±. Camps recuerda que quienes trabajan con los reclusos pueden tener sus propios sesgos. Los violadores, por ejemplo, suelen tener muy buena conducta en prisi¨®n, y eso podr¨ªa cegar la valoraci¨®n de un funcionario. Tambi¨¦n puede haber quien penalice a los reclusos de etnia gitana o drogadictos. Todos estos sesgos quedar¨ªan atenuados gracias al algoritmo.

Falta de transparencia

¡°Hasta el momento no hemos encontrado evidencias de que RisCanvi contenga grandes discriminaciones¡±, asegura Castillo. Con todo, el investigador opina que el algoritmo deber¨ªa someterse a un escrutinio mucho mayor. El borrador de Reglamento Europeo de la Inteligencia Artificial, de hecho, enmarca a un sistema como RisCanvi entre los de riesgo alto. ¡°Que una persona est¨¦ en la c¨¢rcel es el resultado de capas y capas de marginalizaci¨®n y exclusi¨®n. Los datos de justicia penal son de los m¨¢s sesgados que puede haber. Por eso hay que tener especial cuidado con ellos y con los algoritmos que se les vayan a aplicar¡±, argumenta Castillo

La consultora Eticas Consulting har¨¢ una auditor¨ªa externa del algoritmo en el tercer trimestre de este a?o. ¡°Aplicaremos ingenier¨ªa inversa para analizar el sistema: hablaremos con los afectados para ver si se ha discriminado a alg¨²n colectivo¡±, subraya su directora general, Gemma Gald¨®n. Le preocupa que el veredicto del algoritmo pueda ser considerado o no por el funcionario. ¡°Ese es un problema grav¨ªsimo. Si implementas un algoritmo tiene que haber unas instrucciones clar¨ªsimas al respecto. Si lo dejas a la discreci¨®n del usuario siempre habr¨¢ quien conf¨ªe m¨¢s en la decisi¨®n del software y simplemente lo valide¡±.

¡°Es importante ver c¨®mo funciona un algoritmo, pero lo es m¨¢s conocer c¨®mo se est¨¢ utilizando¡±, coincide Lorena Jaume-Palas¨ª, experta en ¨¦tica de los algoritmos y asesora del Gobierno y del Parlamento Europeo. ¡°Hay gente que se esconde detr¨¢s del algoritmo cuando le conviene y tambi¨¦n son capaces de rechazar esas sugerencias cuando no cuadran con sus prejuicios. Ya hemos visto que los jueces racistas de EE UU coincid¨ªan con el sistema Compas solo si era severo con los negros¡±.

¡°RisCanvi tiene mucho margen de mejora¡±, reconoce Camps. Aunque su valoraci¨®n va en otra l¨ªnea: ¡°Creo que en breve iremos hacia el uso del machine learning o de alguna modalidad de an¨¢lisis m¨¢s sofisticada que la que tenemos ahora¡±.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook y Twitter o apuntarte aqu¨ª para recibir nuestra newsletter semanal.