La inteligencia artificial se abre paso en la justicia espa?ola

Cuando una pareja se separa, un juez de familia dicta una pensi¨®n compensatoria alimenticia bas¨¢ndose en par¨¢metros como los ingresos del padre o la madre, o el nivel de vida en su ciudad. Pero m¨¢s pronto que tarde ser¨¢ un algoritmo el que afine de manera m¨¢s precisa la cantidad para los hijos, tras basarse en decenas de factores y habiendo aprendido de sentencias correctoras de Audiencias sobre pensiones mal dictadas por jueces de familia.

Es solo un ejemplo de las herramientas basadas en la inteligencia artificial (IA) que prev¨¦ aplicar en breve la justicia. El salto revolucionar¨¢ una administraci¨®n de tiempos lentos y procelosos, pero quedan por ajustar aspectos ¨¦ticos y normativos. ¡°Cuando un juez pueda determinar la pensi¨®n en un milisegundo no se va a quebrar la cabeza, no lo va a dudar. Y las personas afectadas podr¨¢n calcularlo de antemano, habr¨¢ m¨¢s certeza y menos litigios¡±, augura Miguel Salas, director general de la Fundaci¨®n Fial, nacida hace dos meses a modo de laboratorio de ideas para impulsar la inteligencia artificial en el ¨¢mbito legal espa?ol. ¡°La tecnolog¨ªa es un cuchillo que hay que regular, pero sin tenerle miedo¡±, resume este abogado.

Ya hay herramientas predictivas en ¨¢mbitos cercanos a la justicia, como la seguridad y la pol¨ªtica penitenciaria: la polic¨ªa utiliza Viogen para casos de violencia machista y la Generalitat emplea Riscanvi para los permisos de los presos en Catalu?a bas¨¢ndose en la regresi¨®n m¨²ltiple, una t¨¦cnica estad¨ªstica considerada como un paso previo a la IA. Pero el retraso de la justicia en inteligencia artificial respecto a otras ¨¢reas como la medicina o las finanzas se debe, seg¨²n los expertos, a lo delicado de poner en manos de algoritmos una materia tan sensible y con tantas garant¨ªas legales.

Sin embargo, los expertos creen que el aterrizaje est¨¢ m¨¢s cerca de lo que parece. El Parlamento Europeo debate estos meses la norma que luego regir¨¢ en todo el continente para dar un sello de garant¨ªa a los programas, auditarlos por un tercero autorizado y clasificarlos por niveles de riesgo alto, medio y bajo.

Carme Artigas habla sobre los retos de implementar la inteligencia artificial en Espa?a

¡°Se ve¨ªa como futuro pero es presente. La Administraci¨®n debe ser tremendamente transparente, pero es irrealista pensar que todas las empresas publicar¨¢n sus algoritmos, necesitamos supervisores que garanticen que el algoritmo est¨¢ bien entrenado y si est¨¢ sesgado, que el ciudadano pueda pedir una segunda revisi¨®n¡±, avanza Carme Artigas, secretaria de Estado de Digitalizaci¨®n e Inteligencia Artificial. El Gobierno est¨¢ a la espera de que Estrasburgo y luego la Comisi¨®n Europea muevan ficha con un reglamento sobre IA, pero ya hay dinero sobre la mesa y el Ministerio de Justicia recibir¨¢ parte de los 2.600 millones del Plan de Digitalizaci¨®n de la Administraci¨®n P¨²blica anunciado hace un mes.

Mientras aterrizan y se materializan esos planes, los grandes operadores del mundo legal est¨¢n pensando c¨®mo ordenar la revoluci¨®n que viene. Los riesgos son numerosos y la Uni¨®n Europea busca fijar pautas estrictas para marcar distancia respecto a China y Estados Unidos, los dos polos con m¨¢s desarrollo en IA donde los datos est¨¢n en manos del Gobierno y las grandes tecnol¨®gicas.

La UE pregunt¨® recientemente a los Estados miembros si eran partidarios de un modelo de certificaci¨®n avanzada en colaboraci¨®n con un organismo externo o prefer¨ªan huir de regulaciones r¨ªgidas para no lastrar el desarrollo. Espa?a ha contestado abogando por la posici¨®n intermedia: combinar la certificaci¨®n avanzada con cierta autonom¨ªa de los Estados para ir implantando herramientas. ¡°Apostamos por una certificaci¨®n que no sea bloqueante en estos momentos. Que cada pa¨ªs pueda ir avanzando con una especie de declaraci¨®n responsable mientras se regula a nivel europeo¡±, explica Aitor Cubo, director general de Transformaci¨®n Digital de la Administraci¨®n de Justicia.

En esta misma l¨ªnea se mueve Fial, en cuyo patronato se integran catedr¨¢ticos de derecho y filosof¨ªa, un magistrado del Tribunal Supremo y las presidentas del Consejo General de la Abogac¨ªa y del Colegio de Registradores, adem¨¢s de expertos y empresarios de la IA. ¡°La inteligencia artificial no se puede implantar en la justicia con una autorregulaci¨®n total porque hay implicados derechos fundamentales¡±, advierte el presidente de la fundaci¨®n, el catedr¨¢tico de Derecho Procesal V¨ªctor Moreno Catena, para quien la UE hace bien en intentar acordar unas reglas de juego. ¡°Pero optar por certificaciones r¨ªgidas tampoco parece la soluci¨®n adecuada. Hay que evitar frenar el desarrollo¡±, avisa.

Mientras llega esta regulaci¨®n, el Ministerio de Justicia tiene ya en marcha proyectos que emplean inteligencia artificial, como programas que permiten el reconocimiento de nombres de calles o de personas (y facilitar¨ªan, por ejemplo, encontrar estos datos en un expediente de miles de p¨¢ginas), textualizan las declaraciones grabadas en una vista oral o prev¨¦n situaciones de riesgo social de una familia amenazada de desahucio.

Pero el debate europeo se centra en el uso en la justicia de procesos automatizados basados en reglas. El asunto se ha puesto ya sobre la mesa en reuniones de la Conferencia Sectorial de Justicia, el ¨®rgano de cooperaci¨®n entre el Gobierno y las Comunidades, donde se trabaja para que haya un cierto orden a la espera del marco regulatorio que fije Europa. Ser¨¢ cada comunidad (y el Ejecutivo central en el caso de aquellas sin las competencias en justicia transferidas) la que decida qu¨¦ usos aplica, aunque con un l¨ªmite en el que todas las administraciones, seg¨²n el director general, est¨¢n de acuerdo: cualquier decisi¨®n la seguir¨¢ tomando el juez. ¡°Nos estamos orientando a la resoluci¨®n de conflictos y la eficacia de la Administraci¨®n de Justicia. No es la m¨¢quina la que va a decidir ni trabajamos con datos personales. No hace falta recopilar los datos personales para ser eficaz¡±, advierte Cubo.

Los expertos apuntan a algunos tipos de procedimientos que podr¨ªan ser los primeros en agilizarse con IA, como las cl¨¢usulas suelo, las reclamaciones por vuelos cancelados o las ya citadas pensiones alimenticias en casos de divorcios. Cualquier materia en la que entren en juego multitud de datos podr¨ªa ser candidata a resolverse con algoritmos, pero algunas plantean m¨¢s dudas ¨¦ticas.

Federico de Montalvo

¡°Espa?a tiene un riesgo mayor que el resto de Estados: somos muy tecnoptimistas seg¨²n las encuestas, nos creemos las virtudes de la tecnolog¨ªa y hay que ponerle l¨ªmites. Sabemos mucho de tecnolog¨ªa y poco de ¨¦tica. La inteligencia artificial se basa mucho en la igualdad pero no atiende a la equidad, a tratar desigualmente a los desiguales¡±, reflexiona Federico de Montalvo, presidente del Comit¨¦ de Bio¨¦tica de Espa?a.

El caso que revel¨® de manera m¨¢s clara los riesgos fue el programa Compas, utilizado en EE UU para calcular, seg¨²n los antecedentes penales de un acusado, sus posibilidades de reincidir. Una investigaci¨®n revel¨® en 2018 graves carencias y sesgos por parte del algoritmo respecto a las predicciones humanas. Por eso, seg¨²n Moreno Catena, hace falta un tercero que pueda certificar la ausencia de sesgos. La fundaci¨®n que preside pretende convertirse en ¡°actor¡± de la implantaci¨®n de la IA con una perspectiva ¨¦tica interviniendo en el proceso de certificaci¨®n. ¡°La inteligencia artificial es una ola y si no la afrontamos preparados, nos veremos arrollados por ella sin control¡±, a?ade el jurista, que advierte de que la ausencia actual de regulaci¨®n podr¨ªa llevar a que jueces ¡°m¨¢s tecnol¨®gicos¡± usen estos programas para agilizar su trabajo o que las grandes firmas de abogados puedan acceder a ellas mientras los juzgados y los peque?os despachos se quedan al margen.

¡°Cualquier empresa que quiera distribuir algoritmos necesitar¨¢ esa certificaci¨®n porque si no tendr¨¢ cerrado el mercado europeo¡±, sintetiza Juan Antonio Carrillo, director general de Fial y profesor de Derecho Administrativo de la Universidad de Sevilla. ¡°A partir de par¨¢metros estandarizados y de las directrices que fije la Uni¨®n Europea, las certificadoras verificar¨¢n c¨®mo es el algoritmo, c¨®mo cambia, c¨®mo se autoperfecciona y aprende¡±,

El Consejo General de la Abogac¨ªa Espa?ola se ha implicado tambi¨¦n en Fial para aportar su punto de vista a un proceso que se ve como ¡°una oportunidad¡±. ¡°No estamos automatizando la justicia, sino haci¨¦ndola m¨¢s eficiente, con ahorro de trabajo y tiempo. Y a la vez, hacerla m¨¢s accesible y con ello m¨¢s transparente¡±, se?ala su presidenta, Victoria Ortega. Ya hay consenso en que la IA puede aplicarse garantizando el derecho a una tutela judicial efectiva, asegura Ortega, y ahora se est¨¢ en una segunda fase: determinar en qu¨¦ ¨¢mbitos es posible aplicar el tratamiento masivo de datos respetando ese derecho.

Espa?a no est¨¢ siguiendo exactamente ning¨²n modelo de los ya implantados en otros pa¨ªses. ¡°Se trata de configurar nuestro propio modelo a partir del conocimiento del resto¡±, afirma la presidenta del Consejo de la Abogac¨ªa. Entre los referentes m¨¢s interesantes varios de los expertos consultados citan el caso de Estonia, que prev¨¦ resolver pr¨®ximamente los conflictos judiciales de reclamaciones menores a 7.000 euros mediante algoritmos. ¡°Las resistencias a la inteligencia artificial son normales pero err¨®neas. En menos de cinco a?os los jueces automatizar¨¢n parte de su trabajo a niveles ahora impensables. No ser¨¢ uniforme, pero s¨ª palpable. Y las ventajas se notar¨¢n a todos los ¨¢mbitos, porque el primer enemigo de la econom¨ªa es el anquilosamiento de los conflictos¡±, vaticina el abogado Miguel Salas.

Alejandro Huergo, catedr¨¢tico de Derecho Administrativo en la Universidad de Oviedo y autor de La regulaci¨®n de los algoritmos, aboga por una ¡°transparencia total¡± para que ¡°toda decisi¨®n sea recurrible¡±: ¡°El algoritmo no puede quitarle garant¨ªas a los procesos, pero no le exijamos lo que no pedimos al humano¡±.

Nuria Oliver, cofundadora de ELLIS (Laboratorio Europeo para el Aprendizaje y los Sistemas Inteligentes, por sus siglas en ingl¨¦s) y doctora en inteligencia artificial, recuerda los estudios que analizaron c¨®mo los jueces eran m¨¢s y menos ben¨¦volos en sus decisiones antes o despu¨¦s de comer. ¡°Hay que analizar computacionalmente casos para ver patrones preexistentes en decisiones humanas y entender las ¨¢reas de mejora. Un algoritmo no tiene hambre¡±.

Puedes seguir a EL PA?S TECNOLOG?A en Facebook, Twitter, Instagram o suscribirte aqu¨ª a nuestra Newsletter.