Sentencias falsas, leyes extranjeras y filtrado de datos: los riesgos de usar ChatGPT se cuelan en los despachos de abogados

La inteligencia artificial (IA) est¨¢ revolucionando numerosos sectores. Poco a poco, comienza a ser habitual el uso de esta herramienta en el d¨ªa a d¨ªa de los trabajadores. El sector legal no se queda atr¨¢s. La automatizaci¨®n de tareas rutinarias, el an¨¢lisis de grandes vol¨²menes de informaci¨®n e incluso la redacci¨®n de documentos est¨¢n siendo un gran atractivo para muchos despachos de abogados que ven con buenos ojos apoyarse en ella. La denominada IA generativa (capaz de generar contenido) est¨¢ al alcance de todos, si bien su uso incorrecto puede tener graves consecuencias, que pueden ir desde la afectaci¨®n de derechos fundamentales, como la vulneraci¨®n de la protecci¨®n de datos, hasta faltar a la ¨¦tica profesional y perjudicar la asistencia legal a los ciudadanos.

En 2023 dio la vuelta al mundo el caso de dos abogados estadounidenses que fueron condenados a pagar una multa de 5.000 d¨®lares por presentar un escrito judicial utilizando ChatGPT, que incluy¨® decisiones judiciales inexistentes. Ambos letrados trabajaban en una demanda contra la aerol¨ªnea Avianca, en defensa de un pasajero que sufri¨® una lesi¨®n por el golpe del carrito de servicio durante un vuelo. El abogado que encabez¨® el procedimiento admiti¨® haber usado la inteligencia artificial para preparar el escrito y que la ¨²nica verificaci¨®n que hab¨ªa llevado a cabo era preguntar a la aplicaci¨®n si los casos que citaban eran reales. Finalmente, el juez solo se le impuso una sanci¨®n como castigo por actuar de mala fe.

En Espa?a tambi¨¦n se han dado casos. El m¨¢s reciente conocido es el de un abogado que present¨® en un juzgado de Navarra una querella escrita por la aplicaci¨®n propiedad de OpenAI que conten¨ªa una referencia al C¨®digo Penal de Colombia. Cuando se detect¨® el error, el letrado pidi¨® disculpas y reconoci¨® su uso deficiente del sistema. El Tribunal Superior de Justicia de Navarra, que analiz¨® pormenorizadamente lo sucedido, dej¨® pasar el asunto y no impuso ninguna sanci¨®n. No obstante, advirti¨® de los riesgos ¨¦ticos y legales que tiene la utilizaci¨®n de tecnolog¨ªas emergentes en el ¨¢mbito legal y destac¨® la importancia de un uso responsable.

Bufetes de abogados y asesor¨ªas jur¨ªdicas de empresas est¨¢n experimentando e incorporando este tipo de herramientas inform¨¢ticas para agilizar tareas que requieren mucho tiempo, pero para las que no es necesaria tanta especializaci¨®n jur¨ªdica, como la gesti¨®n de documentos o la revisi¨®n de contratos. ¡°La inteligencia artificial puede ayudar a los profesionales, de cualquier rama, a mejorar la eficiencia y la precisi¨®n de su trabajo. Tambi¨¦n, puede reducir el tiempo y los costos asociados con las tareas legales rutinarias. Por ello, no es de extra?ar que una de las ¨¢reas donde la IA est¨¢ teniendo mayor penetraci¨®n es en la elaboraci¨®n de contratos y documentos legales¡±, afirm¨® el decano del Ilustre Colegio de la Abogac¨ªa de Madrid, Eugenio Rib¨®n, en junio de 2023 durante el Foro Justicia que celebra la instituci¨®n.

Para Isabel Rodr¨ªguez, responsable del ¨¢rea de servicios profesionales en Accenture en Espa?a, la inteligencia artificial tiene ¡°un gran potencial¡± en los servicios jur¨ªdicos, pero explica que la utilizaci¨®n de este sistema debe ¡°ser responsable y rigurosa para evitar sesgos o discriminaci¨®n¡±. ¡°El uso de la IA en fuentes abiertas plantea riesgos en aspectos como la fiabilidad de la informaci¨®n, la falta de contexto jur¨ªdico local y la vulnerabilidad en la privacidad y confidencialidad. Las plataformas de IA en el ¨¢mbito legal manejan grandes vol¨²menes de informaci¨®n confidencial, incluyendo detalles de contratos y datos sensibles de las partes involucradas. Para mitigar estos riesgos, es fundamental garantizar la calidad de la informaci¨®n, utilizar modelos especializados y crear entornos seguros para el acceso a los datos¡±, indica.

Miguel Aznar, abogado y socio de Balder IP Lawyers, alerta de que en consultas de asuntos legales, estos sistemas inform¨¢ticos ¡°obtienen informaci¨®n de fuentes no fiables, suple la falta de conocimientos invent¨¢ndoselos, suministra informaci¨®n legal desactualizada o que no cumple con los requisitos legales aplicables al caso, lo cual puede tener consecuencias muy negativas en la defensa de los clientes y en la propia reputaci¨®n del despacho¡±. ¡°Una excesiva dependencia de la IA puede hacer que los profesionales se relajen y deleguen ese esfuerzo en estas herramientas que, al menos de momento, no les va a ofrecer soluciones o estrategias que requieren un profundo an¨¢lisis legal¡±, apostilla.

Entonces, ?cu¨¢les son las consecuencias que tiene la inclusi¨®n de datos err¨®neos, la posible vulneraci¨®n de derechos o un asesoramiento incorrecto? El Tribunal Constitucional reproch¨® la ¡°falta del debido respeto al tribunal¡± a un abogado que present¨® un recurso que citaba literalmente pasajes de 19 supuestas sentencias del tribunal de garant¨ªas que no eran reales. En este caso, el letrado aleg¨® que el error proced¨ªa de la desconfiguraci¨®n de una base de datos con jurisprudencia. Sin embargo, el tribunal de garant¨ªas tach¨® la actuaci¨®n de ¡°desprecio jurisdiccional¡± y recrimin¨® que no se comprobara la veracidad o la procedencia de las referencias. ¡°Fuera cual fuese la causa de la inclusi¨®n de citas irreales (uso de la inteligencia artificial, entrecomillado de argumentos propios, etc¨¦tera), el letrado es siempre responsable de revisar exhaustivamente todo el contenido de este y de cualquier escrito¡±, indic¨® en un acuerdo firmado en septiembre de 2024. A este abogado solo le cay¨® la sanci¨®n m¨ªnima de apercibimiento y su caso se mand¨® al Colegio de Abogados de Barcelona para que valore el castigo disciplinario correspondiente.

Sin normas espec¨ªficas en la Abogac¨ªa

La Ley de Enjuiciamiento Civil espa?ola exige el respeto a las reglas de la buena fe procesal con sanciones que van desde el apercibimiento hasta multas que oscilan entre 180 y 6.000 euros. Aun as¨ª, m¨¢s all¨¢ de las normas internacionales sobre IA, no existe una regulaci¨®n espec¨ªfica su uso ni en el ¨¢mbito legal ni judicial, pero s¨ª unas recomendaciones o gu¨ªas para su uso correcto. El Comit¨¦ T¨¦cnico Estatal de la Administraci¨®n Judicial Electr¨®nica (CTEAJE), compuesto por el Ministerio de Justicia, el Consejo General del Poder Judicial (CGPJ), la Fiscal¨ªa General del Estado y las comunidades aut¨®nomas con competencias transferidas, public¨® en junio de 2024 una pol¨ªtica de criterios m¨ªnimos, con un desglose de usos aceptados y prohibidos en el ¨¢mbito de la Administraci¨®n de Justicia. Asimismo, el propio CGPJ constituy¨® el pasado septiembre un grupo de trabajo especial para el estudio y an¨¢lisis de las implicaciones de esta herramienta en el ejercicio de la funci¨®n jurisdiccional.

En el ¨¢mbito de los abogados, Manuel Mata, decano del Colegio de Castell¨®n y presidente de la Comisi¨®n de Deontolog¨ªa del Consejo General de la Abogac¨ªa de Espa?a (CGAE), asegura que los estatutos generales de la profesi¨®n como el c¨®digo deontol¨®gico cuentan con ¡°suficientes elementos para atajar o contrarrestar los riesgos que supone¡± el uso de inteligencia artificial generativa, al tiempo que apunta que el avance de esta tecnolog¨ªa es ¡°tan r¨¢pida¡±, que hace imposible adaptar la regulaci¨®n de manera de forma simult¨¢nea. No obstante, precisa que ello no impide el an¨¢lisis de la incidencia que puede tener la IA en la profesi¨®n para advertir de posibles peligros y de las necesarias cautelas a adoptar por parte de los letrados.

La Asociaci¨®n Internacional de Abogados (IBA, por sus siglas en ingl¨¦s), una entidad con m¨¢s de 80.000 miembros, entre ellos despachos l¨ªderes de todo el mundo y 200 colegios de abogados, se sum¨® el pasado octubre ¡ªsiendo la primera asociaci¨®n de juristas en unirse¡ª al Convenio Marco del Consejo de Europa sobre la Inteligencia artificial, con el fin de dar seguridad a la abogac¨ªa en el proceso de adopci¨®n e implementaci¨®n de la inteligencia artificial.

En este sentido, Mata apunta que, a la hora de utilizar herramientas de inteligencia artificial, los abogados deben tener en cuenta aspectos como la obligaci¨®n de secreto profesional y la protecci¨®n de datos y confidencialidad. Es decir, ¡°evitar que la informaci¨®n que se facilite se est¨¦ compartiendo con terceros¡±. Una de las prevenciones a tomar en este caso es anonimizar los documentos, se?ala el responsable de Deontolog¨ªa de la Abogac¨ªa. Para el socio de Balder IP Miguel Aznar, este punto es uno a los que m¨¢s atenci¨®n se debe poner. ¡°Las fisuras en la confidencialidad de la informaci¨®n de contenido legal podr¨ªan aumentar significativamente los riesgos de violaciones de datos, ciberataques y accesos no autorizados a informaci¨®n confidencial¡±.

Otro de los puntos que no se pueden quedar al margen es el deber de diligencia, que ya est¨¢ contemplado en las normas de los abogados, recuerda el decano del Colegio de Castell¨®n. Por ¨²ltimo, Mata se?ala que la inteligencia artificial tambi¨¦n puede afectar al inicio de las relaciones entre cliente y abogado, debido a la posibilidad de inclusi¨®n en p¨¢ginas web de los despachos de chatbot (programa inform¨¢tico que simula una conversaci¨®n) para que los usuarios puedan resolver dudas. Incluso puede generar ¡°conflicto de inter¨¦s¡±, a?ade como ejemplo, ya que dos partes de un mismo conflicto con intereses contrapuestos pueden comenzar a buscar asesoramiento legal a trav¨¦s del asistente virtual del mismo bufete.

Con todo este escenario, Isabel Rodr¨ªguez, de Accenture, subraya que la IA ¡°est¨¢ en constante aprendizaje y ganando autonom¨ªa¡±, por lo que ser¨ªa conveniente que los letrados ¡°sepan utilizar la inteligencia artificial de manera efectiva¡± y que las ¡°decisiones cr¨ªticas¡± sigan en ¡°manos de las personas¡±.