Una demanda de un ni?o con autismo abre el debate para regular el uso de la IA en la justicia colombiana

?Puede Chat GPT ¨Cel famoso aplicativo de inteligencia artificial¨C dictar una decisi¨®n judicial? Esa fue una de las preguntas que un juez en Bogot¨¢ le hizo al mismo Chat GPT 3.5 mientras redactaba un fallo en segunda instancia a una tutela. Resolv¨ªa el caso de una mujer que acudi¨® a las autoridades para pedir que su hijo menor de edad con autismo quedara exonerado de pagar las cuotas cada que asist¨ªa a una terapia f¨ªsica en su Entidad Promotora de Salud (EPS). Su caso aterriz¨® en la Corte Constitucional porque era la primera vez que un juez en Colombia detallaba que hab¨ªa hecho uso de la IA para tomar una decisi¨®n.

En la tutela que radic¨® explicaba que no ten¨ªa condiciones econ¨®micas para pagar las cuotas que le cobra la EPS en cada sesi¨®n, ni para asumir los gastos de transporte desde su casa hasta el centro m¨¦dico donde le hac¨ªan las terapias. Y que por eso, muchas veces, su hijo y ella hac¨ªan los trayectos a pie, aunque por su enfermedad a veces el menor se rehusaba a caminar. Aunque el juez fall¨® a su favor, varios de sus argumentos los fundament¨® en respuestas que le entreg¨® la inteligencia artificial para complementar la sentencia.

En Colombia no est¨¢ reglamentado el uso de la IA en escenarios judiciales. En el caso de la sentencia que le dio la raz¨®n a la se?ora y su hijo, la Corte Constitucional ratific¨® que el Estado deb¨ªa cubrir los gastos de transporte del menor y su familia. Pero el asunto fue m¨¢s all¨¢ y tres magistrados encontraron que las preguntas que le hizo el juez del circuito en Bogot¨¢ a ChatGPT eran parte del an¨¢lisis que ¨¦l deb¨ªa hacer como funcionario judicial. La primera pregunta que le plante¨® a la herramienta fue si ¡°un menor de edad con autismo deb¨ªa ser exonerado de pagar las cuotas moderadoras de sus terapias¡±. Ese cuestionamiento, que la herramienta de IA contest¨®, era el centro del problema jur¨ªdico que deb¨ªa resolver el juez basado en la ley colombiana y en su criterio.

Otra de las inquietudes que plante¨® era si, en un caso con esas caracter¨ªsticas, la tutela deb¨ªa ser concedida. La herramienta de inteligencia artificial no contest¨® espec¨ªficamente, porque una de sus restricciones es no entregar recomendaciones sobre procesos judiciales. Y aunque el tribunal encontr¨® que el juez actu¨® bien, pues la inteligencia artificial no reemplaz¨® su labor, en la medida en que el funcionario plante¨® una argumentaci¨®n propia y solo utiliz¨® la herramienta para validar algunos cuestionamientos, la alta corte aprovech¨® la ocasi¨®n para establecer las l¨ªneas rojas que no se deben cruzar al utilizar a ChatGPT u otras herramientas similares para decisiones judiciales.

El precedente que marc¨® la Corte en este caso se fundamenta en las reglas que entrega a los funcionarios judiciales para el uso de la inteligencia artificial. Explica que un juez incumplir¨ªa sus deberes cuando ¡°la emplea en el ejercicio de funciones de raciocinio que son indelegables e irremplazables¡±. Tambi¨¦n se refiere al principio de transparencia que obliga a que el funcionario revele que utilizar¨¢ esas herramientas, o el riesgo de ¡°no realizar de manera rigurosa la verificaci¨®n de la fiabilidad de la informaci¨®n que soporta la motivaci¨®n del fallo, pudiendo comprometer la independencia o imparcialidad debido a los sesgos y alucinaciones de la IA¡±. Y concluye diciendo que tambi¨¦n ser¨¢ una falta cuando no se adopten ¡°las cautelas necesarias para evitar la transgresi¨®n de derechos como el habeas data o la intimidad.¡±

Catalina Moreno, subdirectora de la Fundaci¨®n Karisma, una organizaci¨®n que trabaja por el buen uso de las tecnolog¨ªas en Colombia, opina algo similar. Explica que el uso es lo que demarca el l¨ªmite ¨¦tico del uso de la inteligencia artificial. ¡°Uno de los derechos que tenemos los ciudadanos es a ser juzgados por una persona competente, un juez, y tambi¨¦n el derecho a saber qui¨¦n est¨¢ fallando y con base en qu¨¦ normas lleg¨® a una decisi¨®n. Ah¨ª es donde entra el dilema cuando se usa ChatGPT¡±, se?ala. En di¨¢logo con este diario, Moreno cuenta que una sala de tutela de la Corte analiz¨® el caso por m¨¢s de un a?o. En ese tiempo, el magistrado ponente, Juan Carlos Cort¨¦s, busc¨® a varias organizaciones tecnol¨®gicas para que emitieran sus conceptos.

Ella, a trav¨¦s de Karisma, fue una de las que entreg¨® a los magistrados unas recomendaciones sobre el uso de la IA como herramienta. ¡°Por ejemplo, en este caso habr¨ªa sido distinto pedirle a la IA que haga un resumen sobre los papers que existen en las barreras de salud para las personas con autismo. Esa es una pregunta v¨¢lida para complementar una decisi¨®n sin reemplazar el criterio del juez¡±, comenta. Y concluye que la inteligencia artificial no solo deber¨ªa mejorar la eficiencia de la administraci¨®n judicial y acortar los tiempos de respuesta, sino tambi¨¦n mejorar la calidad de las decisiones.

Lo que la Corte plante¨® para estudiar esta tutela fue su preocupaci¨®n en determinar si, eventualmente, se hab¨ªa violado el debido proceso al haber incluido respuestas de la IA en el fallo. Sobre este tema, Andr¨¦s D¨ªaz Arana, profesor de Derecho Penal de la Universidad Externado y experto en tecnolog¨ªa legal, le dijo a este diario que ¡°nunca un buscador reemplazar¨¢ la labor del ser humano, porque la labor del juez no es buscar informaci¨®n, sino construir reglas del derecho a trav¨¦s del razonamiento, que por naturaleza es humano¡±.

D¨ªaz tambi¨¦n es due?o de un sistema de inteligencia artificial que ha sido alimentado por 550.000 sentencias, leyes, decretos y expedientes judiciales en Colombia y que sirve como asistente legal en l¨ªnea en el pa¨ªs. ¡°Desarrollar estas herramientas permite que los tiempos en los procesos se acorten, mejorando la productividad de los jueces, magistrados y abogados¡±.

No es la primera vez que la alta corte colombiana se enfrenta a un desaf¨ªo relacionado con la inteligencia artificial. El primer dilema estuvo en casa, de hecho. La propia Corte Constitucional usa PretorIA, una herramienta que clasifica las sentencias de tutela de los jueces y as¨ª facilita a los magistrados de la Corte la elecci¨®n de las que estudiar¨¢n. Ese software hace un primer filtro de las m¨¢s de 1.700 tutelas que llegan al tribunal cada d¨ªa. Su uso, de hecho, est¨¢ en el radar de la Organizaci¨®n de las Naciones Unidas para la Educaci¨®n, la Ciencia y la Cultura (UNESCO), que desde 2021 monitorea el uso de la IA en los Estados de Derecho de todo el mundo.

Aunque los avances en Colombia son significativos, la UNESCO ha reportado que en pa¨ªses como Argentina ya est¨¢ reglamentado el uso de IA para redactar fallos judiciales. En M¨¦xico, los tribunales est¨¢n autorizados a utilizar sistemas de inteligencia artificial para determinar si alguien puede entrar al sistema de seguridad social; en China, la discusi¨®n trascendi¨® del uso de los chats, y ahora la justicia cuenta con un sistema que organiza, caracteriza y analiza las pruebas judiciales y forenses que presenta un juez para facilitar su an¨¢lisis.

Para la UNESCO, aunque los avances tecnol¨®gicos son cada vez m¨¢s dif¨ªciles de monitorear, los lineamientos de su uso debe reglamentarlos cada pa¨ªs con una bandera clave: ¡°Deben mejorar la autonom¨ªa humana y la toma de decisiones, en lugar de remplazar o influir indebidamente en el juicio humano¡±.

Suscr¨ªbase aqu¨ª a la newsletter de EL PA?S sobre Colombia y aqu¨ª al canal en WhatsApp, y reciba todas las claves informativas de la actualidad del pa¨ªs.