Retos en la modernización de la justicia con la implementación de Inteligencia Artificial (IA) generativa en la decisión judicial
“…en la actualidad no es posible permitir, dentro del marco del Estado social de derecho, implementación de IA generativa en la decisión judicial debido al riesgo de la injusticia algorítmica.”
Por: Joseph Orlando Colmenares Ramírez[1]
Las profundas transformaciones a nivel mundial, producto de la aparición de la revolución tecnológica, son responsables de los constantes cambios estructurales en las sociedades modernas; dichos cambios se han visto reflejados en el derecho, específicamente en la aparición de mecanismos de justicia modernos que buscan mejorar su acceso. En el contexto iberoamericano, los sistemas judiciales se han encargado de desarrollar reformas a través de políticas públicas en favor de la modernización de la justicia con la implementación de Tecnologías de la Información y la Comunicación (TIC); siendo éstas las tendencias más actuales en el ámbito del derecho procesal contemporáneo, como la búsqueda de la eficacia del poder judicial y la eficiencia en el uso de los recursos destinados a él.
El fortalecimiento de los sistemas de justicia constituye uno de los aspectos más importantes en el desarrollo social; dotando así a las instituciones públicas de políticas destinadas a su mejoramiento, priorizando la lucha contra la desigualdad social a través de la inclusión en sistemas confiables, eficaces y accesibles. De esta forma, los sistemas de justicia se insertan como un ente catalizador del bienestar común; hecho que puede evidenciarse al analizar el gran desarrollo de la justicia a partir de los procesos constitucionales de países iberoamericanos en sus cartas políticas.
A partir del apogeo de la Inteligencia Artificial (IA) generativa durante los últimos años, las propuestas para su implementación en la rama judicial son cada vez más comunes, destacándose en cada una de ellas las ventajas que traería la eficacia de los procesos algorítmicos como respuesta al constante retardo judicial que sufre el acceso a la justicia, y que particularmente se enfatiza en el retraso injustificado en la producción de sentencias, pero es necesario preguntarse: ¿Es viable la implementación de IA generativa en la decisión judicial?
Para responder a dicha pregunta, es impretermitible explicar a grandes rasgos cómo opera este tipo de IA. La IA generativa no tiene capacidades de “pensamiento”, pues, aunque su arquitectura pretenda simular una red neuronal de aprendizaje continuo, similar a la de un cerebro humano, la forma en que genera respuestas se ve determinada a un proceso de continuas predicciones a través de tokens, calculados en función de datos e instrucciones con los que han sido entrenadas. De esta forma funcionan los sistemas basados en GPT-4[2], siendo incapaces de sustituir el razonamiento humano.
Aunque cada avance pueda sugerir una mayor capacidad de la IA para resolver problemas lógicos y mejorar su precisión, es importante tener en cuenta sus limitaciones pues, tal como señala Castrillón García:
“(…) tratándose de decisiones mediadas por algoritmos automatizados, existe el riesgo de que la decisión mediada por IA implique consecuencias injustas para quien se vea afectado por dicha decisión, aunque el resultado de la aplicación del algoritmo sea correcto de acuerdo con su programación”. (Resaltado añadido)
A este fenómeno se le ha llamado “injusticia algorítmica”, el cual es el mayor riesgo que presenta la implementación de IA en las decisiones judiciales; pues, al ser automatizadas pueden ser objeto de situaciones que encrudezcan las desigualdades sociales por la ausencia de razonamiento abstracto y contextual, propio del pensamiento humano. Por ello, es necesario señalar que “(…) un algoritmo no es pre reflexivo, ni tampoco realiza juicios de razonabilidad, pero puede orientarse a establecer patrones comunes entre los datos que le sirven de insumo para tomar decisiones con la mayor probabilidad de acierto”; siendo correcto señalar que una decisión algorítmica es producto de un proceso matemático de probabilidad basado en datos preentrenados, y no un proceso reflexivo de los hechos presentados en juicio.
De esta forma, es justo señalar que, aunque en la vida real puede advertirse cómo las decisiones humanas son sesgadas por prejuicios sociales, da una mayor sensación de seguridad ya que éstas puedan ser, al menos, el producto de un proceso reflexivo de otro ser humano. Igualmente, dicho razonamiento puede ser aun revisado por un juez superior distinto al primero, en virtud del orden jerárquico del poder judicial, y no dependiendo de un enunciado probabilístico carente de razonamiento contextual; pues, aunque la decisión tomada por la IA sea correcta, deben tomarse en cuenta los riesgos que rodea la idea de un “juez autómata”.
En el derecho procesal contemporáneo la figura del juez cumple un rol de vital importancia social, pues, como señalaba Stammler al referirse al juez en el Estado de Derecho “(…) las buenas intenciones del legislador, toda la ordenación justa del Derecho no les sirve de nada a los miembros de la comunidad jurídica si la seguridad de la realización del Derecho no aparece garantizada por Tribunales imparciales y competentes”, por lo que es correcto establecer, como lo hace Carnelutti, que las leyes son un producto jurídico semielaborado, general y abstracto que el juez integra para transformarlo en un mandato particular y concreto[3].
La propuesta de un “juez autómata” a través de la implementación de IA en las decisiones judiciales se asemeja a la premisa del juez mecánico que refiere Colmenares Uribe: “la ley dispone y el juez obedece”, figura que quedó desfasada, y que corre el riesgo de revivirse si se aceptase que la figura del juez fuese remplazada por algoritmos que tomen una decisión en virtud de una base de datos, ya que “Más allá de conocer las normas y la jurisprudencia, la función de ser juez implica capacidad de interpretarlo con emociones, percepciones, intuiciones, o lo que es lo mismo, las sensibilidades subjetivas. El juez humano contextualiza. El juez robot, no.”, y no puede reducirse dicha actividad a una solución lógica de probabilidad.
La concepción de la sentencia como producto de un razonamiento deductivo en forma de silogismo, hizo que, en una época, como señala Humberto Cuenca[4], se colocara el poder de juzgar al alcance de cualquier inteligencia. Esta distorsión redujo a la función judicial en un método de aplicación mecánica de la lógica, siendo la sentencia sin más, una simple imitación de la ley. Dicha concepción es totalmente contraria al rol del juez en el Estado Social de Derecho, el cual lo concibe como:
En Colombia y Venezuela, gracias al desarrollo constitucional de las garantías, derechos y principios procesales, el juez deja de ser un convidado de piedra entre las partes y su rol pasa a tener una importancia social cada vez más grande, por ello: “(…) hoy es la figura central del Derecho, completamente opuesta a la que señalaba Montesquieu, es un ser que razona interpretando y argumentando inspirando en los nuevos postulados del Derecho Constitucional (…omissis…) y los derechos humanos” (Resaltado añadido).
El problema se encuentra en la idea de sustituir la actividad del juez, ya que, a pesar de que la capacidad de retener, analizar y prever datos haciendo uso de algoritmos es cada vez más sofisticada, es imposible replicar la reflexión jurídica, como lo señala Oliver Holmes (Citado por Laporta), la vida del derecho no ha sido lógica, sino experiencia; por lo que es necesario que la justicia sea puesta en personas de alta consideración moral y una formación intelectual que le permita utilizar eficientemente los métodos de interpretación legal, que no puede ser puesta en manos de un sistema programado sobre datos que desconocen la realidad que juzga.
Es evidente que en la actualidad no es posible permitir, dentro del marco del Estado social de derecho, implementación de IA generativa en la decisión judicial debido al riesgo de la injusticia algorítmica. El presente se ha encargado de abordar lo que NO es objeto de automatización en la actividad judicial, pero no se debe ignorar el debate acerca de lo que SÍ puede automatizarse en la rama judicial para mejorar el acceso a la justicia en su proceso de modernización. En el caso particular de la decisión judicial, se encuentran perfectamente explicadas sus razones, pero en el caso de los autos de mero trámite deberán generarse las políticas necesarias que busquen optimizar su eficacia.
Ante este panorama, el proyecto de modernización de la justicia tanto en Colombia como en los demás países de Iberoamérica deberá tomar en cuenta estas consideraciones en la inevitable implementación de estas nuevas tecnologías en sus sistemas judiciales, haciendo a su vez, las necesarias mejoras a nivel de infraestructura que permitan su correcto funcionamiento. Se estima que la implementación de IA podrá ser beneficiosa siempre que ésta no intente sustituir la función judicial, ya que, de acuerdo a Carnelutti: “Un ordenamiento jurídico se puede pensar sin leyes, pero no sin jueces”.
[1] Colmenares Ramírez, Joseph Orlando. Estudiante de Quinto año de Derecho en la Universidad Católica del Táchira. Miembro Investigador del Centro de Estudios de Derecho Procesal (CEDEPRO) y Miembro Estudiante del Instituto Colombiano de Derecho Procesal (ICDP).
[2] Modelo diseñado por OpenAI y que corresponde a las siglas de “Generative Pre-trained Transformer” (transformador generativo pre-entrenado)
[3] Cfr. Carnelutti, Francesco. Cómo nace el derecho. Edición 3. Editorial Temis S.A. Colombia, Santa fe de Bogotá. 2000. 58-61. Traducción de Sentís Melendo, Santiago y Ayerra Redín, Marino.
[4] Citado por Abreu Burelli, Alirio y Mejía Arnal, Luis Aquiles. La Casación Civil. 3ª Edición actualizada. Edición Melvin C.A. Caracas, Venezuela. 2008. 392.
Para citar: Joseph Orlando Colmenares Ramírez, “Retos en la modernización de la justicia con la implementación de Inteligencia Artificial (IA) generativa en la decisión judicial” en Blog Revista Derecho del Estado, 24 de julio de 2024. Disponible en: https://blogrevistaderechoestado.uexternado.edu.co/2024/07/24/retos-en-la-modernizacion-de-la-justicia-con-la-implementacion-de-inteligencia-artificial-ia-generativa-en-la-decision-judicial/