Transformación de la Rama Judicial: el camino a seguir tras las recomendaciones de la Corte Constitucional sobre el uso responsable de Inteligencia Artificial.
Joseph Orlando Colmenares Ramírez[1].
En enero de 2023, un juez de Cartagena usó ChatGPT para extender los argumentos de su decisión amparándose en la Ley 2213 de 2022, cuyo objeto es la incorporación de nuevas tecnologías en procesos judiciales. Ante los desafíos éticos que planteó dicha situación, la Corte Constitucional decidió revisar dicha sentencia con el fin de establecer un criterio orientador, en especial, en lo que respecta al uso de Inteligencia Artificial (IA) en la Rama Judicial.
Por esta razón, es necesario realizar un breve análisis acerca del panorama que plantea la reciente Sentencia T-323 de la Corte y sus implicaciones en el diseño de políticas públicas que promuevan el acceso a estas tecnologías en el íter procesal.
En Colombia, solo el 40% de la población tiene ingresos altos y medios, mientras el 60% restante corresponde a personas vulnerables a caer en la pobreza, que ya son pobres o que experimentan la pobreza en situación extrema[2]. Asimismo, recientes informes del Banco Mundial (2023, p.16) reflejan los índices acerca del alto nivel de brecha digital en áreas rurales del país, los cuales señalan:
En este escenario, se constatan serios desafíos para el desarrollo de una justicia digital verdaderamente accesible, donde ciertos sectores aún no son capaces de sumarse al desarrollo tecnológico. Por lo tanto, deberá destacarse una regulación bien diseñada no solo en su enfoque técnico, sino también en pro de una implementación equitativa y justa dentro de la Rama Judicial.
Consideraciones de la Corte
En su sentencia, la Corte realizó profundas consideraciones sobre la protección de derechos fundamentales en un sistema judicial que utiliza IA, así como los impactos del uso de estas herramientas en la sociedad y su estado en Colombia. De igual manera, estudió instrumentos de soft law e iniciativas normativas nacionales, con el fin de responder a la interrogante de si la utilización de ChatGPT en la decisión impugnada conlleva a una violación al debido proceso.
Para responder a ello, la corporación subrayó la imperiosa necesidad de su regulación, centrada en la protección del derecho a la privacidad, el principio del juez natural y el proceso debido como sus pilares fundamentales. Por consecuente, ordenó desarrollar guías y lineamientos específicos para el uso de IA en la Rama Judicial, destinados a la capacitación de los operadores de justicia en el manejo responsable de estas herramientas.
Aunque la Corte en su análisis concreto confirmó parcialmente la sentencia que utilizó ChatGPT, por cuanto “…no comportó una usurpación de la autoridad judicial competente”, consideró necesario establecer una serie de criterios orientadores para el futuro uso de estas tecnologías en el ámbito judicial.
Criterios orientadores de la Corte Constitucional
En particular, la relevancia de este fallo respecto al uso de IA se encuentra en su fundamento jurídico 423, donde define la pauta a seguir en la regulación de este tipo de tecnologías. Así pues, establece una serie de criterios diseñados para guiar y controlar la actividad de los operadores de justicia en los que incluye: a. Transparencia; b. Responsabilidad; c. Privacidad; d. No sustitución de la racionalidad humana; e. Seriedad y verificación; f. Prevención de riesgos; g. Igualdad y equidad; h. Control humano; i. Regulación ética; j. Adecuación a buenas prácticas y estándares colectivos; k. Seguimiento continuo y adaptación; l. Idoneidad.
Entre ellos, ha de destacarse el criterio “g. Igualdad y equidad”; por tanto, se encuentra alineado con la Recomendación sobre la Inteligencia Artificial de la Organización para la Cooperación y el Desarrollo Económico (OCDE), que promueve el crecimiento inclusivo de estas tecnologías[3].
Avanzando hacia una justicia más digital
Estos criterios constituyen el primer paso en la construcción de un sistema de garantías tecnológico. De igual manera, es notable el esfuerzo en el diseño de políticas públicas para la modernización de la justicia, destacándose la posición de Colombia entre los diez primeros países del Índice de Gobierno Digital de la OCDE (2024). Sin embargo, estos avances deben contrastarse con la realidad de la profunda desigualdad social en el país, en virtud de que el goce de los adelantos tecnológicos es un derecho humano; tal como lo expresó la Corte Suprema de Justicia en Sentencia SC370-2023 de 2023.
Asimismo, la adopción de este tipo de tecnologías se enfrenta a otra clase de desafíos en su implementación, especialmente en relación a la injusticia algorítmica, como le define Castrillón García (2023, p. 207). Esta surge tras la aparición de sesgos en la base de datos de estas tecnologías, la cual es alimentada con una amplia colección de textos que incluyen libros, artículos, sitios web y otros documentos públicos disponibles en Internet tal como explican Brown et al. (2020, p. 44), lo cual lo convierte en un LLM[4].
Dicho de otra forma, si bien ChatGPT se basa en la recolección de interacciones humanas genuinas, estas no están orientadas a una compresión jurídica profunda. Esto se debe a que la IA no opera de manera racional; en lugar de ello, funciona a través de un sistema de predicciones continuas mediante tokens, tal como se ha señalado en anterior entrada. Esto significa que, al momento de recibir la consulta, la red neuronal de la IA genera una respuesta calculada en función de datos e instrucciones pre-entrenadas y no responde al caso concreto, desprendiéndose de un análisis real del caso (Zhang. 2022, p. 381).
Asimismo, la Rama Judicial no controla los datos en los cuales se basan las respuestas obtenidas de la herramienta de ChatGPT, por lo que genera el riesgo a sesgos de datos. Este ha sido un tema ampliamente discutido en artículos científicos, en donde se destaca la preocupación por las desigualdades recrudecidas por programas predictivos en la justicia; tal como lo destaca Añón Roig (2022, p. 1). Pues, sus decisiones no se basan en una ponderación de la realidad de quienes acuden al proceso, sino en una serie de probabilidades que se generan a través de datos sin identidad.
Por lo tanto, es crucial la acotación hecha por la Corte sobre la posibilidad de desarrollar, además de un marco regulatorio robusto y de garantías, un sistema de IA generativa propio. De modo que, al estar especializado en la jurisprudencia y normativa patria, se encargue de mejorar el acceso a la información de criterios jurídicos. De tal manera, en concordancia con lo expresado por Díaz-Monsalvo (2024), el papel del Derecho se orientaría en crear un sandbox de IA, en el cual se establezcan datos que no son de la realidad, sino del deber ser de la misma.
De tal forma, es posible generar una herramienta basada en aquellos criterios orientadores, además de proporcionarle al juez un sistema creado para la labor que ejerce y no recurra a herramientas externas como ChatGPT que en sus políticas prohíbe de manera expresa su uso para asesoramiento jurídico o toma decisiones, en las cuales incluye la justicia[5].
Conclusiones
En definitiva, la modernización de la justicia en Colombia ha dado un paso fundamental, pero es necesario adoptar un enfoque integral que permita implementar estas tecnologías en las condiciones más óptimas. Esto es, considerar primordialmente la igualdad en el acceso al desarrollo digital y la protección de los derechos fundamentales en su implementación.
Se abordaron los riesgos que deben prevenirse en su implementación, evitándose el recrudecimiento de las desigualdades sociales en el país y la injusticia algorítmica por sesgos en las bases de datos. Si bien, la utilización de ChatGPT en decisión judiciales no es el escenario ideal, deberá apegarse a las recomendaciones hechas por la corporación para su uso responsable. De momento, se han sentado las bases necesarias para su pronta regulación, destacándose la gran labor de la Corte Constitucional por definir criterios orientadores en la decisión analizada.
[1] Estudiante recién egresado de Derecho en la Universidad Católica del Táchira. Auxiliar de investigación del Instituto Colombiano de Derecho Procesal (ICDP).
[2] Programa de las Naciones Unidas para el Desarrollo (2023). Igualdad y productividad. Informe sobre Desarrollo Humano para Colombia Cuaderno 5. p. 13. Disponible en: https://www.undp.org/sites/g/files/zskgke326/files/2023-12/undp_co_pub_indh_cuaderno_5_igualdad_y_productividad.pdf
[3] “Las partes interesadas deberían poner en marcha activamente la administración responsable en aras de una IA fiable en busca de resultados beneficiosos para las personas y el planeta, como aumentar las capacidades del ser humano y estimular la creatividad, avanzar en la inclusión de poblaciones infrarrepresentadas, reducir las desigualdades económicas, sociales, de género y de otra índole, y proteger los entornos naturales, reforzando de este modo el crecimiento inclusivo, el bienestar, el desarrollo sostenible y la sostenibilidad medioambiental”. Organización para la Cooperación y el Desarrollo Económico (2019). Recommendation of the Council on Artificial Intelligence. OECD Legal Instruments. Disponible en: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449.
[4] Corresponde a las siglas de “Large Language Model” (Modelo lingüístico grande), el cual caracteriza a los tipos de IA capacitados con enormes conjuntos de datos.
[5] OpenAI (enero 10, 2024). Políticas de Uso. Construir con ChatGPT, punto 2.b. Disponible en https://openai.com/policies/usage-policies. Esta regulación en específico fue añadida en su actualización del 15 de febrero de 2023.
AÑÓN ROIG, M. J. (2022). Desigualdades algorítmicas: conductas de alto riesgo para los derechos humanos. DERECHOS Y LIBERTADES: Revista De Filosofía Del Derecho Y Derechos Humanos, (47). Disponible en: https://doi.org/10.20318/dyl.2022.6872.
BANCO MUNDIAL REGIÓN DE AMÉRICA LATINA Y EL CARIBE (2023). Cierre de brecha digital en el Departamento del Amazonas. Bogotá, Colombia. Disponible en: https://documents1.worldbank.org/curated/en/099507509282332734/pdf/IDU0ce839d000e6c004d0c09cdb0a83b7b0d036e.pdf.
BROWN, T. B., et al. (2020). Language models are few-shot learners. arXiv. https://arxiv.org/abs/2005.14165.
CASTRILLÓN GARCÍA, E. D. (2023). Lineamientos éticos para la implementación de la inteligencia artificial en la decisión judicial: la política de modernización de la justicia civil y los retos éticos frente al riesgo de injusticia algorítmica. La justicia en la era de la revolución tecnológica. Institución Universitaria de Envigado. Disponible en: https://www.iue.edu.co/fondo_editorial/la-justicia-en-la-era-de-la-revolucion-tecnologica/
CORTE CONSTITUCIONAL. Sentencia T-323 de 2024, 2 de agosto de 2024. Disponible en: https://www.corteconstitucional.gov.co/relatoria/2024/T-323-24.htm
CORTE SUPREMA DE JUSTICIA. Sala de Casación Civil, Agraria y Rural. Sentencia SC370-2023, 10 de octubre de 2023. Disponible en: https://cortesuprema.gov.co/corte/wp-content/uploads/2023/10/SC370-2023.pdf
DÍAZ-MONSALVO, L. (agosto 5, 2024). Inteligencia artificial, nuevas tecnologías y derecho público. Blog Revista Derecho del Estado. Disponible en: https://blogrevistaderechoestado.uexternado.edu.co/2024/08/05/inteligencia-artificial-nuevas-tecnologias-y-derecho-publico/
ORGANIZACIÓN PARA LA COOPERACIÓN Y EL DESARROLLO ECONÓMICO (2019). Recommendation of the Council on Artificial Intelligence. OECD Legal Instruments. Disponible en https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
ORGANIZACIÓN PARA LA COOPERACIÓN Y EL DESARROLLO ECONÓMICO (2024). 2023 OECD Digital Government Index. OECD Legal Instruments. Disponible en: https://www.oecd.org/en/publications/2023-oecd-digital-government-index_1a89ed5e-en.html
PROGRAMA DE LAS NACIONES UNIDAS PARA EL DESARROLLO (2023). Igualdad y productividad. Informe sobre Desarrollo Humano para Colombia Cuaderno 5. Editorial Puntoaparte S.A.S: Colombia. Disponible en: https://www.undp.org/sites/g/files/zskgke326/files/2023-12/undp_co_pub_indh_cuaderno_5_igualdad_y_productividad.pdf
ZHANG, A., et. al. (2022). Dive into Deep Learning. Amazon Science. Disponible en: https://d2l.ai/d2l-en.pdf
Para citar: Joseph Orlando Colmenares Ramírez, “Transformación de la Rama Judicial: el camino a seguir tras las recomendaciones de la Corte Constitucional sobre el uso responsable de Inteligencia Artificial.” en Blog Revista Derecho del Estado, 08 de febrero de 2025. Disponible en: https://blogrevistaderechoestado.uexternado.edu.co/2025/02/08/transformacion-de-la-rama-judicial-el-camino-a-seguir-tras-las-recomendaciones-de-la-corte-constitucional-sobre-el-uso-responsable-de-inteligencia-artificial/