Transparencia algorítmica en la administración pública colombiana: hacia un debido proceso tecnológico
Oscar Andrés Riaño García1
Lea más sobre el tema de la entrada en nuestra revista: La inteligencia artificial en la administración de justicia: riesgos, ventajas y límites del uso de la IA en la resolución de casos judiciales
Introducción
La inteligencia artificial (IA) dejó de ser una hipótesis tecnológica para
convertirse en una herramienta de gestión estatal. Puede apoyar la
distribución de recursos, ordenar la prestación de servicios según prioridades,
la priorización de servicios, La anticipación y detección de riesgos, la
contratación pública y la administración de justicia. Sin embargo, cuando un
sistema algorítmico influye en la situación jurídica de una persona, el problema
ya no es exclusivamente técnico, se convierte en una cuestión de derecho
público, control democrático y protección de derechos fundamentales.
La tesis que aquí se defiende es la siguiente: la administración pública
colombiana está habilitada para servirse de sistemas de IA, pero le está
vedado erigirlos en autoridades opacas o descargar en ellos la
responsabilidad jurídica de decidir. Bajo esa premisa, La transparencia
algorítmica debe entenderse como una garantía contemporánea del debido
proceso, la igualdad, el hábeas data, la publicidad administrativa y la
rendición de cuentas.
1. Un fenómeno novedoso con impacto jurídico
La Corte Constitucional ha advertido que en Colombia ya se habían
adoptado al menos 111 sistemas de toma de decisiones automatizadas, en
etapas de pilotaje o ejecución, por entidades públicas. Reconoce que estas
herramientas pueden reducir costos, mejorar la distribución de recursos y
hacer más eficientes las políticas públicas; pero también identifica riesgos
para la no discriminación, el debido proceso y la protección de datos
personales2.
La novedad jurídica no consiste simplemente en que el Estado use
computadores. Consiste en que decisiones tradicionalmente justificadas por
funcionarios pueden estar condicionadas por modelos estadísticos, datos
masivos y reglas cuya operación no es fácilmente comprensible para el
ciudadano. Un algoritmo puede clasificar, puntuar, priorizar o asociar
información y producir un resultado que desencadene una actuación
administrativa. Por ello, la pregunta central es quién responde, cómo se
explica la decisión y qué puede controvertir la persona afectada.
El documento CONPES 4144 de 2025 confirma que Colombia adoptó una
política nacional de IA orientada a su aprovechamiento ético y sostenible. La
política incluye, entre sus ejes, ética y gobernanza, datos e infraestructura,
mitigación de riesgos y uso de IA en entidades públicas3. No obstante, la
propia Corte Constitucional señaló en 2025 que todavía no existía una
regulación nacional vinculante específica sobre el uso de estas herramientas
y los deberes de transparencia que se derivan de él4. Esto produce un
escenario de transición: existen obligaciones constitucionales y legales
aplicables, políticas públicas y estándares de derecho blando, pero aún se
requiere consolidar un régimen integral.
2. La transparencia algorítmica como garantía de derechos
La transparencia no significa necesariamente publicar sin límites el código
fuente. La Corte ha explicado que la transparencia en el uso de sistemas
automatizados es una garantía para emplear razonablemente los datos
personales y evitar decisiones arbitrarias o discriminatorias5. En consecuencia,
la entidad debe informar, al menos, que utiliza un sistema automatizado, cuál
es su finalidad, qué tipo de datos emplea, qué papel cumple en la decisión y
cuáles son los mecanismos de revisión humana y contradicción.
El acceso a la información puede enfrentar tensiones con la seguridad
nacional, los datos personales, el secreto empresarial o la propiedad
intelectual. Sin embargo, la reserva de un elemento específico por ejemplo,
el código fuente no autoriza a negar toda explicación sobre el sistema. La
Corte ha indicado que el Estado debe adoptar medidas que maximicen los
derechos en tensión, como limitar usos posteriores de la información,
establecer trazabilidad sobre quién accede a ella o suministrar información
funcional suficiente para comprender el resultado6.
La transparencia, por tanto, debe ser funcional y no meramente formal. No
basta con afirmar que una decisión fue “generada por el sistema”. La persona
necesita conocer las razones relevantes que condujeron al resultado y contar
con una oportunidad real para controvertir los datos, los criterios y la
conclusión. La Recomendación de la OCDE sobre IA, incorporada como
referencia por Colombia, exige información significativa sobre la fuente, el
proceso y la lógica de una decisión para que las personas afectadas
entiendan cómo se llegó al resultado7.
3. Debido proceso y responsabilidad administrativa
El artículo 29 de la Constitución aplica el debido proceso a toda clase de
actuaciones judiciales y administrativas. En el ámbito administrativo, esta
garantía exige que la autoridad actúe dentro de la competencia, respete las
formas propias del procedimiento, permita la defensa y motive su decisión. La
automatización no elimina esas exigencias; las hace más complejas.
Una salida algorítmica no es, por sí misma, una motivación administrativa. La
motivación debe conectar los hechos relevantes, los datos utilizados, la norma
aplicada y la conclusión adoptada. Si el funcionario se limita a reproducir el
resultado de una herramienta que no comprende o que no puede explicar,
existe el riesgo de sustituir la decisión jurídica por una inferencia técnica no
controlada.
La responsabilidad tampoco puede trasladarse al proveedor tecnológico. La
entidad pública que decide implementar, contratar o utilizar un sistema
conserva el deber de verificar su legalidad, confiabilidad, seguridad,
proporcionalidad y compatibilidad con los derechos fundamentales. El
principio de control humano debe significar algo más que una firma posterior:
el funcionario debe poder revisar, apartarse del resultado, explicar las razones
de su decisión y corregir errores.
La Sentencia T-323 de 2024, aunque referida al uso de IA generativa en la
Rama Judicial, ofrece un criterio aplicable al sector público, estas
herramientas pueden apoyar tareas humanas, pero no sustituir la labor del
funcionario encargado de ejercer la función pública. La Corte también
destacó riesgos de transparencia, protección de datos, alucinaciones y
sesgos, y calificó sus lineamientos como una aproximación inicial a un tema
novedoso y sujeto a cambios vertiginosos8.
4. Datos personales, igualdad y prevención del daño
Todo sistema de IA depende de datos. La Ley 1581 de 2012 define el
tratamiento como cualquier operación sobre datos personales, incluida su
recolección, almacenamiento, uso, circulación o supresión. Las entidades
públicas que deciden sobre bases de datos o sobre su tratamiento tienen la
calidad de responsables y deben proteger la información personal9.
Esto impone varias cautelas. Primero, la entidad debe determinar una
finalidad legítima y concreta, evitando recolectar datos excesivos o
incompatibles con ella. Segundo, debe evaluar la calidad y representatividad
de los datos, pues un modelo entrenado con información histórica sesgada
puede reproducir desigualdades. Tercero, debe proteger los datos sensibles y
establecer controles de acceso, conservación y eliminación. Cuarto, debe
ofrecer mecanismos para que la persona conozca, actualice y rectifique la
información que incide en el resultado.
La igualdad exige además evaluar impactos diferenciados. Un sistema
aparentemente neutral puede perjudicar de manera sistemática a
determinados grupos si utiliza variables que funcionan como sustitutos de raza,
género, discapacidad, territorio o condición socioeconómica. La eficiencia
administrativa no justifica una discriminación automatizada. Antes de
implementar sistemas de alto impacto, la entidad debería realizar pruebas de
sesgo, evaluaciones de impacto en derechos humanos, auditorías periódicas
y mecanismos de suspensión o apagado cuando se detecten resultados
lesivos.
5. Propuesta: un estatuto mínimo de decisión pública algorítmica
Mientras se consolida una regulación legislativa específica, las entidades
públicas deberían adoptar un estándar mínimo compuesto por seis
obligaciones:
- Inventario y registro: identificar los sistemas algorítmicos usados, su
finalidad, proveedor, datos de entrada, nivel de intervención y
decisiones que pueden afectar derechos. - Evaluación previa de impacto: analizar riesgos para igualdad,
privacidad, debido proceso, seguridad y acceso a servicios antes de
implementar el sistema. - Transparencia comprensible: informar a las personas afectadas de la
existencia del sistema y de los factores decisivos, sin reducir la
explicación a lenguaje técnico. - Decisión humana responsable: prohibir que un resultado automatizado
sea la única justificación de una decisión que limite derechos; debe
existir revisión humana sustantiva. - Trazabilidad y auditoría: conservar registros de versiones, datos,
intervenciones humanas, resultados y correcciones, de modo que sea
posible reconstruir la decisión. - Impugnación efectiva: permitir acceso a los datos relevantes,
rectificación, contradicción, revisión independiente y reparación
cuando el sistema produzca un perjuicio.
Estos deberes son coherentes con la política nacional de IA y la T-323 del 2023,
que ordena fortalecer la gobernanza, mitigar riesgos y promover prácticas
seguras y responsables en las entidades públicas10. También coinciden con la
Directiva Conjunta 007 de 2025, que desarrolla estándares mínimos de
transparencia algorítmica y prevé articulación entre la Procuraduría, la
Defensoría y el ecosistema nacional de gobernanza11.
Conclusión
La IA puede mejorar la capacidad estatal, pero no puede convertirse en una
zona de excepción jurídica. En un Estado social y democrático de derecho,
la innovación administrativa debe permanecer sometida a la Constitución, la
ley, la publicidad, la motivación, la igualdad, el hábeas data y el control
ciudadano.
El desafío novedoso del derecho público colombiano es construir un debido
proceso tecnológico: un conjunto de garantías que permita saber cuándo
decide un algoritmo, qué información utiliza, cómo influye en la decisión,
quién responde por ella y cómo puede controvertirse. La regla de cierre debe
ser sencilla, si el Estado puede usar IA para afectar a una persona, también
debe poder explicar, revisar y defender jurídicamente el resultado.
- Egresado distinguido de la Universidad del Norte, Miembro estudiante del ICDP, Miembro de la Red Juvenil de Arbitraje y Coordinador de semilleros de Investigación ↩︎
- Corte Constitucional, Sentencia T-067 de 2025, párr. 64-65. ↩︎
- Departamento Nacional de Planeación, Documento CONPES 4144 de 2025,
resumen ejecutivo y ejes estratégicos. ↩︎ - Corte Constitucional, Sentencia T-067 de 2025, párr. 96. ↩︎
- Corte Constitucional, Sentencia T-067 de 2025, párr. 64-65. ↩︎
- Corte Constitucional, Sentencia T-067 de 2025, párr. 92-93. ↩︎
- Corte Constitucional, Sentencia T-067 de 2025, párr. 96; Recomendación del
Consejo de la OCDE sobre Inteligencia Artificial. ↩︎ - Corte Constitucional, Sentencia T-323 de 2024, párrs. 299-300. ↩︎
- Ley 1581 de 2012, arts. 3 y 4; Colombia Compra Eficiente, Concepto 1172 de
2025. ↩︎ - Documento CONPES 4144 de 2025, líneas de acción sobre gobernanza,
mitigación de riesgos y uso responsable en el sector público. ↩︎ - Procuraduría General de la Nación y Defensoría del Pueblo, Directiva
Conjunta 007 de 2025, arts. 2, 27 y 28. ↩︎
Oscar Andres Riaño Garcia, “Transparencia algorítmica en la administración pública colombiana: hacia un debido proceso tecnológico” en Blog Revista Derecho del Estado, 23 de octubre de 2026. Disponible en: https://blogrevistaderechoestado.uexternado.edu.co/?p=3063