El Consejo de Estado aprovechó un proceso judicial en el que fueron citadas sentencias inexistentes para fijar una serie de criterios sobre el uso de herramientas de inteligencia artificial en la actividad jurídica y judicial, y dejar las reglas claras en momentos en que plataformas como ChatGPT, Claude y Gemini son utilizadas cada vez con más frecuencia por profesionales de distintas áreas para buscar información, redactar documentos o apoyar tareas de investigación.
El caso que originó la decisión
La providencia surgió durante el estudio de un recurso extraordinario de unificación de jurisprudencia en el que los recurrentes aseguraban que una decisión judicial había desconocido precedentes del Consejo de Estado. Sin embargo, al revisar las providencias citadas, la corporación encontró que varias de ellas no existían o no correspondían a los datos suministrados en el expediente. La Relatoría de la Sección Tercera realizó las verificaciones correspondientes y concluyó que no era posible localizar las sentencias invocadas. A partir de esa situación, la Sala desarrolló una extensa reflexión sobre los riesgos asociados al uso de herramientas de inteligencia artificial generativa dentro de actuaciones judiciales.
Consejo de Estado advierte sobre las “alucinaciones” de la inteligencia artificial
Uno de los aspectos centrales del fallo es la referencia al fenómeno conocido como “alucinaciones”, una expresión utilizada para describir situaciones en las que sistemas de inteligencia artificial generan información aparentemente correcta, coherente y convincente, pero que carece de respaldo real. La providencia explica que herramientas como ChatGPT, Claude o Gemini pueden producir referencias jurídicas, normas o decisiones judiciales que parecen auténticas, aunque en realidad nunca hayan existido. Por esa razón, la corporación insiste en que la información no puede asumirse automáticamente como verdadera. El Consejo de Estado advierte que la capacidad de producir textos fluidos y bien estructurados puede generar una falsa sensación de confiabilidad. Precisamente por ello considera indispensable que cualquier dato sea sometido a procesos de verificación antes de ser utilizado en documentos oficiales o actuaciones judiciales.
Los abogados siguen siendo responsables de verificar la información
La decisión también deja claro que el uso de inteligencia artificial no elimina las obligaciones profesionales de quienes intervienen en procesos judiciales, ya que según la corporación, los abogados mantienen el deber de actuar con diligencia, buena fe y lealtad procesal. En consecuencia, la responsabilidad sobre la información continúa recayendo sobre quien firma y presenta los documentos. Debido a la existencia de referencias jurisprudenciales inexistentes, el Consejo de Estado ordenó remitir copia del expediente a la Comisión Seccional de Disciplina Judicial de Bogotá para que evalúe si existe una posible conducta disciplinaria relacionada con los hechos analizados. La decisión no implica una sanción inmediata, pero sí abre la puerta para que la autoridad competente examine el comportamiento procesal observado durante el trámite del recurso.
La IA puede ayudar, pero no reemplazar a jueces ni abogados
Aunque el fallo advierte sobre riesgos concretos, la corporación no rechaza el uso de la inteligencia artificial. Por el contrario, reconoce que estas tecnologías pueden convertirse en herramientas útiles para apoyar tareas de búsqueda, organización y procesamiento de información. Sin embargo, establece límites claros y señala que los jueces no pueden delegar funciones relacionadas con la valoración de pruebas, la interpretación de los hechos o la adopción de decisiones judiciales. La función jurisdiccional, recuerda la providencia, es indelegable. La corporación también expresó reservas frente a los programas diseñados para detectar si un texto fue elaborado mediante inteligencia artificial. Según el fallo, estas herramientas todavía presentan limitaciones de precisión y confiabilidad que impiden otorgarles un valor determinante dentro de actuaciones judiciales.
