Quien ha leído una respuesta de IA con una cita perfecta (el número de sentencia, la fecha, un párrafo textual) sabe lo convincente que resulta. Y quien ha buscado esa sentencia y no la encontró sabe lo que viene después: la duda sobre todo lo demás que dijo la herramienta.
A eso se le llama alucinación. Esta guía explica qué es, cómo aparece en el trabajo legal, qué casos reales hay y qué reduce el riesgo.
Qué es una alucinación
El Acuerdo PCSJA24-12243 de 2024 del Consejo Superior de la Judicatura define las alucinaciones como resultados imprecisos o inexactos que pueden generar los sistemas de IA generativa. La documentación de uno de los proveedores de modelos, Anthropic, lo explica así: incluso los modelos más avanzados pueden generar texto incorrecto o inconsistente con el contexto que se les dio.
La clave está en que suena igual de seguro cuando acierta que cuando inventa. El tono no sirve como señal.
Cómo se ven en el trabajo legal
| Forma | Ejemplo | Cómo detectarla |
|---|---|---|
| Una providencia que no existe | Una sentencia con número, fecha y magistrado inventados | Buscarla en la relatoría oficial |
| Una norma mal atribuida | Un artículo que existe pero no dice lo que se afirma, o un número de ley equivocado | Leer el texto en la fuente oficial |
| Una cita textual alterada | Un párrafo «entre comillas» que el documento no contiene | Buscar la frase en el documento |
| Un dato del expediente mezclado | Una fecha o una parte tomada de otro documento o de otro caso | Abrir el documento que se citó |
| Un documento que «dice» lo que no dice | Un resumen que atribuye a un anexo una afirmación que no está | Cotejar el resumen con el original |
Casos reales
En Colombia. La Sentencia T-323 de 2024 de la Corte Constitucional estudió el caso de un juez que usó ChatGPT 3.5 para formular consultas e incorporar sus respuestas en una decisión. La Corte planteó la duda de si la decisión había sido debidamente motivada o era producto de alucinaciones y sesgos de la herramienta, y fijó criterios orientadores para el uso de IA en los despachos, entre ellos la seriedad y verificación (escrutinio estricto de las fuentes, alcances y falencias de la herramienta) y la prevención de riesgos (imprecisiones, desactualizaciones, alucinaciones y sesgos).
En Estados Unidos. En Mata v. Avianca, el tribunal federal del Distrito Sur de Nueva York sancionó con una multa de 5.000 dólares a dos abogados y a su firma por presentar providencias inexistentes, con citas y extractos falsos, creados con ChatGPT, y por sostenerlas después de que el tribunal cuestionó su existencia. La providencia aclara que no hay nada inherentemente indebido en usar una herramienta de IA confiable como apoyo, pero que las reglas imponen a los abogados una función de control sobre la exactitud de sus escritos.
Para el abogado colombiano. El Código Disciplinario del Abogado (Ley 1123 de 2007) exige colaborar leal y legalmente en la recta y cumplida realización de la justicia (art. 28, num. 6) y obrar con lealtad y honradez en las relaciones profesionales (num. 8), y considera falta a la debida diligencia dejar de hacer oportunamente las diligencias propias de la actuación o descuidarlas (art. 37, num. 1). La ley no menciona la IA; son el marco desde el cual se evaluaría un escrito con referencias que no existen.
Cómo reducir el riesgo
Cuatro medidas que se combinan:
- Que responda sobre documentos que le aportas. Una IA que parte del expediente tiene menos motivos para inventar que una que responde de memoria. La documentación del proveedor recomienda restringir explícitamente la respuesta a los documentos dados.
- Que indique de dónde sale cada afirmación. El proveedor recomienda pedir citas textuales y, después, que la herramienta retire las afirmaciones para las que no encuentra una cita que las respalde.
- Que pueda decir «no sé». Permitirle admitir incertidumbre es, según la documentación, una técnica sencilla que puede reducir de forma drástica la información falsa.
- Que tú verifiques lo que importa. Una técnica adicional es repetir la misma pregunta varias veces y comparar: las inconsistencias entre respuestas pueden indicar una alucinación. Pero la verificación en la fuente es insustituible.
Qué hacer cuando la IA te da una cita
- 1
Búscala en la fuente oficial
La relatoría de la corte o el texto de la ley. No en otro resumen ni en otra IA.
Existe
- 2
Compara número, fecha y asunto
Que la providencia o la norma correspondan a lo que la respuesta dice.
Corresponde
- 3
Lee el pasaje
Que diga lo que se le atribuye. Si no puedes confirmarlo, no lo uses.
Dice lo afirmado
Las tres comprobaciones, hechas antes de que la cita llegue a un escrito, son lo que separa una ayuda de un riesgo disciplinario o de credibilidad.
Cómo lo aborda ActuarIA
El asistente de ActuarIA trabaja sobre los documentos, las actuaciones y los datos del SPOA de cada caso; cita el documento o la actuación de donde sale la información; está instruido para decir cuando algo no está en el expediente y para no presentar como cita normativa exacta algo que no venga del expediente o de una fuente aportada. Aun así, puede equivocarse: por eso cada respuesta se comprueba contra el documento original. El análisis de expedientes con IA detalla qué lee y sus límites. Y para reconocer si una respuesta es confiable, está cómo saber si una respuesta de IA jurídica es confiable.