Le pedís a una IA jurisprudencia sobre un tema y te devuelve tres fallos. Carátula completa, tribunal, sala, fecha, y hasta el tomo y la página de la colección. Todo bien escrito, todo coherente con tu caso. Dos de esos fallos no existen.

No es un error raro ni un problema de "una IA mala". Es consecuencia directa de cómo funciona un modelo de lenguaje sin una base contra la cual verificar. Entender el mecanismo es lo que te permite detectarlo rápido y elegir herramientas que no lo tengan.

En corto: un modelo de lenguaje sin corpus conectado no consulta una base, predice texto: aprendió la forma de una cita jurisprudencial argentina y produce algo con esa forma exacta, aunque el fallo no exista. Se detecta en dos minutos buscando la carátula en SAIJ, verificando que la sala y la fecha sean coherentes, y leyendo el pasaje en el texto original.

Por qué pasa

Un modelo de lenguaje no consulta una base de datos: predice texto. Aprendió, sobre millones de documentos, cómo se ve una cita jurisprudencial argentina: empieza con un tribunal, sigue con una carátula entre comillas, un "s/ daños y perjuicios", una fecha con formato judicial. Y cuando le pedís una cita, produce algo que tiene exactamente esa forma.

La forma es correcta. El contenido es una interpolación. Por eso las citas fabricadas son tan convincentes: no son un disparate, son un promedio estadístico de citas reales. El modelo no está mintiendo ni fallando: está haciendo lo único que sabe hacer, y nadie le dio una fuente contra la cual chequear.

Esto genera tres errores distintos, de gravedad creciente:

  • El fallo no existe. Carátula inventada. Es el más común y, paradójicamente, el más fácil de detectar: no aparece en ninguna base.
  • El fallo existe pero los datos están mal. Carátula real con sala equivocada, fecha corrida, o atribuido a otro fuero. Sobrevive a una búsqueda rápida.
  • El fallo existe y no dice lo que la IA afirma. El más peligroso. Verificás que la cita existe, la das por buena, y recién en la audiencia descubrís que el tribunal resolvió lo contrario o que ese pasaje era la postura de la minoría.

El riesgo profesional

Presentar jurisprudencia inexistente no es un error técnico menor. Ya hubo abogados sancionados en distintas jurisdicciones por escritos con citas fabricadas, y el argumento "me lo dio la inteligencia artificial" no funcionó en ninguna: la responsabilidad por lo que se presenta es del profesional que firma.

Hay además un costo que no aparece en ninguna resolución: la credibilidad frente al tribunal. Un juez que detectó una cita falsa en tu escrito va a leer el próximo con otra disposición.

Cómo detectarlo en dos minutos

  • Buscá la carátula exacta en SAIJ o en la base del tribunal que supuestamente la dictó. Si no aparece con esa carátula, no sigas: descartala.
  • Verificá la coherencia institucional. ¿Existía esa sala en esa fecha? ¿Ese fuero resuelve ese tipo de causa? Las citas fabricadas suelen fallar acá.
  • Leé el pasaje en el texto original. Es el único control que detecta el tercer tipo de error. Abrí el fallo y buscá la frase que la IA te atribuyó.
  • Desconfiá de la cita demasiado perfecta. Si un fallo encaja con tu caso de forma sospechosamente exacta (mismos hechos, mismo monto, misma solución) mirálo dos veces. Los modelos tienden a producir la cita que te conviene, porque eso es lo que les pediste.

La solución estructural: citas ancladas al documento

Verificar a mano funciona, pero no escala: si tenés que abrir y cotejar cada cita, perdiste buena parte del tiempo que la herramienta te iba a ahorrar. La solución real es arquitectónica.

Una herramienta bien construida no le pide al modelo que recuerde jurisprudencia: la busca en un corpus real, le entrega al modelo el texto encontrado, y ancla cada afirmación al documento del que salió. El modelo redacta sobre material que tiene delante, no sobre memoria.

Eso cambia lo que podés exigirle a una cita:

  • Que abra el fallo en el pasaje exacto, no que te dé la carátula para que lo busques vos.
  • Que la herramienta descarte lo que no puede verificar. Si una cita no se puede anclar al texto fuente, lo correcto es no mostrarla. Preferir el silencio a la afirmación no verificable es una decisión de diseño, y se nota.
  • Que enumere de qué fuentes lee. "Jurisprudencia argentina" no es una respuesta verificable.

Es exactamente el criterio con el que está construido Júreon: la búsqueda corre sobre fuentes oficiales argentinas de jurisprudencia y legislación, entre ellas SAIJ y la base de fallos de la Corte Suprema, y cada cita queda vinculada al documento, abrible en el pasaje del que salió.

Y si igual querés usar ChatGPT o Claude

Se puede, con una regla: usalos para pensar y redactar, nunca para citar. Estructurar un escrito, ordenar un argumento, encontrar la contra de tu propia posición, resumir un texto que vos le pegaste: todo eso lo hacen muy bien, porque no requiere recuperar información que no tienen. Pedirles jurisprudencia argentina de memoria es el único uso que está garantizado que va a fallar.

Poné a prueba las citas, no la seguridad del modelo

Preguntá por un fallo de tu fuero y hacé clic en la cita. Cuando el sistema no puede anclarla al texto fuente, directamente no la muestra.

Verificar una cita

15 días gratis. Sin tarjeta de crédito.

Preguntas frecuentes

¿Por qué la inteligencia artificial inventa fallos? Porque un modelo de lenguaje no consulta una base de datos: predice texto. Aprendió la forma de una cita jurisprudencial argentina y, cuando le pedís una, produce algo con esa forma exacta. El formato es correcto y el contenido es una interpolación de citas reales.

¿Qué riesgo profesional tiene citar un fallo inexistente? Ya hubo abogados sancionados en distintas jurisdicciones por presentar escritos con citas fabricadas. El argumento de que lo generó una IA no prosperó: la responsabilidad por lo que se presenta es del profesional que firma. A eso se suma el costo de credibilidad frente al tribunal.

¿Cómo detecto una cita jurisprudencial falsa? Buscá la carátula exacta en SAIJ o en la base del tribunal; verificá que la sala existiera en esa fecha y que el fuero resuelva ese tipo de causa; y leé el pasaje en el texto original. Este último control es el único que detecta el caso en que el fallo existe pero no dice lo que la IA afirma.

¿ChatGPT sirve para buscar jurisprudencia argentina? Sirve para pensar y redactar, no para citar. Sin un corpus argentino conectado, produce citas verosímiles e inexistentes. Usalo para estructurar un escrito, ordenar un argumento o resumir un texto que vos le pegaste.

¿Qué es una cita anclada al documento? Es una cita que abre el documento fuente en el pasaje exacto del que salió la afirmación, en lugar de darte solo la carátula. Requiere que la herramienta busque en un corpus real y le entregue al modelo el texto encontrado, en vez de pedirle que lo recuerde.

Conclusión

La IA no "miente": completa. Un modelo sin corpus conectado produce citas con la forma correcta y el contenido inventado, y lo hace con la misma confianza con la que produce las verdaderas. Por eso el criterio de compra más importante de una herramienta legal no es qué tan bien redacta, sino si podés abrir cada cosa que afirma.