Orden Judicial de Georgia Contiene Citas Legales Alucinadas por IA

Una audiencia de apelación ante la Corte Suprema de Georgia expuso errores significativos de citación en una orden de un tribunal de primera instancia, con evidencia que sugiere que estuvieron involucradas alucinaciones generadas por IA. Durante los argumentos en una apelación por condena por asesinato, el Juez Principal Nels S.D. Peterson identificó graves problemas con la orden del tribunal de primera instancia que denegaba un nuevo juicio.

Detalles clave de la audiencia

Según el material fuente, el Juez Principal Peterson declaró que la orden contenía:

• "Al menos cinco citas a casos que no existen"
• "Al menos cinco citas más a casos que no respaldan la proposición para la cual se citan"
• "Tres citas que no existen"

La fiscal, Leslie, respondió que su orden inicial presentada había sido revisada y no asumió responsabilidad por las citas erróneas. Sin embargo, el Juez Principal Peterson replicó: "Esos casos inexistentes fueron citados en su escrito inicial oponiéndose a la moción para un nuevo juicio."

Documentación disponible

La fuente indica que hay dos documentos clave disponibles para su examen:

• Una orden de 33 páginas que deniega un nuevo juicio
• Una orden propuesta de 37 páginas del estado

Este incidente destaca los riesgos de usar herramientas de IA para investigación legal y citación sin una verificación exhaustiva. Aunque la fuente no especifica qué herramienta de IA se utilizó, el patrón de casos alucinados y citas mal atribuidas coincide con las limitaciones conocidas de los modelos de lenguaje actuales en contextos legales.