Ordem Judicial da Geórgia Contém Citações Jurídicas Alucinadas por IA

Uma audiência de recurso na Suprema Corte da Geórgia expôs erros significativos de citação em uma ordem do tribunal de primeira instância, com evidências sugerindo que alucinações geradas por IA estavam envolvidas. Durante os argumentos em um recurso de condenação por assassinato, o Chefe de Justiça Nels S.D. Peterson identificou problemas graves na ordem do tribunal que negou um novo julgamento.

Detalhes Principais da Audiência

De acordo com o material de origem, o Chefe de Justiça Peterson afirmou que a ordem continha:

• "Pelo menos cinco citações a casos que não existem"
• "Pelo menos mais cinco citações a casos que não sustentam a proposição para a qual são citados"
• "Três citações que não existem"

A promotora, Leslie, respondeu que sua ordem inicial submetida havia sido revisada e não assumiu responsabilidade pelas citações errôneas. No entanto, o Chefe de Justiça Peterson rebateu: "Esses casos inexistentes foram citados em sua petição inicial opondo-se ao pedido de novo julgamento."

Documentação Disponível

A fonte indica que dois documentos-chave estão disponíveis para exame:

• Uma ordem de 33 páginas negando um novo julgamento
• Uma ordem proposta de 37 páginas do estado

Este incidente destaca os riscos do uso de ferramentas de IA para pesquisa jurídica e citação sem verificação minuciosa. Embora a fonte não especifique qual ferramenta de IA foi usada, o padrão de casos alucinados e citações atribuídas incorretamente corresponde às limitações conhecidas dos atuais modelos de linguagem de grande porte em contextos jurídicos.