Por que advogados continuam citando casos alucinados por IA: a visão de um desenvolvedor

A fonte: Um artigo da Scientific American (maio de 2026) relata mais de 1.400 casos judiciais em que a IA alucinou citações legais falsas. Advogados continuam apresentando-as apesar dos avisos. Isso não é um problema apenas jurídico: jornalistas, desenvolvedores e pesquisadores também estão sendo queimados.

Estatísticas-chave do artigo

• Mais de 1.400 casos nos últimos 3 anos em que juízes abordaram explicitamente erros de IA em petições (segundo Damien Charlotin, pesquisador da HEC Paris). A taxa atingiu 350–400 decisões por trimestre e depois estabilizou.
• Exemplo: A Suprema Corte do Alabama sancionou um advogado que citou casos falsos gerados por IA, prometeu parar e imediatamente citou casos inexistentes na frase seguinte.
• Outro advogado foi sancionado após ter sido avisado para não usar alucinações de IA.

A pesquisa sobre viés de confiança em IA

• Estudo de classificação de imagens (fev. 2026): Participantes informados de que o conselho vinha da IA tiveram desempenho pior quando tinham atitudes positivas em relação à IA. Aqueles informados de que o conselho vinha de humanos não mostraram tal efeito. A orientação da IA tem uma "capacidade específica de gerar vieses."
• Simulação de ataque com drone (laboratório Wagner, Penn State): Participantes classificaram civis vs. combatentes com precisão inicialmente, mas inverteram suas opiniões quando um bot deu feedback aleatório—na maioria dos casos o bot estava errado. Eles levaram a tarefa a sério, com imagens de crianças e ataques de mísseis.

O que isso significa para agentes de codificação de IA

Isso não é apenas uma curiosidade jurídica. As mesmas dinâmicas de confiança se aplicam quando desenvolvedores dependem de agentes de IA para geração de código, depuração ou teste. Principais conclusões:

• O viés de automação é real: humanos confiam excessivamente em saídas de máquina mesmo quando sabem que a máquina pode errar.
• Falsos positivos parecem convincentes: a IA alucina absurdos plausíveis (nomes de casos falsos, assinaturas de funções plausíveis, APIs inventadas). A validação tradicional não pega o estruturalmente plausível.
• Sanções também existem no código: implantar código alucinado pode causar falhas, brechas de segurança ou falhas de conformidade. Diferente das sanções judiciais, você pode não receber um aviso antes.
• Estabilização, não declínio: a taxa de erros de IA nos tribunais permaneceu alta mesmo após a conscientização. O mesmo padrão provavelmente vale em equipes de desenvolvimento: apenas a conscientização não é suficiente.

Mitigação prática: trate toda saída de IA como um rascunho. Implemente verificações automatizadas (por exemplo, contra registros de pacotes conhecidos, documentação ou suítes de teste). Construa barreiras que detectem alucinações antes que cheguem à produção.