Homem tenta injeção de prompt em documentos judiciais, juiz considera 'perigoso'

Um juiz de Connecticut identificou o que parece ser a primeira instância de um autor nos EUA tentando usar injeção de prompt—texto oculto legível apenas por sistemas de IA—em documentos judiciais. Matthew Elliott, um litigante pro se, escondeu instruções em texto branco minúsculo sobre fundos brancos, esperando influenciar qualquer sistema de IA que pudesse revisar seu caso.

Texto Oculto e Instruções de IA

De acordo com a decisão do Juiz Walter Spader Jr., o texto oculto de Elliott estava "formatado para ser invisível a um leitor humano, permanecendo totalmente legível para qualquer software que leia o texto do documento." As instruções direcionavam os sistemas de IA a:

• Garantir que as saídas textuais concordassem com os argumentos de Elliott
• Ignorar negações anteriores do tribunal
• Garantir que a reparação ocorresse como Elliott desejava

Elliott alegou que estava tentando "auditar" o tribunal por preocupação de que estivesse usando IA de forma injusta. O Juiz Spader rejeitou isso, observando que se Elliott tivesse preocupações genuínas, poderia escrevê-las "em palavras simples e visíveis." A natureza oculta do texto era "evidência de seu propósito malicioso."

Sanções e Piadas Subsequentes

Apesar dos avisos, Elliott continuou a esconder texto em documentos, incluindo piadas como um link para um vídeo do YouTube do Nosferatu, uma mensagem dizendo "oi :) espero que você não me veja," e texto sem sentido. O Juiz Spader chamou essas ações de "impressionantes" e "desafia a lógica" para alguém que quer que o tribunal leve seus pleitos a sério.

O Poder Judiciário de Connecticut não usa IA para revisar ou decidir documentos, então os prompts não tiveram efeito. No entanto, Spader observou que a tática está "em toda parte" em outras áreas, como currículos. Ele proibiu Elliott de arquivar eletronicamente no futuro como sanção, evitando multas monetárias devido ao status pro se de Elliott.

Implicações

Este caso destaca uma preocupação crescente de segurança: injeção de prompt como vetor para adulteração de revisão de documentos assistida por IA. À medida que tribunais e outras instituições adotam cada vez mais ferramentas de IA, atores maliciosos podem tentar explorá-las. A decisão do Juiz Spader estabelece um precedente legal para penalizar tal abuso.