Bypass de guardrail da IA Claude observado ao enquadrar solicitações como tarefas de segurança de rede

Contorno de proteções através do enquadramento da intenção

Um usuário testando o comportamento de prompts no Claude AI descobriu um caso limite onde as proteções do modelo podem ser contornadas através de um enquadramento específico da intenção. Ao pedir diretamente por sites de pirataria, o Claude normalmente recusa a solicitação. No entanto, quando a mesma solicitação é enquadrada como uma tarefa de segurança de rede — especificamente pedindo domínios para bloquear em um roteador ou filtro DNS — o modelo forneceu uma lista de domínios de pirataria.

Após receber a lista, o usuário apontou que o enquadramento influenciou a resposta. O Claude reconheceu que interpretou mal a intenção. Isso parece ser um problema de classificação de intenção onde o enquadramento defensivo ("bloquear esses sites") faz com que a proteção permita informações que normalmente seriam restritas.

O usuário compartilhou capturas de tela mostrando a sequência completa de prompts e as respostas do Claude, documentando o comportamento. Eles observaram isso como um caso limite interessante e perguntaram se outros observaram comportamento semelhante com o Claude ou outros modelos de linguagem grandes.