Fluxo de Aprovação de Administrador Seguro para Assistentes de Chat em Grupo Contra Injeção de Prompt
O post do r/ClaudeAI "Mitigando injeções de prompt em assistentes de chat em grupo: Pausando execução de VM e ferramentas OAuth para aprovação do administrador" descreve um padrão de segurança prático para assistentes baseados em LLM conectados a canais públicos ou compartilhados (ex.: WhatsApp via Supergreen ou chats em grupo). O problema central: quando vários usuários compartilham o mesmo histórico de sessão, qualquer participante pode injetar um prompt no assistente para acionar ferramentas perigosas — como provisionar recursos na nuvem, executar código com segredos mapeados ou obter tokens OAuth.
Fluxo de Aprovação Seguro do Administrador
A solução proposta no prompt2bot é um fluxo de Aprovação Segura do Administrador que intercepta execuções de ferramentas de alto risco:
- Quando um usuário não administrador aciona
create_vm,run_safescript(execução de código personalizado com segredos mapeados) ou fluxos OAuth, a ferramenta pausa a execução e retorna: "solicitando permissão do administrador...". - Um link de aprovação com TTL de 10 minutos é enviado automaticamente aos administradores configurados via WhatsApp ou e-mail.
- Após a aprovação, um job em segundo plano injeta uma notificação do sistema no histórico da conversa:
[Notificação do sistema: O administrador aprovou sua solicitação para executar <toolName> (ID da Solicitação: <requestId>)]. - Essa injeção de pensamento reativa o loop do agente, que chama novamente a ferramenta com o
request_idaprovado para continuar perfeitamente. - Para usuários convidados (proprietários do bot sem e-mail/telefone configurados), as aprovações são ignoradas para testes de desenvolvimento sem atritos.
Para Quem é Isso
Desenvolvedores que criam assistentes altamente capazes que operam em canais compartilhados e precisam proteger o acesso a ferramentas poderosas contra ataques de injeção de prompt de participantes não confiáveis.
📖 Leia a fonte completa: r/ClaudeAI
👀 See Also
Apps Construídos por IA São Frágeis: Por Que Pequenas Mudanças Quebram o Isolamento de Dados e Permissões
Desenvolvedores relatam que aplicativos gerados por IA (via Claude Code, Cursor) quebram silenciosamente login, permissões e isolamento de dados quando pequenas alterações são feitas, porque os modelos de IA não compreendem a intenção original do sistema, como regras de propriedade.
Avaliação da AISI Mostra as Capacidades Cibernéticas da Prévia do Claude Mythos em CTF e Ataques de Múltiplas Etapas
O Instituto de Segurança de IA avaliou a versão prévia do Claude Mythos da Anthropic, constatando que ele completou com sucesso 73% dos desafios de capturar a bandeira de nível especialista e resolveu uma simulação de ataque a uma rede corporativa de 32 etapas em 3 de 10 tentativas.
As Salvaguardas do Agente de IA Deterioram-se ao Longo do Tempo Sem Manutenção Ativa
As proteções dos agentes de IA se degradam ao longo do tempo à medida que os prompts do sistema acumulam atualizações, as versões dos modelos mudam e novas ferramentas são adicionadas, frequentemente resultando em regras de segurança contraditórias ou ignoradas que exigem revisão e testes regulares.
Claude implementa verificação de identidade para certos casos de uso
A Anthropic está implementando verificação de identidade para o Claude por meio do Persona Identities, exigindo documentos de identidade com foto emitidos pelo governo e selfies ao vivo. O processo de verificação leva menos de cinco minutos e é usado para prevenir abusos e cumprir obrigações legais.