Agente-Drift: Ferramenta de Monitoramento de Segurança para Agentes de IA
Agent-Drift: Ferramenta de Monitoramento de Segurança para Agentes de IA
O especialista em cibersegurança sysinternalssuite criou o Agent-Drift — uma ferramenta de código aberto para proteger agentes de IA contra injeção de prompt, desvio comportamental e outros ataques. Basicamente, um SIEM + IDS especificamente para OpenClaw.
Por Que Isso Existe
"Trabalho em Cibersegurança e tenho notado um aumento em injeção de prompt, desvio comportamental, envenenamento de memória e mais na natureza com agentes de IA"
O Que o Agent-Drift Faz
GitHub: https://github.com/lukehebe/Agent-Drift
A ferramenta funciona como um wrapper para OpenClaw:
- Coleta linha de base de comportamento
- Detecta desvio comportamental
- Alerta através do painel
Monitoramento de Comportamento
Padrões rastreados:
- Sequências e frequências de uso de ferramentas
- Anomalias de tempo
- Padrões de decisão
- Características de saída
Detecção de Ataques
| Ataque | Descrição |
|---|---|
| Sobrescrita de instrução | Sequestro de comando |
| Sequestro de função | Tomada de função |
| Tentativas de jailbreak | Bypass de restrições |
| Exfiltração de dados | Vazamento de dados |
| Cargas codificadas | Cargas ofuscadas |
| Envenenamento de memória | Corrupção de memória |
| Escalada de privilégios | Elevação de direitos |
| Injeção de prompt indireta | Ataques indiretos |
Como Funciona
- Aprendizado de Linha de Base — primeiras execuções estabelecem comportamento normal
- Vetores Comportamentais — cada execução se torna um vetor multidimensional
- Detecção de Desvio — novas execuções comparadas com a linha de base
- Alertas de Anomalia — desvios significativos disparam avisos
TL;DR
"Basicamente um Security Incident Event Manager (SIEM) completo para seu agente de IA que age como um Intrusion Detection System (IDS) que também alerta se sua IA começar a ficar maluca."
Fonte: u/sysinternalssuite no r/moltbot
📖 Leia a fonte completa: Reddit
👀 See Also
Usando o FastAPI Guard para proteger instâncias do OpenClaw contra ataques
O FastAPI Guard fornece um middleware que adiciona 17 verificações de segurança, incluindo filtragem de IP, bloqueio geográfico, limitação de taxa e detecção de penetração. A ferramenta bloqueia ataques como os documentados em auditorias de segurança do OpenClaw, que mostram 512 vulnerabilidades e mais de 40.000 instâncias expostas.
Chatbots de IA vazam números de telefone reais: o problema de exposição de PII
Chatbots como Gemini, ChatGPT e Claude estão expondo números de telefone pessoais reais devido a PII nos dados de treinamento. A DeleteMe relata um aumento de 400% nas solicitações de privacidade relacionadas a IA em sete meses.
Pacote MCP de Varredura de Segurança Revela Capacidades Destrutivas Generalizadas Sem Confirmação
Uma análise de segurança de 2.386 pacotes MCP no npm descobriu que 63,5% expõem operações destrutivas como exclusão de arquivos e remoção de bancos de dados sem exigir confirmação humana. O pesquisador descobriu que 49% tinham problemas de segurança no geral, com 402 vulnerabilidades críticas e 240 de alta gravidade.
Claude Code escreve arquivos fora do diretório permitido sem permissão
Um usuário relata que o Claude Code criou pastas e salvou arquivos em C:\Users\...\Documents\Surge XT\Patches\ sem permissão explícita, usando os.makedirs.