McpVanguard: Proxy de segurança de código aberto para agentes de IA baseados em MCP
McpVanguard é um proxy de segurança e firewall de código aberto projetado especificamente para agentes de IA locais que usam o Model Context Protocol (MCP). Ele aborda preocupações de segurança que surgem ao dar aos LLMs acesso a ferramentas como terminais ou sistemas de arquivos.
Como funciona
O proxy fica entre o agente de IA e as ferramentas MCP, envolvendo servidores MCP existentes sem exigir reescrita de configuração. Ele pode ser executado localmente como um proxy leve ou ser implantado como um gateway em nuvem, com um modelo Railway disponível para implantação mais fácil.
Camadas de segurança
- Mecanismo de regras/assinaturas: Contém cerca de 50 assinaturas YAML que detectam ataques comuns como shells reversos, tentativas de SSRF e outras ameaças óbvias. Esta camada adiciona aproximadamente 16ms de latência.
- Camada de pontuação semântica (opcional): Quando as solicitações parecem suspeitas, mas não claramente maliciosas, elas podem ser avaliadas por um pequeno LLM (Ollama ou OpenAI) que avalia a intenção.
- Monitoramento comportamental: Bloqueia padrões anômalos, como um agente tentando ler centenas de arquivos em um curto período de tempo.
Capacidades de auditoria
Cada solicitação bloqueada é registrada em um log de auditoria imutável que é assinado criptograficamente e armazenado localmente, fornecendo um registro verificável do que foi bloqueado e por quê.
A ferramenta foi desenvolvida para abordar preocupações específicas de segurança com implementações MCP, incluindo injeção de prompt, travessia de caminho e exclusão acidental de diretórios por agentes de IA.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Recurso de suporte de IA da Meta permite que qualquer pessoa sequestre contas do Instagram — Detalhes da exploração
Um recurso de suporte por IA testado A/B no Instagram permite que invasores redefinam senhas pedindo ao agente que envie um código para um e-mail arbitrário. Mais de 100 contas de alto valor foram sequestradas.
Código-fonte do Claude supostamente vazado via arquivo de mapa NPM
Um tweet relata que o código-fonte do Claude Code foi vazado por meio de um arquivo de mapa em seu registro NPM. A discussão no HN tem 93 pontos e 35 comentários.
FORGE: Framework de Teste de Segurança de IA de Código Aberto para Sistemas LLM
FORGE é um framework autônomo de teste de segurança de IA que constrói suas próprias ferramentas durante a execução, autorreplica-se em um enxame e cobre as 10 principais vulnerabilidades OWASP LLM, incluindo injeção de prompt, fuzzing de jailbreak e vazamento de RAG.
Ward: Ferramenta de código aberto intercepta instalações do npm para bloquear ataques à cadeia de suprimentos para usuários do Claude Code
Ward é uma ferramenta de código aberto que se integra aos gerenciadores de pacotes para verificar cada pacote antes da execução dos scripts de instalação. Quando o Claude Code executa npm install, o Ward automaticamente verifica os pacotes em busca de malware, typosquats, scripts suspeitos e anomalias de versão.