Análise de Segurança de Agentes de IA Revela Modelo de Confiança Comprometido e Altas Taxas de Vulnerabilidade

Colapso da Arquitetura de Segurança

A análise demonstra que o modelo fundamental de confiança para agentes de IA está quebrado. Diferente das arquiteturas de segurança tradicionais, os agentes de IA processam ataques e instruções legítimas através da mesma janela de contexto, sem diferenciação estrutural. A separação entre plano de controle e plano de dados que sustenta a segurança tradicional não existe nas implementações atuais de agentes de IA.

Principais Descobertas Empíricas

• A injeção indireta alcança taxa de sucesso de ataque (ASR) de 36-98% nos modelos mais avançados nos benchmarks MCPTox, ASB e PINT
• Modelos mais capazes são MAIS suscetíveis a ataques na camada de ferramentas
• Análise do ecossistema npm MCP: 2.386 pacotes examinados, com 49% contendo problemas de segurança
• As superfícies de ataque crescem de forma superlinear com a capacidade do agente

Solução Proposta: Regras de Ameaça a Agentes (ATR)

A pesquisa apresenta as Regras de Ameaça a Agentes (ATR), o primeiro padrão aberto de detecção para ameaças a agentes de IA. A implementação inclui:

• 61 regras de detecção
• 99,4% de precisão no benchmark PINT
• Código aberto com licença MIT
• Disponível no GitHub: https://github.com/Agent-Threat-Rule/agent-threat-rules

O artigo completo aborda mais de 30 CVEs, 7 benchmarks e propõe requisitos arquiteturais para defesas que possam acompanhar a escalabilidade da IA.