Analyse de sécurité des agents IA révèle un modèle de confiance brisé et des taux de vulnérabilité élevés

Défaillance de l'Architecture de Sécurité

L'analyse démontre que le modèle de confiance fondamental pour les agents IA est défaillant. Contrairement aux architectures de sécurité traditionnelles, les agents IA traitent les attaques et les instructions légitimes dans la même fenêtre contextuelle sans différenciation structurelle. La séparation plan de contrôle/plan de données qui sous-tend la sécurité traditionnelle n'existe pas dans les implémentations actuelles d'agents IA.

Principales Constatations Empiriques

• Les injections indirectes atteignent un taux de réussite d'attaque (ASR) de 36 à 98 % sur les modèles les plus avancés selon les benchmarks MCPTox, ASB et PINT
• Les modèles les plus performants sont PLUS vulnérables aux attaques au niveau des outils
• Analyse de l'écosystème npm MCP : 2 386 packages examinés, dont 49 % contiennent des problèmes de sécurité
• Les surfaces d'attaque augmentent de manière superlinéaire avec les capacités de l'agent

Solution Proposée : Règles de Menace pour Agents (ATR)

La recherche présente les Règles de Menace pour Agents (ATR), premier standard ouvert de détection des menaces pour agents IA. L'implémentation comprend :

• 61 règles de détection
• 99,4 % de précision sur le benchmark PINT
• Open source avec licence MIT
• Disponible sur GitHub : https://github.com/Agent-Threat-Rule/agent-threat-rules

L'article complet couvre 30+ CVE, 7 benchmarks, et propose des exigences architecturales pour des défenses capables de suivre le rythme de l'évolution de l'IA.