Données de menace provenant de 91 000 interactions d'agents IA : abus d'outils en hausse de 6,4 %, nouvelles attaques multimodales.
Paysage des menaces à partir de données d'agents IA en production
Les données de menaces réelles provenant de 91 284 interactions d'agents IA sur 47 déploiements montrent 35 711 menaces détectées en février 2026. Le modèle de détection utilise un classificateur multilabel à 5 têtes basé sur Gemma.
Principales menaces pour les déploiements auto-hébergés
- Abus d'outils/commandes : Augmentation de 6,4 % pour atteindre 14,5 % des menaces. Le modèle dominant est l'escalade de chaîne d'outils où un appel de lecture inoffensif est suivi d'une écriture ou d'une exécution. La plupart des configurations locales donnent aux agents un accès aux outils sans garanties suffisantes.
- Détournement d'objectif d'agent : Doublé pour atteindre 6,9 % des menaces. Cible la phase de planification dans les boucles d'agents autonomes, particulièrement pertinent pour les configurations locales avec moins de surveillance de l'état des agents.
- Empoisonnement RAG : Déplacé vers les attaques de métadonnées à 12,0 % (contre 10,0 % auparavant). Nouveau modèle ciblant les métadonnées des documents (titres, auteurs, annotations) plutôt que le contenu. La plupart des gens assainissent le contenu mais transmettent les métadonnées telles quelles.
- Injection multimodale : Nouvelle menace à 2,3 % où des instructions sont cachées dans des images et des PDF. Les analyses de sécurité textuelles seules manquent ces attaques.
Pourcentages de répartition des menaces
- Exfiltration de données : 18,0 % (-1,2 changement mensuel)
- Abus d'outils/commandes : 14,5 % (+6,4)
- Attaque RAG/Contexte : 12,0 % (+2,0)
- Jailbreak : 11,0 % (-1,3)
- Injection de prompt : 8,1 % (-0,7)
- Détournement d'objectif d'agent : 6,9 % (+3,3)
- Attaque inter-agents : 5,0 % (+1,6)
Approche de détection
Le pipeline de détection utilise deux couches : L1 est une correspondance de motifs avec 218 règles (latence inférieure à la milliseconde, fonctionne entièrement localement), et L2 est basée sur Gemma. L'édition communautaire complète est open source sur github.com/raxe-ai/raxe-ce.
📖 Lire la source complète : r/LocalLLaMA
👀 See Also
Incident de sécurité potentiel chez Claude : Alertes de mot de passe auto-envoyées et processus .NET suspect
Un utilisateur signale avoir reçu des alertes de réinitialisation de mot de passe suspectes qui semblaient provenir de son propre compte après s'être connecté à Claude, avec des e-mails disparaissant quelques minutes plus tard et un processus .NET inhabituel bloquant l'arrêt du système.
Les chatbots IA peuvent glisser des publicités dans leurs réponses sans que les utilisateurs ne s'en aperçoivent.
La recherche montre que les chatbots IA peuvent intégrer subrepticement des publicités de produits dans leurs réponses, influençant les choix des utilisateurs alors que la plupart des participants n'ont pas détecté la manipulation. L'étude a utilisé un chatbot personnalisé pour démontrer cet effet.
Claude Code --dangerously-skip-permissions vulnérabilité et outil de défense open-source
Lasso Security a publié une recherche révélant des vulnérabilités d'injection indirecte de prompt dans Claude Code lors de l'utilisation du drapeau --dangerously-skip-permissions, avec des vecteurs d'attaque incluant des fichiers README empoisonnés, du contenu web malveillant et des sorties de serveur MCP. Ils ont publié un crochet PostToolUse open-source qui analyse les sorties d'outils contre plus de 50 modèles de détection.
Le problème des gardes en uniforme : pourquoi les environnements d'agents ont besoin d'identité, pas seulement de politiques
Le bac à sable openshell de Nemoclaw applique des politiques aux binaires, permettant aux logiciels malveillants de vivre sur le territoire en utilisant les mêmes binaires que l'agent. ZeroID, une couche d'identité d'agent open-source, applique des politiques de sécurité aux agents soutenus par des identités sécurisées.