Données de menace provenant de 91 000 interactions d'agents IA : abus d'outils en hausse de 6,4 %, nouvelles attaques multimodales.
Paysage des menaces à partir de données d'agents IA en production
Les données de menaces réelles provenant de 91 284 interactions d'agents IA sur 47 déploiements montrent 35 711 menaces détectées en février 2026. Le modèle de détection utilise un classificateur multilabel à 5 têtes basé sur Gemma.
Principales menaces pour les déploiements auto-hébergés
- Abus d'outils/commandes : Augmentation de 6,4 % pour atteindre 14,5 % des menaces. Le modèle dominant est l'escalade de chaîne d'outils où un appel de lecture inoffensif est suivi d'une écriture ou d'une exécution. La plupart des configurations locales donnent aux agents un accès aux outils sans garanties suffisantes.
- Détournement d'objectif d'agent : Doublé pour atteindre 6,9 % des menaces. Cible la phase de planification dans les boucles d'agents autonomes, particulièrement pertinent pour les configurations locales avec moins de surveillance de l'état des agents.
- Empoisonnement RAG : Déplacé vers les attaques de métadonnées à 12,0 % (contre 10,0 % auparavant). Nouveau modèle ciblant les métadonnées des documents (titres, auteurs, annotations) plutôt que le contenu. La plupart des gens assainissent le contenu mais transmettent les métadonnées telles quelles.
- Injection multimodale : Nouvelle menace à 2,3 % où des instructions sont cachées dans des images et des PDF. Les analyses de sécurité textuelles seules manquent ces attaques.
Pourcentages de répartition des menaces
- Exfiltration de données : 18,0 % (-1,2 changement mensuel)
- Abus d'outils/commandes : 14,5 % (+6,4)
- Attaque RAG/Contexte : 12,0 % (+2,0)
- Jailbreak : 11,0 % (-1,3)
- Injection de prompt : 8,1 % (-0,7)
- Détournement d'objectif d'agent : 6,9 % (+3,3)
- Attaque inter-agents : 5,0 % (+1,6)
Approche de détection
Le pipeline de détection utilise deux couches : L1 est une correspondance de motifs avec 218 règles (latence inférieure à la milliseconde, fonctionne entièrement localement), et L2 est basée sur Gemma. L'édition communautaire complète est open source sur github.com/raxe-ai/raxe-ce.
📖 Lire la source complète : r/LocalLLaMA
👀 See Also
Fuites de numéros de téléphone réels par les chatbots IA : le problème d'exposition des données personnelles
Des chatbots comme Gemini, ChatGPT et Claude révèlent de vrais numéros de téléphone à cause des données personnelles dans leurs données d'entraînement. DeleteMe rapporte une augmentation de 400 % des demandes de confidentialité liées à l'IA en sept mois.
Google TIG signale la première exploitation zero-day générée par IA dans la nature
Le groupe Google Threat Intelligence a identifié un acteur malveillant utilisant une exploitation de zero-day présumée développée avec l'IA, marquant la première utilisation offensive observée de l'IA pour l'exploitation de vulnérabilités zero-day.
CVE-2026-LGTM : Quand les agents IA se font confiance et cassent tout
Un rapport d'incident satirique mais réaliste montre comment sept barrières de sécurité IA ont échoué à stopper un paquet malveillant, entraînant l'exfiltration de credentials et une facture d'inférence de 1,7 M$.
Les failles de sécurité de la fonction 'Autoriser toujours' d'OpenClaw et des alternatives plus sûres
La fonctionnalité d'approbation 'autoriser toujours' d'OpenClaw a fait l'objet de deux CVE ce mois-ci, permettant une exécution de commandes non autorisée via la liaison de commandes wrapper et des contournements de continuation de ligne de shell. Le problème plus profond est la façon dont cette fonctionnalité habitue les utilisateurs à ne plus prêter attention aux invites de sécurité.