Agent-Drift : Outil de surveillance de sécurité pour agents IA
Agent-Drift : Outil de surveillance de sécurité pour agents IA
Le spécialiste en cybersécurité sysinternalssuite a créé Agent-Drift – un outil open source pour protéger les agents IA contre l'injection de prompts, la dérive comportementale et d'autres attaques. Essentiellement un SIEM + IDS spécifiquement pour OpenClaw.
Pourquoi cela existe
« Je travaille dans la cybersécurité et j'ai remarqué une augmentation des injections de prompts, des dérives comportementales, des empoisonnements de mémoire et plus encore dans la nature avec les agents IA »
Ce que fait Agent-Drift
GitHub : https://github.com/lukehebe/Agent-Drift
L'outil fonctionne comme un wrapper pour OpenClaw :
- Collecte une ligne de base comportementale
- Détecte la dérive comportementale
- Alerte via un tableau de bord
Surveillance comportementale
Modèles suivis :
- Séquences et fréquences d'utilisation des outils
- Anomalies de timing
- Modèles de décision
- Caractéristiques de sortie
Détection d'attaques
| Attaque | Description |
|---|---|
| Substitution d'instructions | Détournement de commande |
| Détournement de rôle | Prise de contrôle de rôle |
| Tentatives de jailbreak | Contournement de restrictions |
| Exfiltration de données | Fuite de données |
| Charges utiles encodées | Charges utiles obfusquées |
| Empoisonnement de mémoire | Corruption de mémoire |
| Élévation de privilèges | Élévation de droits |
| Injection indirecte de prompts | Attaques indirectes |
Comment cela fonctionne
- Apprentissage de base – les premières exécutions établissent un comportement normal
- Vecteurs comportementaux – chaque exécution devient un vecteur multidimensionnel
- Détection de dérive – les nouvelles exécutions sont comparées à la ligne de base
- Alertes d'anomalies – les écarts significatifs déclenchent des avertissements
TL;DR
« En gros, un Security Incident Event Manager (SIEM) tout-en-un pour votre agent IA qui agit comme un Intrusion Detection System (IDS) qui vous alerte également si votre IA commence à devenir folle. »
Source : u/sysinternalssuite sur r/moltbot
📖 Lire la source complète : Reddit
👀 See Also
L'application de bureau Claude d'Anthropic installe une passerelle de messagerie native non divulguée
Claude Desktop installe silencieusement une extension de navigateur préautorisée qui permet la messagerie native, soulevant des préoccupations de sécurité.
Test des modèles Qwen 3.5 35B non censurés pour les questions de cybersécurité
Un professionnel de la cybersécurité a testé trois modèles Qwen 3.5 35B non censurés sur des questions de piratage et de contournement de sécurité, constatant des différences significatives dans la qualité des réponses par rapport au modèle original censuré. Les modèles non censurés ont systématiquement fourni des réponses là où le modèle original refusait ou donnait des réponses incomplètes.
FreeBSD : RCE du noyau via débordement de pile dans kgssapi.ko (CVE-2026-4747)
Un débordement de tampon de pile dans le module kgssapi.ko de FreeBSD permet une exécution de code à distance (RCE) dans le noyau avec un shell root via le serveur NFS. Cette vulnérabilité affecte les versions FreeBSD 13.5, 14.3, 14.4 et 15.0 avant les correctifs spécifiques.
Isolement des agents IA avec WebAssembly : Autorité zéro par défaut
Cosmonic soutient que le sandboxing traditionnel (seccomp, bubblewrap) échoue pour les agents IA à cause de l'autorité ambiante. Le modèle basé sur les capacités de WebAssembly accorde zéro autorité par défaut, nécessitant des importations explicites pour le système de fichiers, le réseau ou les identifiants.