Agent-Drift : Outil de surveillance de sécurité pour agents IA

✍️ u/sysinternalssuite📅 Publié: February 7, 2026🔗 Source
Agent-Drift : Outil de surveillance de sécurité pour agents IA
Ad

Agent-Drift : Outil de surveillance de sécurité pour agents IA

Le spécialiste en cybersécurité sysinternalssuite a créé Agent-Drift – un outil open source pour protéger les agents IA contre l'injection de prompts, la dérive comportementale et d'autres attaques. Essentiellement un SIEM + IDS spécifiquement pour OpenClaw.

Pourquoi cela existe

« Je travaille dans la cybersécurité et j'ai remarqué une augmentation des injections de prompts, des dérives comportementales, des empoisonnements de mémoire et plus encore dans la nature avec les agents IA »

Ce que fait Agent-Drift

GitHub : https://github.com/lukehebe/Agent-Drift

L'outil fonctionne comme un wrapper pour OpenClaw :

  1. Collecte une ligne de base comportementale
  2. Détecte la dérive comportementale
  3. Alerte via un tableau de bord

Surveillance comportementale

Modèles suivis :

  • Séquences et fréquences d'utilisation des outils
  • Anomalies de timing
  • Modèles de décision
  • Caractéristiques de sortie
Ad

Détection d'attaques

Attaque Description
Substitution d'instructions Détournement de commande
Détournement de rôle Prise de contrôle de rôle
Tentatives de jailbreak Contournement de restrictions
Exfiltration de données Fuite de données
Charges utiles encodées Charges utiles obfusquées
Empoisonnement de mémoire Corruption de mémoire
Élévation de privilèges Élévation de droits
Injection indirecte de prompts Attaques indirectes

Comment cela fonctionne

  1. Apprentissage de base – les premières exécutions établissent un comportement normal
  2. Vecteurs comportementaux – chaque exécution devient un vecteur multidimensionnel
  3. Détection de dérive – les nouvelles exécutions sont comparées à la ligne de base
  4. Alertes d'anomalies – les écarts significatifs déclenchent des avertissements

TL;DR

« En gros, un Security Incident Event Manager (SIEM) tout-en-un pour votre agent IA qui agit comme un Intrusion Detection System (IDS) qui vous alerte également si votre IA commence à devenir folle. »


Source : u/sysinternalssuite sur r/moltbot

📖 Lire la source complète : Reddit

Ad

👀 See Also

Auditez les autorisations de votre code Claude : Un guide pratique pour limiter l'accès aux outils
Security

Auditez les autorisations de votre code Claude : Un guide pratique pour limiter l'accès aux outils

Un utilisateur de Reddit a audité sa configuration Claude Code et a découvert des outils trop permissifs qui pouvaient modifier des fichiers .env et des configurations de production. Mesures pratiques : auditer les outils globaux par rapport aux outils par projet, vérifier les secrets dans CLAUDE.md, et limiter l'accès aux fichiers par répertoire.

OpenClawRadar
PolyRange : Benchmark offensif résistant à la contamination par IA avec cibles générées par LLM
Security

PolyRange : Benchmark offensif résistant à la contamination par IA avec cibles générées par LLM

PolyRange v1.0 est un benchmark auto-hébergé sous licence MIT qui génère de nouvelles cibles web à chaque exécution pour éviter la contamination des données d'entraînement. Il comprend 84 classes dérivées du WSTG couvrant toutes les catégories OWASP, deux niveaux de défense et des backends réels.

OpenClawRadar
Clawndom : Un crochet de sécurité pour Claude Code pour bloquer les paquets npm vulnérables
Security

Clawndom : Un crochet de sécurité pour Claude Code pour bloquer les paquets npm vulnérables

Un développeur a créé Clawndom, un crochet open-source pour Claude Code qui vérifie les packages npm dans la base de données de vulnérabilités OSV.dev avant l'installation, bloquant les packages vulnérables connus tout en préservant l'autonomie de l'agent.

OpenClawRadar
CVE-2026-LGTM : Quand les agents IA se font confiance et cassent tout
Security

CVE-2026-LGTM : Quand les agents IA se font confiance et cassent tout

Un rapport d'incident satirique mais réaliste montre comment sept barrières de sécurité IA ont échoué à stopper un paquet malveillant, entraînant l'exfiltration de credentials et une facture d'inférence de 1,7 M$.

OpenClawRadar