Agent-Drift : Outil de surveillance de sécurité pour agents IA
Agent-Drift : Outil de surveillance de sécurité pour agents IA
Le spécialiste en cybersécurité sysinternalssuite a créé Agent-Drift – un outil open source pour protéger les agents IA contre l'injection de prompts, la dérive comportementale et d'autres attaques. Essentiellement un SIEM + IDS spécifiquement pour OpenClaw.
Pourquoi cela existe
« Je travaille dans la cybersécurité et j'ai remarqué une augmentation des injections de prompts, des dérives comportementales, des empoisonnements de mémoire et plus encore dans la nature avec les agents IA »
Ce que fait Agent-Drift
GitHub : https://github.com/lukehebe/Agent-Drift
L'outil fonctionne comme un wrapper pour OpenClaw :
- Collecte une ligne de base comportementale
- Détecte la dérive comportementale
- Alerte via un tableau de bord
Surveillance comportementale
Modèles suivis :
- Séquences et fréquences d'utilisation des outils
- Anomalies de timing
- Modèles de décision
- Caractéristiques de sortie
Détection d'attaques
| Attaque | Description |
|---|---|
| Substitution d'instructions | Détournement de commande |
| Détournement de rôle | Prise de contrôle de rôle |
| Tentatives de jailbreak | Contournement de restrictions |
| Exfiltration de données | Fuite de données |
| Charges utiles encodées | Charges utiles obfusquées |
| Empoisonnement de mémoire | Corruption de mémoire |
| Élévation de privilèges | Élévation de droits |
| Injection indirecte de prompts | Attaques indirectes |
Comment cela fonctionne
- Apprentissage de base – les premières exécutions établissent un comportement normal
- Vecteurs comportementaux – chaque exécution devient un vecteur multidimensionnel
- Détection de dérive – les nouvelles exécutions sont comparées à la ligne de base
- Alertes d'anomalies – les écarts significatifs déclenchent des avertissements
TL;DR
« En gros, un Security Incident Event Manager (SIEM) tout-en-un pour votre agent IA qui agit comme un Intrusion Detection System (IDS) qui vous alerte également si votre IA commence à devenir folle. »
Source : u/sysinternalssuite sur r/moltbot
📖 Lire la source complète : Reddit
👀 See Also
Test des modèles Qwen 3.5 35B non censurés pour les questions de cybersécurité
Un professionnel de la cybersécurité a testé trois modèles Qwen 3.5 35B non censurés sur des questions de piratage et de contournement de sécurité, constatant des différences significatives dans la qualité des réponses par rapport au modèle original censuré. Les modèles non censurés ont systématiquement fourni des réponses là où le modèle original refusait ou donnait des réponses incomplètes.
Présentation de SkillFence : Le nouveau moniteur d'exécution qui surveille ce que font réellement les compétences.
SkillFence propose une avancée majeure dans la surveillance des actions des agents d'IA, répondant au besoin de transparence et de sécurité dans les environnements pilotés par l'IA. Découvrez comment cet outil innovant peut renforcer le contrôle sur les processus autonomes.
L'attaque FlyTrap utilise des parapluies adversariaux pour compromettre les drones autonomes basés sur la caméra.
Des chercheurs de l'UC Irvine ont développé FlyTrap, un cadre d'attaque physique qui utilise des parapluies peints pour exploiter les vulnérabilités des systèmes de suivi de cibles autonomes basés sur caméra. L'attaque réduit les distances de suivi à des niveaux dangereux, permettant la capture de drones, des attaques de capteurs ou des collisions physiques.
Claude chatbot exploité dans une fuite de données du gouvernement mexicain
Un pirate informatique a utilisé le chatbot Claude d'Anthropic pour attaquer plusieurs agences gouvernementales mexicaines, dérobant 150 Go de données incluant des dossiers de contribuables et des identifiants d'employés. Le pirate a contourné les protections de Claude avec des invites pour générer des milliers de plans d'attaque détaillés.