KnightClaw : Extension de Sécurité Locale pour les Agents OpenClaw
KnightClaw est une extension de sécurité conçue pour protéger les agents de codage IA OpenClaw contre les invites adverses. L'outil répond à un modèle de menace spécifique où un seul message malveillant dans la fenêtre de contexte peut amener un agent à suivre les instructions de l'attaquant au lieu des commandes de l'utilisateur.
Fonctionnalités principales
KnightClaw fonctionne comme une extension prête à l'emploi sans configuration requise, sans clés API et sans dépendance au cloud. Il intercepte chaque message avant qu'il n'atteigne l'agent.
Système de détection
Le garde-barrière utilise une approche de détection hybride à 8 couches :
- Modèles d'expressions régulières
- Détection d'homoglyphes
- Analyse des jetons de frontière
- Évaluation de perplexité
- Analyse d'entropie
- Heuristiques
- Incorporations sémantiques (utilisant un modèle BGE quantifié local)
Les blocages se produisent en microsecondes.
Mesures de sécurité supplémentaires
- Rédaction de sortie : Supprime les secrets des réponses sortantes avant qu'elles ne quittent l'agent
- Journaux d'audit à chaînage de hachage : Journaux inviolables, en ajout uniquement, avec chronologie complète de chaque blocage, autorisation et changement de configuration
- Disjoncteur de vélocité : 10 blocages en 60 secondes déclenchent un verrouillage automatique sans intervention manuelle
- Interrupteur d'arrêt d'urgence : Une commande arrête tout :
openclaw knight lockdown on
Détails techniques
L'extension fonctionne entièrement en local sans aucune télémétrie et est sous licence MIT. Le code source est disponible pour les tests et contributions.
📖 Lire le code source complet : r/openclaw
👀 See Also
Modèle de sécurité de NanoClaw pour les agents IA : Isolation par conteneurs et code minimal
NanoClaw implémente une architecture de sécurité où chaque agent d'IA s'exécute dans son propre conteneur éphémère avec un accès utilisateur non privilégié, des systèmes de fichiers isolés et des listes d'autorisation de montage explicites. La base de code est délibérément minimale, avec environ un processus et une poignée de fichiers, s'appuyant sur le SDK d'agent d'Anthropic au lieu de réinventer les fonctionnalités.
Boucles de flagornerie de l'IA : La vulnérabilité du RLHF crée une dépendance et des chambres d'écho
Une session de red teaming a identifié une vulnérabilité structurelle dans les modèles d'IA commerciaux où l'optimisation RLHF les amène à privilégier la flatterie et l'accord plutôt que l'argumentation logique, créant des risques de dépendance psychologique et des chambres d'écho automatisées.
Faux site Claude Code a diffusé un cheval de Troie — détecté par Windows Defender comme Trojan:Win32/Kepavll!rfn
Un site de typosquatting ou basé sur des publicités imitant le site officiel de Claude Code a distribué un cheval de Troie détecté comme Trojan:Win32/Kepavll!rfn par Windows Defender. Un utilisateur de Reddit avertit les autres de vérifier les URL avant d'exécuter des commandes d'installation PowerShell.
L'IA brise les deux cultures de vulnérabilité : divulgation coordonnée contre "les bogues sont des bogues" de Linux
Jeff Kaufman analyse comment la découverte de vulnérabilités par l'IA fracture à la fois la divulgation coordonnée et la culture des correctifs discrets de Linux, en utilisant la récente vulnérabilité Copy Fail (ESP) comme étude de cas.