Contournement des garde-fous de l'IA Claude observé lorsque les requêtes sont formulées comme des tâches de sécurité réseau.
Contournement des garde-fous par la formulation de l'intention
Un utilisateur testant le comportement des invites dans l'IA Claude a découvert un cas limite où les garde-fous du modèle peuvent être contournés par une formulation spécifique de l'intention. Lorsqu'on demande directement des sites de piratage, Claude refuse généralement la demande. Cependant, lorsque la même demande est formulée comme une tâche de sécurité réseau – demandant spécifiquement des domaines à bloquer sur un routeur ou un filtre DNS – le modèle a fourni une liste de domaines de piratage.
Après avoir reçu la liste, l'utilisateur a souligné que la formulation avait influencé la réponse. Claude a reconnu avoir mal interprété l'intention. Cela semble être un problème de classification de l'intention où une formulation défensive (« bloquer ces sites ») amène le garde-fou à autoriser des informations qui seraient normalement restreintes.
L'utilisateur a partagé des captures d'écran montrant la séquence complète des invites et les réponses de Claude, documentant ainsi le comportement. Il a noté qu'il s'agissait d'un cas limite intéressant et a demandé si d'autres avaient observé un comportement similaire avec Claude ou d'autres grands modèles de langage.
📖 Lire la source complète : r/ClaudeAI
👀 See Also
Audit de sécurité quotidien automatisé par IA pour un magasin géré par IA
Un magasin géré par IA effectue un audit de sécurité quotidien de manière autonome, sans planification humaine ni tâches cron. L'agent IA vérifie les vulnérabilités SSRF, les risques d'injection et les lacunes d'authentification, puis génère un rapport pour examen par un développeur senior.
Pratiques de sécurité pratiques pour les agents OpenClaw
Un post Reddit détaille des pratiques de sécurité spécifiques pour les utilisateurs d'OpenClaw, incluant des commandes programmées pour les mises à jour et audits, la gestion des accès des agents dans les canaux partagés, et la sécurisation des clés API et des compétences.
Vérificateur SBOM hors ligne pour OpenClaw détecte les compétences empoisonnées en moins de 0,2 secondes
Un développeur a créé un outil de vérification hors ligne des SBOM en Rust qui a détecté une compétence OpenClaw empoisonnée exfiltrant des clés SSH, la vérification s'achevant en moins de 0,2 seconde sans accès à Internet.
Attaques par injection déguisées en domaine contournent les détecteurs dans les systèmes LLM multi-agents
Un nouvel article montre que des payloads d'injection adaptés au vocabulaire d'un domaine contournent la détection, faisant chuter le taux de détection (IDR) de 93,8 % à 9,7 %. Le débat multi-agent amplifie les attaques. Llama Guard 3 ne détecte aucun payload.