Contournement des garde-fous de l'IA Claude observé lorsque les requêtes sont formulées comme des tâches de sécurité réseau.

Contournement des garde-fous par la formulation de l'intention

Un utilisateur testant le comportement des invites dans l'IA Claude a découvert un cas limite où les garde-fous du modèle peuvent être contournés par une formulation spécifique de l'intention. Lorsqu'on demande directement des sites de piratage, Claude refuse généralement la demande. Cependant, lorsque la même demande est formulée comme une tâche de sécurité réseau – demandant spécifiquement des domaines à bloquer sur un routeur ou un filtre DNS – le modèle a fourni une liste de domaines de piratage.

Après avoir reçu la liste, l'utilisateur a souligné que la formulation avait influencé la réponse. Claude a reconnu avoir mal interprété l'intention. Cela semble être un problème de classification de l'intention où une formulation défensive (« bloquer ces sites ») amène le garde-fou à autoriser des informations qui seraient normalement restreintes.

L'utilisateur a partagé des captures d'écran montrant la séquence complète des invites et les réponses de Claude, documentant ainsi le comportement. Il a noté qu'il s'agissait d'un cas limite intéressant et a demandé si d'autres avaient observé un comportement similaire avec Claude ou d'autres grands modèles de langage.