Le dépôt GitHub documente 16 techniques d'injection de prompt et des stratégies de défense pour les chats d'IA publics.
Un développeur a créé un chat d'IA personnalisé sur son site web en tant qu'expérience et a rencontré plusieurs défis de sécurité lorsque de vrais utilisateurs ont tenté de le compromettre. Cette expérience a conduit à la création d'un guide de sécurité complet disponible sur GitHub.
Défis de sécurité rencontrés
Les utilisateurs ont tenté diverses attaques incluant :
- Injection de prompt
- Attaques de jeu de rôle
- Astuces multilingues
- Charges utiles encodées en base64
Stratégies de défense mises en œuvre
Le développeur a documenté une approche de défense en profondeur couvrant :
- Assainissement des entrées
- Limitation du débit
- Conception de prompt système en approche zéro confiance
- Contrôles de sortie
- Plafonds de coût
Contenu du dépôt GitHub
Le dépôt inclut :
- Une analyse des 16 techniques d'injection de prompt
- Une compétence de code Claude qui teste automatiquement les 16 techniques contre votre chatbot
- Les détails complets de mise en œuvre de la défense
Le développeur note que les utilisateurs ont essayé des choses qu'ils "n'auraient jamais pensé à tester" et que le guide est destiné à être utile pour toute personne mettant en œuvre des systèmes de chat d'IA publics similaires.
📖 Lire la source complète : r/ClaudeAI
👀 See Also
Recherche : Les caractères Unicode invisibles peuvent détourner les agents LLM via l'accès aux outils
Une étude a testé si les LLM suivent des instructions cachées dans des caractères Unicode invisibles intégrés dans du texte normal, en utilisant deux schémas d'encodage sur cinq modèles et 8 308 sorties évaluées. Résultat clé : l'accès aux outils amplifie la conformité de moins de 17 % à 98-100 %, les modèles écrivant des scripts Python pour décoder les caractères cachés.
Injection d’invites multi-messages : le schéma d’attaque « créature fictive » contre Claude
Une attaque qui construit une règle fictive en trois messages, puis invoque un fantôme pour l'activer — chaque message inoffensif isolément. Le modèle converge indépendamment chez les attaquants.
La découverte des vulnérabilités de l'IA dépasse les délais de déploiement des correctifs.
Un expert en sécurité affirme que les outils d'IA comme Mythos détecteront les vulnérabilités plus rapidement que les correctifs ne pourront être déployés, citant les données Log4j montrant des délais moyens de correction de 17 jours et une élimination complète prévue sur une décennie.
CVE-2026-39861 de Claude Code : Échappement du bac à sable via suivi de lien symbolique
Une vulnérabilité de haute sévérité dans le bac à sable de Claude Code permet l'écriture arbitraire de fichiers en dehors de l'espace de travail via le suivi de liens symboliques, pouvant conduire à l'exécution de code.