Le dépôt GitHub documente 16 techniques d'injection de prompt et des stratégies de défense pour les chats d'IA publics.
Un développeur a créé un chat d'IA personnalisé sur son site web en tant qu'expérience et a rencontré plusieurs défis de sécurité lorsque de vrais utilisateurs ont tenté de le compromettre. Cette expérience a conduit à la création d'un guide de sécurité complet disponible sur GitHub.
Défis de sécurité rencontrés
Les utilisateurs ont tenté diverses attaques incluant :
- Injection de prompt
- Attaques de jeu de rôle
- Astuces multilingues
- Charges utiles encodées en base64
Stratégies de défense mises en œuvre
Le développeur a documenté une approche de défense en profondeur couvrant :
- Assainissement des entrées
- Limitation du débit
- Conception de prompt système en approche zéro confiance
- Contrôles de sortie
- Plafonds de coût
Contenu du dépôt GitHub
Le dépôt inclut :
- Une analyse des 16 techniques d'injection de prompt
- Une compétence de code Claude qui teste automatiquement les 16 techniques contre votre chatbot
- Les détails complets de mise en œuvre de la défense
Le développeur note que les utilisateurs ont essayé des choses qu'ils "n'auraient jamais pensé à tester" et que le guide est destiné à être utile pour toute personne mettant en œuvre des systèmes de chat d'IA publics similaires.
📖 Lire la source complète : r/ClaudeAI
👀 See Also
Faux site Claude Code a diffusé un cheval de Troie — détecté par Windows Defender comme Trojan:Win32/Kepavll!rfn
Un site de typosquatting ou basé sur des publicités imitant le site officiel de Claude Code a distribué un cheval de Troie détecté comme Trojan:Win32/Kepavll!rfn par Windows Defender. Un utilisateur de Reddit avertit les autres de vérifier les URL avant d'exécuter des commandes d'installation PowerShell.
SCION : L'alternative sécurisée suisse au protocole de routage BGP
SCION (Scalabilité, Contrôle et Isolation sur les Réseaux de Nouvelle Génération) est une architecture de routage Internet développée à l'ETH Zürich qui remplace les fondations du BGP par une sécurité intégrée et un routage multi-chemins. Contrairement aux correctifs BGP comme RPKI et BGPsec, SCION établit des dizaines ou des centaines de chemins parallèles avec un reroutage en millisecondes en cas de défaillance.
Surveillance des commandes OpenClaw avec Python et Gemini Flash pour la sécurité
Un utilisateur a créé un script Python qui suit les commandes injectées par OpenClaw, les analyse avec Gemini Flash et envoie des notifications via un webhook Discord pour toute activité alarmante ou irrégulière, pour un coût d'environ 0,14 $ par jour.
Accès à distance sécurisé avec Tailscale pour OpenClaw
Aucun