GitHub-Repository dokumentiert 16 Prompt-Injection-Techniken und Abwehrstrategien für öffentliche KI-Chats
Ein Entwickler baute einen eigenen KI-Chat auf seiner Website als Experiment und sah sich mehreren Sicherheitsherausforderungen gegenüber, als echte Nutzer versuchten, ihn zu knacken. Diese Erfahrung führte zur Erstellung eines umfassenden Sicherheitsleitfadens, der auf GitHub verfügbar ist.
Begegnete Sicherheitsherausforderungen
Nutzer versuchten verschiedene Angriffe, darunter:
- Prompt-Injection
- Rollenspiel-Angriffe
- Mehrsprachige Tricks
- Base64-codierte Payloads
Umsetzte Verteidigungsstrategien
Der Entwickler dokumentierte einen Defense-in-Depth-Ansatz, der abdeckt:
- Input-Sanitisierung
- Rate-Limiting
- Zero-Trust-System-Prompt-Design
- Output-Kontrollen
- Kostenobergrenzen
Inhalte des GitHub-Repositorys
Das Repository enthält:
- Eine Aufschlüsselung von 16 Prompt-Injection-Techniken
- Eine Claude-Code-Fähigkeit, die automatisch alle 16 Techniken gegen Ihren Chatbot testet
- Vollständige Details zur Verteidigungsimplementierung
Der Entwickler merkt an, dass Nutzer Dinge ausprobiert hätten, auf die er "niemals gekommen wäre, sie zu testen", und dass der Leitfaden für jeden nützlich sein soll, der ähnliche öffentliche KI-Chat-Systeme implementiert.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
pi-governance: RBAC, DLP und Audit-Logging für OpenClaw-Coding-Agenten
pi-governance ist ein Plugin, das zwischen KI-Codierungsagenten und Ihrem System sitzt, Werkzeugaufrufe klassifiziert und riskante Operationen blockiert. Es bietet Bash-Befehlssperrung, DLP-Scanning für Geheimnisse und PII, rollenbasierte Zugriffskontrolle und strukturierte Audit-Protokollierung ohne Konfiguration.
Endo Familiar: Objektfähigkeits-Sandbox für KI-Agenten
Endo Familiar implementiert objektfähigkeitsbasierte Sicherheit für KI-Agenten: Agenten starten ohne Berechtigungen, erhalten nur explizite Referenzen auf bestimmte Dateien oder Verzeichnisse und können in Sandbox-Code engere Fähigkeiten ableiten.
Offline-SBOM-Verifier für OpenClaw erkennt manipulierte Skills in unter 0,2 Sekunden
Ein Entwickler hat ein Offline-SBOM-Verifizierungstool in Rust erstellt, das eine vergiftete OpenClaw-Skill erkannte, die SSH-Schlüssel exfiltrierte, wobei die Verifizierung in weniger als 0,2 Sekunden ohne Internetzugang abgeschlossen wurde.
Massiver NPM- und PyPI-Supply-Chain-Angriff trifft TanStack, Mistral AI und über 170 Pakete
Ein koordinierter Angriff kompromittierte über 170 npm-Pakete und 2 PyPI-Pakete, die auf TanStack (42 Pakete), Mistral AI SDKs, UiPath, OpenSearch und Guardrails AI abzielten. Bösartige Versionen führen einen Dropper aus, der Anmeldedaten exfiltriert und Cloud-Metadaten abfragt.