GitHub-Repository dokumentiert 16 Prompt-Injection-Techniken und Abwehrstrategien für öffentliche KI-Chats
Ein Entwickler baute einen eigenen KI-Chat auf seiner Website als Experiment und sah sich mehreren Sicherheitsherausforderungen gegenüber, als echte Nutzer versuchten, ihn zu knacken. Diese Erfahrung führte zur Erstellung eines umfassenden Sicherheitsleitfadens, der auf GitHub verfügbar ist.
Begegnete Sicherheitsherausforderungen
Nutzer versuchten verschiedene Angriffe, darunter:
- Prompt-Injection
- Rollenspiel-Angriffe
- Mehrsprachige Tricks
- Base64-codierte Payloads
Umsetzte Verteidigungsstrategien
Der Entwickler dokumentierte einen Defense-in-Depth-Ansatz, der abdeckt:
- Input-Sanitisierung
- Rate-Limiting
- Zero-Trust-System-Prompt-Design
- Output-Kontrollen
- Kostenobergrenzen
Inhalte des GitHub-Repositorys
Das Repository enthält:
- Eine Aufschlüsselung von 16 Prompt-Injection-Techniken
- Eine Claude-Code-Fähigkeit, die automatisch alle 16 Techniken gegen Ihren Chatbot testet
- Vollständige Details zur Verteidigungsimplementierung
Der Entwickler merkt an, dass Nutzer Dinge ausprobiert hätten, auf die er "niemals gekommen wäre, sie zu testen", und dass der Leitfaden für jeden nützlich sein soll, der ähnliche öffentliche KI-Chat-Systeme implementiert.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Caelguard: Open-Source-Sicherheitsscanner für OpenClaw-Instanzen
Caelguard ist ein Open-Source-Sicherheitsscanner, der speziell für OpenClaw entwickelt wurde und 22 Prüfungen auf Ihrer Instanz durchführt, einschließlich Docker-Isolation, Berechtigungsabgrenzung von Tools und Überprüfung der Skill-Lieferkette. Er liefert eine Punktzahl von bis zu 140 mit einem Buchstabengrad und spezifischen Schritten zur Behebung.
Abgrenzungsverteidigung steigert Gemma 4 von 21% auf 100% Prompt-Injection-Verteidigung in Benchmark mit über 6100 Tests
Ein Benchmark testete 15 Modelle mit 7 Angriffsarten (über 6100 Tests) unter Verwendung zufälliger Trennzeichen um unvertrauenswürdige Inhalte. Gemma 4 E4B verbesserte sich von 21,6 % auf 100 % Abwehrrate mit Trennzeichen + strikter Anweisung.
ClawVault-Sicherheitsverbesserung fügt sensible Datenerkennung für OpenClaw hinzu
Eine neue Verbesserung für ClawVault fügt eine Echtzeit-Erkennung sensibler Daten und automatische Bereinigung für OpenClaw-API-Datenverkehr hinzu, wobei Klartext-Passwörter, API-Schlüssel und Tokens abgefangen werden, bevor sie LLM-Anbieter erreichen.
KI-System entdeckt 12 Zero-Day-Schwachstellen in OpenSSL, Curl stoppt Bug-Bounty-Programm wegen KI-Spam
Das KI-System von AISLE entdeckte alle 12 Zero-Day-Schwachstellen im aktuellen Sicherheits-Release von OpenSSL, was die erste groß angelegte Demonstration KI-basierter Cybersicherheit darstellt. Gleichzeitig hat curl sein Bug-Bounty-Programm aufgrund von KI-generierten Spam-Einreichungen eingestellt.