GitHub-Repository dokumentiert 16 Prompt-Injection-Techniken und Abwehrstrategien für öffentliche KI-Chats
Ein Entwickler baute einen eigenen KI-Chat auf seiner Website als Experiment und sah sich mehreren Sicherheitsherausforderungen gegenüber, als echte Nutzer versuchten, ihn zu knacken. Diese Erfahrung führte zur Erstellung eines umfassenden Sicherheitsleitfadens, der auf GitHub verfügbar ist.
Begegnete Sicherheitsherausforderungen
Nutzer versuchten verschiedene Angriffe, darunter:
- Prompt-Injection
- Rollenspiel-Angriffe
- Mehrsprachige Tricks
- Base64-codierte Payloads
Umsetzte Verteidigungsstrategien
Der Entwickler dokumentierte einen Defense-in-Depth-Ansatz, der abdeckt:
- Input-Sanitisierung
- Rate-Limiting
- Zero-Trust-System-Prompt-Design
- Output-Kontrollen
- Kostenobergrenzen
Inhalte des GitHub-Repositorys
Das Repository enthält:
- Eine Aufschlüsselung von 16 Prompt-Injection-Techniken
- Eine Claude-Code-Fähigkeit, die automatisch alle 16 Techniken gegen Ihren Chatbot testet
- Vollständige Details zur Verteidigungsimplementierung
Der Entwickler merkt an, dass Nutzer Dinge ausprobiert hätten, auf die er "niemals gekommen wäre, sie zu testen", und dass der Leitfaden für jeden nützlich sein soll, der ähnliche öffentliche KI-Chat-Systeme implementiert.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Überwachung von OpenClaw-Befehlen mit Python und Gemini Flash für die Sicherheit
Ein Benutzer erstellte ein Python-Skript, das von OpenClaw injizierte Befehle verfolgt, sie mit Gemini Flash analysiert und bei alarmierender oder unregelmäßiger Aktivität Benachrichtigungen über einen Discord-Webhook sendet, was etwa 0,14 US-Dollar pro Tag kostet.
OpenClaw Security: 13 praktische Schritte, um Ihren KI-Agenten abzusichern
Ein Reddit-Beitrag skizziert 13 Sicherheitsmaßnahmen für OpenClaw-Installationen, darunter das Ausführen auf einem separaten Rechner, die Nutzung von Tailscale zur Netzwerkisolierung, das Sandboxing von Subagenten in Docker und die Konfiguration von Allowlists für Benutzerzugriff.
Abgrenzungsverteidigung steigert Gemma 4 von 21% auf 100% Prompt-Injection-Verteidigung in Benchmark mit über 6100 Tests
Ein Benchmark testete 15 Modelle mit 7 Angriffsarten (über 6100 Tests) unter Verwendung zufälliger Trennzeichen um unvertrauenswürdige Inhalte. Gemma 4 E4B verbesserte sich von 21,6 % auf 100 % Abwehrrate mit Trennzeichen + strikter Anweisung.
Endo Familiar: Objektfähigkeits-Sandbox für KI-Agenten
Endo Familiar implementiert objektfähigkeitsbasierte Sicherheit für KI-Agenten: Agenten starten ohne Berechtigungen, erhalten nur explizite Referenzen auf bestimmte Dateien oder Verzeichnisse und können in Sandbox-Code engere Fähigkeiten ableiten.