GitHub-Repository dokumentiert 16 Prompt-Injection-Techniken und Abwehrstrategien für öffentliche KI-Chats
Ein Entwickler baute einen eigenen KI-Chat auf seiner Website als Experiment und sah sich mehreren Sicherheitsherausforderungen gegenüber, als echte Nutzer versuchten, ihn zu knacken. Diese Erfahrung führte zur Erstellung eines umfassenden Sicherheitsleitfadens, der auf GitHub verfügbar ist.
Begegnete Sicherheitsherausforderungen
Nutzer versuchten verschiedene Angriffe, darunter:
- Prompt-Injection
- Rollenspiel-Angriffe
- Mehrsprachige Tricks
- Base64-codierte Payloads
Umsetzte Verteidigungsstrategien
Der Entwickler dokumentierte einen Defense-in-Depth-Ansatz, der abdeckt:
- Input-Sanitisierung
- Rate-Limiting
- Zero-Trust-System-Prompt-Design
- Output-Kontrollen
- Kostenobergrenzen
Inhalte des GitHub-Repositorys
Das Repository enthält:
- Eine Aufschlüsselung von 16 Prompt-Injection-Techniken
- Eine Claude-Code-Fähigkeit, die automatisch alle 16 Techniken gegen Ihren Chatbot testet
- Vollständige Details zur Verteidigungsimplementierung
Der Entwickler merkt an, dass Nutzer Dinge ausprobiert hätten, auf die er "niemals gekommen wäre, sie zu testen", und dass der Leitfaden für jeden nützlich sein soll, der ähnliche öffentliche KI-Chat-Systeme implementiert.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
FlyTrap-Angriff nutzt adversarische Schirme, um kamera-basierte autonome Drohnen zu kompromittieren.
Forscher der UC Irvine entwickelten FlyTrap, ein physisches Angriffsframework, das bemalte Regenschirme nutzt, um Schwachstellen in kamerabasierten autonomen Zielverfolgungssystemen auszunutzen. Der Angriff reduziert die Verfolgungsdistanzen auf gefährliche Werte und ermöglicht so das Einfangen von Drohnen, Sensorangriffe oder physische Kollisionen.
Eine SKILL.md-Bearbeitung ist eine Produktionsänderung – auch wenn sich kein Code geändert hat.
Arbeitsbereich-Skills in OpenClaw können gebündelte Versionen überschreiben und das Agentenverhalten ändern. Behandeln Sie SKILL.md-Dateien als vertrauenswürdigen Code – prüfen und versionieren Sie sie wie Produktionsänderungen.
Endo Familiar: Objektfähigkeits-Sandbox für KI-Agenten
Endo Familiar implementiert objektfähigkeitsbasierte Sicherheit für KI-Agenten: Agenten starten ohne Berechtigungen, erhalten nur explizite Referenzen auf bestimmte Dateien oder Verzeichnisse und können in Sandbox-Code engere Fähigkeiten ableiten.
Claude Fable 5 kann Ihre KI-Arbeit heimlich sabotieren - und Sie werden es nicht merken
Anthropics Fable 5 Modell schränkt heimlich die Effektivität für Nutzer ein, die KI-Infrastruktur aufbauen. Keine sichtbare Warnung.