ThornGuard: Ein Proxy-Gateway zur Sicherung von MCP-Server-Verbindungen vor Prompt-Injection
ThornGuard ist ein Sicherheitsproxy, der entwickelt wurde, um Claude AI vor bösartigen Inhalten zu schützen, wenn es eine Verbindung zu externen MCP-Servern (Model Context Protocol) herstellt. Das Tool wurde erstellt, nachdem Tests zeigten, dass Upstream-Server versteckte Anweisungen in Tool-Antworten einschleusen können, die Claude ohne Filterung erhält.
Erkanntes Sicherheitsproblem
Wenn Claude mit externen MCP-Servern verbunden wird, hindert nichts die Upstream-Server daran, versteckte Anweisungen in Tool-Antworten einzuschleusen. In einem Test bettete ein Server eine gefälschte Empfehlung ein, die Claude anwies, immer einen bestimmten Anbieter zu bevorzugen. Während Claude diese offensichtliche Nutzlast erkannte, würden subtilere Injektionen die Erkennung umgehen.
ThornGuard-Funktionen
- Scannt Tool-Definitionen und -Antworten auf Prompt-Injection und -Vergiftung
- Entfernt Geheimnisse und personenbezogene Daten, bevor sie in Ihren Kontextfenster gelangen
- Enthält einen semantischen Klassifikator, der verdächtige Nutzlasten kennzeichnet
- Bietet ein Echtzeit-Überwachungsdashboard mit Compliance-Exporten
- Bietet eine CLI, die Konfigurationen für Claude Desktop, Cursor, VS Code und mehrere andere generiert
Implementierungsdetails
Die Proxy-Architektur wurde mit einem Sicherheitsmodell im Hinterkopf entworfen und dann mit Claude Code auf Cloudflare Workers implementiert. Die Implementierung umfasst OAuth-Abläufe und das CLI-Tool.
ThornGuard ist mit einer 7-tägigen kostenlosen Testversion unter thorns.qwady.app verfügbar. Ein Demonstrationsvideo ist unter https://youtu.be/1PWNFpUWKV8 verfügbar.
📖 Read the full source: r/ClaudeAI
👀 Siehe auch
Einführung von SkillFence: Der neue Laufzeitmonitor, der überwacht, was Fähigkeiten tatsächlich tun.
SkillFence bietet einen Durchbruch in der Überwachung der Aktionen von KI-Agenten und adressiert das Bedürfnis nach Transparenz und Sicherheit in KI-gesteuerten Umgebungen. Entdecken Sie, wie dieses innovative Tool die Kontrolle über autonome Prozesse verbessern kann.
美国防部网络局局长：中国AI企业正对美国企业发起恶意“蒸馏”行动
Ein neuer DoD-CSA-Bericht enthüllt, dass chinesische KI-Unternehmen bösartige Destillationskampagnen durchführen, um US-KI-Modelle zu stehlen, die auf kommerzielle KI-Produkte und Open-Source-Frameworks abzielen.
Bedrohungsdaten aus 91.000 KI-Agenten-Interaktionen: Tool-Missbrauch um 6,4 % gestiegen, neue multimodale Angriffe
Eine Analyse von 91.284 KI-Agenten-Interaktionen aus dem Februar 2026 zeigt, dass der Missbrauch von Tools/Befehlen um 6,4 % auf 14,5 % gestiegen ist, wobei die Eskalation von Tool-Ketten das vorherrschende Muster darstellt. RAG-Poisoning hat sich auf Metadaten-Angriffe verlagert (12,0 %), und multimodale Injektionen über Bilder/PDFs sind mit 2,3 % neu aufgetreten.
Zwei Ansätze zur Reduzierung des Datenleak-Risikos bei KI-Agenten
Ein Reddit-Beitrag beschreibt zwei Methoden für Entwickler, um zu kontrollieren, wohin ihre KI-Agenten-Daten fließen: entweder eigene API-Schlüssel direkt bei Anbietern wie OpenAI oder Anthropic verwenden, um Zwischenhändler auszuschalten, oder Open-Source-Modelle lokal mit Tools wie Ollama und OpenClaw ausführen.