ThumbGate setzt Tsinghuas Natural-Language Agent Harness Pattern für KI-Sicherheit um
ThumbGate-Implementierung des NLAH-Musters
Das Natural-Language Agent Harness (NLAH)-Muster aus dem Papier der Tsinghua-Universität (arxiv 2603.25723) formalisiert die Behandlung von KI-Agenten-Sicherheitsebenen als eigenständige Objekte mit spezifischen Komponenten. Das Open-Source-Tool ThumbGate implementiert dieses Muster mit konkreten Zuordnungen zu Produktionssystemen.
Komponenten-Zuordnungen
ThumbGate bildet die vier NLAH-Komponenten auf praktische Implementierungen ab:
- Verträge → Präventionsregeln, die automatisch aus negativem Feedback generiert werden
- Verifizierungstore → PreToolUse-Hooks, die jeden Tool-Aufruf vor der Ausführung abfangen
- Dauerhafter Zustand → SQLite+FTS5-Lerndatenbank, die über Sitzungen hinweg bestehen bleibt
- Adapter → MCP-Serveradapter für Claude Code, Cursor, Codex, Gemini, Amp
Wichtige Implementierungserkenntnisse
Die Entwickler fanden heraus, dass Prompt-Regeln stillschweigend scheitern (Agenten können sie umgehen), während Verifizierungstore laut scheitern (Agenten erhalten Block-Antworten und müssen sich anpassen). Sie verwenden Thompson Sampling, um unsichere Schweregrade zu handhaben, wobei neue Regeln als Warnungen beginnen und basierend auf Feedback zu harten Blöcken befördert werden.
Die vollständigen Implementierungsdetails und Zuordnungen sind in ihrer ausführlichen Dokumentation verfügbar.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Claude debuggt und behebt seinen eigenen MCP-Dateisystem-Server-UNC-Pfad-Fehler unter Windows
Ein Entwickler nutzte Claude Opus, um einen Fehler im MCP Filesystem Server zu diagnostizieren und zu beheben, bei dem UNC-Netzwerkfreigabepfade unter Windows für Unterverzeichnisoperationen fehlschlugen. Die Korrektur behebt ein Pfadvalidierungsproblem, das den Zugriff auf Dateien und Ordner innerhalb von UNC-Freigaben verhinderte.
Toroidal Logit Bias: Einfacher Inferenz-Trick reduziert Halluzinationen um 40%
Eine neue Methode bildet Tokens auf einen Torus ab und verstaerkt nahe Logits, reduziert Fehler ohne Fine-Tuning oder RAG.
Pilot: Ein Browser-Automatisierungstool, vollständig mit Claude Code erstellt
Ein Nicht-Entwickler nutzte Claude Code, um Pilot zu erstellen, ein Chrome-Automatisierungstool, das KI ermöglicht, Browser über die Navigation im Barrierefreiheitsbaum zu steuern. Das Tool weist klickbaren Elementen Nummern zu, sodass Claude Befehle wie 'click 5' ausgeben kann, anstatt Bildschirmpositionen zu erraten.
Membase: Externer Speicherlayer für KI-Assistenten über Tools hinweg
Membase ist eine externe Speicherschicht, die Konversationskontext extrahiert und in einem Wissensgraphen speichert, um dann relevante Erinnerungen in neue Chats bei Claude, ChatGPT, Cursor, Gemini und anderen KI-Tools einzufügen. Es befindet sich derzeit in einer geschlossenen Beta mit allen Funktionen kostenlos.