GLiGuard: Open-Source 300M Parameter Sicherheitsmoderationsmodell verspricht 16-fache Geschwindigkeitssteigerung gegenüber LLM-Sicherheitsvorkehrungen

✍️ OpenClawRadar📅 Veröffentlicht: 13. Mai 2026🔗 Source
Ad

Fastino Labs hat GLiGuard als Open Source veröffentlicht – ein Sicherheits-Moderationsmodell, das generative Schutzmechanismen durch einen Klassifikationsansatz ersetzt. Das 300-Millionen-Parameter-Encoder-Modell bewältigt vier Moderationsaufgaben in einem einzigen Vorwärtsdurchlauf und erreicht eine Genauigkeit, die mit 7B–27B-Parameter-Decoder-Modellen vergleichbar ist, bei einer bis zu 16-fachen Reduzierung der Latenz. Die Gewichte sind unter Apache 2.0 auf Hugging Face verfügbar, die Inferenz ist auch auf Pioneer nutzbar.

Warum decoder-basierte Schutzmechanismen langsam sind

Aktuelle hochmoderne Schutzmechanismen (z. B. Llama Guard) verwenden reine Decoder-Transformer, die Urteile Token für Token generieren. Diese sequenzielle Generierung macht sie langsam und teuer für Echtzeit-Sicherheitsfilter. Die meisten bewerten Sicherheitsdimensionen auch getrennt, was die Latenz weiter erhöht. Mit 7 bis 27 Milliarden Parametern sind diese Modelle im Produktionsmaßstab teuer im Betrieb.

Ad

Der Encoder-Ansatz von GLiGuard

GLiGuard betrachtet Moderation als Textklassifikation neu. Es kodiert sowohl den Eingabetext als auch die Aufgabenbezeichnungen gemeinsam und bewertet alle Bezeichnungen gleichzeitig in einem einzigen Durchlauf. Das Hinzufügen weiterer Sicherheitsdimensionen (Bezeichnungen) erhöht die Inferenzzeit nicht. Das Modell bewältigt vier gleichzeitige Aufgaben:

  • Sicherheitsklassifizierung – sicher / unsicher sowohl für Benutzereingaben als auch für Modellantworten
  • Erkennung von Jailbreak-Strategien – 11 Kategorien (Prompt-Injection, Rollenspiel-Umgehung, Anweisungsüberschreibung, Social Engineering usw.)
  • Erkennung von Schadkategorien – 14 Kategorien (Gewalt, sexuelle Inhalte, Hassrede, personenbezogene Daten, Fehlinformationen, Kindersicherheit, Urheberrechtsverletzungen usw.)
  • Ablehnungserkennung – Compliance oder Ablehnung, verwendet zur Messung von übermäßiger Ablehnung und falscher Compliance

Alle vier werden gemeinsam evaluiert, während Decoder-Modelle sequenzielle Durchläufe oder mehrere Modellaufrufe erfordern würden.

Benchmarks und Leistung

In neun Sicherheits-Benchmarks erreicht oder übertrifft GLiGuard Modelle, die 23–90x so groß sind, und läuft dabei bis zu 16x schneller. Im Beitrag werden keine spezifischen Genauigkeitszahlen genannt, aber die Leistung soll mit führenden generativen Schutzmechanismen vergleichbar sein.

Für wen ist es gedacht

Teams, die LLM-Agenten oder Chat-Systeme einsetzen und eine latenzarme, kosteneffiziente Echtzeit-Sicherheitsfilterung im großen Maßstab benötigen.

📖 Lesen Sie die vollständige Quelle: HN AI Agents

Ad

👀 Siehe auch

Lokaler KI-Steuerberater mit verschlüsselten personenbezogenen Daten, basierend auf MCP
Werkzeuge

Lokaler KI-Steuerberater mit verschlüsselten personenbezogenen Daten, basierend auf MCP

Ein Entwickler hat eine Steuererweiterung für Crow gebaut, die alle personenbezogenen Daten mit AES-256-GCM verschlüsselt und mit jedem MCP-kompatiblen Client funktioniert, einschließlich Claude, ChatGPT, Gemini oder lokalen Modellen über Ollama. Das System verarbeitet 1040, Schedule 1, HSA (8889), Bildungskredite (8863), selbstständige Tätigkeit (Schedule C/SE) und Kapitalgewinne (Schedule D) Berechnungen lokal.

OpenClawRadar
🦀
Werkzeuge

Claudy: Ein nativer macOS-Wrapper für Claude Code mit Multi-Sitzung, automatischem Account-Wechsel und Entwurfs-Commit

Claudy ist eine native macOS-App, erstellt mit SwiftUI + SwiftData, die Claude Code umhüllt und Multi-Session-Management, automatische Kontoumstellung bei Ratengrenzen, Entwurfs-Commits für Zwischen-Checkpoints sowie einen Marktplatz für Skills, MCPs und Befehle hinzufügt.

OpenClawRadar
Logik-Virtuelle Maschine: Ein Prompt-basiertes System zur Vermeidung von LLM-Denkkollapsen
Werkzeuge

Logik-Virtuelle Maschine: Ein Prompt-basiertes System zur Vermeidung von LLM-Denkkollapsen

Ein Forscher hat einen Logik-Virtual-Machine-Prompt (LVM) entwickelt, der LLMs dazu zwingt, anzuhalten und spezifische Kollapsmodi zu melden, wenn sie auf Paradoxien oder Abweichungen in der Argumentation stoßen. Dies basiert auf einem einzigen Stabilitätsgesetz: K(σ) ⇒ K(β(σ)). Der Prompt ist substratunabhängig und funktioniert mit Modellen wie Grok und Claude.

OpenClawRadar
Crow: Open-Source-MCP-Plattform fügt LLM-Frontends persistenten Speicher und P2P-Sharing hinzu
Werkzeuge

Crow: Open-Source-MCP-Plattform fügt LLM-Frontends persistenten Speicher und P2P-Sharing hinzu

Crow ist eine Open-Source, selbst gehostete MCP-Server-Plattform, die LLM-Frontends SQLite-gestützten persistenten Speicher, strukturierte Forschungstools und verschlüsseltes Peer-to-Peer-Sharing bietet. Sie funktioniert mit jedem MCP-kompatiblen Client wie Claude Desktop, Cursor oder Windsurf und benötigt standardmäßig keine Cloud-Abhängigkeit.

OpenClawRadar