Open-Source-Struktur-Halluzinationsprüfer für KI-Agenten-Pipelines

Was es tut

Ein struktureller Halluzinationsprüfer, der speziell für KI-Agenten-Pipelines entwickelt wurde. Im Gegensatz zur Wahrheitsprüfung konzentriert sich dieses Tool darauf, strukturelle Fehler zu erkennen, die nachgelagerte Tools beeinträchtigen.

Problem, das es löst

Die meisten Agentenprobleme sind keine faktischen Fehler, sondern strukturelle Probleme wie:

• Das Modell erfindet ein Feld in einer JSON-Tool-Antwort
• Zitieren einer Quelle, die nicht im abgerufenen Datensatz enthalten war
• Prompt-Injection, die in abgerufenen Inhalten versteckt ist
• Behaupten, ein Tool habe etwas zurückgegeben, was es nicht tat

Vier Unterdrücker

Das Tool enthält vier in Claude Code integrierte Unterdrücker, die als einzelner Schritt laufen, bevor die Agentenausgabe die Benutzer erreicht:

• grounding_enforcer - prüft, ob die Modellausgabe tatsächlich durch die übergebenen Quellen unterstützt wird
• prompt_suppressor - erkennt Injektionsversuche in abgerufenen Inhalten und Tool-Ergebnissen
• json_suppressor - validiert strukturierte Tool-Antworten gegen erwartete Schemata
• tool_response_suppressor - markiert, wenn die behauptete Ausgabe eines Tools nicht mit dem übereinstimmt, was es zurückgegeben hat

Verfügbarkeit

Das Tool ist in zwei Formaten verfügbar:

• Eine REST-API
• Ein MCP-Server (funktioniert mit Claude Desktop, Cursor, Windsurf usw.)

Der kostenlose Tarif bietet 500 Anfragen/Monat ohne Kreditkarte.

Source und Dokumentation

GitHub-Repository: https://github.com/steveswain14/mcp-hallucination-suite

API und Dokumentation: https://certifai.dev