AIエージェントパイプライン向けオープンソース構造的幻覚チェッカー

機能概要

AIエージェントパイプライン向けに特別に設計された構造的ハルシネーションチェッカー。事実確認とは異なり、このツールは下流ツールを破壊する構造的失敗の検出に焦点を当てています。

解決する課題

エージェントの問題の多くは事実誤認ではなく、以下のような構造的問題です：

• JSONツール応答でモデルがフィールドを捏造する
• 取得セットに含まれていないソースを引用する
• 取得コンテンツ内に隠されたプロンプトインジェクション
• ツールが返していない内容を返したと主張する

4つの抑制機能

このツールには、Claude Codeで構築された4つの抑制機能が含まれており、エージェントの出力がユーザーに届く前に単一ステップとして実行されます：

• grounding_enforcer - モデル出力が実際に渡されたソースでサポートされているか確認
• prompt_suppressor - 取得コンテンツやツール結果におけるインジェクション試行を検出
• json_suppressor - 構造化ツール応答を期待されるスキーマに対して検証
• tool_response_suppressor - ツールが主張する出力と実際の返り値が一致しない場合にフラグを立てる

利用方法

このツールは2つの形式で利用可能です：

• REST API
• MCPサーバー（Claude Desktop、Cursor、Windsurfなどと連携）

無料枠ではクレジットカード不要で月500リクエストを提供します。

ソースとドキュメント

GitHubリポジトリ： https://github.com/steveswain14/mcp-hallucination-suite

APIとドキュメント： https://certifai.dev