AIエージェントパイプライン向けオープンソース構造的幻覚チェッカー

✍️ OpenClawRadar📅 公開日: March 11, 2026🔗 Source
AIエージェントパイプライン向けオープンソース構造的幻覚チェッカー
Ad

機能概要

AIエージェントパイプライン向けに特別に設計された構造的ハルシネーションチェッカー。事実確認とは異なり、このツールは下流ツールを破壊する構造的失敗の検出に焦点を当てています。

解決する課題

エージェントの問題の多くは事実誤認ではなく、以下のような構造的問題です:

  • JSONツール応答でモデルがフィールドを捏造する
  • 取得セットに含まれていないソースを引用する
  • 取得コンテンツ内に隠されたプロンプトインジェクション
  • ツールが返していない内容を返したと主張する

4つの抑制機能

このツールには、Claude Codeで構築された4つの抑制機能が含まれており、エージェントの出力がユーザーに届く前に単一ステップとして実行されます:

  • grounding_enforcer - モデル出力が実際に渡されたソースでサポートされているか確認
  • prompt_suppressor - 取得コンテンツやツール結果におけるインジェクション試行を検出
  • json_suppressor - 構造化ツール応答を期待されるスキーマに対して検証
  • tool_response_suppressor - ツールが主張する出力と実際の返り値が一致しない場合にフラグを立てる

利用方法

このツールは2つの形式で利用可能です:

  • REST API
  • MCPサーバー(Claude Desktop、Cursor、Windsurfなどと連携)

無料枠ではクレジットカード不要で月500リクエストを提供します。

ソースとドキュメント

GitHubリポジトリ: https://github.com/steveswain14/mcp-hallucination-suite

APIとドキュメント: https://certifai.dev

📖 Read the full source: r/ClaudeAI

Ad

👀 See Also

ルクズ:20万行のC++グラフデータベースを体系的テストでRustに移植
Tools

ルクズ:20万行のC++グラフデータベースを体系的テストでRustに移植

Rukuzuプロジェクトは、20万行のC++で書かれた埋め込みグラフデータベースkuzuをRustに移植するワークフローを説明しています。Claude Codeカスタムコマンドを使用して両バージョンを同時に維持し、2,700以上のテストを通じて正確性を検証します。

OpenClawRadar
MatchKit: Claudeコードプロジェクト向けデザインシステムジェネレーター
Tools

MatchKit: Claudeコードプロジェクト向けデザインシステムジェネレーター

MatchKitは、Claude Codeで構築されたプロジェクト向けに完全なブランドデザインシステムを生成するツールです。アップロードされたロゴからブランドカラーを抽出し、カスタマイズ可能なコンポーネント、レイアウト、デザイントークンを生成することで、AIコーディングツールでよく見られる画一的な見た目を回避します。

OpenClawRadar
OpenClawをホームラボ管理のためのInfrastructure-as-Codeインターフェースとして
Tools

OpenClawをホームラボ管理のためのInfrastructure-as-Codeインターフェースとして

OpenClawは、AIガジェットから、自宅ラボ管理のための主要なコンピュータインターフェースへと進化しました。Traefikコンテナの設定、Dashy構成の作成、直接マシンアクセスを伴うTailscaleアクセスのセットアップなどのタスクを実行します。

OpenClawRadar
続:Claudeコードで繰り返されるワークフローを自動検出するツール
Tools

続:Claudeコードで繰り返されるワークフローを自動検出するツール

Zokuは、Claude Codeのイベントシステムにフックしてセッション間のツール操作を記録し、繰り返されるワークフローパターンを特定し、それらのパターンをClaudeに通知して積極的に提案または実行できるようにするローカルツールです。設定不要、依存関係なし、すべてのデータはローカルの~/.zoku/に保存されます。

OpenClawRadar