오픈소스 AI 에이전트 파이프라인용 구조적 환각 검사기

기능

AI 에이전트 파이프라인을 위해 특별히 설계된 구조적 환각 검사기입니다. 사실 확인과 달리, 이 도구는 다운스트림 도구를 중단시키는 구조적 실패를 포착하는 데 중점을 둡니다.

해결하는 문제

대부분의 에이전트 문제는 사실 오류가 아닌 다음과 같은 구조적 문제입니다:

• 모델이 JSON 도구 응답에 필드를 임의로 추가하는 경우
• 검색된 집합에 없던 소스를 인용하는 경우
• 검색된 콘텐츠 내에 숨겨진 프롬프트 주입
• 도구가 반환하지 않은 내용을 반환했다고 주장하는 경우

네 가지 억제기

이 도구에는 Claude Code로 구축된 네 가지 억제기가 포함되어 있으며, 에이전트 출력이 사용자에게 도달하기 전에 단일 단계로 실행됩니다:

• grounding_enforcer - 모델 출력이 실제로 전달된 소스에 의해 지원되는지 확인
• prompt_suppressor - 검색된 콘텐츠 및 도구 결과에서 주입 시도를 포착
• json_suppressor - 구조화된 도구 응답을 예상 스키마에 대해 검증
• tool_response_suppressor - 도구의 주장된 출력이 실제 반환 내용과 일치하지 않을 때 표시

이용 가능성

이 도구는 두 가지 형식으로 이용 가능합니다:

• REST API
• MCP 서버 (Claude Desktop, Cursor, Windsurf 등과 호환)

무료 티어는 신용카드 없이 월 500회 요청을 제공합니다.

소스 및 문서

GitHub 저장소: https://github.com/steveswain14/mcp-hallucination-suite

API 및 문서: https://certifai.dev