Проверка структурных галлюцинаций с открытым исходным кодом для конвейеров ИИ-агентов

Что он делает

Проверка структурных галлюцинаций, специально разработанная для конвейеров ИИ-агентов. В отличие от проверки фактов, этот инструмент фокусируется на обнаружении структурных сбоев, которые нарушают работу последующих инструментов.

Какую проблему решает

Большинство проблем агентов связаны не с фактическими ошибками, а со структурными проблемами, такими как:

• Модель придумывает поле в JSON-ответе инструмента
• Ссылка на источник, которого нет в полученном наборе
• Инъекция промпта, скрытая внутри полученного контента
• Утверждение, что инструмент вернул что-то, чего он не возвращал

Четыре супрессора

Инструмент включает четыре встроенных супрессора, работающих на Claude Code, которые выполняются как единый шаг перед тем, как вывод агента достигнет пользователей:

• grounding_enforcer - проверяет, действительно ли вывод модели поддерживается переданными источниками
• prompt_suppressor - обнаруживает попытки инъекций в полученном контенте и результатах инструментов
• json_suppressor - проверяет структурированные ответы инструментов на соответствие ожидаемым схемам
• tool_response_suppressor - помечает случаи, когда заявленный вывод инструмента не соответствует фактическому результату

Доступность

Инструмент доступен в двух форматах:

• REST API
• MCP-сервер (работает с Claude Desktop, Cursor, Windsurf и др.)

Бесплатный тариф предлагает 500 запросов/месяц без необходимости предоставления данных кредитной карты.

Источник и документация

Репозиторий GitHub: https://github.com/steveswain14/mcp-hallucination-suite

API и документация: https://certifai.dev