Verificador de alucinação estrutural de código aberto para pipelines de agentes de IA

O que faz

Um verificador de alucinação estrutural projetado especificamente para pipelines de agentes de IA. Diferente da verificação de veracidade, esta ferramenta foca em capturar falhas estruturais que quebram ferramentas subsequentes.

Problema que resolve

A maioria dos problemas dos agentes não são erros factuais, mas problemas estruturais como:

• O modelo inventar um campo em uma resposta de ferramenta JSON
• Citar uma fonte que não estava no conjunto recuperado
• Injeção de prompt escondida dentro do conteúdo recuperado
• Afirmar que uma ferramenta retornou algo que não retornou

Quatro supressores

A ferramenta inclui quatro supressores construídos em Claude Code que rodam como um único passo antes que a saída do agente alcance os usuários:

• grounding_enforcer - verifica se a saída do modelo é realmente suportada pelas fontes que você passou
• prompt_suppressor - captura tentativas de injeção em conteúdo recuperado e resultados de ferramentas
• json_suppressor - valida respostas estruturadas de ferramentas contra esquemas esperados
• tool_response_suppressor - sinaliza quando a saída alegada de uma ferramenta não corresponde ao que ela retornou

Disponibilidade

A ferramenta está disponível em dois formatos:

• Uma API REST
• Um servidor MCP (funciona com Claude Desktop, Cursor, Windsurf, etc.)

O nível gratuito oferece 500 requisições/mês sem necessidade de cartão de crédito.

Source and documentation

Repositório GitHub: https://github.com/steveswain14/mcp-hallucination-suite

API e documentação: https://certifai.dev