Vérificateur de hallucination structurelle open-source pour les pipelines d'agents IA

Ce qu'il fait

Un vérificateur d'hallucinations structurelles spécialement conçu pour les pipelines d'agents IA. Contrairement à la vérification de la véracité, cet outil se concentre sur la détection des défaillances structurelles qui perturbent les outils en aval.

Problème qu'il résout

La plupart des problèmes des agents ne sont pas des erreurs factuelles mais des problèmes structurels comme :

• Le modèle invente un champ dans une réponse d'outil JSON
• Citer une source qui ne faisait pas partie de l'ensemble récupéré
• Une injection de prompt cachée dans le contenu récupéré
• Prétendre qu'un outil a retourné quelque chose qu'il n'a pas retourné

Quatre suppresseurs

L'outil comprend quatre suppresseurs intégrés en Claude Code qui s'exécutent en une seule étape avant que la sortie de l'agent n'atteigne les utilisateurs :

• grounding_enforcer - vérifie si la sortie du modèle est effectivement étayée par les sources que vous avez transmises
• prompt_suppressor - détecte les tentatives d'injection dans le contenu récupéré et les résultats des outils
• json_suppressor - valide les réponses structurées des outils par rapport aux schémas attendus
• tool_response_suppressor - signale quand la sortie revendiquée par un outil ne correspond pas à ce qu'il a réellement retourné

Disponibilité

L'outil est disponible en deux formats :

• Une API REST
• Un serveur MCP (fonctionne avec Claude Desktop, Cursor, Windsurf, etc.)

Le niveau gratuit offre 500 requêtes/mois sans carte de crédit requise.

Source et documentation

Dépôt GitHub : https://github.com/steveswain14/mcp-hallucination-suite

API et documentation : https://certifai.dev