Verificador de alucinaciones estructurales de código abierto para pipelines de agentes de IA
Qué hace
Un verificador de alucinaciones estructurales diseñado específicamente para canalizaciones de agentes de IA. A diferencia de la verificación de veracidad, esta herramienta se centra en detectar fallos estructurales que rompen las herramientas posteriores.
Problema que resuelve
La mayoría de los problemas de los agentes no son errores fácticos, sino problemas estructurales como:
- El modelo inventa un campo en una respuesta de herramienta JSON
- Cita una fuente que no estaba en el conjunto recuperado
- Inyección de prompts oculta dentro del contenido recuperado
- Afirma que una herramienta devolvió algo que no devolvió
Cuatro supresores
La herramienta incluye cuatro supresores integrados en Claude Code que se ejecutan como un solo paso antes de que la salida del agente llegue a los usuarios:
grounding_enforcer- verifica si la salida del modelo está realmente respaldada por las fuentes que pasasteprompt_suppressor- detecta intentos de inyección en el contenido recuperado y en los resultados de las herramientasjson_suppressor- valida las respuestas estructuradas de las herramientas contra los esquemas esperadostool_response_suppressor- marca cuando la salida declarada de una herramienta no coincide con lo que realmente devolvió
Disponibilidad
La herramienta está disponible en dos formatos:
- Una API REST
- Un servidor MCP (funciona con Claude Desktop, Cursor, Windsurf, etc.)
El nivel gratuito ofrece 500 solicitudes/mes sin necesidad de tarjeta de crédito.
Source y documentación
Repositorio de GitHub: https://github.com/steveswain14/mcp-hallucination-suite
API y documentación: https://certifai.dev
📖 Read the full source: r/ClaudeAI
👀 Ver también
Configuración de Docker con un Solo Comando para OpenClaw con Cifrado de Disco Completo y Monitoreo
Una configuración de Docker para OpenClaw que proporciona guías de cifrado de disco completo, Tini como PID 1, herramientas de monitoreo integradas y datos almacenados como archivos planos en el host. La implementación requiere solo dos comandos: git clone y ./shell.
Colección Curada de Recursos OpenClaw de Código Abierto Revelada
Descubre una nueva colección de recursos de OpenClaw de código abierto, curada por la comunidad para mejorar el desarrollo y la colaboración en IA.
La IA se comió la capa de traducción: El organigrama tras los agentes
Ajey Gore argumenta que la IA no reemplazó puestos de trabajo, sino que se comió la tarea de traducción. El centro del organigrama (gerentes de ingeniería, scrum masters, líderes técnicos) se está reduciendo a medida que los agentes convierten los requisitos directamente en código.
Servidor MCP Local Conecta Claude a Aplicaciones de Mac Sin Nube ni Tokens
Local MCP es un servidor MCP nativo para macOS que brinda a Claude Desktop, Cursor, Windsurf y VS Code acceso a datos de Mail, Calendar, Teams y OneDrive en tu Mac sin procesamiento en la nube ni tokens de API.