Verificador de alucinaciones estructurales de código abierto para pipelines de agentes de IA
Qué hace
Un verificador de alucinaciones estructurales diseñado específicamente para canalizaciones de agentes de IA. A diferencia de la verificación de veracidad, esta herramienta se centra en detectar fallos estructurales que rompen las herramientas posteriores.
Problema que resuelve
La mayoría de los problemas de los agentes no son errores fácticos, sino problemas estructurales como:
- El modelo inventa un campo en una respuesta de herramienta JSON
- Cita una fuente que no estaba en el conjunto recuperado
- Inyección de prompts oculta dentro del contenido recuperado
- Afirma que una herramienta devolvió algo que no devolvió
Cuatro supresores
La herramienta incluye cuatro supresores integrados en Claude Code que se ejecutan como un solo paso antes de que la salida del agente llegue a los usuarios:
grounding_enforcer- verifica si la salida del modelo está realmente respaldada por las fuentes que pasasteprompt_suppressor- detecta intentos de inyección en el contenido recuperado y en los resultados de las herramientasjson_suppressor- valida las respuestas estructuradas de las herramientas contra los esquemas esperadostool_response_suppressor- marca cuando la salida declarada de una herramienta no coincide con lo que realmente devolvió
Disponibilidad
La herramienta está disponible en dos formatos:
- Una API REST
- Un servidor MCP (funciona con Claude Desktop, Cursor, Windsurf, etc.)
El nivel gratuito ofrece 500 solicitudes/mes sin necesidad de tarjeta de crédito.
Source y documentación
Repositorio de GitHub: https://github.com/steveswain14/mcp-hallucination-suite
API y documentación: https://certifai.dev
📖 Read the full source: r/ClaudeAI
👀 Ver también
PeaDB: Base de Datos Compatible con Redis Desarrollada con Asistentes de IA en C++20
Un desarrollador creó PeaDB, un reemplazo directo de Redis 7.2.5 escrito en C++20 usando Codex, Copilot y Claude, implementando ~147 comandos con persistencia, replicación y soporte de clúster. Los benchmarks muestran un rendimiento cercano a Redis.
Los usuarios informan un valor mixto de OpenClaw y ClawDBot: Lo que necesitas saber.
OpenClaw y ClawDBot, aunque son herramientas de IA prometedoras para la automatización de código, han dejado a algunos usuarios insatisfechos. Este artículo explora los puntos clave de una discusión en Reddit sobre las experiencias de los usuarios y el valor derivado de estas plataformas.
El complemento OpenClaw-Mem0 agrega memoria persistente fuera de la ventana de contexto.
El complemento openclaw-mem0 traslada el almacenamiento de memoria completamente fuera de la ventana de contexto de OpenClaw, evitando pérdidas por compactación o reinicios de sesión. Ofrece recuperación y captura automáticas con opciones de configuración tanto en la nube como local.
Destilería: Un Complemento de Claude Code para Contexto de Equipo Persistente
Distillery es un complemento para Claude Code que proporciona a los equipos contexto compartido y persistente entre sesiones y personas. La versión 0.2.0 añade búsqueda híbrida, registro de auditoría de autenticación y soporte para uv.