Dos Nuevas Herramientas de Código Abierto para la Seguridad y Optimización de Agentes de IA
La comunidad r/openclaw ha compartido dos herramientas de código abierto para desarrolladores de agentes de IA: AI Agent Defense Kit (disponible) y AgentGuard (en desarrollo).
AI Agent Defense Kit
Este es un kit de herramientas de seguridad gratuito con habilidades de protección en tiempo de ejecución para agentes de IA. Las habilidades disponibles incluyen:
skill-auditor- Audita habilidades antes de la instalación para detectar señales de seguridadurl-preflight- Verifica URLs antes de que tu agente las recuperecontent-scanner- Escanea contenido en busca de instrucciones ocultassocial-engineering-detector- Detecta tácticas de manipulación en mensajesdependency-checker- Verifica paquetes en busca de ataques en la cadena de suministro
El repositorio está disponible en: https://github.com/moebius-ansa/ai-agent-defense-kit
AgentGuard
Este kit de herramientas (en desarrollo) aborda tres problemas comunes: costos impredecibles de sistemas de IA autónomos que consumen tokens, falta de registros de auditoría que muestren lo que hacen los agentes, y amenazas de seguridad entrantes antes de que el contenido llegue a los agentes.
Las funciones planificadas para el lanzamiento incluyen:
- Estimador de Costos - Calcula automáticamente los costos mensuales por modelo + nivel de uso
- Comparador de Modelos - Compara más de 20 modelos entre proveedores con calificaciones de calidad; afirma encontrar ahorros del 90%+ con calidad equivalente
- Escáner de Seguridad - Detecta inyección de prompts, jailbreaks, fugas de prompts del sistema y otros ataques antes de que lleguen a tu agente
- Monitor de Actividad - Rastrea cambios de archivos, llamadas API, actividad de procesos
- Alertas de Presupuesto y Actividad - Recibe notificaciones en Discord, Slack, Telegram, etc. al detectar actividad inusual o picos importantes de costos
La instalación será mediante: pip install agentguard
La herramienta contará con una interfaz TUI intuitiva y un modo agente que permite que tu agente opere la plataforma por ti.
Estas herramientas abordan preocupaciones prácticas para desarrolladores que ejecutan agentes de IA, particularmente en torno al monitoreo de seguridad y la gestión de costos.
📖 Read the full source: r/openclaw
👀 Ver también
La habilidad Claude Code combina los enfoques de DeepMind Aletheia y Anthropic harness.
Una habilidad de Claude Code implementa una canalización Planificador→Generador→Evaluador→Revisor que sintetiza el agente de investigación matemática Aletheia de DeepMind con la arquitectura de codificación multiagente de Anthropic, añadiendo un preanálisis ciego donde el evaluador razona sobre enfoques correctos antes de ver el código candidato.
Gobernador: Un Plugin de Claude Code para Reducir el Desperdicio de Tokens mediante Compresión de Salida, Reducción de Contexto y Filtrado de Herramientas
Governor es un plugin de Claude Code que reduce el desperdicio de tokens/contexto mediante una salida profesional compacta, compresión de archivos de memoria, filtrado de salida de herramientas y barreras de protección contra la desviación. Los benchmarks muestran un ahorro del 55.5% en tokens de salida frente al control.
Files.md: Aplicación de notas Markdown de código abierto, local-primero y con diseño compatible con LLM
Files.md es una aplicación de markdown de código abierto y centrada en el ámbito local para notas, tareas y diarios. 886 estrellas, construida en Go, funciona sin conexión, sincroniza mediante iCloud/Dropbox/servidor autoalojado o la aplicación beta alojada en files.md.
Resultados de Referencia: CLI de GitHub frente a Enfoques MCP para Agentes de IA
Un benchmark independiente comparó GitHub CLI, MCP, MCP con Búsqueda de Herramientas y MCP con Modo Código para tareas de agentes de IA. GitHub CLI fue la opción más rentable, mientras que los enfoques MCP mostraron compensaciones en costo, latencia y modos de fallo.