Dos Nuevas Herramientas de Código Abierto para la Seguridad y Optimización de Agentes de IA
La comunidad r/openclaw ha compartido dos herramientas de código abierto para desarrolladores de agentes de IA: AI Agent Defense Kit (disponible) y AgentGuard (en desarrollo).
AI Agent Defense Kit
Este es un kit de herramientas de seguridad gratuito con habilidades de protección en tiempo de ejecución para agentes de IA. Las habilidades disponibles incluyen:
skill-auditor- Audita habilidades antes de la instalación para detectar señales de seguridadurl-preflight- Verifica URLs antes de que tu agente las recuperecontent-scanner- Escanea contenido en busca de instrucciones ocultassocial-engineering-detector- Detecta tácticas de manipulación en mensajesdependency-checker- Verifica paquetes en busca de ataques en la cadena de suministro
El repositorio está disponible en: https://github.com/moebius-ansa/ai-agent-defense-kit
AgentGuard
Este kit de herramientas (en desarrollo) aborda tres problemas comunes: costos impredecibles de sistemas de IA autónomos que consumen tokens, falta de registros de auditoría que muestren lo que hacen los agentes, y amenazas de seguridad entrantes antes de que el contenido llegue a los agentes.
Las funciones planificadas para el lanzamiento incluyen:
- Estimador de Costos - Calcula automáticamente los costos mensuales por modelo + nivel de uso
- Comparador de Modelos - Compara más de 20 modelos entre proveedores con calificaciones de calidad; afirma encontrar ahorros del 90%+ con calidad equivalente
- Escáner de Seguridad - Detecta inyección de prompts, jailbreaks, fugas de prompts del sistema y otros ataques antes de que lleguen a tu agente
- Monitor de Actividad - Rastrea cambios de archivos, llamadas API, actividad de procesos
- Alertas de Presupuesto y Actividad - Recibe notificaciones en Discord, Slack, Telegram, etc. al detectar actividad inusual o picos importantes de costos
La instalación será mediante: pip install agentguard
La herramienta contará con una interfaz TUI intuitiva y un modo agente que permite que tu agente opere la plataforma por ti.
Estas herramientas abordan preocupaciones prácticas para desarrolladores que ejecutan agentes de IA, particularmente en torno al monitoreo de seguridad y la gestión de costos.
📖 Read the full source: r/openclaw
👀 Ver también
La habilidad de escaneo de seguridad para agentes de codificación de IA verifica automáticamente las implementaciones.
Un desarrollador creó un archivo de habilidad que permite a los agentes de IA de programación escanear automáticamente sus propias implementaciones en busca de problemas de seguridad como secretos expuestos, puertos abiertos, encabezados de seguridad faltantes y código fuente filtrado. El escaneo se ejecuta después de cada implementación y tarda unos 30 segundos.
Graphthulhu MCP Server Proporciona a los Agentes de IA Memoria de Grafo de Conocimiento para Logseq/Obsidian
Graphthulhu es un servidor MCP de código abierto que proporciona a los agentes de IA acceso de lectura y escritura a bóvedas de Logseq u Obsidian, almacenando la memoria como páginas estructuradas con propiedades y enlaces en lugar de incrustaciones vectoriales. Después de un mes, el sistema generó 404 páginas con 1.451 referencias cruzadas.
TUI Studio: Herramienta de Diseño de Interfaz de Usuario Visual para Terminales en Fase Alfa
TUI Studio es un editor visual similar a Figma para diseñar interfaces de usuario de terminal con componentes de arrastrar y soltar, vista previa ANSI en tiempo real y exportación planificada a seis frameworks incluyendo Ink, BubbleTea y Textual. Actualmente en fase alfa con exportaciones no funcionales, está disponible para macOS, Windows y Docker.
E2a: Puerta de enlace de correo electrónico de código abierto para agentes de IA con verificación SPF/DKIM y entrega mediante webhook/WebSocket
E2a es una puerta de enlace de correo electrónico autenticada para agentes de IA que verifica SPF/DKIM en el correo entrante, entrega mediante webhook o WebSocket y admite correo saliente con aprobación humana.