Zwei neue Open-Source-Tools für KI-Agenten-Sicherheit und -Optimierung
Die r/openclaw-Community hat zwei Open-Source-Tools für KI-Agenten-Entwickler geteilt: AI Agent Defense Kit (veröffentlicht) und AgentGuard (in Entwicklung).
AI Agent Defense Kit
Dies ist ein kostenloses Sicherheits-Toolkit mit Laufzeitschutzfähigkeiten für KI-Agenten. Verfügbare Fähigkeiten umfassen:
skill-auditor- Überprüft Fähigkeiten vor der Installation auf Sicherheitsrisikenurl-preflight- Prüft URLs, bevor Ihr Agent sie abruftcontent-scanner- Scannt Inhalte auf versteckte Anweisungensocial-engineering-detector- Erkennt Manipulationstaktiken in Nachrichtendependency-checker- Überprüft Pakete auf Supply-Chain-Angriffe
Das Repository ist verfügbar unter: https://github.com/moebius-ansa/ai-agent-defense-kit
AgentGuard
Dieses Toolkit (in Entwicklung) befasst sich mit drei häufigen Problemen: unvorhersehbaren Kosten durch autonome KI-Systeme, die Tokens verbrauchen, fehlenden Audit-Protokollen, die zeigen, was Agenten tun, und eingehenden Sicherheitsbedrohungen, bevor Inhalte die Agenten erreichen.
Geplante Startfunktionen umfassen:
- Kostenschätzer - Berechnet automatisch monatliche Kosten nach Modell + Nutzungsgrad
- Modellvergleich - Vergleicht 20+ Modelle verschiedener Anbieter mit Qualitätsbewertungen; verspricht 90%+ Einsparungen bei gleicher Qualität
- Sicherheitsscanner - Erkennt Prompt-Injection, Jailbreaks, System-Prompt-Lecks und andere Angriffe, bevor sie Ihren Agenten erreichen
- Aktivitätsmonitor - Verfolgt Dateiänderungen, API-Aufrufe, Prozessaktivitäten
- Budget- und Aktivitätsalarme - Erhalten Sie Benachrichtigungen auf Discord, Slack, Telegram usw. bei ungewöhnlicher Aktivität oder großen Kostenspitzen
Die Installation erfolgt über: pip install agentguard
Das Tool wird eine intuitive TUI-Oberfläche und einen Agentenmodus bieten, der es Ihrem Agenten ermöglicht, die Plattform für Sie zu bedienen.
Diese Tools behandeln praktische Anliegen von Entwicklern, die KI-Agenten betreiben, insbesondere im Bereich Sicherheitsüberwachung und Kostenmanagement.
📖 Read the full source: r/openclaw
👀 Siehe auch
OpenGauge: Open-Source-Tool zur lokalen Verfolgung von LLM-Agent-Kosten
OpenGauge ist ein Open-Source-Tool, das API-Aufrufe von LLM-Agenten wie OpenClaw überwacht und Token-Verbrauch, Kosten und Latenz in einer lokalen SQLite-Datenbank protokolliert. Es umfasst einen Proxy-Modus für automatische Protokollierung, detaillierte Kostenstatistiken und eine Sicherungsfunktion (Circuit Breaker), um Endlosschleifen zu verhindern.
Fewshell: Ein selbst gehosteter SSH-Copilot, der Befehle nur mit menschlicher Genehmigung ausführt
Fewshell ist ein mobiler+Desktop-SSH-Copilot mit zwingender menschlicher Freigabe für jeden Befehl – es gibt keine Einstellung, um eine automatische Freigabe zu aktivieren. Entwickelt von einem ehemaligen Amazon-KI-Entwickler, der an KI-Sicherheitsforschung arbeitet.
Open-Source-Claude-Code-Plugin simuliert Chief Data & AI Office mit 22 spezialisierten Agenten
Ein Open-Source-Claude-Code-Plugin namens AI CDAIO Office nutzt 22 spezialisierte KI-Agenten, um ein vollständiges Chief Data & AI Office zu simulieren und tatsächliche PPTX-, DOCX- und XLSX-Dateien für Strategiedokumente, Governance-Rahmenwerke und Vorstandsmaterialien zu generieren.
KI nutzt Gemma 4 für schnellere Spracheingabe: 44 % weniger Verzögerung, 30 % mehr Nutzung
Cue AI ersetzte einen cloudbasierten Textveredelungsschritt durch Googles DeepMind Gemma 4 E4B, das lokal über Ollama läuft, wodurch die mediane Latenz von 876ms auf 488ms sank und die Diktatnutzung um 30% stieg.