Deux nouveaux outils open source pour la sécurité et l'optimisation des agents d'IA
La communauté r/openclaw a partagé deux outils open source pour les développeurs d'agents IA : AI Agent Defense Kit (disponible) et AgentGuard (en développement).
AI Agent Defense Kit
Il s'agit d'une boîte à outils de sécurité gratuite avec des compétences de protection en temps d'exécution pour les agents IA. Les compétences disponibles incluent :
skill-auditor- Audite les compétences avant installation pour détecter des signaux d'alerte de sécuritéurl-preflight- Vérifie les URL avant que votre agent ne les récupèrecontent-scanner- Analyse le contenu pour détecter des instructions cachéessocial-engineering-detector- Détecte les tactiques de manipulation dans les messagesdependency-checker- Vérifie les packages pour détecter les attaques de la chaîne d'approvisionnement
Le dépôt est disponible à : https://github.com/moebius-ansa/ai-agent-defense-kit
AgentGuard
Cette boîte à outils (en développement) aborde trois problèmes courants : les coûts imprévisibles des systèmes IA autonomes qui consomment des tokens, le manque de journaux d'audit montrant ce que font les agents, et les menaces de sécurité entrantes avant que le contenu n'atteigne les agents.
Les fonctionnalités prévues pour le lancement incluent :
- Estimateur de coûts - Calcule automatiquement les coûts mensuels par modèle + niveau d'utilisation
- Comparaison de modèles - Compare 20+ modèles entre fournisseurs avec des évaluations de qualité ; prétend trouver des économies de 90%+ avec une qualité équivalente
- Scanner de sécurité - Détecte l'injection de prompt, les jailbreaks, les fuites de prompt système et autres attaques avant qu'elles n'atteignent votre agent
- Moniteur d'activité - Suit les modifications de fichiers, les appels API, l'activité des processus
- Alertes de budget et d'activité - Reçoit des notifications sur Discord, Slack, Telegram, etc. lors de la détection d'activités inhabituelles ou de pics de coûts importants
L'installation se fera via : pip install agentguard
L'outil disposera d'une interface TUI intuitive et d'un mode agent qui permet à votre agent d'opérer la plateforme pour vous.
Ces outils répondent à des préoccupations pratiques pour les développeurs exécutant des agents IA, notamment en matière de surveillance de sécurité et de gestion des coûts.
📖 Read the full source: r/openclaw
👀 See Also
Développeur Construit l'Application LibraHQ pour Résoudre le Problème de Mémoire des Agents IA
Un développeur a créé LibraHQ, une application de prise de notes gratuite qui sert de couche de mémoire partagée entre les chatbots et les agents de codage. L'application enregistre les notes et décisions importantes des conversations et les stocke pour les sessions futures, résolvant ainsi le problème des agents d'IA qui oublient les décisions précédemment prises.
Créer un assistant vocal IA local avec SwiftUI et CSM-1B sur Apple Silicon
Un développeur a créé mobiGlas, une application SwiftUI qui s'associe à OpenClaw pour permettre des conversations mains libres via AirPods, en utilisant le clonage vocal local (CSM-1B sur M2 Ultra) et sans API cloud.
Nelson : Un Plugin Claude Code pour Coordonner les Agents IA Comme une Flotte Navale
Nelson est un plugin Claude Code qui structure la coordination des agents IA en utilisant des principes de flotte navale, avec trois modes d'exécution, un système de classification des risques, une surveillance de l'intégrité de la coque et des portes d'ordres permanents pour prévenir les anti-modèles courants.
Rappel : Un serveur MCP de mémoire persistante pour Claude Code
Recall est un serveur MCP open-source qui donne à Claude Code une mémoire persistante entre les sessions via une recherche sémantique avec des embeddings. Il comprend quatre crochets de cycle de vie : session-start, observe, pre-compact et session-end.