Deux nouveaux outils open source pour la sécurité et l'optimisation des agents d'IA
La communauté r/openclaw a partagé deux outils open source pour les développeurs d'agents IA : AI Agent Defense Kit (disponible) et AgentGuard (en développement).
AI Agent Defense Kit
Il s'agit d'une boîte à outils de sécurité gratuite avec des compétences de protection en temps d'exécution pour les agents IA. Les compétences disponibles incluent :
skill-auditor- Audite les compétences avant installation pour détecter des signaux d'alerte de sécuritéurl-preflight- Vérifie les URL avant que votre agent ne les récupèrecontent-scanner- Analyse le contenu pour détecter des instructions cachéessocial-engineering-detector- Détecte les tactiques de manipulation dans les messagesdependency-checker- Vérifie les packages pour détecter les attaques de la chaîne d'approvisionnement
Le dépôt est disponible à : https://github.com/moebius-ansa/ai-agent-defense-kit
AgentGuard
Cette boîte à outils (en développement) aborde trois problèmes courants : les coûts imprévisibles des systèmes IA autonomes qui consomment des tokens, le manque de journaux d'audit montrant ce que font les agents, et les menaces de sécurité entrantes avant que le contenu n'atteigne les agents.
Les fonctionnalités prévues pour le lancement incluent :
- Estimateur de coûts - Calcule automatiquement les coûts mensuels par modèle + niveau d'utilisation
- Comparaison de modèles - Compare 20+ modèles entre fournisseurs avec des évaluations de qualité ; prétend trouver des économies de 90%+ avec une qualité équivalente
- Scanner de sécurité - Détecte l'injection de prompt, les jailbreaks, les fuites de prompt système et autres attaques avant qu'elles n'atteignent votre agent
- Moniteur d'activité - Suit les modifications de fichiers, les appels API, l'activité des processus
- Alertes de budget et d'activité - Reçoit des notifications sur Discord, Slack, Telegram, etc. lors de la détection d'activités inhabituelles ou de pics de coûts importants
L'installation se fera via : pip install agentguard
L'outil disposera d'une interface TUI intuitive et d'un mode agent qui permet à votre agent d'opérer la plateforme pour vous.
Ces outils répondent à des préoccupations pratiques pour les développeurs exécutant des agents IA, notamment en matière de surveillance de sécurité et de gestion des coûts.
📖 Read the full source: r/openclaw
👀 See Also
Construction et test d'un serveur MCP dans Claude Desktop : Architecture et enseignements
Un développeur partage son expérience de construction et de test d'un serveur MCP dans Claude Desktop, détaillant sa configuration d'architecture et les leçons pratiques apprises sur les schémas d'outils, le débogage et les limitations.
Claude Code : Comment connecter votre frontend construit par IA à un véritable backend
Claude Code crée des interfaces soignées mais utilise souvent des données en dur. Voici quatre façons de le connecter à de véritables backends : API brutes, SDK, CLI et MCP.
L'IA écrit du code mort ? L'outil deadcode de l'équipe Go le trouve en une seule commande
Les agents de codage IA laissent souvent du code mort derrière eux. L'outil deadcode de l'équipe Go analyse tout votre module et signale les fonctions inaccessibles en une seule commande — voici comment l'utiliser.
Développeur Construit un Compilateur Scheme vers WASM en 4 Jours avec l'IA
Un développeur a créé Puppy Scheme, un compilateur Scheme qui cible WebAssembly, en environ 4 jours avec l'aide de l'IA. Le compilateur prend en charge 73 % de R5RS et R7RS, utilise WASM GC, et a réalisé des améliorations du temps de compilation de 3 minutes et demie à 11 secondes en une nuit.