Deux nouveaux outils open source pour la sécurité et l'optimisation des agents d'IA
La communauté r/openclaw a partagé deux outils open source pour les développeurs d'agents IA : AI Agent Defense Kit (disponible) et AgentGuard (en développement).
AI Agent Defense Kit
Il s'agit d'une boîte à outils de sécurité gratuite avec des compétences de protection en temps d'exécution pour les agents IA. Les compétences disponibles incluent :
skill-auditor- Audite les compétences avant installation pour détecter des signaux d'alerte de sécuritéurl-preflight- Vérifie les URL avant que votre agent ne les récupèrecontent-scanner- Analyse le contenu pour détecter des instructions cachéessocial-engineering-detector- Détecte les tactiques de manipulation dans les messagesdependency-checker- Vérifie les packages pour détecter les attaques de la chaîne d'approvisionnement
Le dépôt est disponible à : https://github.com/moebius-ansa/ai-agent-defense-kit
AgentGuard
Cette boîte à outils (en développement) aborde trois problèmes courants : les coûts imprévisibles des systèmes IA autonomes qui consomment des tokens, le manque de journaux d'audit montrant ce que font les agents, et les menaces de sécurité entrantes avant que le contenu n'atteigne les agents.
Les fonctionnalités prévues pour le lancement incluent :
- Estimateur de coûts - Calcule automatiquement les coûts mensuels par modèle + niveau d'utilisation
- Comparaison de modèles - Compare 20+ modèles entre fournisseurs avec des évaluations de qualité ; prétend trouver des économies de 90%+ avec une qualité équivalente
- Scanner de sécurité - Détecte l'injection de prompt, les jailbreaks, les fuites de prompt système et autres attaques avant qu'elles n'atteignent votre agent
- Moniteur d'activité - Suit les modifications de fichiers, les appels API, l'activité des processus
- Alertes de budget et d'activité - Reçoit des notifications sur Discord, Slack, Telegram, etc. lors de la détection d'activités inhabituelles ou de pics de coûts importants
L'installation se fera via : pip install agentguard
L'outil disposera d'une interface TUI intuitive et d'un mode agent qui permet à votre agent d'opérer la plateforme pour vous.
Ces outils répondent à des préoccupations pratiques pour les développeurs exécutant des agents IA, notamment en matière de surveillance de sécurité et de gestion des coûts.
📖 Read the full source: r/openclaw
👀 See Also
DeepMind DiscoRL Règle de Mise à Jour par Apprentissage Méta Portée de JAX à PyTorch
Un développeur a porté la règle de mise à jour de méta-apprentissage DiscoRL de DeepMind de JAX à PyTorch. L'implémentation comprend un dépôt GitHub avec un notebook Colab, une API et des poids hébergés sur Hugging Face.
Porte Piast : Proxy API Open-Source pour l'Anonymisation des Données LLM
Piast Gate est un proxy API open source qui anonymise les données sensibles avant d'envoyer des requêtes aux LLM et restaure les données originales dans les réponses. La version MVP actuelle prend en charge l'API Google Gemini, la langue polonaise, l'exécution locale, et peut anonymiser du texte ou des documents Word sans traitement par LLM.
8 astuces avancées pour Claude Code : économies, gestion du contexte, commandes personnalisées
Conseils pratiques issus d'une utilisation quotidienne intensive de Claude Code, couvrant l'automatisation du workflow git, l'entrée d'images multimodales, le suivi de l'utilisation de l'API, la compression du contexte, la reprise de session, la gestion des règles, les déclencheurs de réflexion et les commandes personnalisées.
Résultats de référence : Quand utiliser Claude Opus avec Codex vs. Opus pur pour la génération de code
Un benchmark contrôlé a testé l'approche 'Planifier avec Opus, Exécuter avec Codex' sur trois tâches de codage réelles. Les résultats montrent un point de croisement des coûts à environ 600 lignes de code, avec des recommandations spécifiques basées sur la taille du projet.