AIsbf 0.9.8 ajoute la mise en cache, des améliorations de routage et un support élargi des services d'IA.
AIsbf (AI Should Be Free) 0.9.8 est un proxy/routeur API qui fournit une interface compatible OpenAI à divers services de point de terminaison d'IA, visant à rendre l'utilisation des LLM plus rentable. Il est multi-utilisateur et peut évoluer de petites configurations à de grandes infrastructures.
Fonctionnalités clés de la version 0.9.8
- Prise en charge du cache pour Redis, SQLite, MySQL et le stockage basé sur des fichiers
- Méthodes supplémentaires de condensation de contexte
- Prise en charge native du cache des invites et du cache des requêtes
- Routage sémantique basé sur les invites plus rapide et amélioré pour la sélection automatique des services
- Prise en charge complète d'OAuth2 pour les abonnés de Claude.ai
- Prise en charge complète d'OAuth2 pour les abonnés d'Amazon Kiro-cli
- Prise en charge complète d'OAuth2 pour les abonnés d'OpenAI Codex
- Prise en charge complète pour les abonnés de Kilo.ai utilisant des jetons ou OAuth2
- Plusieurs corrections de bogues et ajouts de fonctionnalités mineures
Ce type d'outil est utile pour les développeurs qui travaillent avec plusieurs services d'IA et souhaitent une interface unifiée tout en optimisant les coûts grâce à un routage et une mise en cache intelligents.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Nexus : Protocole IA-à-IA Open Source avec Découverte, Confiance et Paiements
Nexus est un protocole auto-hébergé qui permet aux agents d'IA de se découvrir mutuellement, de négocier des conditions, de vérifier les réponses et de gérer des micropaiements sans intervention humaine. Il comprend cinq couches : découverte, confiance, protocole, routage et fédération, avec 66 tests et une licence MIT.
Agents de codage parallèles avec tmux et spécifications en Markdown
Manuel Schipper décrit un système pour exécuter 4 à 8 agents de codage en parallèle en utilisant tmux, des fichiers Markdown, des alias bash et six commandes slash. La configuration utilise des spécifications Feature Design (FD) en Markdown suivies à travers un cycle de vie en 8 étapes.
Le benchmark révèle que les outils d'automatisation de navigation par IA varient jusqu'à 2,6 fois en coût de tokens, malgré une précision identique.
Un benchmark de 4 outils d'automatisation de navigateur en CLI utilisant Claude Sonnet 4.6 sur 6 tâches réelles a révélé que tous ont atteint 100% de précision, mais openbrowser-ai a utilisé 36 010 tokens tandis que les autres ont utilisé 77 123 à 94 130 tokens. Le nombre d'appels d'outils était le prédicteur le plus fort du coût en tokens.
Agent Safehouse : sandboxing natif macOS pour les agents d'IA de codage locaux
Agent Safehouse est un outil de sandboxing natif pour macOS qui empêche les agents d'IA locaux d'accéder aux fichiers en dehors de votre répertoire de projet en utilisant une application au niveau du noyau. C'est un script shell unique sans dépendances qui fonctionne avec Claude Code, Codex, OpenCode, Amp, Gemini CLI, Aider, Goose, Auggie, Pi, Cursor Agent, Cline, Kilo, Code Droid et d'autres agents.