AIsbf 0.9.8 ajoute la mise en cache, des améliorations de routage et un support élargi des services d'IA.
AIsbf (AI Should Be Free) 0.9.8 est un proxy/routeur API qui fournit une interface compatible OpenAI à divers services de point de terminaison d'IA, visant à rendre l'utilisation des LLM plus rentable. Il est multi-utilisateur et peut évoluer de petites configurations à de grandes infrastructures.
Fonctionnalités clés de la version 0.9.8
- Prise en charge du cache pour Redis, SQLite, MySQL et le stockage basé sur des fichiers
- Méthodes supplémentaires de condensation de contexte
- Prise en charge native du cache des invites et du cache des requêtes
- Routage sémantique basé sur les invites plus rapide et amélioré pour la sélection automatique des services
- Prise en charge complète d'OAuth2 pour les abonnés de Claude.ai
- Prise en charge complète d'OAuth2 pour les abonnés d'Amazon Kiro-cli
- Prise en charge complète d'OAuth2 pour les abonnés d'OpenAI Codex
- Prise en charge complète pour les abonnés de Kilo.ai utilisant des jetons ou OAuth2
- Plusieurs corrections de bogues et ajouts de fonctionnalités mineures
Ce type d'outil est utile pour les développeurs qui travaillent avec plusieurs services d'IA et souhaitent une interface unifiée tout en optimisant les coûts grâce à un routage et une mise en cache intelligents.
📖 Read the full source: r/LocalLLaMA
👀 See Also
CostHawk lance un classement public pour la consommation de tokens de Claude Code, Codex et Cursor
Le classement de CostHawk classe les utilisateurs publics de Claude Code, OpenAI Codex et Cursor par consommation totale de tokens, en suivant les compteurs, modèles et horodatages de synchronisation sans stocker les prompts ni le code.
La compétence OpenClaw ajoute la génération d'images par IA avec prise en charge locale de ComfyUI et des invites organisées.
Une nouvelle compétence OpenClaw offre des capacités de génération d'images par IA directement dans le terminal, avec plus de 1 300 invites sélectionnées, une intégration locale de ComfyUI et des flux de travail d'amélioration des invites.
Ory Lumen : Plugin de recherche sémantique locale open source pour Claude Code
Ory Lumen est un plugin Claude Code qui indexe les bases de code en utilisant Ollama avec un modèle d'incorporation de code et SQLite-vec pour la recherche sémantique, résolvant les problèmes de performance de Claude Code avec les grandes bases de code. L'outil est gratuit, fonctionne uniquement en local et inclut un banc d'essai de type SWE pour des résultats reproductibles.
Agentlint : une application GitHub qui détecte les contradictions dans CLAUDE.md et les pointeurs cassés sur chaque PR
Agentlint est une application GitHub qui audite l'ensemble de votre surface de règles agent (CLAUDE.md, AGENTS.md, skills, hooks) à chaque PR, en postant des commentaires en ligne pour les contradictions, les chemins brisés et les fonctionnalités de harness non supportées. Gratuit pour les dépôts publics.