AIsbf 0.9.8 adiciona cache, melhorias de roteamento e suporte expandido a serviços de IA.
AIsbf (AI Should Be Free) 0.9.8 é um proxy/roteador de API que fornece uma interface compatível com OpenAI para vários serviços de endpoint de IA, visando tornar o uso de LLMs mais econômico. É multiusuário e pode escalar de configurações pequenas a grandes infraestruturas.
Principais recursos na versão 0.9.8
- Suporte a cache para Redis, SQLite, MySQL e armazenamento baseado em arquivos
- Métodos adicionais de condensação de contexto
- Suporte nativo a cache de prompts e cache de requisições
- Roteamento semântico baseado em prompts mais rápido e aprimorado para seleção automática de serviço
- Suporte completo a OAuth2 para assinantes do Claude.ai
- Suporte completo a OAuth2 para assinantes do Amazon Kiro-cli
- Suporte completo a OAuth2 para assinantes do OpenAI Codex
- Suporte completo para assinantes do Kilo.ai usando tokens ou OAuth2
- Múltiplas correções de bugs e adições menores de recursos
Este tipo de ferramenta é útil para desenvolvedores que trabalham com múltiplos serviços de IA e desejam uma interface unificada enquanto otimizam custos através de roteamento inteligente e cache.
📖 Read the full source: r/LocalLLaMA
👀 See Also
CtxSnap Extensão do VS Code Rastreia Alterações de Arquivos para Sessões do Claude
CtxSnap é uma extensão do VS Code que rastreia quais arquivos foram alterados desde sua última sessão com o Claude e os empacota em um bloco de transferência pronto para colar, com conteúdo dos arquivos e uma barra de orçamento de tokens calibrada para a janela de contexto de 200k do Claude.
Ferramenta de Raiz de Uva Reduz o Uso de Tokens de Código Claude por meio do Cache de Contexto do Repositório
Uma ferramenta experimental gratuita chamada Grape Root aborda o consumo redundante de tokens no Claude Code mantendo um estado leve sobre arquivos de repositório previamente explorados, evitando releituras desnecessárias de arquivos inalterados durante prompts subsequentes.
Plugin de Canal Matriz Claude Code Construído em Rust com Suporte E2EE
Um desenvolvedor criou um plugin de canal Matrix para Claude Code em Rust, adicionando suporte para texto, arquivos, imagens com descriptografia E2EE, encadeamento de respostas, reações e comandos de bot. O binário de 14MB é licenciado MIT e funciona com qualquer servidor Matrix.
Servidor MCP Freddy Conecta Wearables a Agentes de IA com Login Sem Cabeça
Freddy é um servidor MCP pessoal que conecta wearables (Polar, Oura, Withings, Suunto, Intervals.icu, Hevy, além de WHOOP, Strava, Dexcom em beta) a clientes de IA como Claude Code, ChatGPT e Notion AI via OAuth. O novo login sem interface permite fluxos de trabalho agendados para agentes autônomos.