AIsbf 0.9.8 adiciona cache, melhorias de roteamento e suporte expandido a serviços de IA.
AIsbf (AI Should Be Free) 0.9.8 é um proxy/roteador de API que fornece uma interface compatível com OpenAI para vários serviços de endpoint de IA, visando tornar o uso de LLMs mais econômico. É multiusuário e pode escalar de configurações pequenas a grandes infraestruturas.
Principais recursos na versão 0.9.8
- Suporte a cache para Redis, SQLite, MySQL e armazenamento baseado em arquivos
- Métodos adicionais de condensação de contexto
- Suporte nativo a cache de prompts e cache de requisições
- Roteamento semântico baseado em prompts mais rápido e aprimorado para seleção automática de serviço
- Suporte completo a OAuth2 para assinantes do Claude.ai
- Suporte completo a OAuth2 para assinantes do Amazon Kiro-cli
- Suporte completo a OAuth2 para assinantes do OpenAI Codex
- Suporte completo para assinantes do Kilo.ai usando tokens ou OAuth2
- Múltiplas correções de bugs e adições menores de recursos
Este tipo de ferramenta é útil para desenvolvedores que trabalham com múltiplos serviços de IA e desejam uma interface unificada enquanto otimizam custos através de roteamento inteligente e cache.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Construindo um Assistente de Voz com IA Local usando SwiftUI e CSM-1B no Apple Silicon
Um desenvolvedor criou o mobiGlas, um aplicativo SwiftUI que se integra ao OpenClaw para permitir conversas mãos-livres via AirPods, usando clonagem de voz local (CSM-1B no M2 Ultra) e sem APIs em nuvem.
Sentido: Go SDK para asserções de teste com LLM e extração de texto estruturado
Sense é um SDK Go que utiliza o Claude para duas funções principais: avaliar saídas não determinísticas em testes com asserções em inglês simples, e extrair structs tipadas de textos não estruturados através de reflexão e tool_use forçado.
Plugins de Código Claude de Código Aberto para Protocolos de Comércio Agente
A OrcaQubits lançou oito plugins Claude Code de código aberto que implementam protocolos de comércio agentivo, incluindo UCP, ACP, AP2 e A2A, com licenciamento MIT e suporte para plataformas como Magento 2, BigCommerce e WooCommerce.
CC-Ledger: Rastreie os Custos do Claude Code por Sessão e por PR com SQLite Local
CC-Ledger é um binário Rust que se conecta ao Claude Code, registrando cada etapa em um SQLite local. Capture sessões descontroladas ao vivo e veja o custo por PR sem chave de API. Inclui barra de menu macOS, painel web e CLI.