AIsbf 0.9.8 adiciona cache, melhorias de roteamento e suporte expandido a serviços de IA.
AIsbf (AI Should Be Free) 0.9.8 é um proxy/roteador de API que fornece uma interface compatível com OpenAI para vários serviços de endpoint de IA, visando tornar o uso de LLMs mais econômico. É multiusuário e pode escalar de configurações pequenas a grandes infraestruturas.
Principais recursos na versão 0.9.8
- Suporte a cache para Redis, SQLite, MySQL e armazenamento baseado em arquivos
- Métodos adicionais de condensação de contexto
- Suporte nativo a cache de prompts e cache de requisições
- Roteamento semântico baseado em prompts mais rápido e aprimorado para seleção automática de serviço
- Suporte completo a OAuth2 para assinantes do Claude.ai
- Suporte completo a OAuth2 para assinantes do Amazon Kiro-cli
- Suporte completo a OAuth2 para assinantes do OpenAI Codex
- Suporte completo para assinantes do Kilo.ai usando tokens ou OAuth2
- Múltiplas correções de bugs e adições menores de recursos
Este tipo de ferramenta é útil para desenvolvedores que trabalham com múltiplos serviços de IA e desejam uma interface unificada enquanto otimizam custos através de roteamento inteligente e cache.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Claude Code v2.1.176: Sessões com consciência de idioma, cache de credenciais do Bedrock e dezenas de correções
Títulos de sessão agora correspondem ao idioma da conversa; credenciais Bedrock armazenadas em cache até a expiração; correção de bypass na aplicação do modelo para /fast e variáveis de ambiente; correções no clipboard do tmux; correção de link simbólico no sandbox.
TranscriptionSuite v1.1.2 adiciona os modelos WhisperX, NeMo e VibeVoice.
O TranscriptionSuite v1.1.2 agora oferece três pipelines de transcrição: WhisperX com diarização PyAnnote, modelos NeMo (Parakeet e Canary) com diarização PyAnnote e modelos VibeVoice com diarização integrada. A atualização inclui um gerenciador de modelos, processamento paralelo, controles de atalho e um pipeline de gravação de 24kHz para VibeVoice.
Roost: Uma barra lateral em Go binário para Claude Code com histórico de prompts clicável, árvore de arquivos e notificações
Roost é um único binário Go que adiciona uma barra lateral baseada na web ao Claude Code: terminal xterm.js com suporte a tmux, árvore de arquivos que segue seu cd, histórico de prompts clicável de ~/.claude/projects/*.jsonl e notificações push via hook Stop do Claude Code. Execute via SSH como único usuário por instância; sem etapa de build no frontend.
Ory Lumen: Plugin de Busca Semântica Local de Código Aberto para Claude Code
Ory Lumen é um plugin do Claude Code que indexa bases de código usando Ollama com um modelo de incorporação de código e SQLite-vec para busca semântica, abordando os problemas de desempenho do Claude Code com grandes bases de código. A ferramenta é gratuita, funciona apenas localmente e inclui um conjunto de testes de benchmark no estilo SWE para resultados reproduzíveis.