AIsbf 0.9.8 adiciona cache, melhorias de roteamento e suporte expandido a serviços de IA.
AIsbf (AI Should Be Free) 0.9.8 é um proxy/roteador de API que fornece uma interface compatível com OpenAI para vários serviços de endpoint de IA, visando tornar o uso de LLMs mais econômico. É multiusuário e pode escalar de configurações pequenas a grandes infraestruturas.
Principais recursos na versão 0.9.8
- Suporte a cache para Redis, SQLite, MySQL e armazenamento baseado em arquivos
- Métodos adicionais de condensação de contexto
- Suporte nativo a cache de prompts e cache de requisições
- Roteamento semântico baseado em prompts mais rápido e aprimorado para seleção automática de serviço
- Suporte completo a OAuth2 para assinantes do Claude.ai
- Suporte completo a OAuth2 para assinantes do Amazon Kiro-cli
- Suporte completo a OAuth2 para assinantes do OpenAI Codex
- Suporte completo para assinantes do Kilo.ai usando tokens ou OAuth2
- Múltiplas correções de bugs e adições menores de recursos
Este tipo de ferramenta é útil para desenvolvedores que trabalham com múltiplos serviços de IA e desejam uma interface unificada enquanto otimizam custos através de roteamento inteligente e cache.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Jobly: Mercado de Contratos com Resolução de Disputas Baseada em IA e Votação da Comunidade
Jobly é um mercado de contratos construído com Next.js 14, TypeScript e Supabase, apresentando um sistema de garantia com títulos de 10% dos provedores nas propostas e um pipeline de disputas que começa com avaliação de IA usando Claude, permitindo depois apelações para votação comunitária com participação financeira.
Repositório de Modelo de Código Claude para Aplicações Spring Boot
Um repositório do GitHub fornece um modelo Claude Code para gerar aplicações Spring Boot com melhores práticas para integração de banco de dados, implantação no Kubernetes e testes de integração usando Testcontainers.
Desenvolvedor Cria Servidor MCP do Power Automate com 108 Ferramentas e Suporte Multiplataforma
Um desenvolvedor criou um servidor MCP do Power Automate que se expandiu de 12 para 108 ferramentas, abrangendo operações CRUD do Dataverse via OData, gerenciamento do SharePoint via Graph, controle de versão do Power Apps, administração de ambientes e suporte multiplataforma para Windows, macOS e Linux.
Painel de Código Aberto Revela Custos Reais de Computação do Claude Code
Um desenvolvedor engenhou reversamente a fórmula de limite de taxa do Claude Code para construir um painel local que mostra a porcentagem de uso em tempo real, custos reais em dólares, taxa de consumo, horários de pico e quais habilidades/hooks estão sendo acionados. A ferramenta revelou que um plano de US$ 100/mês consumiu US$ 13.286 em computação de API equivalente em um mês.