Routerly: Gateway de LLM Auto-Hospedado com Políticas de Roteamento em Tempo Real e Controle de Orçamento
Routerly é um gateway LLM auto-hospedado criado para preencher lacunas nas soluções existentes. O desenvolvedor o criou porque o OpenRouter é baseado em nuvem, e eles queriam algo executável em sua própria infraestrutura, enquanto o roteamento do LiteLLM parecia muito manual, apesar de lidar bem com orçamentos.
Recursos Principais
Em vez de codificar um modelo específico em seu aplicativo, o Routerly permite definir políticas de roteamento que determinam a seleção do modelo em tempo de execução. As políticas disponíveis incluem:
- Mais barato
- Mais rápido
- Mais capaz
- Combinações dessas políticas
O controle de orçamento opera em nível de projeto com rastreamento real por token, proporcionando gerenciamento de custos granular.
Compatibilidade e Uso
Routerly é compatível com OpenAI, o que significa que pode ser integrado em fluxos de trabalho existentes sem alterações de código. Ferramentas compatíveis especificamente mencionadas incluem:
- Cursor
- LangChain
- Open WebUI
Funciona com "qualquer outra coisa" que use o formato de API da OpenAI.
Status Atual
O desenvolvedor reconhece que há arestas a serem aparadas e está buscando feedback da comunidade sobre:
- O que está quebrado
- O que está faltando
- Se a lógica de roteamento faz sentido na prática
- Se resolve um problema real que as pessoas têm
A ferramenta é completamente gratuita e de código aberto, sem nenhum apelo comercial. O desenvolvedor está focado em feedback prático da comunidade técnica.
Recursos
- Repositório GitHub: https://github.com/Inebrio/Routerly
- Site: https://www.routerly.ai
📖 Read the full source: r/LocalLLaMA
👀 See Also
Shipshots MCP Servidor: Claude Projeta Capturas de Tela da App Store e Vídeos de Prévia
Shipshots é um editor visual com um servidor MCP que permite ao Claude criar materiais de marketing por meio de chamadas de ferramentas. Ele gera capturas de tela da loja de aplicativos, vídeos de prévia animados e visuais para mídias sociais com base em descrições de texto.
O Aplicativo iOS ClawTalk Permite Chat por Voz com Agentes de IA OpenClaw Auto-Hospedados
ClawTalk é um aplicativo nativo para iOS que fornece chat de voz push-to-talk para configurações de LLM auto-hospedadas do OpenClaw. Ele apresenta conversão de fala em texto no dispositivo usando WhisperKit, respostas em streaming em tempo real com renderização de markdown e suporta múltiplas opções de TTS, incluindo ElevenLabs, OpenAI e as vozes integradas da Apple.
Construindo um Assistente de Voz com IA Local usando SwiftUI e CSM-1B no Apple Silicon
Um desenvolvedor criou o mobiGlas, um aplicativo SwiftUI que se integra ao OpenClaw para permitir conversas mãos-livres via AirPods, usando clonagem de voz local (CSM-1B no M2 Ultra) e sem APIs em nuvem.
Executador de Benchmark de Código Aberto para Testar Agentes OpenClaw em Fluxos de Trabalho Reais
Um novo projeto de código aberto permite que você compare agentes OpenClaw com suas próprias tarefas privadas e realistas definidas em YAML, com suporte para importar workspaces reais dos agentes.