Orkestra: Camada de Roteamento de LLM com Consciência de Custos para OpenClaw Reduz Custos de API em 60-80%

O que o Orkestra faz

Orkestra é uma camada de roteamento de LLM consciente de custos desenvolvida para o OpenClaw que reduz os custos de API em 60-80%. É uma arquitetura modular que fica na frente das chamadas de modelo e decide qual nível deve lidar com cada solicitação com base na similaridade semântica.

Como funciona

Quando um prompt chega, ele é incorporado e passa por um classificador KNN leve treinado em cargas de trabalho previamente rotuladas. Com base na similaridade semântica, o roteador o categoriza como budget, balanced ou premium e encaminha a chamada de acordo.

Não há reescrita de prompt e nenhuma árvore de regras complexas — apenas classificação semântica no momento da chamada. A redução nos custos de API vem principalmente de evitar que prompts mais simples usem por padrão os modelos mais caros.

Integração com o OpenClaw

Orkestra se conecta como uma habilidade do OpenClaw por meio de um proxy local, para que os pipelines existentes permaneçam completamente intactos. O agente o chama via bash/curl para um endpoint compatível com OpenAI em 127.0.0.1:8765.

A resposta inclui transparência total de custos com os campos _orkestra.cost e _orkestra.savings_percent.

Provedores suportados e configuração

• Provedores suportados: Google (Gemini), Anthropic (Claude), OpenAI
• Roteia entre níveis econômico/equilibrado/premium dentro de cada provedor
• Suporta modo multi-provedor entre todos os três provedores
• Repositório e integração com OpenClaw disponíveis em: github.com/imperativelabs/orkestra
• Veja integrations/openclaw/ para os arquivos de habilidade, proxy e exemplos de configuração