Orkestra: Capa de Enrutamiento de LLM Consciente de Costos para OpenClaw Reduce los Costos de API en un 60-80%

Qué hace Orkestra

Orkestra es una capa de enrutamiento LLM consciente de los costos, creada para OpenClaw, que reduce los costos de API en un 60-80%. Es una arquitectura modular que se sitúa frente a las llamadas de modelo y decide qué nivel debe manejar cada solicitud según la similitud semántica.

Cómo funciona

Cuando llega una solicitud, se incrusta y pasa por un clasificador KNN ligero entrenado con cargas de trabajo previamente etiquetadas. Según la similitud semántica, el enrutador la categoriza como budget, balanced o premium y reenvía la llamada en consecuencia.

No hay reescritura de solicitudes ni árbol de reglas complejo, solo clasificación semántica en el momento de la llamada. La reducción en los costos de API proviene principalmente de evitar que las solicitudes más simples recurran por defecto a los modelos más costosos.

Integración con OpenClaw

Orkestra se conecta como una habilidad de OpenClaw a través de un proxy local, por lo que las canalizaciones existentes permanecen completamente intactas. El agente la llama mediante bash/curl a un endpoint compatible con OpenAI en 127.0.0.1:8765.

La respuesta incluye transparencia total de costos con los campos _orkestra.cost y _orkestra.savings_percent.

Proveedores admitidos y configuración

• Proveedores admitidos: Google (Gemini), Anthropic (Claude), OpenAI
• Enruta entre niveles económicos/equilibrados/premium dentro de cada proveedor
• Admite modo multi-proveedor en los tres proveedores
• Repositorio e integración con OpenClaw disponibles en: github.com/imperativelabs/orkestra
• Consulta integrations/openclaw/ para los archivos de habilidad, proxy y ejemplos de configuración