オーケストラ：OpenClaw向けコスト認識型LLMルーティングレイヤーにより、APIコストを60〜80％削減

Orkestraの機能

Orkestraは、OpenClaw向けに構築されたコスト認識型LLMルーティングレイヤーで、APIコストを60〜80%削減します。これはモデル呼び出しの前に位置するモジュラー型アーキテクチャで、意味的類似性に基づいて各リクエストをどの階層で処理すべきかを決定します。

仕組み

プロンプトが入力されると、埋め込み処理され、事前にラベル付けされたワークロードでトレーニングされた軽量なKNN分類器を通過します。意味的類似性に基づいて、ルーターはそれをbudget、balanced、premiumとして分類し、それに応じて呼び出しを転送します。

プロンプトの書き換えや複雑なルールツリーはありません。呼び出し時に意味的分類を行うだけです。APIコストの削減は、主に単純なプロンプトが最も高価なモデルにデフォルトで送られるのを防ぐことで実現しています。

OpenClawとの統合

Orkestraはローカルプロキシを介してOpenClawスキルとして接続されるため、既存のパイプラインは完全にそのまま維持されます。エージェントはbash/curlを使用して127.0.0.1:8765のOpenAI互換エンドポイントを呼び出します。

レスポンスには、_orkestra.costと_orkestra.savings_percentフィールドによる完全なコスト透明性が含まれています。

サポートプロバイダーと設定

• サポートプロバイダー：Google（Gemini）、Anthropic（Claude）、OpenAI
• 各プロバイダー内でbudget/balanced/premium階層間をルーティング
• 3つのプロバイダーすべてにわたるマルチプロバイダーモードをサポート
• リポジトリとOpenClaw統合は以下で利用可能：github.com/imperativelabs/orkestra
• スキルファイル、プロキシ、設定例についてはintegrations/openclaw/を参照