シンプルなタスクを低コストモデルに振り分けることでAIコストを40％削減

OpenClawを3ヶ月間使用している開発者が、タスクの複雑さに基づくモデル振り分け戦略を実施することで、AI使用料を40％削減することに成功しました。

実装の主な詳細

ユーザーは使用ログを分析し、約60％のタスクが以下のような「非常に単純な」操作であることを発見しました：

• ファイル読み込み
• Grep操作
• フォーマット変更タスク
• 簡易Q&Aセッション

これらのタスクは以前、Claude Sonnetで実行されており、DeepSeek-v3やGemini Flashなどの安価な代替モデルと比べて約10倍のコストがかかっていましたが、これらの単純な操作では品質の向上は見られませんでした。

振り分けソリューション

開発者は、タスクを適切なモデルに自動的に振り分けるルーティング層を設定しました：

• 高度な推論とアーキテクチャ決定： Claude Sonnetの使用を継続
• 単純なタスク： 自動的に安価なモデル（DeepSeek-v3、Gemini Flash）に振り分け

この実装には、開発者のワークフローの変更は必要ありませんでした。振り分けはタスクの種類に基づいて自動的に行われます。

結果

• 全体の請求額が40％削減
• 単純なタスクでの品質低下なし
• Claudeの使用量が半分以上減少
• Claude使用量の減少により、レート制限の問題がほぼ解消

ユーザーは、パフォーマンスを維持しながらコストを最適化するために、他の人々が異なるAIモデル間でワークロードをどのように分割しているかについて、コミュニティからの意見を求めています。