開発者が共有するハイブリッドAIコーディングワークフロー：計画にはClaude、実行にはローカルモデル

ハイブリッドAIコーディングワークフローでクラウドコストを削減

r/LocalLLaMAの開発者が、クラウドとローカルのAIモデルを組み合わせてトークンコストを削減しながらコーディング品質を維持する詳細なワークフローを共有しました。このアプローチは、多くのコーディングタスクが高価なクラウドモデルを必要としないという認識に対応しています。

ワークフローのアーキテクチャ

このシステムは「クラウドで推論、ローカルで実行」というロジックに従います：

• プランナー（Claude 3.5 Sonnet）：タスクを受け取り、指示、ファイルパス、ロジックを含む正確なtask_context.mdファイルを生成します。これには約300〜500トークンのコストがかかります。
• コーダー（Ollama経由のローカルQwen2.5-Coder 30B）：仕様と実際のファイル内容を受け取り、コードを記述します。これはローカルで実行され、コストはゼロです。
• バリデーター：単純なBashスクリプトがtsc --noEmitまたはmypyを実行して型チェックを行います。
• レビュアー（ローカルQwen2.5-Coder 7B）：並行して実行され、明らかな論理の欠陥をチェックします。
• 自動修正：ビルドが失敗した場合、エラーログはローカルコーダーに戻され、2〜3回の反復が行われます。

実装の詳細

パイプライン全体は、Ollama APIとの通信にjqとcurlのみを使用する一連のBashスクリプトにラップされています。このシステムは、プランナーの出力に基づいて言語標準（TypeScript、Python、C++など）を自動検出し、重いPython/Nodeランタイムを必要としません。

開発者は、ローカルモデル（30Bのものでさえ）は複雑なアーキテクチャの推論ではしばしば失敗するが、非常に明確な仕様が与えられた場合の実行は驚くほど優れていると指摘しています。

結果と節約効果

12のファイルが変更された最近のTypeScriptプロジェクトでは：

• Claudeの使用は初期計画フェーズのみに限定されました
• ローカルモデルがその他すべてを処理：12ファイルの記述、リンティング、レビュー
• 総節約額：Claude Code CLI内ですべてを行う場合と比較して約85%のトークン削減

開発者は、実装の詳細に興味がある人のために、GitHubのai-orchestratorリポジトリ（ユーザー名：Mybono）でスクリプトを公開しています。