LinuxでのvLLM、Claude Code、gpt-oss-120bを使用したローカルマルチエージェントセットアップ
ある開発者が、Windowsから切り替えた後、Linux上で完全にローカルな並列マルチエージェントコーディング環境を作成した経験を共有しました。この構成では、並列推論にvLLM、エージェントオーケストレーションにClaude Code、コーディングタスクに大規模言語モデルを使用しています。
環境構成要素
- vLLM Dockerコンテナ: 簡単なデプロイと並列推論に使用
- Claude Code: バイブコーディングとエージェントチームのオーケストレーションを担当。クラウドプロバイダーではなくvLLMのlocalhostエンドポイントを指すように設定
- gpt-oss:120b: コーディングエージェントとして機能
- RTX Pro 6000 Blackwell MaxQ: ワークロード用の主要GPU
- デュアルブートUbuntu: オペレーティングシステムのセットアップ
パフォーマンスとワークフローの改善
この開発者は以前、OllamaとLM Studioを使用していましたが、それらはリクエストを逐次処理し、複数のメッセージターンやツール呼び出しの後に速度低下が発生していました。vLLMを使用することで、体験を「ターボチャージ」する並列処理を実現しました。
テストでは、このセットアップは動画デモで示されたように4つのエージェントが同時に協調作業することを処理でき、GPUは8つのエージェントを連続して並列でサポート可能でした。唯一指摘された問題は、エージェントによって異なるスループットの低下でした。
以前は逐次的に完了するのに数時間かかっていたエージェントチーム規模のタスクが、プロジェクトの範囲によっては約30分で完了できるようになりました。開発者は、2つ目のMaxQ GPUを追加することで、システムが数十のエージェントを同時に処理できる可能性があると推定しています。
この並列アプローチにより、ローカルで複数のプロジェクトを同時にバイブコーディングすることが可能になりますが、特定のシナリオでは若干のレイテンシ増加を引き起こす可能性があります。開発者は、このトレードオフを、一度に1つのエージェントでプロジェクトを完了させるよりも好ましいと感じました。
📖 Read the full source: r/LocalLLaMA
👀 See Also
規制産業におけるRAGボット導入から得られた実践的教訓
開発者が、建設、介護、鉱業におけるオーストラリアの職場コンプライアンス向けにRAG搭載AIアシスタントを導入した経験から得た貴重な教訓を共有します。主な洞察には、クエリ拡張技術、文書タイトルマッチング、プロンプトの階層化、インフラ設計の決定が含まれます。
ユーザーがOpenClawとAIを活用して4日間でチェスコーチングウェブサイトを構築
プログラミング経験のないユーザーが、OpenClawとLoveableを使用して、わずか4日間でElucidateChessというチェス指導ウェブサイトを作成しました。このサイトでは、生徒が手の思考プロセスを明確に説明することを求め、AIがその回答を評価します。
OpenClawは、AIエージェントを介した自動食料品買い物のためにKroger APIと統合します。
開発者がOpenClawとKroger APIを使用して、レシピの材料を自動的にショッピングカートに追加しました。Qwen3.5をレシピ生成に、Gemini 3.1 Proをセットアップに活用しています。この統合には6時間の作業が必要で、単一のカート生成で359Kトークンを消費しました。
OpenClawユーザーが、43エージェントの本番システムのアーキテクチャを共有
1,000以上のクライアントを抱えるブランディングコンサルティング企業が、43エージェントのOpenClawシステムを数ヶ月間本番環境で稼働させており、コマンド、インテリジェンス、コンテンツ、テクノロジー、セールスの各機能に特化したエージェントを配置した階層型アーキテクチャを採用しています。