Qwen3.5 35B-A3B MoEは、中程度のハードウェア上で27ステップのエージェントワークフローをローカルで実行します。

ローカルエージェントワークフローの実演
r/LocalLLaMAで開発者が、Qwen3.5 35B-A3B MoEを使用して複雑なエージェントワークフローをローカルで正常に実行したと報告した。このモデルは、ミッドレンジハードウェア上で27ステップの動画処理チェーンを自律的に実行した。
ワークフローの詳細
タスクは、単一の自然言語プロンプトから動画を処理することだった:
- 動画をアップロード
- Whisperで文字起こし
- 字幕を編集
- カスタムスタイルで字幕を動画に焼き付け
ワークフローは27の連続したツール呼び出しで構成され、extract_audio、transcribe、read_file、edit_file、burn_subtitlesに加えて検証ステップを含んでいた。モデルは各ステップを計画、実行、検証し、必要に応じて自己修正を行った。
技術仕様
ハードウェア:
- Lenovo ThinkPad P53モバイルワークステーション
- Intel i7-9850Hプロセッサ
- Quadro RTX 3000(6GB VRAM)
- 48GB DDR4 2666MT/s RAM
ソフトウェアスタック:
- llama.cpp + whisper.cppによる完全ローカル実装
- クラウドAPIは使用せず
モデル設定:
- Q4_K_M量子化のQwen3.5 35B-A3B MoE
- トークンごとに約3Bのアクティブパラメータを持つMoEアーキテクチャ
- レイヤーをオフロードして6GB VRAMに収まり実行可能
- 完全な35Bパラメータの知識ベース
パフォーマンス結果
完全なワークフローは約10分で実行され、ほとんどの時間は推論に費やされた。開発者は、27ステップのチェーン中にエラーゼロ、人間の介入ゼロだったと指摘した。MoEアーキテクチャは、アクティブパラメータ数を低く保ちながら完全なモデル能力を維持することで、ミッドレンジハードウェアでの実行を可能にした。
これは、ローカルエージェントワークフローが、特に速度のためにアクティブパラメータ数と能力のために完全なパラメータ数のバランスを取るMoEモデルによって、コンシューマーグレードのハードウェアで実用的になりつつあることを示している。
📖 Read the full source: r/LocalLLaMA
👀 See Also

RunLobster AIエージェントが業務データを統合し、運用インサイトを提供
ある開発者がRunLobsterにStripe、CRM、メール、通話記録を含む自社のビジネスシステムへのルートアクセスを許可しました。このエージェントは自律的に業務を監視し、異常を検知し、統合されたデータ分析に基づいた詳細なブリーフィングを提供します。

モデルルーティングを通じてOpenClawコストを60%削減した方法
OpenClawユーザーが利用パターンを分析し、すべてのタスクにClaude Opusを使用するのではなく、適切なモデルにタスクを振り分けることで、20日間でAPIコストを420ドルから168ドルに削減しました。内訳では、70%のタスクが単純で、より安価なモデルで対応可能でした。

Discord連携機能付き自動化日次開発ジャーナルシステム
Discordの開発活動をキャプチャし、視覚的な要約を生成し、kabi-discord-cli、cronジョブ、GitHub/Vercelデプロイメントを使用して自動的に毎日ブログ投稿を公開するシステム。

自己改善型AIエージェントがプロセスの肥大化により停滞、設定の60%削除で解決
開発者が自己改善型AIエージェントの性能が頭打ちになったと報告。プロセスの肥大化が進み、執筆パイプラインは10段階に増え、毎晩の研究では論文を読むよりもコンテキストの読み込み指示に多くの時間を費やしていた。解決策は、ルート設定を約60%削減し、執筆パイプラインを10段階から5段階に減らし、ドリームサイクルを再構築することだった。