RTX 3090におけるQwen 3.6 27B/35Bの最適化：フラグ、量子化、自動ルーティング
RTX 3090（24GB VRAM）、Ryzen 5700X、64GB RAM、Windows 11でQwen 3.6モデルをローカル実行している開発者が、パフォーマンスと信頼性の問題に直面しています。カスタムフラグを設定してllama-serverを使用しており、量子化の選択、スループット、モデルの自動ルーティングについてアドバイスを求めています。
コマンドと量子化
35B（UD Q4_K_M）：
llama-server.exe -m "path\Qwen3.6-35B-A3B-UD-Q4_K_M.gguf" -ngl 99 -c 131072 -np 2 -fa on -ctk f16 -ctv f16 -b 2048 -ub 512 -t 8 --mlock -rea on --reasoning-budget 2048 --reasoning-format deepseek --jinja --metrics --slots --port 8081 --host 0.0.0.027B（UD Q4_K_XL）：
llama-server.exe -m "path\Qwen3.6-27B-UD-Q4_K_XL.gguf" -ngl 99 -c 196608 -np 1 -fa on -ctk q8_0 -ctv q8_0 -b 2048 -ub 512 -t 8 --no-mmap -rea on --reasoning-budget -1 --reasoning-format deepseek --jinja --metrics --slots --port 8081 --host 0.0.0.0報告されている問題
- 35Bが遅すぎる – 単純な反復タスクでも使い物にならない。
- 27Bは速いが信頼性が低い – コード出力が壊れる。簡単なタスクに20～30分かかることも。
- 手動でのモデル切り替え – サーバーを停止し、新しいコマンドを貼り付け、モデルを再読み込みする必要がある。
具体的な質問
- フラグは最適ではないか？（例：コンテキストサイズ、バッチサイズ、キャッシュタイプ）
- 24GB VRAMで速度とコーディング精度の最良のバランスを提供する量子化/モデルは？
- リクエストごとにモデルを自動切り替えするか、複数のモデルをウォーム状態で保持してルーティングするには？
背景
ユーザーは、スクレイピングと自動化のためにRaspberry Pi 5でHermesエージェントを実行し、OpenCode/QwenCodeでローカルコーディングを行っています。手動でサーバーを再起動する必要のない設定を求めています。
📖 完全なソースを読む： r/LocalLLaMA
👀 See Also
AIエージェントアーキテクチャの理解：決定論的層と確率論的層
Redditユーザーが、決定論的レイヤー（スクリプト、コマンド、API）と確率論的レイヤー（LLMの推論と意思決定）を分離したAIエージェントシステムのメンタルモデルを共有しました。重要な洞察：できるだけ多くの作業を決定論的側に押し込むことです。
ClaudeBusiness Repo: Claude Codeで実際のビジネスを運営するためのパターン
35以上のRedditスレッドから、Claudeを使ってサービス代理店や個人SaaSビジネスを運営する創業者たちの実践的なパターン、フレームワーク、ガードレールを収集したGitHubリポジトリ。
OpenClawワークスペース設定：2ヶ月間の使用から得た教訓
開発者のOpenClawでの経験によると、ワークスペースの質はエージェントのパフォーマンスに5〜10倍の影響を与え、SOUL.md、AGENTS.md、MEMORY.md、USER.md、およびスキル設定に関する具体的なガイダンスが示されています。
OpenClawアップデート修正：Telegram実行「許可リストミス」エラーの解決
最近のOpenClawアップデートにより、承認を無効にした後でもTelegramのexecコマンドが「exec denied: allowlist miss」エラーで失敗するようになりました。修正には、昇格されたアクセスの有効化、execセキュリティの明示的な設定、およびopenclaw.jsonとexec-approvals.jsonファイルの両方の更新が必要です。