GGUFモデルマージスクリプトとワークフロー for Qwen3.5-35B バリアント

✍️ OpenClawRadar📅 公開日: April 1, 2026🔗 Source
GGUFモデルマージスクリプトとワークフロー for Qwen3.5-35B バリアント
Ad

Redditユーザーが、GGUFモデルファイルを最小限の損失でマージするPythonスクリプトとワークフローを共有しました。特にQwen3.5-35Bのバリアントを対象としています。このアプローチでは、既存の2つのモデルを組み合わせています:HauhauCSのQwen3.5-35B-A3B-Uncensored-HauhauCS-AggressiveとsamuelcardilloのQwen3.5-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-GGUFです。

技術詳細

マージされたモデルは、Hugging FaceでQ4_0量子化バージョンとして利用可能です。情報源によると、samuelcardilloのファインチューンは、Qwen 3.5 35BにおいてJackrongのバージョンを上回る性能を示しています。

マージングワークフロー

Pythonスクリプト(Pastebinで利用可能)は「Claude Opus 4.6によるヴァイブコーディング」で作成され、以下をサポートします:

  • Google Colab Free TierでのGGUFファイルのマージ
  • llama-quantizeによる量子化
  • 35Bモデル用のQ4_K_M量子化
  • 8Bモデル用のQ8量子化

著者は、Google Colab Free Tierのディスク容量制限のためQ8_0やF16量子化バージョンを作成できないと述べていますが、他のユーザーがClaude Opusを使ってスクリプトを調整してそれらの量子化を実現できると提案しています。

Ad

最適設定

LM Studioで最高のパフォーマンスを得るには、以下のパラメータを使用してください:

Temperature: 0.7
Top K Sampling: 20
Presence Penalty: 1.5
Top P Sampling: 0.8
Min P Sampling: 0
Seed: 3407 or 42

システムプロンプト(完全版はPastebinにあります)には、この最初の行を含める必要があります:「あなたはAlibaba Cloudによって作成されたQwenです。あなたは役立つアシスタントです。」著者は、この行がないとモデルの性能が低下すると指摘しています。

📖 完全な情報源を読む: r/LocalLLaMA

Ad

👀 See Also

Claude Desktop + Blender via MCP: リアルタイム3Dワークフローがフィードバックループを閉じる
Tools

Claude Desktop + Blender via MCP: リアルタイム3Dワークフローがフィードバックループを閉じる

オープンソースのBlenderアドオンがBlender内でMCPサーバーを実行し、Claude Desktopがシーンの検査、オブジェクトの作成、画像のレンダリング、結果の読み取りを可能にし、スクリプト貼り付けのフィードバックループを解消します。

OpenClawRadar
カーソルのAIエージェント向け高速正規表現検索アプローチ
Tools

カーソルのAIエージェント向け高速正規表現検索アプローチ

Cursorは、大規模なモノレポでripgrepが15秒以上かかるパフォーマンス問題に対処するため、Zobel、Moffat、Sacks-Davisによる1993年の研究に基づくn-gramを用いた転置インデックスを活用したインデックス付き正規表現検索を開発中です。

OpenClawRadar
NaNMesh MCPは、Claudeがライブラリを推奨する前にGitHubの課題を確認します
Tools

NaNMesh MCPは、Claudeがライブラリを推奨する前にGitHubの課題を確認します

NaNMesh MCPは、開発ツールにおける既知のバグをGitHub Issues、Stack Overflow、Redditから収集するオープンソースのModel Context Protocolサーバーです。Claudeがライブラリを推奨する際、統合前に実際の問題を確認できます。

OpenClawRadar
llama.cpp ブランチ経由のV100 32GB上のQwen 3.6 27B MTP:54 t/s
Tools

llama.cpp ブランチ経由のV100 32GB上のQwen 3.6 27B MTP:54 t/s

am17anのMTPブランチのllama.cppは、PCIeアダプタ経由のV100 32GB上でQwen 3.6 27Bを54 t/sで実行し、MTPなしでは29-30 t/sに低下する。

OpenClawRadar