Gemma 4 チャットテンプレートのバグ: anyOf/null を使用したツールパラメータが空の型としてレンダリングされる

Redditユーザーが、Gemma 4 (gemma-4-31B-it) がJSON SchemaパターンanyOf: [$ref, null]（null許容オブジェクト参照の一般的なパターン）を使用するツールパラメータを解析できないことを発見しました。デフォルトのチャットテンプレートはトップレベルで直接typeフィールドを想定しているため、次のようなスキーマは：

{"anyOf": [{"$ref": "#/$defs/SomeObject"}, {"type": "null"}]}

プロンプト内でanyOf、$ref、$defsが除去され、type: ""になります。これにより、複数の推論エンジン（llama-serverなど）でツール呼び出しが壊れますが、Qwen3.5やgpt-oss-20bでは正しく処理されます。

診断と修正

ユーザーはllama-serverの詳細ログを使用してデバッグし、コードx CLI経由でGPT-5.5-highにMacBook Pro上でQwen3.5-27B-Q4_K_Mとgemma-4-31B-it-Q4_K_Sのログを比較させました。原因はGemmaチャットテンプレートがすべてのパラメータに直接typeキーがあると想定していることでした。Jinjaテンプレートに小さな変更を加えることで、anyOf、$ref、$defs構造が保持されるようになりました。

修正されたJinjaテンプレートはPastebinにあります： https://pastebin.com/p9z3BAC0

gemma-4-31B-itのHugging FaceリポジトリにPRが提出されています。

教訓

Gemma 4をツール/関数呼び出しに使用していて、null許容JSON Schema参照がある場合は、修正されたチャットテンプレートを適用してください。Qwen3.5やgpt-oss-20bのユーザーは影響を受けません。