llama.cppキャッシュにおけるFix OpenClaw Slowdown in Long Sessions: contextInjection continuation-skip

セルフホストのOpenClawとllama.cppを使用している場合、セッションが90kトークンを超えると徐々に遅くなる問題は、OpenClawの単一の設定が毎ターンプロンプトキャッシュを無効にしていることが原因かもしれません。r/openclawのユーザーが問題を追跡し、簡単な修正方法を見つけました。

セットアップ

• Qwen3.6-27B-Q8_0 on dual RTX 3090s (テンソル並列)
• llama-server with --cache-prompt, --ctx-size 400000, --parallel 2
• OpenClawがLAN経由で接続

症状

llama-serverのログに毎ターン以下の表示:

forcing full prompt re-processing due to lack of cache data
erased invalidated context checkpoint (pos_min = 57172)
erased invalidated context checkpoint (pos_min = 60139)
erased invalidated context checkpoint (pos_min = 91076)
prompt eval time = 130511 ms / 91403 tokens

毎ターン91kトークンを最初から再処理 — 130秒。キャッシュは有効でチェックポイントも存在していたが、llama.cppは一致するものがなく、完全な再処理にフォールバック。

根本原因

OpenClawの設定contextInjectionのデフォルトalwaysは、すべてのワークスペースブートストラップファイル（AGENTS.md, SOUL.md, USER.md, TOOLS.md, MEMORY.md, HEARTBEAT.md, ~15kb）を毎ターン（継続ターンも含む）システムプロンプトに再注入します。これによりトークンシーケンスが変更され、llama.cppのプロンプトキャッシュ（正確なプレフィックス一致に依存）が再利用できなくなります。

修正方法

openclaw config set agents.defaults.contextInjection continuation-skip --merge

その後ゲートウェイを再起動。continuation-skipは新しいユーザーメッセージ時のみブートストラップファイルを注入し、継続ターンでは注入しないため、プロンプトが安定しキャッシュが有効になります。

結果

修正前: 毎ターン91,403トークンを再処理、130秒のプロンプト評価、0%キャッシュ再利用、応答まで2分以上。

修正後: 毎ターン513新しいトークンのみ、1.3秒のプロンプト評価、99.7%キャッシュ再利用、応答まで約5秒。100倍高速化。

診断方法

ssh your-server "journalctl -u llama.service --no-pager -n 50 | grep -iE 'cache|re-process|checkpoint'"

キャッシュ不良の兆候: forcing full prompt re-processing due to lack of cache data, erased invalidated context checkpointの繰り返し、プロンプト処理が30秒以上。正常なキャッシュの兆候: restored context checkpoint, f_keep = 0.99+, graphs reused =大きな数字、プロンプト処理が5秒未満。

また、--ctx-sizeを400k（セッションあたり200k）、OpenClawのcontextTokensを200k、memoryFlush.softThresholdTokensを30kから10kに調整することでさらなる改善が可能です。