Behebung von OpenClaw-Verlangsamungen bei langen Sitzungen: contextInjection continuation-skip für llama.cpp Cache

Wenn Ihr selbst gehostetes OpenClaw mit llama.cpp mit zunehmender Sitzungsdauer (über 90k Tokens) immer langsamer wird, könnte eine einzige OpenClaw-Einstellung der Übeltäter sein, die stillschweigend den Prompt-Cache bei jeder Runde ungültig macht. Ein Benutzer auf r/openclaw hat das Problem aufgespürt und einen einfachen Fix gefunden.

Das Setup

• Qwen3.6-27B-Q8_0 auf zwei RTX 3090 (Tensor Parallel)
• llama-server mit --cache-prompt, --ctx-size 400000, --parallel 2
• OpenClaw über LAN verbunden

Die Symptome

llama-server-Logs zeigten bei jeder Runde:

forcing full prompt re-processing due to lack of cache data
erased invalidated context checkpoint (pos_min = 57172)
erased invalidated context checkpoint (pos_min = 60139)
erased invalidated context checkpoint (pos_min = 91076)
prompt eval time = 130511 ms / 91403 tokens

91k Tokens wurden jede Runde von Grund auf neu verarbeitet – 130 Sekunden. Der Cache war aktiviert, Checkpoints existierten, aber llama.cpp fand keine Übereinstimmungen und fiel auf die vollständige Neuverarbeitung zurück.

Die Ursache

OpenClaw's Einstellung contextInjection, standardmäßig always, fügt bei jeder Runde (einschließlich Fortsetzungsrunden) alle Workspace-Bootstrap-Dateien (AGENTS.md, SOUL.md, USER.md, TOOLS.md, MEMORY.md, HEARTBEAT.md, ~15kb) in den System-Prompt ein. Dadurch ändert sich die Token-Sequenz, und der llama.cpp-Prompt-Cache (der auf exaktem Präfix-Matching basiert) kann nicht wiederverwendet werden.

Der Fix

openclaw config set agents.defaults.contextInjection continuation-skip --merge

Anschließend das Gateway neu starten. continuation-skip injiziert die Bootstrap-Dateien nur bei neuen Benutzernachrichten, nicht bei Fortsetzungsrunden, sodass der Prompt stabil bleibt und der Cache gültig bleibt.

Die Ergebnisse

Vorher: 91.403 Tokens pro Runde neu verarbeitet, 130 s Prompt-Auswertung, 0 % Cache-Wiederverwendung, über 2 min pro Antwort.

Nachher: 513 neue Tokens pro Runde, 1,3 s Prompt-Auswertung, 99,7 % Cache-Wiederverwendung, etwa 5 Sekunden pro Antwort. 100x schneller.

Diagnose

ssh your-server "journalctl -u llama.service --no-pager -n 50 | grep -iE 'cache|re-process|checkpoint'"

Anzeichen für defekten Cache: forcing full prompt re-processing due to lack of cache data, wiederholtes erased invalidated context checkpoint, Prompt-Verarbeitung über 30 Sekunden. Anzeichen für gesunden Cache: restored context checkpoint, f_keep = 0.99+, graphs reused = große Zahl, Prompt-Verarbeitung unter 5 Sekunden.

Passen Sie außerdem --ctx-size auf 400k (200k pro Sitzung), OpenClaw contextTokens auf 200k und memoryFlush.softThresholdTokens von 30k auf 10k an, um weitere Verbesserungen zu erzielen.