Externes Reranker-Plugin für OpenClaw Memory-Core: Alte GPUs wiederverwenden

Ein Entwickler hat ein Plugin für OpenClaw veröffentlicht, das memory-core die Verwendung eines externen Rerankers ermöglicht. Dabei wird der MMR-Algorithmus in ein Plugin ausgelagert und ein neues memory-external-reranker-Plugin hinzugefügt. Wenn Sie eine alte GPU herumliegen haben, ist dies eine praktische Möglichkeit, sie einzusetzen.

Funktionsweise

Das Design lagert MMR in ein separates Plugin namens memory-mmr aus und fügt memory-external-reranker als weiteres Plugin hinzu. Ohne Änderungen an openclaw.json wird das neue memory-mmr-Plugin automatisch geladen, wenn hybrid memory aktiviert ist. Um den externen Reranker zu aktivieren, folgen Sie der Anleitung im Repository. Es gibt auch einen Fallback auf MMR, falls der Reranker nicht verfügbar ist.

Getestete Konfiguration

• Embeddings-Modell: Qwen/Qwen3-Embedding-4B-GGUF:Q8_0
• Reranker-Modell: mradermacher/Qwen3-Reranker-4B-GGUF:Q8_0
• Fallback: MMR
• GPU: RTX 3060 (12 GB VRAM) – beide Modelle laufen problemlos zusammen

Warum nicht QMD?

QMD läuft lokal ohne Möglichkeit, das Modell auszulagern. Wenn Sie OpenClaw in Docker auf einem Host ohne nutzbare GPU betreiben (oder CPU-Inferenz vermeiden möchten), ist QMD ein Leistungshindernis. Dieses Plugin ermöglicht externes Reranking mit Modellen, die anderswo bereitgestellt werden (einschließlich dieser alten RTX 3060, die nur herumsteht).

Lohnt es sich?

Der Autor berichtet, dass sich die Speicherrückruffunktion verbessert anfühlt, auch wenn keine genauen Messwerte vorliegen. Für Systeme mit einer zusätzlichen GPU oder einem separaten Inferenzserver bietet dieses Plugin eine saubere Möglichkeit, das Reranking auszulagern, ohne das Kernverhalten von memory-core zu ändern.

Repository und Branch

Das Plugin befindet sich im external-reranker-Branch des Forks: github.com/michmill1970/openclaw/tree/external-reranker. Der Autor hält den Fork nah am Hauptzweig und aktualisiert ihn mehrmals täglich.