LightMem: Leichtgewichtiges Speichersystem für LLM-Agenten mit 10-fachen+ Leistungsgewinnen und 100-fach geringeren Kosten
LightMem: Eine praktische Speicherschicht für LLM-Agenten
LightMem ist ein leichtgewichtiges, modulares Speichersystem für LLM-Agenten, das die Herausforderungen langer, mehrstufiger Interaktionen angeht, bei denen der Kontext unübersichtlich und kostspielig wird, Modelle sich "in der Mitte verlieren" und bestehende Speichersysteme Latenz und Token-Kosten erhöhen.
Wie LightMem funktioniert
Das System erhält kompakte, themenbezogene und konsistente Erinnerungen durch drei Schlüsselmechanismen:
- Vorverarbeitung des sensorischen Gedächtnisses: Filtert redundante und wenig wertvolle Token vor der Speicherung
- Themenbewusstes Kurzzeitgedächtnis: Gruppiert Interaktionen nach Themen und fasst sie zu präzisen Speichereinheiten zusammen
- Langzeitkonsolidierung in Ruhephasen: Nutzt inkrementelle Einfügungen während der Laufzeit sowie Offline-Aktualisierungen in hoher Qualität ohne Latenzauswirkungen
Leistungsergebnisse
Im LongMemEval-Benchmark zeigt LightMem:
- Genauigkeitsverbesserung: bis zu ~10,9 %
- Token-Reduktion: bis zum 117-fachen
- API-Aufruf-Reduktion: bis zum 159-fachen
- Laufzeit-Reduktion: >12-fach
Aktuelle Updates und Funktionen
- Baseline-Bewertungsrahmen für verschiedene Speichersysteme (Mem0, A-MEM, LangMem) auf LoCoMo & LongMemEval
- Demo-Video und Tutorial-Notebooks für mehrere Szenarien
- MCP-Server-Integration für mehrfache Speicheraufrufe
- Vollständige LoCoMo-Datensatzunterstützung
- GLM-4.6-Integration mit reproduzierbaren Skripten
- Lokale Bereitstellung über Ollama, vLLM, Transformers mit automatischer Ladekapazität
Positionierung und Anwendungsfälle
LightMem ist als modulare Speicherschicht konzipiert, die sich in verschiedene Agenten-Stacks integrieren lässt, einschließlich:
- Langzeitkontext-Agenten
- Werkzeugnutzende Agenten
- Autonome Workflows
- Konversationssysteme
Das System bietet strukturierten Speicher, der skaliert, ohne die Token-Anzahl explodieren zu lassen, was es besonders nützlich für Entwickler macht, die mit Agenten-Frameworks, Speicher-/RAG-Systemen, Langzeitkontext-Modellen und angewandten LLM-Teams arbeiten.
Verfügbarkeit
Paper: https://arxiv.org/abs/2510.18866
Code: https://github.com/zjunlp/LightMem
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Freier Zauberer migriert ChatGPT-Verlauf zu Claude-Projekten — Wichtige Lektionen zu Token-Limits und RAG
Ein kostenloses No-Code-Tool führt ChatGPT-Exporte in Claude-Projekte ein und zeigt, dass 26 MB große JSON-Dateien an Token-Grenzen stoßen – die Lösung ist eine themenbasierte Aufteilung. Claude's RAG liest nur Teile großer Dateien, daher eignen sich spezifische Abfragen am besten.
Open-Source-Gedächtnissystem für LLM-Agenten erzielt hohe Benchmark-Ergebnisse
Ein persistentes Speichersystem für Claude Code und OpenClaw bietet LLM-Agenten Kontextkontinuität über Sitzungen hinweg und erreicht 90,8 % beim LoCoMo- und 89,1 % beim LongMemEval-Benchmark.
n8n-mcp-lite: MCP-Server reduziert Token-Verbrauch für Claude mit n8n-Workflows um 80 %
Ein neuer Open-Source-Model-Context-Protocol-Server namens n8n-mcp-lite hilft Claude dabei, n8n-Automatisierungs-Workflows zu analysieren und reduziert dabei den Token-Verbrauch um etwa 80%. Das Tool begegnet dem tokenintensiven Charakter visueller Knoten-Automatisierungen durch gezieltes Workflow-Scannen und präzise Updates.
OpenMind fügt OpenClaw-Installationen eine visuelle Mind-Map-Oberfläche hinzu.
OpenMind ist ein Open-Source-Tool, das OpenClaw-Installationen in interaktive, live-editierbare Mind-Maps mit Echtzeit-Speichervisualisierung, Hot-Swappable-Logik und Volltextsuche über alle Knoten hinweg verwandelt.