LightMem: Leichtgewichtiges Speichersystem für LLM-Agenten mit 10-fachen+ Leistungsgewinnen und 100-fach geringeren Kosten

LightMem: Eine praktische Speicherschicht für LLM-Agenten

LightMem ist ein leichtgewichtiges, modulares Speichersystem für LLM-Agenten, das die Herausforderungen langer, mehrstufiger Interaktionen angeht, bei denen der Kontext unübersichtlich und kostspielig wird, Modelle sich "in der Mitte verlieren" und bestehende Speichersysteme Latenz und Token-Kosten erhöhen.

Wie LightMem funktioniert

Das System erhält kompakte, themenbezogene und konsistente Erinnerungen durch drei Schlüsselmechanismen:

• Vorverarbeitung des sensorischen Gedächtnisses: Filtert redundante und wenig wertvolle Token vor der Speicherung
• Themenbewusstes Kurzzeitgedächtnis: Gruppiert Interaktionen nach Themen und fasst sie zu präzisen Speichereinheiten zusammen
• Langzeitkonsolidierung in Ruhephasen: Nutzt inkrementelle Einfügungen während der Laufzeit sowie Offline-Aktualisierungen in hoher Qualität ohne Latenzauswirkungen

Leistungsergebnisse

Im LongMemEval-Benchmark zeigt LightMem:

• Genauigkeitsverbesserung: bis zu ~10,9 %
• Token-Reduktion: bis zum 117-fachen
• API-Aufruf-Reduktion: bis zum 159-fachen
• Laufzeit-Reduktion: >12-fach

Aktuelle Updates und Funktionen

• Baseline-Bewertungsrahmen für verschiedene Speichersysteme (Mem0, A-MEM, LangMem) auf LoCoMo & LongMemEval
• Demo-Video und Tutorial-Notebooks für mehrere Szenarien
• MCP-Server-Integration für mehrfache Speicheraufrufe
• Vollständige LoCoMo-Datensatzunterstützung
• GLM-4.6-Integration mit reproduzierbaren Skripten
• Lokale Bereitstellung über Ollama, vLLM, Transformers mit automatischer Ladekapazität

Positionierung und Anwendungsfälle

LightMem ist als modulare Speicherschicht konzipiert, die sich in verschiedene Agenten-Stacks integrieren lässt, einschließlich:

• Langzeitkontext-Agenten
• Werkzeugnutzende Agenten
• Autonome Workflows
• Konversationssysteme

Das System bietet strukturierten Speicher, der skaliert, ohne die Token-Anzahl explodieren zu lassen, was es besonders nützlich für Entwickler macht, die mit Agenten-Frameworks, Speicher-/RAG-Systemen, Langzeitkontext-Modellen und angewandten LLM-Teams arbeiten.

Verfügbarkeit

Paper: https://arxiv.org/abs/2510.18866

Code: https://github.com/zjunlp/LightMem