Open-Source-AI-Speicher für NodeJS-Projekte

Was Mind Palace leistet

Mind Palace ist ein Open-Source-Speicher- und Abrufsystem für NodeJS-Projekte. Es löst das Problem, Informationen über LLM-Chat-Sitzungen und andere LLM-Interaktionen hinweg zu teilen und dauerhaft zu speichern.

Wichtige Funktionen und Umsetzung

Das System nimmt LLM-Interaktionen auf und extrahiert automatisch „Erinnerungen“ daraus. Diese Erinnerungen sind zusammengefasste Informationsstücke, die für die Speicherung vektorisiert werden.

Wenn Sie einem LLM relevanten Kontext bereitstellen müssen (vor einer neuen Chat-Sitzung oder nach Benutzeranfragen), übergeben Sie Konversationskontext an die Abrufmethode. Ein LLM durchsucht dann den Vektorspeicher und gibt nur die relevantesten Erinnerungen zurück.

Dieser Ansatz vermeidet Probleme mit der Kontextgröße, wenn Verlauf und Erinnerungen zunehmen, und stellt sicher, dass das LLM immer Zugriff auf wichtige Kontexte hat.

Integrierte Unterstützung und Entwicklung

• Unterstützt wichtige LLMs: GPT, Gemini und Claude
• Integriert sich mit wichtigen Vektorspeicher-Anbietern: Weaviate und Pinecone
• Enthält eine Entwickler-UI-Sandbox zum Testen
• Verfügt über ein Deduplizierungssystem und konfigurierbare Komponenten
• Unit-Tests wurden mit Claude Opus programmiert

Der Ersteller hat es mit niedrigen Einstiegshürden entworfen, um die Integration in bestehende NodeJS-Projekte zu erleichtern.