Engram Memory SDK: Graph-basierte Speicherlösung für KI-Agenten mit lokalen Modellen
Graph Memory SDK für lokale KI-Modelle
Engram Memory SDK ist ein Open-Source-Graphgedächtnissystem für KI-Agenten, das mit lokalen Modellen über LiteLLM-Integration funktioniert. Die Kernarchitektur trennt Aufnahme von Abruf: Sie benötigen den LLM nur einmal während der Aufnahme, um Entitäten und Beziehungen zu extrahieren, während der Abruf über reine Vektorsuche, Graphendurchlauf und Bewertung ohne zusätzliche LLM-Aufrufe erfolgt.
Technische Details
Das SDK ist mit asynchronem Python gebaut und verwendet Neo4j als Backend-Datenbank. Laut Quelle beträgt es durchschnittlich ~735 Token pro Aufnahmevorgang und erreicht 95ms Abruflatenz. Das System umfasst selbstrestrukturierende Gedächtnisfunktionen mit Verfall und Clustering, die im Hintergrund laufen.
Einrichtung und Installation
Die Installation ist unkompliziert:
pip install engram-memory-sdkDie Konfiguration erfordert eine .env-Datei mit diesen Variablen:
LLM_MODEL=ollama/llama3 # oder jedes LiteLLM-unterstützte lokale Modell
NEO4J_URI=bolt://localhost:7687Das System unterstützt jedes Modell über LiteLLM, einschließlich lokaler Bereitstellungen über Ollama, vLLM und text-generation-webui. Der Hauptvorteil ist Kosteneffizienz: Mit einem kleinen lokalen Modell für die Extraktion haben laufende Abrufvorgänge buchstäblich $0 Kosten, da sie keine LLM-Token verbrauchen.
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Banker erstellt Kredit-Due-Diligence-Tool mit nur 31 KI-Prompts unter Verwendung von Claude
Ein Banker mit 17 Jahren Erfahrung in der MSME-Kreditprüfung in Indien hat 31 KI-Prompts quelloffen gemacht, die eine Visitenkarte in einen vollständigen Kreditprüfbericht verwandeln und einen 3-4-wöchigen Prozess auf 30 Minuten verkürzen. Das Tool wurde ausschließlich durch Gespräche mit Claude erstellt, ohne eine einzige Codezeile zu schreiben.
Prompt-Mini: Claude-Code-Plugin fängt vage Prompts ab, um Kreditverschwendung zu reduzieren
Prompt-mini ist ein Claude Code-Plugin, das vage Prompts vor der Ausführung abfängt, Klärungsfragen stellt und strukturierte Prompts mit Stack-Erkennung und spezifischen Regeln für über 40 Frameworks erstellt. Das Tool adressiert 35 kreditvernichtende Muster wie fehlenden Umfang, Stoppbedingungen und Dateipfade.
Selbstgehostete Speicherschicht für Claude läuft kostenlos auf Cloudflare
Ein Cloudflare Worker MCP Server ermöglicht Claude, Notizen zu merken und per semantischer Suche abzurufen, basierend auf Workers AI und Vectorize – alles in der kostenlosen Stufe.
Startup-Buchhalter: Kostenlose Claude-Fähigkeit für die Geschäftsverfolgung kleiner Unternehmen
Startup Bookkeeper ist eine Open-Source-Claude-AI-Fähigkeit, die bootstrapped Gründern hilft, Ausgaben zu verfolgen, indem sie Transaktionen aus einfachen englischen Beschreibungen kategorisiert, Quittungsfotos mit OCR verarbeitet und Dashboards oder Gewinn- und Verlustrechnungen erstellt.