SDK de Memoria Engram: Memoria Basada en Grafos para Agentes de IA con Modelos Locales

SDK de Memoria de Grafos para Modelos de IA Locales

Engram Memory SDK es un sistema de memoria de grafos de código abierto diseñado para agentes de IA que funciona con modelos locales mediante la integración de LiteLLM. La arquitectura central separa la ingesta de la recuperación: solo necesitas el LLM una vez durante la ingesta para extraer entidades y relaciones, mientras que la recuperación opera mediante búsqueda vectorial pura, recorrido de grafos y puntuación sin requerir llamadas adicionales al LLM.

Detalles Técnicos

El SDK está construido con Python asíncrono y utiliza Neo4j como su base de datos backend. Según la fuente, promedia ~735 tokens por operación de ingesta y logra una latencia de recuperación de 95ms. El sistema incluye funciones de memoria de auto-reestructuración con descomposición y agrupamiento ejecutándose en segundo plano.

Configuración e Instalación

La instalación es sencilla:

pip install engram-memory-sdk

La configuración requiere un archivo .env con estas variables:

LLM_MODEL=ollama/llama3 # o cualquier modelo local compatible con LiteLLM
NEO4J_URI=bolt://localhost:7687

El sistema admite cualquier modelo a través de LiteLLM, incluyendo implementaciones locales mediante Ollama, vLLM y text-generation-webui. La ventaja clave es la eficiencia de costos: con un pequeño modelo local manejando la extracción, las operaciones de recuperación continuas tienen literalmente un costo de $0 ya que no consumen tokens del LLM.