SDK de Memória Engram: Memória Baseada em Grafos para Agentes de IA com Modelos Locais

SDK de Memória em Grafo para Modelos Locais de IA

Engram Memory SDK é um sistema de memória em grafo de código aberto projetado para agentes de IA que funciona com modelos locais através da integração LiteLLM. A arquitetura principal separa a ingestão da recuperação: você só precisa do LLM uma vez durante a ingestão para extrair entidades e relacionamentos, enquanto a recuperação opera através de busca vetorial pura, travessia de grafo e pontuação sem exigir chamadas adicionais de LLM.

Detalhes Técnicos

O SDK é construído com Python assíncrono e usa Neo4j como seu banco de dados de backend. De acordo com a fonte, ele tem uma média de ~735 tokens por operação de ingestão e alcança 95ms de latência de recuperação. O sistema inclui recursos de memória de auto-reestruturação com decaimento e agrupamento executando em segundo plano.

Configuração e Instalação

A instalação é simples:

pip install engram-memory-sdk

A configuração requer um arquivo .env com estas variáveis:

LLM_MODEL=ollama/llama3 # ou qualquer modelo local suportado pelo LiteLLM
NEO4J_URI=bolt://localhost:7687

O sistema suporta qualquer modelo via LiteLLM, incluindo implantações locais através de Ollama, vLLM e text-generation-webui. A vantagem principal é a eficiência de custo: com um pequeno modelo local lidando com a extração, as operações contínuas de recuperação têm literalmente custo $0, pois não consomem tokens de LLM.