LightMem: Sistema de Memória Leve para Agentes LLM com Ganhos de 10×+ e Custo 100× Menor

LightMem: Uma Camada de Memória Prática para Agentes LLM

LightMem é um sistema de memória leve e modular para agentes LLM que aborda os desafios de interações longas e multi-turnos, onde o contexto se torna ruidoso e caro, os modelos ficam "perdidos no meio" e os sistemas de memória existentes adicionam latência e custo de tokens.

Como o LightMem Funciona

O sistema mantém memórias compactas, tópicas e consistentes através de três mecanismos principais:

• Memória sensorial pré-comprimida: Filtra tokens redundantes e de baixo valor antes do armazenamento
• Memória de curto prazo consciente do tópico: Agrupa turnos por tópico e resume em unidades de memória precisas
• Consolidação de longo prazo em tempo de inatividade: Usa inserções incrementais em tempo de execução mais atualizações offline de alta fidelidade sem impacto na latência

Resultados de Desempenho

No benchmark LongMemEval, o LightMem mostra:

• Melhoria de precisão: até ~10,9%
• Redução de tokens: até 117×
• Redução de chamadas de API: até 159×
• Redução de tempo de execução: >12×

Atualizações e Recursos Recentes

• Framework de avaliação de baseline entre sistemas de memória (Mem0, A-MEM, LangMem) em LoCoMo & LongMemEval
• Vídeo de demonstração e notebooks tutoriais para múltiplos cenários
• Integração com servidor MCP para invocação de memória multi-ferramenta
• Suporte completo ao dataset LoCoMo
• Integração com GLM-4.6 com scripts reproduzíveis
• Implantação local via Ollama, vLLM, Transformers com capacidade de carregamento automático

Posicionamento e Casos de Uso

LightMem foi projetado como uma camada de memória modular que pode se integrar com várias pilhas de agentes, incluindo:

• Agentes de contexto longo
• Agentes que utilizam ferramentas
• Fluxos de trabalho autônomos
• Sistemas conversacionais

O sistema fornece memória estruturada que escala sem explodir a contagem de tokens, tornando-o particularmente útil para desenvolvedores que trabalham com frameworks de agentes, sistemas de memória/RAG, modelos de contexto longo e equipes aplicadas de LLM.

Disponibilidade

Artigo: https://arxiv.org/abs/2510.18866

Código: https://github.com/zjunlp/LightMem