Sistema de Memoria Bioinspirado para LLMs Locales: Implementación de LTP y Olvido Selectivo

Arquitectura de Memoria Bioinspirada para LLMs Locales

Un desarrollador ha creado un servidor MCP local que simula mecánicas de memoria humana para mantener un contexto limpio para LLMs locales. El sistema implementa tres capas bioinspiradas en Python/TypeScript en lugar de una tubería RAG estática.

Mecánicas de Memoria Central

• Refuerzo (Potenciación a Largo Plazo): Cada vez que se consulta un tema, su access_count aumenta, fortaleciendo los recuerdos accedidos con frecuencia.
• Olvido Selectivo: Las conexiones no utilizadas decaen con el tiempo, con el sistema archivando automáticamente átomos débiles para evitar la contaminación del contexto.
• Consolidación: Un ciclo semanal de "sueño" destila los registros recientes en átomos de conocimiento central usando un SLM ligero.

Detalles de Implementación Técnica

• Búsqueda Híbrida: Combina sqlite-vec para búsqueda semántica con respaldos de texto para evitar tiempos de espera incluso si fallan las incrustaciones.
• MCP No Bloqueante: Envuelve operaciones sincrónicas de base de datos y de incrustación en ejecutores asyncio para mantener LM Studio receptivo.
• Capa de Identidad: Utiliza un archivo persistente "Soul" (soul.md) para mantener el estado y la personalidad entre sesiones.
• Refuerzo Basado en Acceso: El mecanismo access_count permite que el modelo evolucione basándose en patrones de interacción en lugar de solo recuperar hechos estáticos.

Contexto de Desarrollo y Validación

El proyecto se desarrolló para abordar los límites de contexto en las implementaciones RAG estándar para IA local. El desarrollador validó la arquitectura haciendo que un LLM local (ejecutando Gemini) analizara la base de código, lo que destacó tres innovaciones: agentes cognitivos verdaderos que utilizan refuerzo y decaimiento basados en acceso, búsqueda híbrida robusta con respaldos, y arquitectura no bloqueante para capacidad de respuesta.

El objetivo es crear un sistema que recuerde lo que importa y olvide el ruido, similar a la memoria humana durante el sueño. El desarrollador está explorando si las arquitecturas de memoria bioinspiradas pueden resolver las limitaciones de contexto localmente sin dependencias en la nube o cajas negras.