Enfoque para la Memoria Automejorable en Agentes de IA Locales

Arquitectura de Memoria para Agentes de IA Persistentes

Un desarrollador en r/LocalLLaMA ha compartido su enfoque para crear agentes de IA que no repitan errores entre sesiones. El problema central abordado es que cada sesión comienza desde cero, con ventanas de contexto reiniciándose y correcciones perdiéndose entre sesiones.

Implementación de Memoria

El sistema utiliza markdown como fuente de verdad en lugar de una base de datos. MEMORY.md es editable por humanos: elimina una línea en vim y el agente la olvida. SQLite y FAISS (HNSW, 768-dim) son cachés derivados que pueden reconstruirse desde markdown en cualquier momento. Esto permite a los usuarios controlar versiones de la memoria de su agente con git.

Puntuación de Episodios y Aprendizaje de Reglas

Cada ejecución recibe una puntuación +1/-1 y se guarda como un episodio. En tareas futuras similares, los episodios relevantes se incorporan al contexto. Cuando la misma firma de error (SHA256 del nombre de la herramienta + error normalizado) aparece dos veces en 7 días, un aprendiz de reglas genera una regla de prevención de una línea.

Las reglas comienzan con 0.40 de confianza y necesitan 0.60 para inyectarse realmente en futuras indicaciones. El éxito aumenta la confianza +0.03, el fracaso la reduce -0.05. Las reglas que no ayudan eventualmente decaen.

Sistema de Escalada de Confianza

En lugar de configurar niveles de permiso por adelantado, el agente rastrea patrones de aprobación. 5 aprobaciones con tasa del 90%+ = promoción automática. Una reversión = degradación. Hay un modo sombra para auditoría.

Descomposición de Tareas y Seguridad

Los objetivos complejos se convierten en un DAG (Grafo Acíclico Dirigido). Las dependencias circulares se detectan mediante ordenación topológica, los fallos en cascada llegan a dependientes mediante DFS (Búsqueda en Profundidad). Una puerta de finalización verifica 18 requisitos (R01-R18): ¿el agente realmente leyó archivos, escribió cambios, verificó resultados, se mantuvo en el espacio de trabajo?

Las características de seguridad incluyen 43 patrones de riesgo de bash, análisis de doble paso (crudo + decodificado), diseño de fallo cerrado (si Guardian falla = denegar) y profundidad mínima escribible de 3 para prevenir rm -rf /.

El desarrollador busca comentarios sobre si la decadencia de confianza en las reglas parece correcta y si la asimetría +0.03/-0.05 es óptima. También se pregunta si hay mejores alternativas a HNSW para esta escala (típicamente <10k episodios).