Por qué los agentes de codificación de IA producen basura después de 20 turnos: Ceguera al contexto

Un desarrollador en r/LocalLLaMA auditó sus registros de API y cargas de mensajes tras notar un aumento en el uso de tokens y que la salida del agente se degradaba a basura después de ~20 turnos. Su conclusión: los modelos no están siendo lobotomizados; se están asfixiando en sus propias ventanas de contexto infladas.
Los cuatro errores estructurales
Después de inspeccionar lo que Cursor y Claude Code realmente hacen en un repositorio de más de 10,000 líneas, el autor identificó cuatro patrones:
- Exploración ciega: El agente busca recursivamente con grep y vuelca ~40 archivos diferentes en el contexto solo para encontrar una función de utilidad. A menudo omite un componente existente y alucina un duplicado desde cero.
- Ingestión bruta: Vuelca un archivo de 2,000 líneas en el mensaje para actualizar una interfaz de 5 líneas. Desperdicia una gran cantidad de tokens de contexto.
- Diarrea de herramientas: Registros de prueba verbosos y definiciones masivas de herramientas MCP consumen ~30k tokens antes de que el modelo genere un solo token de código.
- Memoria de pez: Cada sesión comienza desde cero — sin conocimiento del proyecto — por lo que los mismos archivos se releen repetidamente.
Punto de inflexión al 80% de contexto
Una vez que el contexto alcanza ~80% de capacidad con ruido, el mecanismo de atención del modelo se degrada bruscamente. El coeficiente intelectual cae visiblemente a temperatura ambiente, y comienza a destruir la arquitectura. El chunking RAG estándar no soluciona esto porque es basura para la lógica — el agente sigue siendo ciego a la estructura del código hasta que quema tokens leyendo texto sin procesar.
Solución propuesta: AST o base de datos de grafos
El autor pide un agente de código abierto que analice el código en un AST o base de datos de grafos antes de consumir contexto, para que entienda la estructura sin desperdiciar tokens en texto sin procesar. Esto evitaría espaguetis arquitectónicos que cuestan 5 horas de arreglo por cada 1 hora ahorrada escribiendo.
Para quién es esto
Desarrolladores que usan Cursor, Claude Code o agentes LLM locales en repositorios reales y están frustrados por las paradojas de productividad.
📖 Lee la fuente completa: r/LocalLLaMA
👀 Ver también

La API AskFirst añade una capa de aprobación humana para agentes de IA.
AskFirst es una API REST que permite a los agentes de IA pausar para obtener aprobación humana antes de realizar acciones irreversibles. Funciona con modelos locales, APIs alojadas y cualquier framework, proporcionando notificaciones por correo electrónico, opciones de aprobar/rechazar y registros de auditoría.

Eqho: Aplicación Local de Voz a Texto para Sesiones de Código de Claude
Eqho es una aplicación gratuita y de código abierto de voz a texto que utiliza el modelo Whisper de OpenAI localmente para escribir entrada hablada en cualquier aplicación enfocada. Actualmente solo disponible para Windows y requiere configuración por línea de comandos.

Monarch v3: Paginación KV Inspirada en NES para una Inferencia de LLM 78% Más Rápida
Monarch v3 implementa paginación de memoria inspirada en NES para transformadores, logrando una inferencia 78% más rápida (de 17.01 a 30.42 tok/seg) en un modelo de 1.1B parámetros con un consumo de VRAM casi nulo. El algoritmo de código abierto divide la caché KV en regiones calientes y frías con mecanismos de compresión y promoción.

mnemos: Una Capa de Memoria Persistente para Agentes de Codificación de IA (Go, MCP-Nativo, Sin Python)
mnemos es una capa de memoria nativa de MCP para agentes de codificación de IA, escrita en Go. El autor construyó un verificador para medir la mejora: +40% agregado en escenarios de lectura, pero solo 53% de tasa de captura en escritura tras correcciones iterativas.