altRAG: Reemplaza la base de datos vectorial RAG con archivos de puntero de 2KB para agentes de IA de codificación
Qué hace altRAG
altRAG aborda el problema de los agentes de codificación de IA que luchan con archivos de habilidades grandes de 200KB al reemplazar la generación aumentada por recuperación (RAG) de bases de datos vectoriales con un enfoque más simple basado en punteros. La herramienta crea un archivo esqueleto ligero que mapea las secciones del documento a sus ubicaciones exactas, eliminando la necesidad de incrustaciones, fragmentación o bases de datos.
Cómo funciona
altRAG escanea tus archivos de habilidades en Markdown o YAML y construye un archivo esqueleto TSV (extensión .skt) que mapea cada sección a su número de línea exacto y desplazamiento de bytes. Este archivo esqueleto tiene aproximadamente 2KB de tamaño.
Cuando tu agente de IA necesita información, primero lee el archivo esqueleto, encuentra la sección específica que requiere y luego lee solo esas líneas del documento original. Este enfoque es particularmente efectivo para documentación estructurada donde ya sabes dónde se encuentra la información.
Características clave desde la Fuente
- Crea archivos esqueleto de 2KB en lugar de usar bases de datos vectoriales
- Funciona con archivos de habilidades Markdown y YAML
- Genera archivos esqueleto en formato TSV (extensión .skt)
- Mapea secciones a números de línea exactos y desplazamientos de bytes
- Cero dependencias
- Requiere Python 3.10+
- Licencia MIT
Instalación y Configuración
La instalación es sencilla:
pip install altrag
altrag setupCompatibilidad
La herramienta funciona con varios agentes de codificación de IA, incluyendo Claude Code, Cursor, Copilot, Windsurf, Cline y Codex — esencialmente cualquier sistema que pueda leer archivos.
Beneficios del Modo Plan
El modo plan se beneficia significativamente de este enfoque. Según la fuente, permite a los agentes construir árboles de habilidades mientras utilizan contexto temprano y sin bloat para crear planes "casi quirúrgicos".
Caso de Uso
Este enfoque está específicamente diseñado para documentación estructurada donde los desarrolladores ya saben dónde se encuentra la información, haciendo que las bases de datos vectoriales RAG sean excesivas. Es particularmente útil cuando los agentes de IA necesitan referenciar secciones específicas de documentación sin cargar archivos completos en el contexto.
📖 Leer la fuente completa: r/LocalLLaMA
👀 Ver también
Contextium: Marco de Contexto Persistente de Código Abierto para Claude Code
Contextium es un framework de repositorio git estructurado que proporciona contexto persistente para sesiones de Claude Code, utilizando un archivo CLAUDE.md como enrutador de contexto para cargar de forma diferida archivos markdown relevantes. La versión de código abierto incluye una plantilla con 6 aplicaciones de ejemplo y 27 documentos de integración.
SourceBridge: Herramienta de código abierto para análisis de bases de código utilizando LLMs locales
SourceBridge es una herramienta de código abierto que indexa repositorios Git en gráficos de símbolos y utiliza LLMs locales para generar resúmenes de bases de código, recorridos de arquitectura y materiales de aprendizaje. Es compatible con múltiples backends locales, incluidos Ollama, llama.cpp, vLLM, LM Studio y SGLang a través de APIs compatibles con OpenAI.
FOMOE Permite la Inferencia del Modelo Qwen3.5 de 397B en Hardware de Escritorio de $2,100
FOMOE (Fast Opportunistic Mixture of Experts) permite ejecutar el modelo insignia de Qwen3.5 de 397 mil millones de parámetros a 5-9 tokens/segundo en hardware de consumo utilizando dos GPU de $500, 32GB de RAM y una unidad NVMe con cuantización Q4_K_M.
Aguja: Un modelo de invocación de herramientas de 26 millones de parámetros construido completamente sin FFN
Needle es un modelo de 26M de parámetros para llamadas a funciones, sin MLPs, que alcanza 6000 tok/s de prefill y 1200 tok/s de decode en dispositivos de consumo. Supera a FunctionGemma-270M, Qwen-0.6B, Granite-350M y LFM2.5-350M en llamadas a herramientas de un solo disparo.