altRAG: Замените векторные базы данных RAG на 2KB файлы-указатели для AI-агентов программирования
Что делает altRAG
altRAG решает проблему, когда ИИ-агенты для программирования испытывают трудности с большими файлами навыков размером 200 КБ, заменяя векторные базы данных для извлечения и дополнения генерации (RAG) на более простой подход, основанный на указателях. Инструмент создаёт лёгкий скелетный файл, который сопоставляет разделы документа с их точным расположением, устраняя необходимость в эмбеддингах, разбиении на фрагменты или базах данных.
Как это работает
altRAG сканирует ваши файлы навыков в формате Markdown или YAML и строит скелетный файл в формате TSV (с расширением .skt), который сопоставляет каждый раздел с его точным номером строки и смещением в байтах. Этот скелетный файл имеет размер примерно 2 КБ.
Когда вашему ИИ-агенту нужна информация, он сначала читает скелетный файл, находит конкретный раздел, который ему требуется, а затем читает только эти строки из исходного документа. Этот подход особенно эффективен для структурированной документации, где вы уже знаете, где находится информация.
Ключевые особенности из источника
- Создаёт скелетные файлы размером 2 КБ вместо использования векторных баз данных
- Работает с файлами навыков в форматах Markdown и YAML
- Генерирует скелетные файлы в формате TSV (с расширением .skt)
- Сопоставляет разделы с точными номерами строк и смещениями в байтах
- Нет зависимостей
- Требуется Python 3.10+
- Лицензия MIT
Установка и настройка
Установка проста:
pip install altrag
altrag setupСовместимость
Инструмент работает с различными ИИ-агентами для программирования, включая Claude Code, Cursor, Copilot, Windsurf, Cline и Codex — по сути, с любой системой, которая может читать файлы.
Преимущества режима планирования
Режим планирования значительно выигрывает от этого подхода. Согласно источнику, он позволяет агентам строить деревья навыков, используя ранний, свободный от раздувания контекст для создания «почти хирургических» планов.
Пример использования
Этот подход специально разработан для структурированной документации, где разработчики уже знают, где находится информация, что делает векторные базы данных RAG избыточными. Он особенно полезен, когда ИИ-агентам нужно ссылаться на конкретные разделы документации без загрузки целых файлов в контекст.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также
Обход изоляции песочницы NemoClaw для локального агента Nemotron 9B
Разработчик обошёл изоляцию песочницы NemoClaw, чтобы запустить полностью локального агента с использованием Nemotron 9B и вызовом инструментов на одной видеокарте RTX 5090. Подход включал настройку iptables, пользовательский TCP-ретранслятор и перевод вызовов инструментов в реальном времени.
Исследование Aura: Локальный инструмент компилирует документы в навигационную вики с постоянной памятью для ИИ
Aura Research — это инструмент с открытым исходным кодом, который обрабатывает исходные документы (PDF-файлы, статьи, заметки, код, более 60 форматов) и преобразует их в структурированную вики на языке markdown со связанными статьями, страницами понятий и главным указателем. Всё сжимается в архив .aura, оптимизированный для поиска с помощью RAG, и работает полностью локально, без передачи данных за пределы вашего компьютера.
Мозговой штурм MCP-сервера: Клод консультируется с другими ИИ для получения лучших ответов
Разработчик создал MCP-сервер, который позволяет Claude Code консультироваться с другими ИИ-моделями, такими как GPT-5.2 и DeepSeek, перед тем как дать ответ. Модели участвуют в многораундовых дебатах, где они читают ответы друг друга, спорят и уточняют позиции, чтобы прийти к лучшим решениям.
Сторожевая башня: Локальный прокси для мониторинга трафика Claude Code API
Watchtower — это бесплатный инструмент с открытым исходным кодом, который работает как локальный HTTP-прокси и веб-панель в реальном времени для перехвата и отображения всего API-трафика между Claude Code (или Codex CLI) и их API. Он показывает запросы, SSE-потоки, определения инструментов, системные промпты, использование токенов и лимиты запросов.