altRAG: Замените векторные базы данных RAG на 2KB файлы-указатели для AI-агентов программирования
Что делает altRAG
altRAG решает проблему, когда ИИ-агенты для программирования испытывают трудности с большими файлами навыков размером 200 КБ, заменяя векторные базы данных для извлечения и дополнения генерации (RAG) на более простой подход, основанный на указателях. Инструмент создаёт лёгкий скелетный файл, который сопоставляет разделы документа с их точным расположением, устраняя необходимость в эмбеддингах, разбиении на фрагменты или базах данных.
Как это работает
altRAG сканирует ваши файлы навыков в формате Markdown или YAML и строит скелетный файл в формате TSV (с расширением .skt), который сопоставляет каждый раздел с его точным номером строки и смещением в байтах. Этот скелетный файл имеет размер примерно 2 КБ.
Когда вашему ИИ-агенту нужна информация, он сначала читает скелетный файл, находит конкретный раздел, который ему требуется, а затем читает только эти строки из исходного документа. Этот подход особенно эффективен для структурированной документации, где вы уже знаете, где находится информация.
Ключевые особенности из источника
- Создаёт скелетные файлы размером 2 КБ вместо использования векторных баз данных
- Работает с файлами навыков в форматах Markdown и YAML
- Генерирует скелетные файлы в формате TSV (с расширением .skt)
- Сопоставляет разделы с точными номерами строк и смещениями в байтах
- Нет зависимостей
- Требуется Python 3.10+
- Лицензия MIT
Установка и настройка
Установка проста:
pip install altrag
altrag setupСовместимость
Инструмент работает с различными ИИ-агентами для программирования, включая Claude Code, Cursor, Copilot, Windsurf, Cline и Codex — по сути, с любой системой, которая может читать файлы.
Преимущества режима планирования
Режим планирования значительно выигрывает от этого подхода. Согласно источнику, он позволяет агентам строить деревья навыков, используя ранний, свободный от раздувания контекст для создания «почти хирургических» планов.
Пример использования
Этот подход специально разработан для структурированной документации, где разработчики уже знают, где находится информация, что делает векторные базы данных RAG избыточными. Он особенно полезен, когда ИИ-агентам нужно ссылаться на конкретные разделы документации без загрузки целых файлов в контекст.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также
Одновызовный конвейер MCP сокращает использование токенов Claude Code на 74%
Разработчик создал контекстный движок в виде MCP-сервера, который предоставляет Claude Code граф зависимостей кодовых баз, что изначально сократило использование токенов на 65%. Новая конвейерная обработка одним вызовом дополнительно снижает расход токенов на 74%, устраняя множественные циклы обмена данными и дедуплицируя результаты на стороне сервера.
Перекрестная модель цикла проверки для AI-агентов программирования выявляет критические недостатки планирования.
Разработчик создал систему кросс-модельного ревью, в которой вторая модель ИИ проверяет планы от кодирующих агентов перед выполнением, выявляя критические недостатки, такие как сбои отката и уязвимости безопасности. Инструмент имеет лицензию MIT и включает TUI-панель управления.
Двухмодельная архитектура сокращает потребление токенов вдвое для длинных диалогов.
Разработчик создал двухмодельную систему, в которой небольшая 'подсознательная' модель сжимает историю диалога в фоновом режиме, позволяя основной модели работать с курируемым контекстом примерно в 35 тысяч токенов вместо 120 тысяч токенов сырой истории. Эта архитектура сокращает потребление токенов примерно вдвое при длительной проектной работе.
Claude TimeTrack: приложение для строки меню macOS, которое читает JSONL-файлы Claude Code для автоматического отслеживания времени разработки по проектам
macOS-приложение для строки меню с открытым исходным кодом, которое обрабатывает JSONL-файлы сессий Claude Code и историю git для автоматического отслеживания времени по проектам — без ручных таймеров.