altRAG: Замените векторные базы данных RAG на 2KB файлы-указатели для AI-агентов программирования
Что делает altRAG
altRAG решает проблему, когда ИИ-агенты для программирования испытывают трудности с большими файлами навыков размером 200 КБ, заменяя векторные базы данных для извлечения и дополнения генерации (RAG) на более простой подход, основанный на указателях. Инструмент создаёт лёгкий скелетный файл, который сопоставляет разделы документа с их точным расположением, устраняя необходимость в эмбеддингах, разбиении на фрагменты или базах данных.
Как это работает
altRAG сканирует ваши файлы навыков в формате Markdown или YAML и строит скелетный файл в формате TSV (с расширением .skt), который сопоставляет каждый раздел с его точным номером строки и смещением в байтах. Этот скелетный файл имеет размер примерно 2 КБ.
Когда вашему ИИ-агенту нужна информация, он сначала читает скелетный файл, находит конкретный раздел, который ему требуется, а затем читает только эти строки из исходного документа. Этот подход особенно эффективен для структурированной документации, где вы уже знаете, где находится информация.
Ключевые особенности из источника
- Создаёт скелетные файлы размером 2 КБ вместо использования векторных баз данных
- Работает с файлами навыков в форматах Markdown и YAML
- Генерирует скелетные файлы в формате TSV (с расширением .skt)
- Сопоставляет разделы с точными номерами строк и смещениями в байтах
- Нет зависимостей
- Требуется Python 3.10+
- Лицензия MIT
Установка и настройка
Установка проста:
pip install altrag
altrag setupСовместимость
Инструмент работает с различными ИИ-агентами для программирования, включая Claude Code, Cursor, Copilot, Windsurf, Cline и Codex — по сути, с любой системой, которая может читать файлы.
Преимущества режима планирования
Режим планирования значительно выигрывает от этого подхода. Согласно источнику, он позволяет агентам строить деревья навыков, используя ранний, свободный от раздувания контекст для создания «почти хирургических» планов.
Пример использования
Этот подход специально разработан для структурированной документации, где разработчики уже знают, где находится информация, что делает векторные базы данных RAG избыточными. Он особенно полезен, когда ИИ-агентам нужно ссылаться на конкретные разделы документации без загрузки целых файлов в контекст.
📖 Прочитать полный источник: r/LocalLLaMA
👀 Смотрите также
АТЛАС: Адаптивная система обучения во время тестирования превосходит Claude Sonnet на бенчмарках по программированию с использованием GPU за $500.
ATLAS достигает 74,6% pass@1-v(k=3) на LiveCodeBench с замороженной 14B-моделью на одном потребительском GPU, превосходя результат Claude 4.5 Sonnet в 71,4% при значительно меньших затратах, используя генерацию на основе ограничений и само-верифицируемое итеративное уточнение.
Улучшенный плагин Claude Code для Telegram добавляет голосовые сообщения, стикеры и ветки обсуждений
Разработчик выпустил форк официального плагина Claude Code для Telegram, который добавляет транскрипцию голосовых сообщений через Whisper, поддержку стикеров/GIF, ветки обсуждений и реакции с эмодзи. Это прямая замена, требующая только клонирования, копирования одного файла и перезапуска.
Запуск MCP-сервера Engine предоставляет 39-инструментальный конвейер для бизнес-валидации
Launch Engine — это MCP-сервер, который предоставляет Claude структурированный конвейер с 39 взаимосвязанными инструментами SOP, организованными в 5 уровней, для превращения бизнес-идей из концепции в подтверждённый доход. Система включает специализированных суб-агентов, принудительное соблюдение предварительных условий, а также инструменты для пакетной оценки и быстрого тестирования.
Одностраничный интерфейс чат-бота для локального запуска Gemma 4 26B A4B
Разработчик создал одностраничный HTML-чатбот, который подключается к локально запущенной модели Gemma 4 26B A4B с контекстным окном 32K при скорости 50-65 токенов в секунду, распределённой между видеокартами 7900 XT и 3060 Ti GPU. Интерфейс включает полную потоковую передачу, рендеринг Markdown и управление параметрами.