Расширение RelayCode для VS Code направляет код Claude через суверенные RDU.
OpenGPU выпустила RelayCode — расширение для VS Code, которое работает как локальный прокси для ИИ-агентов программирования. Инструмент перехватывает запросы от Claude Code или GitHub Copilot и направляет их через сеть OpenGPU Relay к открытым моделям, работающим на суверенной инфраструктуре.
Ключевые детали
Расширение предоставляет несколько конкретных функций и характеристик производительности:
- Инфраструктура: Рабочие нагрузки направляются через реконфигурируемые блоки потоковой обработки данных (RDUs) от Infercom, которые описываются как выделенные суверенные вычислительные мощности без юрисдикции США и с соблюдением GDPR по дизайну.
- Производительность: Бенчмарки показывают 250+ токенов в секунду на DeepSeek-R1 (671B) и 400+ токенов в секунду на MiniMax M2.5. Переключение между моделями происходит почти мгновенно (миллисекунды) благодаря архитектуре потоковой обработки данных.
- Управление контекстом: Расширение автоматически управляет настройками
CLAUDE_AUTOCOMPACT, чтобы удерживать агентов в пределах контекстных окон моделей без сбоев. - Конфиденциальность: Код остаётся на локальной машине; только запросы на вывод попадают в релейную сеть без сохранения данных.
- Текущий статус: Команда сообщает о примерно 23 установках и ищет отзывы о задержках в релейной сети от сообщества.
- Доступ: Доступны промо-кредиты для бесплатного тестирования скорости RDUs.
Инструмент позиционируется как способ снизить затраты на API Anthropic при сохранении рабочих процессов Claude CLI, что особенно полезно для рефакторинга кода.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Memento Vault: Локальный инструмент для сохранения контекста в сессиях Claude Code
Memento Vault — это набор хуков, которые автоматически захватывают транскрипты сессий, оценивают их и сохраняют атомарные заметки в локальном git-репозитории. Он обеспечивает поиск с нулевой стоимостью через BM25 + векторный поиск со средней задержкой 472 мс и вводит релевантный контекст при запуске сессии, при каждом запросе и при чтении файлов.
Мозг: Постоянная система памяти ошибок для кода Claude через MCP
Brain — это сервер MCP с открытым исходным кодом, который предоставляет Claude Code постоянную, межпроектную память об ошибках и их решениях. Он фиксирует контекст ошибок, предлагает проверенные исправления с оценкой уверенности и строит взвешенную синаптическую сеть, связывающую ошибки, решения и модули кода во всех проектах.
Kios: Читалка для iOS для самостоятельно размещённых библиотек Kobo/Calibre с синхронизацией прогресса
Kios — это iOS-приложение для чтения книг с самостоятельных серверов Kobo/Calibre с синхронизацией прогресса через протокол Kobo, OPDS 1.2/2.0 и kosync. Создано с помощью Claude.
Сервер Soul MCP добавляет постоянную память и безопасность для локальных LLM
Soul — это сервер MCP с открытым исходным кодом, который обеспечивает постоянную память между сессиями для локальных LLM с помощью двух команд: n2_boot при запуске и n2_work_end при завершении. Он включает функции безопасности Ark, которые блокируют опасные команды, такие как rm -rf и DROP DATABASE, без затрат токенов, а также настройку облачного хранилища.