Расширение RelayCode для VS Code направляет код Claude через суверенные RDU.
OpenGPU выпустила RelayCode — расширение для VS Code, которое работает как локальный прокси для ИИ-агентов программирования. Инструмент перехватывает запросы от Claude Code или GitHub Copilot и направляет их через сеть OpenGPU Relay к открытым моделям, работающим на суверенной инфраструктуре.
Ключевые детали
Расширение предоставляет несколько конкретных функций и характеристик производительности:
- Инфраструктура: Рабочие нагрузки направляются через реконфигурируемые блоки потоковой обработки данных (RDUs) от Infercom, которые описываются как выделенные суверенные вычислительные мощности без юрисдикции США и с соблюдением GDPR по дизайну.
- Производительность: Бенчмарки показывают 250+ токенов в секунду на DeepSeek-R1 (671B) и 400+ токенов в секунду на MiniMax M2.5. Переключение между моделями происходит почти мгновенно (миллисекунды) благодаря архитектуре потоковой обработки данных.
- Управление контекстом: Расширение автоматически управляет настройками
CLAUDE_AUTOCOMPACT, чтобы удерживать агентов в пределах контекстных окон моделей без сбоев. - Конфиденциальность: Код остаётся на локальной машине; только запросы на вывод попадают в релейную сеть без сохранения данных.
- Текущий статус: Команда сообщает о примерно 23 установках и ищет отзывы о задержках в релейной сети от сообщества.
- Доступ: Доступны промо-кредиты для бесплатного тестирования скорости RDUs.
Инструмент позиционируется как способ снизить затраты на API Anthropic при сохранении рабочих процессов Claude CLI, что особенно полезно для рефакторинга кода.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Сравнение Dual DGX Sparks и Mac Studio M3 Ultra: практический тест для локального запуска Qwen3.5 397B
Разработчик сравнил локальный запуск Qwen3.5 397B на Mac Studio M3 Ultra 512GB за $10K и на настройке с двумя DGX Spark за $10K. Mac Studio показал 30-40 токенов/с с пропускной способностью памяти 800 ГБ/с, но медленным предзаполнением, в то время как Sparks выдавали 27-28 токенов/с с более быстрыми вычислениями, но сложной настройкой.
mcp-optimizer сокращает потери токенов от простаивающих MCP-серверов в Claude Code
mcp-optimizer — это плагин, который решает проблему напрасной траты токенов от MCP-серверов в Claude Code, анализируя использование инструментов и генерируя оптимизированные конфигурации. Он включает четыре утилиты: mcp-doctor для проверки состояния серверов, mcp-audit для анализа использования, mcp-optimize для создания локальных конфигураций проекта и mcp-to-skills для преобразования инструментов в Skills по запросу.
Prime Agent: самосовершенствующийся RLM-кодирующий инструментарий с постоянной REPL и CRUD-агентами
Prime Agent — это открытый харнесс для кодирования, построенный на постоянном ядре IPython и рекурсивной языковой модели, позволяющий агентам управлять своим контекстом и субагентами.
Контекст-Кит: Инструмент с открытым исходным кодом для настройки ИИ-ассистентов
Context-kit — это бесплатный инструмент, который генерирует конфигурационные файлы и документацию по навыкам для ИИ-ассистентов в программировании. Он поддерживает Claude Code, Cursor, Windsurf, GitHub Copilot и Gemini CLI.