Разработчик делится гибридным рабочим процессом в AI-кодинге: Claude для планирования, локальные модели для выполнения.

Гибридный рабочий процесс ИИ-кодирования снижает облачные расходы

Разработчик на r/LocalLLaMA поделился подробным рабочим процессом, который сочетает облачные и локальные модели ИИ для снижения стоимости токенов при сохранении качества кода. Этот подход решает проблему осознания того, что многие задачи по кодированию не требуют дорогих облачных моделей.

Архитектура рабочего процесса

Система следует логике «Рассуждай в облаке, выполняй локально»:

• Планировщик (Claude 3.5 Sonnet): Получает задачу и генерирует точный файл task_context.md, содержащий инструкции, пути к файлам и логику. Это стоит примерно 300–500 токенов.
• Кодер (Локальный Qwen2.5-Coder 30B через Ollama): Принимает спецификацию и фактическое содержимое файла для написания кода. Работает локально с нулевой стоимостью.
• Валидатор: Простой Bash-скрипт запускает tsc --noEmit или mypy для проверки типов.
• Рецензент (Локальный Qwen2.5-Coder 7B): Работает параллельно, чтобы проверить на наличие очевидных логических ошибок.
• Автоисправление: Если сборка не удалась, журнал ошибок возвращается локальному кодеру на 2–3 итерации.

Детали реализации

Весь конвейер обёрнут в набор Bash-скриптов, использующих только jq и curl для связи с API Ollama. Система автоматически определяет языковые стандарты (TypeScript, Python, C++ и т.д.) на основе вывода планировщика и не требует тяжёлых сред выполнения Python/Node.

Разработчик отмечает, что локальные модели (даже 30B) часто не справляются со сложными архитектурными рассуждениями, но удивительно хорошо выполняют задачи, когда им дают кристально ясные спецификации.

Результаты и экономия

В недавнем проекте на TypeScript с изменением 12 файлов:

• Использование Claude было ограничено только начальной фазой планирования
• Локальные модели обработали всё остальное: написание 12 файлов, линтинг и рецензирование
• Общая экономия: примерно 85% сокращение токенов по сравнению с выполнением всего внутри Claude Code CLI

Разработчик сделал скрипты доступными в репозитории под названием ai-orchestrator на GitHub (имя пользователя: Mybono) для тех, кто интересуется деталями реализации.