Как перенаправление простых задач на более дешёвые модели сократило затраты на ИИ на 40%

Разработчик, использующий OpenClaw в течение трёх месяцев, достиг 40% сокращения счёта за использование ИИ, внедрив стратегию маршрутизации моделей на основе сложности задачи.

Ключевые детали реализации

Пользователь проанализировал свои журналы использования и обнаружил, что примерно 60% его задач были «очень простыми» операциями, включая:

• Чтение файлов
• Операции grep
• Задачи по переформатированию
• Короткие сессии вопросов и ответов

Эти задачи ранее выполнялись через Claude Sonnet, который стоит примерно в 10 раз дороже, чем более дешёвые альтернативы, такие как DeepSeek-v3 или Gemini Flash, без заметного улучшения качества для этих простых операций.

Решение по маршрутизации

Разработчик настроил слой маршрутизации, который автоматически направляет задачи на соответствующие модели:

• Сложные рассуждения и архитектурные решения: Продолжать использовать Claude Sonnet
• Простые задачи: Автоматически направлять на более дешёвые модели (DeepSeek-v3, Gemini Flash)

Реализация не потребовала изменений в рабочем процессе разработчика. Маршрутизация происходит автоматически на основе типа задачи.

Результаты

• Общий счёт снизился на 40%
• Качество простых задач не ухудшилось
• Использование Claude сократилось более чем вдвое
• Почти полностью устранены проблемы с лимитами запросов из-за снижения использования Claude

Пользователь ищет мнение сообщества о том, как другие распределяют рабочие нагрузки между различными моделями ИИ для оптимизации затрат при сохранении производительности.