Плагин Spectyra для OpenClaw: оптимизация затрат на ИИ в реальном времени за счет анализа полного потока запросов
Плагин Spectyra для OpenClaw теперь доступен на Clawhub. Созданный пользователем kenthamilton, плагин работает локально вместе с OpenClaw и предоставляет информацию об использовании AI API в реальном времени, позволяя снизить затраты. Главный вывод из разработки: сжатие подсказок — лишь малая часть экономии. Основные потери происходят из-за полного потока запросов, а не только из-за количества токенов.
Выявленные источники потерь
- Повторные вызовы, о которых пользователь не подозревает
- Циклы агентов/инструментов, генерирующие ненужные запросы
- Отправка большего контекста, чем необходимо для каждой задачи
- Использование дорогих моделей (например, GPT-4) для тривиальных задач
- Отсутствие кэширования одинаковых запросов
Как это работает
Плагин перехватывает и анализирует полный жизненный цикл запроса, отображая неэффективность в реальном времени в интерфейсе OpenClaw. Он помогает разработчикам выявлять такие паттерны, как избыточные вызовы или слишком большие подсказки, что позволяет провести целенаправленную оптимизацию. Автор подчеркивает, что когда вы исследуете весь поток запросов, а не только токены, ваша стратегия оптимизации существенно меняется.
Где взять
Найдите "Spectyra Plugin" на Clawhub. Автор также открыт для предложений по дополнительным функциям, которые помогут сэкономить на расходах на AI.
📖 Read the full source: r/openclaw
👀 Смотрите также
Mneme: бесплатный локальный клиент чата Claude с постоянной памятью
Mneme — это бесплатный, открытый, локальный чат-клиент для Claude с многоуровневой памятью, отслеживанием сущностей, ежедневными сводками и поддержкой Sonnet 4.5 через Anthropic API.
AIsbf 0.9.8 добавляет кэширование, улучшения маршрутизации и расширенную поддержку AI-сервисов.
AIsbf 0.9.8 — это API-прокси/маршрутизатор, который предоставляет совместимый с OpenAI интерфейс к нескольким сервисам искусственного интеллекта. В этом выпуске добавлены кэширование через Redis, SQLite, MySQL и файловую систему, улучшена семантическая маршрутизация, а также полная поддержка OAuth2 для подписчиков Claude.ai, Amazon Kiro-cli, OpenAI Codex и Kilo.ai.
Prefex: Локальный прокси для кода Claude, автоматизирующий кэширование промптов и управление памятью сессий
Prefex — это локальный прокси, который находится между Claude Code и API Anthropic, автоматически добавляя заголовок, необходимый для бета-функции кэширования промптов Anthropic. Он также реализует сессионную память, чтобы избежать повторной отправки полной истории разговора, и включает маршрутизатор моделей для оптимизации затрат.
Операционная система с открытым исходным кодом для агентов ИИ: ОС на Rust с песочницей WASM и функцией Hands.
Выпущена операционная система с открытым исходным кодом для ИИ-агентов, содержащая 137 тысяч строк кода на Rust под лицензией MIT. Система запускает агентов в WASM-песочницах с 16 уровнями безопасности и представляет функцию 'Hands' для запланированной автономной работы агентов.