AIsbf 0.9.8 добавляет кэширование, улучшения маршрутизации и расширенную поддержку AI-сервисов.
AIsbf (AI Should Be Free) 0.9.8 — это API-прокси/маршрутизатор, который предоставляет совместимый с OpenAI интерфейс к различным сервисам искусственного интеллекта, стремясь сделать использование LLM более экономически эффективным. Он поддерживает многопользовательский режим и может масштабироваться от небольших установок до крупной инфраструктуры.
Ключевые возможности версии 0.9.8
- Поддержка кэширования через Redis, SQLite, MySQL и файловое хранилище
- Дополнительные методы конденсации контекста
- Нативная поддержка кэширования промптов и запросов
- Более быстрая и улучшенная семантическая маршрутизация на основе промптов для автоматического выбора сервиса
- Полная поддержка OAuth2 для подписчиков Claude.ai
- Полная поддержка OAuth2 для подписчиков Amazon Kiro-cli
- Полная поддержка OAuth2 для подписчиков OpenAI Codex
- Полная поддержка подписчиков Kilo.ai с использованием токенов или OAuth2
- Множество исправлений ошибок и небольших дополнений
Такой инструмент полезен разработчикам, которые работают с несколькими сервисами ИИ и хотят иметь унифицированный интерфейс, одновременно оптимизируя затраты с помощью интеллектуальной маршрутизации и кэширования.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
OpenClaw .NET: Порт NativeAOT с JSON-RPC Мостом для Существующих Плагинов
OpenClaw .NET — это порт OpenClaw на C#, который компилируется в бинарный файл NativeAOT размером около 23 МБ, исключая время разогрева JIT и накладные расходы среды выполнения Node, сохраняя при этом совместимость с существующими плагинами на TypeScript/JavaScript через встроенный мост JSON-RPC.
AI Claw: Бессерверный мост соединяет Alexa с локальным OpenClaw с двойной доставкой
AI Claw — это конвейер на Python для AWS Lambda, который соединяет динамики Amazon Echo с локальными экземплярами OpenClaw, обходя 8-секундный таймаут Amazon за счёт архитектуры «отправил и забыл» с двойной доставкой в Telegram и нативный вывод звука на Echo.
Опция: Оркестрация AI-агентов для написания кода в Kubernetes от тикета до PR
Optio — это система оркестрации с открытым исходным кодом, которая преобразует задачи (тикеты) в принятые пул-реквесты с помощью ИИ-агентов для написания кода, таких как Claude Code или Codex. Она управляет полным жизненным циклом в изолированных подах Kubernetes, используя цикл обратной связи, который автоматически возобновляет работу агентов при сбоях CI или получении отзывов по ревью.
Улучшитель промптов Claude Code v0.5.3: Рефакторинг режима планирования и исследование на основе субагентов
v0.5.3 добавляет хук PreToolUse для читаемости режима планирования (чистые перезаписи, без истории решений) и переносит исследование нечётких запросов в подагенты Task/Explore на Haiku для экономии токенов основного контекста. Плагин теперь работает на Windows и имеет более 1,4K звёзд на GitHub.