AIsbf 0.9.8 добавляет кэширование, улучшения маршрутизации и расширенную поддержку AI-сервисов.
AIsbf (AI Should Be Free) 0.9.8 — это API-прокси/маршрутизатор, который предоставляет совместимый с OpenAI интерфейс к различным сервисам искусственного интеллекта, стремясь сделать использование LLM более экономически эффективным. Он поддерживает многопользовательский режим и может масштабироваться от небольших установок до крупной инфраструктуры.
Ключевые возможности версии 0.9.8
- Поддержка кэширования через Redis, SQLite, MySQL и файловое хранилище
- Дополнительные методы конденсации контекста
- Нативная поддержка кэширования промптов и запросов
- Более быстрая и улучшенная семантическая маршрутизация на основе промптов для автоматического выбора сервиса
- Полная поддержка OAuth2 для подписчиков Claude.ai
- Полная поддержка OAuth2 для подписчиков Amazon Kiro-cli
- Полная поддержка OAuth2 для подписчиков OpenAI Codex
- Полная поддержка подписчиков Kilo.ai с использованием токенов или OAuth2
- Множество исправлений ошибок и небольших дополнений
Такой инструмент полезен разработчикам, которые работают с несколькими сервисами ИИ и хотят иметь унифицированный интерфейс, одновременно оптимизируя затраты с помощью интеллектуальной маршрутизации и кэширования.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Новый инструмент инжектит инструкции в Claude Code на основе использования контекста
Разработчик создал инструмент, который мониторит использование контекста и инжектит кастомные инструкции для предотвращения проблем с компакцией.
Mind Keg MCP: Постоянная память для кода Claude и агентов, совместимых с MCP
Mind Keg MCP v0.1.1 — это сервер MCP с открытым исходным кодом, который предоставляет постоянную память для Claude Code и других совместимых с MCP агентов. Он хранит полученные знания локально в SQLite и извлекает их с помощью семантического поиска, позволяя ИИ-помощникам по программированию запоминать контекст между сессиями.
Инфраструктура AI-агентов: AgentMail, AgentLine, AgentCard, Daytona и другие
Пост на Reddit перечисляет компании, создающие специализированные инструменты для ИИ-агентов: AgentMail (электронная почта), AgentLine (телефон), AgentCard (платежи), Daytona/E2B (компьютеры), Browserbase/Browser Use/Hyperbrowser (браузеры), Firecrawl (краулинг), Mem0 (память), Composio (SaaS-инструменты).
cowork-session-sync v1.0.0 обеспечивает непрерывность сессии для Claude Cowork.
cowork-session-sync v1.0.0 — это инструмент, который обеспечивает непрерывность сессий в Claude Cowork, архивируя исходные транскрипты, преобразуя их в Markdown и позволяя быстро восстановить полный контекст с помощью фразы 'catchup-bunny'.