AIsbf 0.9.8 добавляет кэширование, улучшения маршрутизации и расширенную поддержку AI-сервисов.
AIsbf (AI Should Be Free) 0.9.8 — это API-прокси/маршрутизатор, который предоставляет совместимый с OpenAI интерфейс к различным сервисам искусственного интеллекта, стремясь сделать использование LLM более экономически эффективным. Он поддерживает многопользовательский режим и может масштабироваться от небольших установок до крупной инфраструктуры.
Ключевые возможности версии 0.9.8
- Поддержка кэширования через Redis, SQLite, MySQL и файловое хранилище
- Дополнительные методы конденсации контекста
- Нативная поддержка кэширования промптов и запросов
- Более быстрая и улучшенная семантическая маршрутизация на основе промптов для автоматического выбора сервиса
- Полная поддержка OAuth2 для подписчиков Claude.ai
- Полная поддержка OAuth2 для подписчиков Amazon Kiro-cli
- Полная поддержка OAuth2 для подписчиков OpenAI Codex
- Полная поддержка подписчиков Kilo.ai с использованием токенов или OAuth2
- Множество исправлений ошибок и небольших дополнений
Такой инструмент полезен разработчикам, которые работают с несколькими сервисами ИИ и хотят иметь унифицированный интерфейс, одновременно оптимизируя затраты с помощью интеллектуальной маршрутизации и кэширования.
📖 Read the full source: r/LocalLLaMA
👀 Смотрите также
Исправление прокси Quell для устранения скачков прокрутки кода Claude в Windows
Quell — это прокси-сервер на Rust, который располагается между вашим терминалом и Claude Code, удаляя последовательности очистки экрана, вызывающие сброс позиции прокрутки при длинных ответах. Также добавляет Shift+Enter для переноса строк, фильтрацию безопасности и полную поддержку Unicode.
Каталог серверов MCP содержит более 1000 серверов в 20 категориях
Курируемый каталог предоставляет команды установки и фрагменты конфигурации для более чем 1000 MCP-серверов по категориям, включая базы данных, инструменты разработчика, автоматизацию браузера, ИИ/машинное обучение и облачные технологии/DevOps. Каталог бесплатен для просмотра и добавления серверов.
Расширение OpenClaw Browser Relay для Chrome — альтернатива ручным настройкам.
Пользователь Reddit сообщает об успехе с расширением Chrome для браузерного реле OpenClaw после того, как попытки ручной настройки вызвали сбои системы и проблемы с отладкой.
Навыки Chrome: Сохраняйте и используйте AI-запросы как инструменты в один клик
Функция Google Chrome Skills позволяет пользователям сохранять AI-запросы в виде повторно используемых рабочих процессов, которые запускаются одним кликом на любой веб-странице. Навыки можно получить, набрав косую черту (/) или нажав на знак плюса (+) в Gemini в Chrome.