AIsbf 0.9.8은 캐싱 기능, 라우팅 개선 및 확장된 AI 서비스 지원을 추가합니다.
AIsbf (AI Should Be Free) 0.9.8은 다양한 AI 엔드포인트 서비스에 OpenAI 호환 인터페이스를 제공하는 API 프록시/라우터로, LLM 사용을 더욱 비용 효율적으로 만들기 위해 설계되었습니다. 다중 사용자를 지원하며 소규모 설정부터 대규모 인프라까지 확장 가능합니다.
버전 0.9.8의 주요 기능
- Redis, SQLite, MySQL 및 파일 기반 저장소에 대한 캐시 지원
- 추가 컨텍스트 압축 방법
- 네이티브 프롬프트 캐싱 및 요청 캐싱 지원
- 자동 서비스 선택을 위한 더 빠르고 향상된 의미론적 프롬프트 기반 라우팅
- Claude.ai 구독자를 위한 완전한 OAuth2 지원
- Amazon Kiro-cli 구독자를 위한 완전한 OAuth2 지원
- OpenAI Codex 구독자를 위한 완전한 OAuth2 지원
- 토큰 또는 OAuth2를 사용하는 Kilo.ai 구독자에 대한 완전한 지원
- 여러 버그 수정 및 사소한 기능 추가
이러한 도구는 여러 AI 서비스를 사용하며 지능형 라우팅과 캐싱을 통해 비용을 최적화하면서 통합 인터페이스를 원하는 개발자에게 유용합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
ArayCode: 음성, 멀티 에이전트 단축키 및 마크다운 UI를 갖춘 OpenClaw용 데스크톱 CLI 클라이언트
ArayCode는 OpenClaw를 데스크톱 CLI 앱으로 변환하며 음성 I/O, 다중 에이전트 단축키, 테마, Spectre.Console 기반 마크다운 UI를 제공합니다. 클라우드 및 로컬 STT/TTS 제공자를 지원합니다.
OpenClaw 예산 가드 플러그인은 동시 예산 초과 지출을 방지합니다
새로운 OpenClaw 플러그인인 @runcycles/openclaw-budget-guard는 원자적 잔액 확인, 실행 전 예약, 멱등성 재시도를 구현하여 동시 예산 초과 문제를 해결합니다. Redis가 포함된 Cycles 서버가 필요하며 bash 명령어를 통해 설치할 수 있습니다.
비디오 편집자가 Claude Code를 사용하여 무료 자막 생성 도구 Treelo를 개발하다
비디오 편집자가 Claude Code와의 반복적인 대화를 통해 구축한 Treelo라는 무료 웹 도구를 만들었습니다. 이 도구는 오디오/비디오 파일을 편집 가능한 타임스탬프 블록으로 자동 전사하며, 자막 프리셋을 제공하고 SRT, VTT, ASS, WAV 형식으로 내보낼 수 있습니다.
오픈 소스 MCP 서버가 클로드를 메일침프 API에 연결합니다
한 개발자가 Claude Code를 사용하여 Mailchimp MCP 서버를 구축했으며, 캠페인, 대상자, 보고서, 자동화 및 전자상거래를 위한 53가지 도구와 내장 안전 모드 및 읽기 전용 구성을 제공합니다.