AIsbf 0.9.8은 캐싱 기능, 라우팅 개선 및 확장된 AI 서비스 지원을 추가합니다.
AIsbf (AI Should Be Free) 0.9.8은 다양한 AI 엔드포인트 서비스에 OpenAI 호환 인터페이스를 제공하는 API 프록시/라우터로, LLM 사용을 더욱 비용 효율적으로 만들기 위해 설계되었습니다. 다중 사용자를 지원하며 소규모 설정부터 대규모 인프라까지 확장 가능합니다.
버전 0.9.8의 주요 기능
- Redis, SQLite, MySQL 및 파일 기반 저장소에 대한 캐시 지원
- 추가 컨텍스트 압축 방법
- 네이티브 프롬프트 캐싱 및 요청 캐싱 지원
- 자동 서비스 선택을 위한 더 빠르고 향상된 의미론적 프롬프트 기반 라우팅
- Claude.ai 구독자를 위한 완전한 OAuth2 지원
- Amazon Kiro-cli 구독자를 위한 완전한 OAuth2 지원
- OpenAI Codex 구독자를 위한 완전한 OAuth2 지원
- 토큰 또는 OAuth2를 사용하는 Kilo.ai 구독자에 대한 완전한 지원
- 여러 버그 수정 및 사소한 기능 추가
이러한 도구는 여러 AI 서비스를 사용하며 지능형 라우팅과 캐싱을 통해 비용을 최적화하면서 통합 인터페이스를 원하는 개발자에게 유용합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
MOOSE-Star: 과학적 가설 발견을 위한 7B 모델 및 108K 논문 데이터셋 – ICML 2026
MiroMind가 Hugging Face에 MOOSE-Star를 공개했습니다. 과학적 가설 발견을 위한 7B 모델(DeepSeek-R1-Distill-Qwen-7B 파인튠)과 함께 108K 논문 데이터셋 TOMATO-Star도 제공됩니다. 벤치마크 결과 MS-7B가 영감 검색 정확도 54.34%를 달성하여 GPT-5.4를 능가하고 Gemini-3 Pro에 근접했습니다.
오픈소스 GTM 플러그인 for Claude Code: 166가지 마케팅 스킬과 부트스트랩 명령어 포함
한 개발자가 SEO, 콘텐츠, 아웃바운드, 영업, 성장, 분석, 전략, 광고, 소셜, CRM, AI 검색 등 166개의 전문 마케팅 스킬을 제공하는 Claude Code용 오픈소스 Go-To-Market 플러그인을 출시했습니다. 이 플러그인에는 사용자에게 브랜드에 대해 인터뷰하여 맞춤형 컨텍스트 파일을 생성하는 /bootstrap 명령어가 포함되어 있습니다.
Claude Pulse 브라우저 확장 프로그램, Claude.ai에 토큰 수, 캐시 타이머, 속도 제한 표시
Claude Pulse는 클라이언트 측 Chrome 확장 프로그램으로, Claude.ai에 메시지별 토큰 수, 전체 컨텍스트 사용량, 프롬프트 캐시 만료 타이머, 속도 제한 진행률 표시줄을 보여주는 실시간 대시보드를 추가합니다. 또한 채팅을 Markdown으로 내보낼 수 있습니다.
Nia-docs 도구는 Claude AI를 위해 문서 URL에서 로컬 파일시스템을 생성합니다.
nia-docs 도구는 npx nia-docs와 문서 URL을 실행하여 로컬 파일시스템에 문서를 생성할 수 있게 해주며, Claude AI는 추가 설정 없이 직접 접근할 수 있습니다.