Routerly：ランタイムルーティングポリシーと予算管理を備えたセルフホスト型LLMゲートウェイ
Routerlyは、既存のソリューションのギャップを埋めるために構築されたセルフホスト型LLMゲートウェイです。開発者がこれを開発した理由は、OpenRouterがクラウドベースである一方、自社のインフラストラクチャで実行可能なものを求めたこと、そしてLiteLLMは予算管理は優れているものの、ルーティングが手動すぎると感じたためです。
主な機能
アプリケーションで特定のモデルをハードコードする代わりに、Routerlyではランタイムでモデル選択を決定するルーティングポリシーを定義できます。利用可能なポリシーは以下の通りです：
- 最安値
- 最速
- 最高性能
- これらのポリシーの組み合わせ
予算管理はプロジェクトレベルで機能し、実際のトークン単位の追跡により、きめ細かいコスト管理を実現します。
互換性と使用法
RouterlyはOpenAI互換であり、コード変更なしで既存のワークフローに組み込むことができます。特に言及されている互換ツールは以下の通りです：
- Cursor
- LangChain
- Open WebUI
OpenAI API形式を使用する「その他のツール」とも連携します。
現在の状況
開発者は、まだ改善の余地があることを認めており、以下の点についてコミュニティからのフィードバックを求めています：
- 何が壊れているか
- 何が不足しているか
- ルーティングロジックが実際に理にかなっているか
- 人々が抱える実際の問題を解決しているか
このツールは完全に無料でオープンソースであり、商業的な販売促進はありません。開発者は技術コミュニティからの実用的なフィードバックに焦点を当てています。
リソース
- GitHubリポジトリ: https://github.com/Inebrio/Routerly
- ウェブサイト: https://www.routerly.ai
📖 Read the full source: r/LocalLLaMA
👀 See Also
Gemma 4 26B対Qwen 3.5 27B：RTX 4090でのローカル業務ワークフローベンチマーク
ある開発者がRTX 4090ワークステーションでGemma 4 26BとQwen 3.5 27Bを18の実践的なビジネスオペレータータスクでテストしました。Gemmaが13勝5敗で勝利し、日常の実行作業ではより高速で規律正しい結果を示した一方、Qwenはより広範な戦略的思考で優れていました。
nervx: CLIツールは、コードベースの構造を分析することでClaude Codeのトークン使用量を削減します
nervxはpipでインストール可能なCLIツールで、tree-sitterを使用してリポジトリを解析し、関数とインポートのSQLiteグラフを構築し、NERVX.md構造マップを生成します。CLAUDE.mdにnervxナビゲーションの使用方法を教える指示を自動的に追加し、テストではgrep検索を65％削減、出力トークンを48％削減しました。
Humanizerパイプラインをオープンソース化：AIテキスト後処理のための6ステップMarkdownファイル
単一のMarkdownファイルが、チャネル認識、音声調整、深刻度ゲート、自己監査を備えた、AI生成テキストを検出して書き換える6ステップのパイプラインを実装しています。
Claudeスキルズ：TypeScript、Rust、Swift、Go、JS、Postgres、および監査のための12の厳格なコーディングルールパック
TypeScript、Rust、Swift、Go、JS、Postgres、セキュリティ、パフォーマンス、テスト、コードレビュー、GitHub標準、gitコミットに関する、意見が反映されたバージョン対応ルールが記された12個のMarkdownファイル。MITライセンス、無料、サインアップ不要。