VoidLLM：OllamaとvLLMのためのゼロ知識プロキシ、チームアクセス制御付き
VoidLLMは、OllamaやvLLMなどのローカルLLMサーバーとアプリケーションの間に位置するプロキシサーバーです。組織やチームのアクセス制御、APIキー管理、使用状況の追跡、レート制限を追加しますが、プロンプトやコンテンツを閲覧することはありません。
主な機能
- OpenAI互換 — OpenAI APIフォーマットをサポートする任意のSDKで動作
- Ollama、vLLM、Anthropic、Azure、OpenAI用のプロバイダーアダプター
- プロキシオーバーヘッド2ミリ秒未満
- 組織、チーム、またはAPIキーごとのレート制限（Redisによる分散）
- コスト追跡と分析ダッシュボード
- コンテンツロギングなし — メタデータのみ（誰がどのモデルにアクセスし、何トークン使用したか）
ユースケース
ローカルでOllamaやvLLMを実行しており、適切なアクセス制御と使用状況の可視化を備えてチーム全体で共有したい場合、このプロキシはゼロ知識アーキテクチャによるプライバシーを維持しながら、これらの機能を提供します。
このツールはGitHubで利用可能です: github.com/voidmind-io/voidllm。
📖 Read the full source: r/LocalLLaMA
👀 See Also
ソールMCPサーバーがローカルLLM向けに永続メモリと安全性を追加
Soulは、ローカルLLM向けにセッション間で永続的なメモリを提供するオープンソースのMCPサーバーです。2つのコマンド（開始時のn2_bootと終了時のn2_work_end）を使用し、Arkセーフティ機能によりrm -rfやDROP DATABASEなどの危険なコマンドをトークンコストゼロでブロックします。クラウドストレージ設定も含まれています。
Orchino: Windows向けローカルマルチエージェントオーケストレーションシステム（並列ブラウザーおよびUI自動化対応）
Orchinoは、UIを乗っ取ることなく並列ブラウザおよびWindowsタスクを実行するWindows向けローカルマルチエージェントオーケストレーションシステムです。デモでは、4つのエージェントが「FlipkartとAmazonでSonyイヤーバッドを検索し、結果をメール送信し、Notepadに保存する」というタスクを真の並列実行で29.5秒で完了させました。
VT Code: オープンソースのRust製TUIコーディングエージェント - マルチプロバイダ対応とエージェントスキル搭載
VT Codeは、RustベースのターミナルUI（TUI）コーディングエージェントで、Anthropic、OpenAI、Gemini、Codexをサポートし、LM StudioとOllamaを介したローカル推論も可能です。Agent Skills、Model Context Protocol、Agent Client Protocolに対応しています。
LLMマトリックス：コミュニティ投票によるモデル比較、Claude Codeで構築
データサイエンティストがllm-matrix.vercel.appを構築し、複数の次元でLLMスコアを同時に比較できるようにしました。コミュニティの投票がランキングを形成し、このサイトはClaude Codeと2つの特定のプラグインを使用して完全に開発されました。