Black LLAB: 動的モデルルーティングとDockerサンドボックス化AIエージェントのためのオープンソースアーキテクチャ

開発者がBlack LLABをリリースしました。これは自律的なタスク実行のための最先端AIラボシステムを再現しようとするオープンソースプロジェクトです。このシステムは、異なるプロンプトにどのモデルを使用するかを手動で決定する問題と、AIエージェントのコードを安全に実行する問題という2つの主要な課題に対処しています。

アーキテクチャ構成要素

このシステムはいくつかの主要なコンポーネントで構成されています：

• 動的複雑度ルーティング： Mistral 3B Instructを使用してプロンプトを1-100のスケールで評価します。単純な質問は高速/低コストのモデルに、複雑なコーディングタスクは「Lost in the Middle」XMLコンテキスト整形を備えた高機能モデルにルーティングされます。
• Dockerサンドボックス化エージェント： OpenClawを統合し、専用の分離されたDockerコンテナ内でエージェントをデプロイします。エージェントはホストOSに触れることなく、ファイルの書き込み、ウェブスクレイピング、コードの実行が可能です。
• 高度なハイブリッドRAG： NetworkXを使用して永続的な知識グラフを構築し、標準的なベクトル検索を超えた正確なコンテキスト取得のためにCross-Encoderを使用します。
• ライブウェブ＆ビジョン： ウェブスクレイピング用にローカルSearxNG、ローカルビジョン/OCR用にPix2Textを統合しています。
• 予算ガードレール： クラウドAPIの超過使用を防ぐための日次支出制限スライダーを含みます。

モデルラインナップ

システムは異なる目的のために複数のモデルを使用します：

• ルーティング/ロジック： Mistral 3B & Qwen 3.5 9B（ローカル）
• ミッドレンジ/速度： Xiaomi MiMo Flash
• 高負荷処理（フェイルオーバー）： Claude Opus & Perplexity Sonar

技術スタック

このプロジェクトはFastAPI、Python、NetworkX、ChromaDB、Docker、Ollama、Playwright、およびバニラHTML/JSのターミナル風UIで構築されています。

開発者は自身を「ソフトウェアよりも機械エンジニア寄り」と表現し、特にDockerサンドボックス化アプローチに関するアーキテクチャについて上級開発者からのフィードバックを求めています。このプロジェクトは、単一のプロバイダーに縛られることなく自律的なタスクを実行したい独立研究者のためにGitHubで公開されています。