mistral.rs が Gemma 4 12B のサポートを追加:マルチモーダル、エージェント指向、MTP

mistral.rsは、Gemma 4 12Bのマルチモーダル、エージェント型、およびマルチターン予測(MTP)機能をサポートします。このリリースには、エージェント型アプリ構築のためのWeb検索とサンドボックス化されたコード実行、さらに音声、画像、動画の入力が含まれています。
インストール
Linux/macOSおよびWindows向けの1行インストール:
# Linux/macOS
curl --proto '=https' --tlsv1.2 -sSf https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh | sh
Windows
irm https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1 | iex
エージェントと量子化を用いた実行
OpenAIおよびAnthropic互換のHTTPサーバーを、localhost:1234/uiに内蔵Web UIとともに起動:
mistralrs run --agent -m google/gemma-4-12B-it --quant 4MTP(マルチターン予測)の有効化
MTPを使用するには、アシスタントモデルを指定して--mtp-modelフラグを追加:
mistralrs run --agent -m google/gemma-4-12B-it --quant 4 --mtp-model google/gemma-4-12B-it-assistant主な機能
- 完全マルチモーダル対応:音声、画像、動画
- エージェント型ワークフローのためのWeb検索とサンドボックス化されたコード実行
- OpenAIおよびAnthropic互換のHTTPサーバー
- 内蔵WebチャットUI(
localhost:1234/ui)
📖 ソース全文: r/LocalLLaMA
👀 See Also

マルチモーダルエージェントのレイテンシをスクリーンショット履歴の省略により削減
ある開発者が、マルチモーダルエージェントのリクエストから過去のスクリーンショットを省略し、base64画像データを「[image omitted]」文字列に置き換えることで、パフォーマンスを維持しながらレイテンシを大幅に削減できることを発見しました。この実験はClaudeを使用して実施され、GitHubに記録されています。

Claude Coworkモードの説明:ファイルレベルでのタスク実行とチャット・コードモードの比較
ClaudeのCoworkモードは、選択したフォルダ内で動作し、乱雑なフォルダの整理、スクリーンショットからの構造化データの抽出、散らばったノートを構造化された文書にまとめるなどのファイルレベルのタスクを実行します。

テンセントのモデルを試用:エージェントワークフローに強く、複雑なコーディングに弱い
Tencentのモデルはエージェントタスクで8/10、幻覚率は低いが、Notion APIスキーマのような複雑なコーディングでは失敗。バックエンドロジックには非推奨。

オープンソース書籍創世記:自律的な書籍執筆のための20のClaudeコードスキル
Book Genesisは、20の専門的なClaude Codeスキルからなるオープンソースシステムで、本のアイデアから完成した出版可能な原稿を14段階の自律パイプラインを通じて生成します。AIの予測可能性パターンを破る「カオスエンジン」を含み、68,000語の回顧録を生成し、Genesisスコアで9.0/10を獲得しました。