Unsloth Studioは、ローカルAIのファインチューニングにおいて、2倍の学習速度と70%のVRAM削減を実現します。

Unsloth Studioが提供するもの

Unsloth Studioは、独自のデータを使用してAIモデルをローカルでトレーニングおよびファインチューニングするためのツールです。ソースによると、標準的な方法と比較して2倍のトレーニング速度と70%のVRAM削減を提供します。

主な機能とワークフロー

説明されている典型的なワークフローは、事前学習済みモデルでローカルチャットボットを実行するためにOllamaを使用し、次にUnslothを使用して特定のデータでモデルをトレーニングおよびファインチューニングすることを含みます。トレーニング後、ファインチューニングされたモデルをGGUF形式にエクスポートし、Ollamaで実行できます。

ソースで言及されている具体的な機能：

• Mac、Windows、Linuxをサポート
• ローカルGPU上でQwen3.5やGLM-4-Flashなどのオープンモデルとllama.cppを使用
• RTX 4090などの24GBハードウェア上で、コードベース認識、Gitワークフロー、マルチファイル編集を含む完全なエージェント型コーディングを100%ローカルで実現
• モデルの並列実行と比較を可能にする（GGUF、テキスト、ビジョン、TTS、埋め込み）
• APIコストゼロ、プライバシーリスクゼロ、オフライン動作
• PDF、CSV、JSON、DOCX、TXTファイルからデータセットを自動生成
• 計算、データ分析、コードテスト、ファイル生成、回答検証のために、LLMがサンドボックス内でコードやプログラムを実行可能
• グラフノードワークフローとデータレシピによる視覚的なデータセット構築と編集を提供
• RAGシステムにおける検索バックボーンとして使用するための埋め込みモデルのトレーニングをサポート
• Unslothモデルは、FedRAGなどのフレームワークを介して統合されると、RAGパイプラインの生成器として機能可能
• テキストと画像の両方を理解するビジョン対応またはマルチモーダルモデルのトレーニング/拡張をサポート
• トレーニング後、モデルをGGUF/vLLM/Ollamaまたはエンドポイントにエクスポートし、カスタムローカルAPI、チャットボット、またはサービスとしてデプロイ可能
• GRPOを使用して、控えめなハードウェア上で推論タスクに優れたモデルを構築
• RAGのための埋め込みファインチューニングと生成器ファインチューニングを組み合わせる

使用例のサンプル

• 個人用ナレッジアシスタント：個人的なQAのために、独自のメモ、日誌、またはファイルでファインチューニング
• ゲームコンテンツ生成：クエスト、対話、ストーリーラインを生成するモデルをトレーニング
• 医療アシスタント：スキャンを分析し診断に答えるために、ビジョンと言語をファインチューニング
• 教育チューター：精選されたレッションデータに基づいて、ニッチな科目で学生を指導するモデルをトレーニング
• ワークフロー自動化エージェント：高レベルの入力からタスクリスト、SOPステップ、アクションプランを出力するモデルをトレーニング