OmniCoder-9B：425Kのエージェント軌跡でファインチューニングされた90億パラメータのコーディングエージェント

Tesslateは、Qwen3.5-9Bのハイブリッドアーキテクチャをベースにファインチューニングされた90億パラメータのコーディングエージェントモデル「OmniCoder-9B」をリリースしました。このアーキテクチャは、標準的なアテンションと交互に配置されたゲーテッドデルタネットワークを使用しています。

トレーニングデータとソース

このモデルは、実世界のソフトウェアエンジニアリングタスクにわたる42万5,000以上の厳選されたエージェント的コーディング軌跡でトレーニングされました。トレーニングデータは、Claude Opus 4.6のエージェント的およびコーディング推論トレースから特に構築され、以下のスキャフォールディングパターンを対象としています：

• Claude Code
• OpenCode
• Codex
• Droid

データセットには、Claude Opus 4.6、GPT-5.4、GPT-5.3-Codex、Gemini 3.1 Proなどのモデルからの成功した軌跡が含まれています。

主な特徴

• 最先端エージェント軌跡でのトレーニング：Claude Code、OpenCode、Codex、DroidのスキャフォールディングにわたるClaude Opus 4.6、GPT-5.3-Codex、GPT-5.4、Gemini 3.1 Proのエージェント的コーディング軌跡から構築
• ハイブリッドアーキテクチャ：効率的な長文脈処理のために、標準的なアテンションと交互に配置されたQwen3.5のゲーテッドデルタネットワークを継承
• 262Kネイティブコンテキスト：完全な262,144トークンのコンテキストウィンドウ、100万以上への拡張可能
• エラー回復：書き込み前読み取りパターンを学習し、LSP診断に応答し、完全な書き換えではなく最小限の編集差分を適用
• 思考モード：複雑な問題分解のための<think>...</think>推論チェーンをサポート
• Apache 2.0：完全にオープンな重み、制限なし

エージェント的挙動

このモデルは、トレーニングに使用された実世界のエージェント軌跡から直接学習した強力なエージェント的挙動を示します。書き込み前読み取りパターンを使用してエラーから回復し、LSP診断に応答し、完全な書き換えではなく適切な編集差分を使用します。

このモデルはhttps://huggingface.co/Tesslate/OmniCoder-9Bで利用可能です。