Kimi K2.7-Code： オープンソースのコーディングモデル、トークン効率が向上

Moonshot AI は、Kimi K2.7-Code をリリースしました。これはオープンソースのコーディングモデルで、Hugging Face 上で moonshotai/Kimi-K2.7-Code 名前空間で利用可能です。モデルは image-text-to-text としてタグ付けされ、Transformers ライブラリを使用しています。コード生成および理解タスクにおいて、トークン効率の高い代替手段として位置づけられています。

主な機能

• 推論プロバイダー: Novita はこのモデルをライブステータス、ツール呼び出しサポート（toolCalling: true）、構造化出力（現在は利用不可）とともに提供。スループットは 36.1 トークン/秒。
• モデルアーキテクチャ: モデルは 64 シャード（safetensors 形式: model-00001-of-000064.safetensors）で構成。
• トークン効率: このモデルは推論内容を保持するカスタムチャットテンプレート（preserve_thinking: true）を使用し、履歴とサフィックスメッセージを分離することでトークン使用を最適化。テンプレートにはロール管理用の特別なトークン <|im_user|>、<|im_assistant|>、<|im_system|> や、連鎖推論をカプセル化する <think>/</think> ブロックが含まれています。
• ツール呼び出し: 構造化された引数形式でのツール呼び出しをネイティブサポートし、<|tool_call_begin|> および <|tool_call_end|> マーカーを使用。
• コミュニティの関与: Hugging Face で 334 のいいね、公開時点で 4 件の HN コメントと 41 ポイント。

実用的な意味

テンプレート設計では、preserve_thinking が false の場合に履歴に推論トークンを埋め込まず、コンテキストのオーバーヘッドを削減します。AI コーディングエージェントを使用する開発者にとって、これはインタラクションあたりのトークン消費を削減することを意味します。特に、推論連鎖が繰り返される長いエージェントループで有益です。ツール呼び出し形式は JSON 準拠であり、既存の関数呼び出しパイプラインとの統合が容易です。

モデルは Novita 経由で即座に利用可能であり、Hugging Face リポジトリには完全なトークナイザー設定とテンプレートソースが含まれています。