Kimi K2.7-Code: Modelo de Codificação Open-Source com Melhor Eficiência de Tokens

A Moonshot AI lançou o Kimi K2.7-Code, um modelo de codificação open-source disponível no Hugging Face sob o namespace moonshotai/Kimi-K2.7-Code. O modelo é classificado como image-text-to-text e utiliza a biblioteca Transformers. Ele se posiciona como uma alternativa eficiente em tokens para geração e compreensão de código.

Principais Recursos

• Provedores de inferência: A Novita oferece o modelo com status ao vivo, suporte a chamadas de ferramentas (toolCalling: true) e saída estruturada ainda indisponível. A taxa de processamento é de 36,1 tokens/segundo.
• Arquitetura do modelo: O modelo vem em 64 fragmentos (formato safetensors: model-00001-of-000064.safetensors).
• Eficiência de tokens: O modelo usa um template de chat personalizado que preserva o conteúdo de raciocínio (preserve_thinking: true) e otimiza o uso de tokens separando mensagens de histórico e sufixo. O template inclui tokens especiais como <|im_user|>, <|im_assistant|> e <|im_system|> para gerenciamento de papéis, e blocos <think>/</think> para encapsular raciocínio encadeado.
• Chamada de ferramentas: Suporte nativo a chamadas de ferramentas com formatação estruturada de argumentos, usando marcadores <|tool_call_begin|> e <|tool_call_end|>.
• Engajamento da comunidade: 334 curtidas no Hugging Face, com 4 comentários no HN e 41 pontos até a publicação.

Implicações Práticas

O design do template evita explicitamente incorporar tokens de raciocínio no histórico quando preserve_thinking é falso, reduzindo a sobrecarga de contexto. Para desenvolvedores que usam agentes de codificação com IA, isso significa menor consumo de tokens por interação — especialmente benéfico para longos loops de agentes onde cadeias de raciocínio são repetidas. O formato de chamada de ferramentas é alinhado com JSON, facilitando a integração com pipelines de chamada de função existentes.

O modelo está disponível para uso imediato via Novita, e o repositório do Hugging Face inclui configuração completa do tokenizador e fonte do template.