mistral.rs agora suporta o Gemma 4 12B com recursos multimodais, agentivos e de Previsão Multiturno (MTP). Esta versão inclui pesquisa web e execução de código em ambiente isolado para criar aplicações agentivas, além de entrada de áudio, imagem e vídeo.

Instalação

Instalação em linha única para Linux/macOS e Windows:

# Linux/macOS
curl --proto '=https' --tlsv1.2 -sSf https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.sh | sh

Windows
irm https://raw.githubusercontent.com/EricLBuehler/mistral.rs/master/install.ps1 | iex

Executando com Agent & Quantização

Inicie um servidor HTTP compatível com OpenAI e Anthropic, com uma interface web integrada em localhost:1234/ui:

mistralrs run --agent -m google/gemma-4-12B-it --quant 4

Habilitando MTP (Previsão Multiturno)

Para usar o MTP, adicione a flag --mtp-model com o modelo assistente:

mistralrs run --agent -m google/gemma-4-12B-it --quant 4 --mtp-model google/gemma-4-12B-it-assistant

Principais Recursos

• Suporte multimodal completo: áudio, imagem e vídeo
• Pesquisa web e execução de código em ambiente isolado para fluxos agentivos
• Servidor HTTP compatível com OpenAI e Anthropic
• Interface de chat web integrada em localhost:1234/ui

Para mais detalhes: GitHub | Documentação