Gemma4 26B-A4B Oferece Desempenho Local Rápido com Suporte a Busca na Web e Imagens
Desempenho e Recursos do Gemma4 26B-A4B
O modelo gemma-4-26B-A4B demonstra um forte desempenho para uso local, com a fonte relatando velocidades de aproximadamente 145 tokens por segundo ao ser executado em uma GPU RTX 4090. Essa combinação de capacidade e velocidade o torna adequado para aplicativos locais responsivos.
Principais Recursos da Fonte
- Modelo: gemma-4-26B-A4B
- Desempenho: ~145 t/s (tokens por segundo) em RTX 4090
- Integração: Suporte a pesquisa na web MCP (Model Context Protocol)
- Multimodal: Suporte a imagens incluído
- Plataformas: Configuração documentada para uso em Mac e iPhone
A fonte menciona que a experiência pode ser aprimorada com truques simples e um prompt de sistema curto, embora detalhes específicos sobre essas otimizações não sejam fornecidos no trecho. O autor documentou seu processo completo de configuração em um post de blog que abrange configuração e uso em vários dispositivos.
Para desenvolvedores interessados em implementar essa configuração, os detalhes completos de configuração, prompts de sistema e técnicas de otimização estão disponíveis no post de blog referenciado no URL fornecido.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Jan-Code-4B: Um Modelo Leve Ajustado para Código para Desenvolvimento Local
A equipe Jan lançou o Jan-Code-4B, um modelo ajustado para código com 4 bilhões de parâmetros, baseado no Jan-v3-4B-base-instruct. Ele foi projetado como uma substituição direta do Haiku no Claude Code, oferecendo assistência de codificação aprimorada enquanto é executado localmente.
Plugin do AxonFlow para OpenClaw: Aprovação de Ferramenta de Pré-Execução e Redação de PII
Um plugin OpenClaw auto-hospedado que verifica argumentos de ferramentas antes da execução, pausa chamadas arriscadas para aprovação humana e oculta PII de mensagens de saída. Usa hooks do ciclo de vida do OpenClaw — sem necessidade de alterar o código do agente.
Nexus: Protocolo de IA para IA de Código Aberto com Descoberta, Confiança e Pagamentos
Nexus é um protocolo auto-hospedado que permite que agentes de IA se descubram, negociem termos, verifiquem respostas e lidem com micropagamentos sem intervenção humana. Inclui cinco camadas: descoberta, confiança, protocolo, roteamento e federação, com 66 testes e licenciamento MIT.
ClankerRank: Um Benchmark para Habilidades de Codificação Assistida por IA com Claude Haiku
Um desenvolvedor criou o ClankerRank para medir a proficiência em programação assistida por IA usando o modelo Haiku 4.5 do Claude. A plataforma apresenta bugs idênticos aos usuários, pontua as saídas com suítes de testes ocultas e revelou lacunas claras de habilidade entre centenas de participantes.