Aplicativo Móvel Off Grid Adiciona Uso de Ferramentas de IA no Dispositivo com Melhoria de Velocidade de 3x

Off Grid, um aplicativo móvel de IA no dispositivo, foi atualizado para adicionar capacidades de uso de ferramentas e melhorias significativas de desempenho. O aplicativo agora permite que modelos de IA chamem ferramentas offline sem exigir chaves de API, servidores ou funções na nuvem.

Recursos Principais e Desempenho

A atualização introduz loops automáticos de ferramentas para busca na web, calculadora, funções de data/hora e acesso a informações do dispositivo. Segundo o desenvolvedor, isso preenche a lacuna entre "brinquedo local" e "assistente útil" ao permitir que modelos de 3B parâmetros raciocinem, chamem ferramentas e sintetizem resultados diretamente no seu celular.

As melhorias de desempenho vêm das opções configuráveis de cache KV. Os usuários agora podem escolher entre três tipos de cache KV:

• f16
• q8_0
• q4_0

Com cache q4_0, modelos que anteriormente geravam 10 tokens/segundo agora atingem 30 tokens/segundo. O aplicativo inclui um recurso de sugestão de desempenho que recomenda configurações mais rápidas após a primeira geração.

Suporte a Modelos e Disponibilidade de Plataforma

Off Grid suporta modelos no formato GGUF, incluindo:

• Qwen 3
• Llama 3.2
• Gemma 3
• Phi-4
• Outros modelos compatíveis com GGUF

O aplicativo agora está disponível nas duas principais lojas de aplicativos sem requisitos de sideloading. Pode ser instalado diretamente da App Store e do Google Play.

Funcionalidade Central e Filosofia

O que não mudou nesta atualização:

• Licenciado MIT e totalmente código aberto
• Zero dados saem do dispositivo (sem análises, telemetria ou dados de uso anônimos)
• Capacidades offline incluindo geração de texto (15-30 tokens/segundo), geração de imagem (5-10 segundos no NPU), IA de visão, transcrição de voz e análise de documentos

O desenvolvedor afirma que o projeto é motivado pela crença de que "o celular no seu bolso deve ser o computador mais privado que você possui — não o mais vigiado."