Fora da Rede: Utilizando o Hardware do Telefone para Aplicações de IA Offline

Off Grid é um aplicativo de código aberto projetado para utilizar a poderosa GPU do seu smartphone para executar tarefas de IA offline, sem depender de serviços em nuvem. Isso inclui geração de texto usando llama.cpp a 15-30 tokens por segundo com qualquer modelo GGUF, geração de imagens com Stable Diffusion rodando acelerado por NPU em NPUs Snapdragon levando 5-10 segundos por imagem, transcrição de voz com Whisper e visão computacional com modelos como SmolVLM e Qwen3-VL.

O aplicativo opera completamente offline, garantindo que nenhum dado saia do seu dispositivo, o que é particularmente crucial em cenários sem acesso à internet, como voos, em países com censura ou em ambientes com muitas regulamentações, como hospitais. Para Android, o aplicativo está disponível como APK no GitHub, enquanto usuários de iOS precisam compilar o aplicativo a partir do código-fonte.

Para executar o Off Grid, usuários do Android devem usar npm install seguido por cd android && ./gradlew clean && cd .. e npm run android. A configuração do iOS requer cd ios && pod install && cd .. e npm run ios. Certifique-se de que Node.js 20+ e Xcode 15+ para iOS, ou JDK 17 e Android SDK 34 para Android estejam instalados. Esse tipo de capacidade offline é particularmente útil para desenvolvedores preocupados com privacidade de dados e aqueles que trabalham em ambientes com restrições de internet ou sensíveis a dados.