Hors réseau : Utiliser le matériel téléphonique pour des applications d'IA hors ligne

Off Grid est une application open-source conçue pour exploiter le GPU puissant de votre smartphone afin d'effectuer des tâches d'IA hors ligne, sans dépendre de services cloud. Cela inclut la génération de texte avec llama.cpp à 15-30 tokens par seconde avec n'importe quel modèle GGUF, la génération d'images avec Stable Diffusion accéléré par NPU sur les NPU Snapdragon prenant 5-10 secondes par image, la transcription vocale avec Whisper, et l'IA visuelle avec des modèles comme SmolVLM et Qwen3-VL.

L'application fonctionne entièrement hors ligne, garantissant qu'aucune donnée ne quitte votre appareil, ce qui est particulièrement crucial dans des scénarios sans accès internet, comme les vols, dans les pays avec censure, ou dans des environnements soumis à des réglementations strictes comme les hôpitaux. Pour Android, l'application est disponible sous forme d'APK sur GitHub, tandis que les utilisateurs iOS doivent compiler l'application à partir du code source.

Pour exécuter Off Grid, les utilisateurs Android doivent utiliser npm install suivi de cd android && ./gradlew clean && cd .. et npm run android. La configuration iOS nécessite cd ios && pod install && cd .. et npm run ios. Assurez-vous d'avoir Node.js 20+ et Xcode 15+ pour iOS, ou JDK 17 et Android SDK 34 pour Android installés. Ce type de capacité hors ligne est particulièrement utile pour les développeurs soucieux de la confidentialité des données et ceux travaillant dans des environnements à accès internet restreint ou sensibles aux données.