Application Mobile Hors Réseau Ajoute l'Utilisation d'Outils IA sur l'Appareil avec une Amélioration de Vitesse de 3x

Off Grid, une application mobile d'IA sur périphérique, a été mise à jour pour ajouter des capacités d'utilisation d'outils et des améliorations significatives des performances. L'application permet désormais aux modèles d'IA d'appeler des outils hors ligne sans nécessiter de clés API, de serveurs ou de fonctions cloud.

Fonctionnalités clés et performances

La mise à jour introduit des boucles d'outils automatiques pour la recherche web, la calculatrice, les fonctions date/heure et l'accès aux informations du périphérique. Selon le développeur, cela comble l'écart entre « jouet local » et « assistant utile » en permettant aux modèles de 3B paramètres de raisonner, d'appeler des outils et de synthétiser des résultats directement sur votre téléphone.

Les améliorations de performances proviennent d'options de cache KV configurables. Les utilisateurs peuvent désormais choisir entre trois types de cache KV :

• f16
• q8_0
• q4_0

Avec le cache q4_0, les modèles qui généraient auparavant 10 tokens/seconde atteignent désormais 30 tokens/seconde. L'application inclut une fonction d'incitation aux performances qui suggère des paramètres plus rapides après la première génération.

Support des modèles et disponibilité sur les plateformes

Off Grid prend en charge les modèles au format GGUF, notamment :

• Qwen 3
• Llama 3.2
• Gemma 3
• Phi-4
• Autres modèles compatibles GGUF

L'application est désormais disponible sur les deux principales boutiques d'applications sans exigence de sideloading. Elle peut être installée directement depuis l'App Store et Google Play.

Fonctionnalités principales et philosophie

Ce qui n'a pas changé dans cette mise à jour :

• Sous licence MIT et entièrement open source
• Aucune donnée ne quitte le périphérique (pas d'analytique, de télémétrie ou de données d'utilisation anonymes)
• Capacités hors ligne incluant la génération de texte (15-30 tokens/seconde), la génération d'images (5-10 secondes sur NPU), la vision par IA, la transcription vocale et l'analyse de documents

Le développeur déclare que le projet est motivé par la conviction que « le téléphone dans votre poche devrait être l'ordinateur le plus privé que vous possédez — pas le plus surveillé. »