Le modèle 3B sur appareil d'Apple comme vérificateur des sorties de l'agent OpenClaw

Chaque Mac, iPhone et iPad de la série OS 27.x est livré avec un petit modèle d'IA embarqué — 3 milliards de paramètres, aucune transmission de données vers l'extérieur — et un développeur l'a intégré dans OpenClaw comme vérificateur post-génération. Le modèle tourne sur le Neural Engine (ANE) d'Apple, un processeur d'IA dédié présent dans toutes les puces actuel­les des séries A et M, séparé du CPU et du GPU (bien qu'ils partagent la mémoire), et il peut fonctionner en parallèle avec un modèle sur GPU.

Pourquoi l'ANE est important ici

L'argument : l'ANE est presque toujours inactif. L'inférence locale se fait généralement sur le GPU, donc exploiter l'ANE revient à obtenir du calcul supplémentaire gratuitement sur votre matériel existant. Pour activer le modèle, il faut activer Apple Intelligence dans Réglages → Général. Apple expose le modèle via une API standard du système, ce qui rend le vérificateur possible sans nécessiter d'aller-retour vers un serveur.

Comment fonctionne le vérificateur

Le dispositif intercepte la sortie de l'agent avant qu'elle ne quitte le harnais. Lorsqu'un agent produit un fait issu d'un appel d'outil, le modèle local compare la réponse énoncée par l'agent au résultat brut de l'outil et signale une incohérence — c'est-à-dire une confabulation. Selon la description de l'auteur :

• Détecte les réponses mal formées ou erronées avant la transmission
• Force l'agent à réévaluer et à régénérer, ce qui « aboutit généralement à une correction vers la valeur appropriée »
• Fonctionne sur le modèle local, donc ne consomme pas la bande passante de l'équipe d'agents
• Suffisamment rapide pour que la vérification n'ajoute pas de latence significative à la sortie — seule une vérification échouée ajoute du temps, puisque l'agent doit régénérer

Points à retenir

Deux choses rendent cette approche digne d'être copiée. Premièrement, c'est un modèle propre pour le filtrage des hallucinations : comparer les affirmations générées aux sorties d'outils de référence au niveau du harnais, et non à l'intérieur du prompt. Deuxièmement, cela démontre l'utilisation du calcul de l'ANE pour une inférence auxiliaire sans entrer en concurrence avec le modèle GPU qui effectue la génération principale. L'auteur renvoie à une comparaison de 9to5Mac des modèles locaux d'Apple comme contexte sur les capacités.

Pour les utilisateurs d'OpenClaw qui exécutent des agents enchaînant des appels d'outils, un vérificateur local à faible latence sur un silicium autrement inactif est un moyen peu coûteux de détecter les faits erronés avant qu'ils n'atteignent la transcription. Aucun benchmark n'est fourni pour l'exactitude ou la latence par vérification dans la source — c'est la question ouverte si vous souhaitez le reproduire.