Affinage de llama3.2 3B pour un coaching santé personnalisé utilisant les données d'Apple Watch et MLX
Un développeur a créé un LLM coach de santé personnalisé en affinant llama3.2 3B sur un Mac en utilisant les données Apple Health et Whoop. L'ensemble du processus d'affinage a pris environ 15 minutes en utilisant MLX.
Pipeline technique
La mise en œuvre suit ce flux de travail :
- Les données Apple Health et Whoop stockées dans une base de données SQLite locale
- Une couche RAG SQL convertit les requêtes en langage naturel en SQL
- L'API Claude utilisée une fois pour générer ~270 exemples d'entraînement de référence (paires question/SQL/résultat anonymisées, aucune donnée de santé personnelle envoyée)
- Affinage LoRA sur llama3.2 3B via MLX
- Modèle fusionné servi localement à 127.0.0.1:8080
Avant vs après l'affinage
La source fournit des exemples concrets de l'amélioration :
Avant l'affinage : "Votre HRV est une mesure importante de la fonction du système nerveux autonome..." [500 mots de conseils génériques]
Après l'affinage : "Votre HRV a fait en moyenne 68ms cette semaine, en baisse de 12 % par rapport aux 77ms de la semaine dernière. Coïncide avec 3 nuits de moins de 7 heures de sommeil. Envisagez de réduire l'intensité de l'entraînement pendant 48 heures."
Empreinte mémoire et matériel
- Modèle (4 bits) : ~2 Go
- Adaptateur LoRA : ~50 Mo
- Mémoire d'entraînement : ~4-5 Go au total
- Fonctionne sur Mac série M, pas de GPU nécessaire
Le développeur mentionne inclure des détails techniques sur les garde-fous contre les hallucinations SQL, l'enrichissement du contexte inter-métriques et le pipeline d'entraînement dans son article complet. Il propose également de répondre aux questions concernant la configuration MLX ou l'implémentation de la couche RAG.
📖 Lire la source complète : r/LocalLLaMA
👀 See Also
Architecture des Agents OpenClaw : Délégation Multi-Agents, Mémoire à 5 Couches et Systèmes de Surveillance
Un développeur partage des modèles d'architecture OpenClaw pratiques après 7 semaines d'utilisation, incluant la délégation multi-agent avec des modèles spécialisés, un système de mémoire à 5 couches avec dégradation, et un système de surveillance avec trois niveaux de monitoring.
Le robot voiture Picar démontre la production vidéo autonome avec OpenClaw.
Un robot PiCar-X exécutant OpenClaw avec Claude Sonnet sur Raspberry Pi 5 crée de manière autonome des vidéos YouTube en rédigeant des scripts à partir de journaux de mémoire, générant des images avec DALL-E 3, narrant avec une voix clonée d'ElevenLabs et assemblant le tout avec ffmpeg.
Construction d'un système d'agent IA autonome avec Claude Code : une étude de cas
Un développeur a créé Acrid, un agent IA autonome qui dirige une entreprise appelée Acrid Automation en utilisant Claude Code comme système d'exploitation. Le système comprend 14 compétences sous forme de commandes slash, 4 sous-agents pour la délégation, une mémoire basée sur des fichiers sans bases de données vectorielles, et un pipeline de contenu automatisé reliant Claude à n8n via GitHub.
L'ingénieur DevOps utilise Claude Code pour créer une application terminal personnalisée.
Un ingénieur DevOps/SRE avec des années d'expérience a utilisé Claude Code pour créer une application terminal qu'il avait imaginée mais qu'il n'avait pas pu terminer seul. L'IA s'est chargée de l'échafaudage et des intégrations pendant que l'ingénieur se concentrait sur les décisions produit.