Développement local d'IA avec Qwen3.6-27B et Opencode sur un 5090
Un développeur qui avait auparavant rejeté les LLM locaux comme 'pas à la hauteur' par rapport aux offres cloud comme Claude Code ou Cursor a récemment opté pour une configuration entièrement locale. Utilisant Opencode + llama-server + Qwen3.6-27B avec une quantification raisonnable et un contexte de 128K, le tout tournant sur une seule RTX 5090 dans une machine Linux dédiée. La configuration est accessible via le réseau depuis sa machine de développement principale.
Détails clés
- Outils : Opencode (frontend) + llama-server (backend) + modèle Qwen3.6-27B
- Matériel : 1× RTX 5090, machine Linux dédiée
- Longueur de contexte : 128K tokens (l'utilisateur n'est pas sûr de pouvoir aller plus loin, mais trouve cela suffisant)
- Performances : Pas parfaites — des boucles occasionnelles nécessitent une intervention manuelle — mais globalement 'très valable'
Motivation
Ce changement a été motivé par des contraintes d'utilisation croissantes et la 'détérioration' des forfaits cloud. La configuration locale élimine les inquiétudes concernant les limites d'utilisation, l'analyse des invites ou les bannissements de compte — particulièrement important pour la recherche en sécurité, le scraping ou d'autres activités qui pourraient attirer l'attention des fournisseurs cloud.
Pour qui c'est pertinent
Les développeurs hésitants à adopter les agents de codage IA locaux, en particulier ceux qui ont été sceptiques quant à la qualité des modèles locaux ou qui doivent éviter les risques liés aux comptes cloud. Si vous disposez d'un GPU puissant (par exemple, RTX 5090), l'expérience est désormais compétitive avec les outils cloud.
En résumé
L'utilisateur rapporte une expérience 'immensément libératrice' malgré quelques accrocs occasionnels, et estime que le développement IA local a atteint un point où il est 'très valable en effet'.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Surveillance du quota de code Claude dans la barre système Windows
Une application de la zone de notification Windows qui surveille l'utilisation de Claude Code avec une icône codée par couleur, actualise automatiquement les données de quota toutes les 5 minutes via l'API OAuth d'Anthropic, et fournit des tableaux de bord détaillés montrant les tendances d'utilisation horaires, quotidiennes, hebdomadaires et mensuelles.
Deux compétences gratuites de Claude Code : Générateur de tutoriels et Correcteur de prompts
Deux nouvelles compétences Claude Code gratuites : create-tutorial génère des tutoriels de lecture de code à partir de vos fichiers de projet réels, et prompter reformule les invites remplies de fautes de frappe en instructions actionnables. Les deux sont sous licence MIT et s'installent via GitHub.
OpenClaw Nerve WebUI ajoute le contrôle vocal et un tableau de bord de gestion d'équipe.
Nerve est une interface WebUI pour OpenClaw qui offre un tableau de bord tout-en-un pour surveiller et gérer des agents IA, avec contrôle vocal via double-tap shift pour Whisper et des capacités de création d'équipes de sous-agents.
Correction de la perte de mémoire d'OpenClaw avec le plugin Mem0
Les agents OpenClaw subissent une perte de mémoire due à la compaction de contexte qui réécrit des fichiers comme MEMORY.md. Le plugin Mem0 résout ce problème en déplaçant la mémoire hors de la fenêtre de contexte avec des fonctionnalités de rappel automatique et de capture automatique.