NerfGuard : un classifieur qui oriente les demandes de codage vers des modèles moins chers, réduisant les coûts de 3 fois

Une équipe qui est passée de Claude Code à Codex pour la vitesse et la contrôlabilité a subi de plein fouet la tarification par token. Leur facture quotidienne était frappante, et ils ont réalisé qu'ils utilisaient des modèles haut de gamme avec un raisonnement maximal pour chaque tâche, même les plus triviales. Ils ont donc construit NerfGuard — un classifieur rapide qui achemine chaque requête vers le modèle et la profondeur de raisonnement les moins chers requis.

Le cœur du système est un classifieur qui détermine l'intelligence minimale nécessaire pour une requête de codage donnée. En plus, il applique des techniques automatisées d'efficacité des tokens. Le résultat : à peu près la même qualité pour une dépense en tokens plusieurs fois inférieure, et comme l'intelligence et le raisonnement sont correctement optimisés, la vitesse augmente également considérablement. L'équipe a observé jusqu'à 3x d'économies et des heures par jour et par personne économisées en attendant les tours d'outils et les réponses des agents.

Détails clés de la source :

• Le classifieur achemine vers le modèle le moins cher + la profondeur de raisonnement pour chaque requête
• Techniques automatiques supplémentaires d'efficacité des tokens
• Résultat : 3x d'utilisation pour le même budget
• Améliorations de vitesse : heures par jour et par personne économisées
• Plus d'utilisation avant d'atteindre les limites de débit

Ce système est actuellement utilisé par des ingénieurs dans plusieurs entreprises d'IA. L'outil est disponible sur nerfguard.com.

À qui cela s'adresse : Aux équipes utilisant des agents de codage (Claude Code, Codex, etc.) qui souhaitent maximiser le rendement par dollar et réduire les temps d'attente.