Utiliser Claude Haiku comme portier pour réduire les coûts de l'API Sonnet de 80 %

Un développeur a partagé une méthode économique pour traiter de grands volumes de texte non structuré via les modèles Claude AI. L'approche utilise Claude Haiku comme gardien pour filtrer le contenu non pertinent avant d'envoyer uniquement les données utiles au modèle plus coûteux Claude Sonnet.

Le problème et la solution

Le développeur a créé une plateforme appelée PainSignal (painsignal.net) qui extrait des milliers de commentaires réels de travailleurs et de propriétaires d'entreprises de différents secteurs, puis les classe en idées d'applications structurées. La plupart des entrées étaient inutiles — des commentaires comme "super vidéo" ou "premier" ou du bruit aléatoire. Envoyer tout cela à Sonnet serait extrêmement coûteux.

Le pipeline en deux étapes

Étape 1 — Haiku comme gardien : Chaque commentaire passe d'abord par Haiku avec une instruction simple : "Ce commentaire contient-il une véritable frustration, plainte ou besoin non satisfait lié au travail de quelqu'un ?" Il renvoie un oui/non et un score de confiance. Cela coûte des fractions de centime par appel et filtre environ 85 % des entrées.

Étape 2 — Sonnet pour le vrai travail : Seuls les commentaires qui passent le gardien sont envoyés à Sonnet. C'est là que le traitement coûteux a lieu — il extrait le problème central, le classe par secteur et catégorie (pas de liste prédéfinie, il construit la taxonomie dynamiquement), attribue un score de gravité et génère des concepts d'applications avec des fonctionnalités et des modèles de revenus.

Résultats et détails de mise en œuvre

Le résultat est l'exécution de Sonnet sur environ 15 % des entrées totales au lieu de 100 %, ce qui génère d'importantes économies lors du traitement de milliers de commentaires.

Principaux enseignements de la mise en œuvre :

• Haiku est étonnamment efficace comme gardien — il identifie systématiquement les vraies plaintes avec peu de faux négatifs
• L'approche de taxonomie dynamique (laisser Sonnet décider des catégories plutôt que de les définir à l'avance) a révélé des catégories auxquelles le développeur n'aurait jamais pensé
• Le traitement par lots aide du côté Sonnet — tout est mis en file d'attente via BullMQ et traité par lots contrôlés pour éviter de surcharger l'API

L'ensemble du système a été construit avec Claude Code en utilisant Next.js, Postgres avec pgvector et des technologies associées.