Pourquoi les flux de travail déterministes surpassent l'orchestration pilotée par l'IA pour les systèmes d'agents

Orchestration pilotée par l'IA : La tentation et la réalité

Le concept d'un "méta-agent" qui décide quels agents appeler, dans quel ordre les exécuter et comment gérer les échecs est attrayant pour sa flexibilité et son codage minimal. Cependant, après plusieurs tentatives, cette approche a systématiquement échoué à fonctionner de manière fiable en pratique.

Ce qui ne va pas avec l'orchestration par IA

• Routage non déterministe : L'agent orchestrateur décide différemment à chaque exécution avec la même entrée, conduisant à des chemins d'exécution différents. Il saute parfois des étapes ou en ajoute des inutiles, rendant le débogage difficile.
• Erreurs cumulatives : Une mauvaise décision de routage par l'orchestrateur se propage à travers chaque agent en aval, héritant des erreurs tout au long du pipeline.
• Explosion des coûts : L'orchestrateur consomme des tokens pour décider quoi faire avant que le travail ne commence. Avec 6 agents dans un pipeline, vous payez pour au moins 7 appels LLM, l'appel de l'orchestrateur étant souvent le plus cher car nécessitant le contexte complet.
• Débogage impossible : Quand quelque chose casse, vous ne pouvez pas tracer pourquoi — était-ce la logique de routage de l'orchestrateur, l'exécution de l'agent en aval, ou une dérive de contexte dans l'invite de l'orchestrateur ? Vous finissez par déboguer l'IA avec l'IA.

La solution : Orchestration déterministe

La solution a été de faire du moteur de workflow du code, pas de l'IA. L'IA fait ce qu'elle sait bien faire : générer, analyser et raisonner sur le contenu. Le code fait ce qu'il sait bien faire : séquencer, router, gérer les erreurs et les nouvelles tentatives.

Quatre modèles de workflow déterministes

• Modèle séquentiel : L'agent A s'exécute, la sortie va à l'agent B, puis à l'agent C. Aucune décision — juste un pipeline.
• Modèle routeur : Un routeur basé sur des règles (pas de l'IA) examine l'entrée et achemine vers l'agent spécialiste approprié. Déterministe, débogable et rapide.
• Planificateur→Exécuteur : Un agent IA crée un plan. Un moteur déterministe exécute chaque étape. L'IA planifie ; le code orchestre.
• Modèle parallèle : Plusieurs agents s'exécutent simultanément sur différents aspects. Une étape de fusion déterministe combine les résultats.

Exemple concret : Pipeline de contenu

Un pipeline de contenu avec 3 étapes : l'agent de recherche collecte des informations, l'agent de rédaction ébauche le post en utilisant la sortie de recherche, et l'agent de relecture vérifie l'exactitude et le style.

Ancienne approche (orchestrateur IA) : ~40% des exécutions avaient des problèmes. L'orchestrateur sautait parfois la recherche, exécutait parfois la relecture avant la rédaction, parfois bouclait à l'infini.

Nouvelle approche (séquence déterministe) : 0% d'échecs d'orchestration en 3 mois. Chaque exécution suit le même chemin. Quand quelque chose échoue, vous savez exactement quel agent a échoué et pourquoi.

Principe clé

Si vous construisez des pipelines d'agents, résistez à la tentation de rendre le moteur de workflow "intelligent". Rendez-le prévisible. Rendez-le débogable. Laissez les agents être intelligents ; laissez l'infrastructure être ennuyeuse. Chaque amélioration de la fiabilité vient de l'ajout de plus de structure, pas de plus d'intelligence. Moins il y a d'IA dans votre couche d'orchestration, plus vos agents deviennent fiables.