なぜエージェントシステムにおいて決定論的ワークフローがAI駆動オーケストレーションを凌駕するのか

AI駆動のオーケストレーション：誘惑と現実

どのエージェントを呼び出すか、実行順序、失敗時の処理を決定する「メタエージェント」の概念は、柔軟性と最小限のハードコーディングで魅力的です。しかし、複数回の試行後、このアプローチは実際には一貫して確実に機能しませんでした。

AIオーケストレーションの問題点

• 非決定論的ルーティング： オーケストレーターエージェントは同じ入力でも実行ごとに異なる決定を下し、異なる実行パスを生み出します。ステップをスキップしたり不要なステップを追加したりすることがあり、デバッグを困難にします。
• エラーの連鎖： オーケストレーターの誤ったルーティング決定が下流の全エージェントに波及し、パイプライン全体でミスが継承されます。
• コスト爆発： オーケストレーターは作業前に何をすべきか決定するためにトークンを消費します。パイプラインに6つのエージェントがある場合、最低7回のLLM呼び出しに対して支払いが発生し、オーケストレーターの呼び出しは完全なコンテキストを必要とするため最も高価になることが多いです。
• 不可能なデバッグ： 何かが壊れたとき、なぜ壊れたのか追跡できません——オーケストレーターのルーティングロジックか、下流エージェントの実行か、オーケストレータープロンプトのコンテキストドリフトか？結局、AIでAIをデバッグすることになります。

解決策：決定論的オーケストレーション

解決策は、ワークフローエンジンをAIではなくコードにすることでした。AIは得意なこと——コンテンツの生成、分析、推論——を行い、コードは得意なこと——順序付け、ルーティング、エラーハンドリング、リトライ——を行います。

4つの決定論的ワークフローパターン

• シーケンスパターン： エージェントAが実行され、出力がエージェントBへ、次にエージェントCへ。決定はなく、単なるパイプラインです。
• ルーターパターン： ルールベースのルーター（AIではない）が入力を検査し、適切な専門エージェントにディスパッチします。決定論的で、デバッグ可能で、高速です。
• プランナー→エグゼキューター： 1つのAIエージェントが計画を作成し、決定論的エンジンが各ステップを実行します。AIが計画し、コードがオーケストレートします。
• パラレルパターン： 複数のエージェントが異なる側面で同時に実行され、決定論的マージステップで結果を結合します。

実例：コンテンツパイプライン

3段階のコンテンツパイプライン：リサーチエージェントが情報を収集し、ライティングエージェントがリサーチ出力を使用して投稿を下書きし、レビューエージェントが正確性とスタイルをチェックします。

旧アプローチ（AIオーケストレーター）： 約40%の実行で問題が発生。オーケストレーターはリサーチをスキップしたり、ライティング前にレビューを実行したり、無限ループしたりすることがありました。

新アプローチ（決定論的シーケンス）： 3ヶ月間でオーケストレーション失敗率0%。すべての実行が同じパスを辿ります。何かが失敗したとき、どのエージェントがなぜ失敗したか正確にわかります。

重要な原則

エージェントパイプラインを構築するなら、ワークフローエンジンを「賢く」する誘惑に抵抗してください。予測可能に、デバッグ可能にしてください。エージェントを賢くし、インフラは退屈なものにしましょう。すべての信頼性向上は、より多くの知性ではなく、より多くの構造を追加することから生まれます。オーケストレーションレイヤーのAIが少ないほど、エージェントはより信頼性が高くなります。