AIエージェントの失敗管理：リトライ制限と失敗予算

これは、6つのAIエージェントを本番環境で運用するチームのケーススタディです。単純なタスク配信を超えた、ワークキューの障害モードへの対応に焦点を当てています。

主要な障害事例と解決策

初期の事例では、あるエージェントがレート制限に達して失敗し、再試行されるも再び制限に達し、このサイクルが319回も繰り返されました。これにより、成功する見込みのないタスクに数時間分のコンピュートリソースが浪費されました。

導入された修正は、3ストライク失敗予算です。3回失敗すると、タスクは再キューされる代わりに恒久的な失敗としてマークされます。

設計で考慮されたその他の障害モード

• タスクを要求したエージェントが応答を停止する（ハートビートタイムアウトで対応）
• タスクを実際に完了せずにTASK_COMPLETEを報告するエージェント（自己報告の問題）
• 2つのエージェントが同じタスクを取得する（楽観的ロックで対応）

チームは、3ストライクルールは後から考えると明白に思えるが、経験を通じて発見するのは厳しかったと述べています。