多段階AIエージェントにおける状態ドリフトを軽減する実践的手法

問題の特定

マルチステップまたはマルチエージェントのワークフローを構築する際、個別には機能するがステップ間で破綻するという一般的な問題があります。症状には以下が含まれます：

• 同じ入力が実行ごとに異なる出力を生成する
• エージェントが以前の決定を「忘れる」
• デバッグがほぼ不可能になる

当初、これらの問題はプロンプトの問題、温度のランダム性、または不適切な検索と誤解されていましたが、根本原因は状態ドリフトでした。

実践的な解決策

「最新のコンテキスト」への依存をやめる

ほとんどの設定では、ステップNが現在存在するコンテキストを読み取ります。問題は、コンテキストが不安定であることです。特に並列ステップや非同期更新がある場合に顕著です。

スナップショットベースの読み取りを導入する

「最新の状態」を読み取る代わりに、各ステップは固定されたスナップショットから読み取ります。例えば、ステップ3は「現在のメモリ」を読み取らず、スナップショットv2（固定）を読み取ります。これにより実行が決定論的になります。

書き込みを追加のみにする

共有メモリを変更する代わりに、すべてのステップは上書きなしで新しいバージョンを書き込みます。つまり、v2 → ステップ → v3を生成し、次にv3 → 次のステップ → v4を生成します。これにより以下が可能になります：

• フローの再生
• 正確な失敗のデバッグ
• 実行の比較

「状態」と「コンテキスト」を分離する

この区別は重要でした。現在は以下を扱います：

• 状態 = 構造化された永続的データ（決定、出力、変数）
• コンテキスト = 一時的データ（ステップごとにモデルが見るもの）

これらを混在させないでください。

状態を最小限かつ構造化して保つ

完全なチャット履歴をダンプする代わりに、以下のようなものを保存します：

• 目標
• 現在のステップ
• これまでの出力
• 行われた決定

その他すべては必要に応じて導出されます。

温度を戦略的に使用する

温度は主な問題ではありませんでした。より効果的だったのは：

• 状態変更ステップには低温（0〜0.3）
• 「創造的」な末端ステップにのみ高温

結果

これらの変更を実装した後：

• 実行が再現可能になった
• マルチエージェントの調整が改善された
• デバッグが推測作業から追跡可能になった

著者は、他の人々がこれをどのように扱っているかを尋ねています：履歴からの状態の再構築、ベクトル検索の使用、明示的な構造化状態の保存、または他の何か？