AIエージェントアーキテクチャの理解：決定論的層と確率論的層

r/openclawのRedditユーザーが、決定論的レイヤーと確率論的レイヤーを区別するAIエージェントシステムを理解するためのメンタルモデルを共有しました。このフレームワークは、一部のエージェント設定が不安定または一貫性がないと感じられる理由を説明するのに役立ちます。

二層アーキテクチャ

ユーザーは、エージェントシステムが2つの異なるタイプのレイヤーを持つと説明しています：

決定論的レイヤー

このレイヤーは、同じ入力が常に同じ出力を生み出す従来のコンピューティングタスクを処理します。ソースからの例には以下が含まれます：

• Pythonスクリプト
• Linuxコマンド
• API
• データベース
• ファイル操作
• Cronジョブ / スケジューラー

ユーザーが指摘するように：「スクリプトがpython scrape_news.pyを実行する場合、コンピュータはまさにそれを行うだけです。創造性は関与しません。」

確率論的レイヤー

このレイヤーはLLMコンポーネントであり、本質的に曖昧で、毎回異なる推論経路を取る可能性があります。LLMは以下のようなタスクを処理します：

• ユーザーが何を望んでいるかの解釈
• 使用するツールの決定
• ステップの計画
• 結果の要約
• 次に何をするかの選択

レイヤーの相互作用

ソースによると、このアーキテクチャは以下の流れに従います：

ユーザー / イベント → LLMが何をするかを決定 → コードがそれを実行 → 結果がLLMに戻る → 次の決定

ユーザーはこれを次のように説明しています：「LLMは基本的にプランナーであり、スクリプトとツールは筋肉です。」

重要な洞察：作業を決定論的側に押し込む

ユーザーの主な気づきは：「優れたエージェントシステムは、できるだけ多くの作業を決定論的側に押し込もうとします。」でした。

決定論的コードが得意とする以下のようなタスクをLLMに処理させたくはありません：

• JSONの解析
• 計算の実行
• 物事のカウント
• 状態の管理

ユーザーは結論として：「LLMは主に推論と意思決定を処理すべきであり、残りは決定論的ツールによって処理されるべきです。」と述べています。

このメンタルモデルは、一部のエージェントの動作が一貫性がないように見えた理由をユーザーが理解するのに役立ちました - それは多くの場合、決定論的コードに適したタスクに対して確率論的レイヤーを不必要に依存していたためです。