AIエージェントとシンプルなツールの使い分け：r/LocalLLaMAからのパターン

r/LocalLLaMAでの議論では、開発で観察された実践的なパターンとアンチパターンに基づき、AIエージェントとよりシンプルなツールのどちらを使用すべきかが検討されています。

エージェント使用を判断する3つの質問

著者は、エージェントを実装する前に次の3つの質問をすることを推奨しています：

• 手順は既知か？ 事前に正確な手順を書き出せるなら、スクリプトの方が適しています。
• アイテム数は？ エージェントは、請求書のような数千の類似アイテムではなく、単一の複雑なケースで最も効果を発揮します。
• アイテムは独立しているか？ アイテムに関連性がない場合、同じエージェントのコンテキストで処理すると、詳細がアイテム間で漏洩する可能性があります。

これら3つすべてがエージェントを指し示す場合（未知の手順、少数のケース、相互に関連するアイテム）、それが理想的な使用例です。

一般的なアンチパターン

この投稿では、エージェントの推論が不要ないくつかのタスクが特定されています：

• テスト環境の起動（代わりにCIパイプラインを使用）
• 請求書バッチの処理（リストに対するマップを使用）
• システム間のデータ同期（ETLを使用）
• 定期レポートの送信（cronジョブを使用）

これらのタスクは既知の手順を持ち、エージェントの推論オーバーヘッドを必要としません。

エージェントとLLMパイプラインの区別

強調されている重要な区別：LLMを使用することが自動的にエージェントになるわけではありません。パイプライン内のLLMは、自律性、ツール呼び出し、多段階の推論を持たない、テキスト入力・テキスト出力として機能します。エージェントは、中間結果に基づいて次に何をするかを選択するループです。エージェントとして構築された多くのタスクは、実際にはLLMパイプラインタスクです。

エージェントが優れる場面

エージェントは、既知のツールを動的に組み合わせ、その順序が中間結果に依存するシナリオで優れています：

• バグを読み、仮説を立て、修正を書き、テストを実行し、修正するコーディングエージェント
• 発見に基づいてクエリを再構成する研究者
• 創造的な作業
• 人間が関与するワークフロー

最適なアーキテクチャは、多くの場合ハイブリッドです：思考にはエージェント、実行にはコード。コーディングエージェントは修正を書くかもしれませんが、それをテストするCIパイプラインは標準的なインフラストラクチャのままです。