ローカルAIエージェントにおける自己改善メモリへのアプローチ

永続的AIエージェントのためのメモリアーキテクチャ

r/LocalLLaMAの開発者が、セッション間で同じミスを繰り返さないAIエージェントを作成するアプローチを共有しました。解決すべき核心的な問題は、各セッションがゼロから始まり、コンテキストウィンドウがリセットされ、セッション間で修正が失われてしまうことです。

メモリ実装

このシステムは、データベースの代わりにマークダウンを信頼できる情報源として使用します。MEMORY.mdは人間が編集可能で、vimで行を削除すればエージェントはそれを忘れます。SQLiteとFAISS（HNSW、768次元）は派生キャッシュであり、いつでもマークダウンから再構築できます。これにより、ユーザーはgitでエージェントのメモリをバージョン管理できます。

エピソードスコアリングとルール学習

各実行は+1/-1でスコアリングされ、エピソードとして保存されます。将来の類似タスクでは、関連するエピソードがコンテキストに取り込まれます。同じエラー署名（ツール名＋正規化されたエラーのSHA256）が7日以内に2回出現すると、ルール学習器が1行の予防ルールを生成します。

ルールは0.40の信頼度から始まり、実際に将来のプロンプトに注入されるには0.60が必要です。成功すると信頼度が+0.03上昇し、失敗すると-0.05低下します。役に立たないルールは最終的に減衰していきます。

信頼段階的向上システム

事前に許可レベルを設定する代わりに、エージェントは承認パターンを追跡します。90%以上の割合で5回承認されると自動昇格します。1回の元に戻し操作で降格します。監査用のシャドウモードもあります。

タスク分解と安全性

複雑な目標はDAG（有向非巡回グラフ）になります。循環依存はトポロジカルソートで検出され、失敗はDFS（深さ優先探索）を介して依存先に連鎖します。完了ゲートは18の要件（R01-R18）をチェックします。エージェントは実際にファイルを読み、変更を書き込み、結果を検証し、ワークスペース内に留まったか？

安全性機能には、43のbashリスクパターン、二段階分析（生データ＋デコード済み）、フェイルクローズ設計（Guardianクラッシュ＝拒否）、rm -rf /を防ぐための最小書き込み可能深度3が含まれます。

開発者は、ルールの信頼度減衰が適切かどうか、および+0.03/-0.05の非対称性が最適かどうかについてフィードバックを求めています。また、この規模（通常<10kエピソード）においてHNSWよりも優れた代替手段があるかどうかも検討しています。