生物に着想を得たメモリシステムをローカルLLM向けに実装：長期増強と選択的忘却の実装

ローカルLLMのための生物学的に着想を得た記憶アーキテクチャ

開発者が、ローカルLLMのクリーンなコンテキストを維持するために、人間の記憶メカニズムを模倣したローカルMCPサーバーを作成しました。このシステムは、静的なRAGパイプラインの代わりに、Python/TypeScriptで3つの生物学的に着想を得た層を実装しています。

中核となる記憶メカニズム

• 強化（長期増強）: トピックがクエリされるたびに、そのaccess_countが増加し、頻繁にアクセスされる記憶が強化されます。
• 選択的忘却: 使用されない接続は時間とともに減衰し、システムは弱いアトムを自動的にアーカイブしてコンテキストの汚染を防ぎます。
• 統合: 週次の「睡眠」サイクルでは、軽量なSLMを使用して最近のログを中核となる知識アトムに蒸留します。

技術的な実装の詳細

• ハイブリッド検索: セマンティック検索のためのsqlite-vecと、埋め込みが失敗した場合でもタイムアウトを防ぐテキストフォールバックを組み合わせています。
• ノンブロッキングMCP: 同期データベースと埋め込み操作をasyncioエグゼキューターでラップし、LM Studioの応答性を維持します。
• アイデンティティ層: セッション間で状態とペルソナを維持するために、永続的な「Soul」ファイル（soul.md）を使用します。
• アクセスベースの強化: access_countメカニズムにより、モデルは静的な事実を取得するだけでなく、インタラクションパターンに基づいて進化することが可能になります。

開発の背景と検証

このプロジェクトは、ローカルAIのための標準的なRAG実装におけるコンテキスト制限に対処するために開発されました。開発者は、ローカルLLM（Geminiを実行）にコードベースを分析させることでアーキテクチャを検証し、3つの革新点を明らかにしました：アクセスベースの強化と減衰を使用した真の認知エージェント、フォールバックを備えた堅牢なハイブリッド検索、応答性のためのノンブロッキングアーキテクチャです。

目標は、睡眠中の人間の記憶と同様に、重要なことを記憶し、ノイズを忘れるシステムを作ることです。開発者は、生物学的に着想を得た記憶アーキテクチャが、クラウド依存やブラックボックスなしで、ローカルでコンテキスト制限を解決できるかどうかを探求しています。