soul.pyは、会話履歴を人間が読めるマークダウンファイルに保存することで、ローカルLLMセッションに永続的なメモリを提供するPythonライブラリです。データベースやサーバーの実行が不要になります。

仕組み

このライブラリは2つのマークダウンファイルを作成します：アイデンティティ情報用のSOUL.mdと会話ログ用のMEMORY.mdです。agent.ask()を呼び出すたびに、システムは両方のファイルをシステムプロンプトに読み込み、クエリを処理し、やり取りをMEMORY.mdに追加します。これにより、メモリはプロセスやセッションをまたいで保持されます。

基本的な使い方

インストールとセットアップ：

pip install soul-agent
soul init

Ollamaを使った実装例：

from soul import Agent

agent = Agent(
    provider="openai-compatible",
    base_url="http://localhost:11434/v1",
    model="llama3.2",
    api_key="ollama"
)
agent.ask("My name is Prahlad, I'm working on an AI research lab.")
後で、新しいセッションで：
agent.ask("What do you know about me?")
返答: "You're Prahlad, working on an AI research lab."

主な特徴

• Ollama、OpenAI、Anthropicモデルに対応
• データベースやサーバーが不要
• 人間が読めるマークダウンファイル
• Gitでバージョン管理可能で手動編集可能
• メモリはプロセスやセッションをまたいで保持
• ローカルモデルに永続的なメモリを追加するために特別に構築

このツールは、ローカルLLMがセッション間で情報を忘れてしまう問題を解決するために作成され、データベースを使用するソリューションに代わる軽量な選択肢を提供します。