soul.py는 대화 기록을 사람이 읽을 수 있는 마크다운 파일에 저장하여 데이터베이스나 서버 실행 없이 로컬 LLM 세션에 지속적인 메모리를 제공하는 Python 라이브러리입니다.

작동 방식

이 라이브러리는 신원 정보를 위한 SOUL.md 파일과 대화 기록을 위한 MEMORY.md 파일 두 개의 마크다운 파일을 생성합니다. agent.ask()를 호출할 때마다 시스템은 두 파일을 시스템 프롬프트로 읽어들인 후 쿼리를 처리하고, 그 교환 내용을 MEMORY.md에 추가합니다. 이를 통해 메모리가 프로세스와 세션 간에 유지됩니다.

기본 사용법

설치 및 설정:

pip install soul-agent
soul init

Ollama를 사용한 예시 구현:

from soul import Agent

agent = Agent(
    provider="openai-compatible",
    base_url="http://localhost:11434/v1",
    model="llama3.2",
    api_key="ollama"
)
agent.ask("My name is Prahlad, I'm working on an AI research lab.")
나중에, 새로운 세션에서:
agent.ask("What do you know about me?")
반환: "You're Prahlad, working on an AI research lab."

주요 기능

• Ollama, OpenAI, Anthropic 모델과 함께 작동
• 데이터베이스나 서버 필요 없음
• 사람이 읽을 수 있는 마크다운 파일
• Git으로 버전 관리 가능하고 수동 편집 가능
• 메모리가 프로세스와 세션 간에 지속됨
• 로컬 모델에 지속적인 메모리를 추가하기 위해 특별히 제작됨

이 도구는 로컬 LLM이 세션 간에 정보를 잊어버리는 문제를 해결하기 위해 만들어졌으며, 데이터베이스 기반 솔루션에 대한 가벼운 대안을 제공합니다.