soul.py — это библиотека Python, которая обеспечивает постоянную память для локальных сессий LLM, сохраняя историю разговоров в удобочитаемых файлах формата markdown, устраняя необходимость в базах данных или запущенных серверах.

Как это работает

Библиотека создаёт два файла в формате markdown: SOUL.md для информации об идентичности и MEMORY.md для журналов разговоров. Каждый раз, когда вы вызываете agent.ask(), система считывает оба файла в системный промпт, обрабатывает запрос, а затем добавляет обмен сообщениями в MEMORY.md. Это позволяет памяти сохраняться между процессами и сессиями.

Базовое использование

Установка и настройка:

pip install soul-agent
soul init

Пример реализации с Ollama:

from soul import Agent

agent = Agent(
    provider="openai-compatible",
    base_url="http://localhost:11434/v1",
    model="llama3.2",
    api_key="ollama"
)
agent.ask("My name is Prahlad, I'm working on an AI research lab.")
Позже, в новой сессии:
agent.ask("What do you know about me?")
Возвращает: "You're Prahlad, working on an AI research lab."

Ключевые особенности

• Работает с моделями Ollama, OpenAI и Anthropic
• Не требует базы данных или сервера
• Удобочитаемые файлы в формате markdown
• Поддерживает версионирование через Git и ручное редактирование
• Память сохраняется между процессами и сессиями
• Создана специально для добавления постоянной памяти к локальным моделям

Инструмент был создан для решения проблемы, когда локальные LLM забывают информацию между сессиями, предоставляя лёгкую альтернативу решениям на основе баз данных.