soul.py é uma biblioteca Python que fornece memória persistente para sessões locais de LLM armazenando o histórico de conversas em arquivos markdown legíveis por humanos, eliminando a necessidade de bancos de dados ou servidores em execução.

Como funciona

A biblioteca cria dois arquivos markdown: SOUL.md para informações de identidade e MEMORY.md para registros de conversas. Cada vez que você chama agent.ask(), o sistema lê ambos os arquivos no prompt do sistema, processa a consulta e, em seguida, anexa a troca ao MEMORY.md. Isso permite que a memória sobreviva entre processos e sessões.

Uso básico

Instalação e configuração:

pip install soul-agent
soul init

Exemplo de implementação com Ollama:

from soul import Agent

agent = Agent(
    provider="openai-compatible",
    base_url="http://localhost:11434/v1",
    model="llama3.2",
    api_key="ollama"
)
agent.ask("Meu nome é Prahlad, estou trabalhando em um laboratório de pesquisa de IA.")
Mais tarde, em uma nova sessão:
agent.ask("O que você sabe sobre mim?")
Retorna: "Você é Prahlad, trabalhando em um laboratório de pesquisa de IA."

Principais recursos

• Funciona com modelos Ollama, OpenAI e Anthropic
• Não requer banco de dados ou servidor
• Arquivos markdown legíveis por humanos
• Versionáveis com Git e editáveis manualmente
• A memória persiste entre processos e sessões
• Criado especificamente para adicionar memória persistente a modelos locais

A ferramenta foi criada para resolver o problema de LLMs locais esquecerem informações entre sessões, fornecendo uma alternativa leve a soluções baseadas em banco de dados.