Smriti: Um sistema semelhante ao Git para gerenciar o estado de raciocínio de LLM e evitar a deriva na conversa

Smriti é um sistema de código aberto que aborda o problema do desvio em conversas com LLMs em fluxos de trabalho longos. Em vez de tratar as interações como um longo histórico de conversa, ele as trata como estado de raciocínio que pode ser gerenciado como código no Git.

Problema Central

Em fluxos de trabalho longos de IA, as conversas frequentemente desviam sutilmente ao longo do tempo por meio de pequenas mudanças: suposições mudam, caminhos laterais são explorados, interpretações se alteram ou o modelo começa a raciocinar a partir de um estado ligeiramente incorreto. Isso leva a respostas plausíveis, mas desalinhadas. As opções tradicionais—tentar redirecionar ou começar de novo—ambas têm desvantagens.

Como o Smriti Funciona

O sistema fornece operações semelhantes ao Git para o estado de raciocínio:

• Salvar um bom estado antes que as coisas desviem
• Restaurar esse estado posteriormente sem que desvios posteriores se infiltrem
• Ramificar em direções diferentes a partir do mesmo ponto
• Comparar dois caminhos de raciocínio
• Transportar estado entre diferentes modelos em vez de reexplicar tudo do zero

Adições Recentes

• Suposições como parte fundamental do estado
• Revisão de ponto de verificação para revelar contradições e suposições ocultas
• Artefatos para que os pontos de verificação possam incluir planos reais, trechos ou resultados sobre os quais se está raciocinando, não apenas resumos de conversa

Diferença Principal

Isso não é apenas salvar arquivos markdown ou transcrições de conversa. O sistema controla qual estado o modelo vê a seguir, permitindo:

• Retornos limpos a estados conhecidos como bons
• Manter turnos posteriores fora do caminho de raciocínio atual
• Exploração alternativa sem contaminar o fio original
• Avançar a partir de um estado estruturado, em vez de uma transcrição confusa

O criador observa que essa abordagem se torna mais útil à medida que os fluxos de trabalho se tornam mais agentivos, já que sistemas de longa duração precisam de maneiras de tornar o estado de raciocínio inspecionável, recuperável e menos caótico ao longo do tempo.