Smriti : Un système similaire à Git pour gérer l'état de raisonnement des LLM afin d'éviter la dérive des conversations

Smriti est un système open-source qui résout le problème de la dérive des conversations LLM dans les workflows longs. Au lieu de traiter les interactions comme un long historique de discussion, il les considère comme un état de raisonnement qui peut être géré comme du code dans Git.

Problème central

Dans les workflows IA longs, les conversations dérivent souvent subtilement au fil du temps à travers de petits changements : les hypothèses évoluent, des chemins latéraux sont explorés, les interprétations changent, ou le modèle commence à raisonner à partir d'un état légèrement décalé. Cela conduit à des réponses plausibles mais mal alignées. Les options traditionnelles—essayer de se recentrer ou recommencer à zéro—ont toutes deux des inconvénients.

Fonctionnement de Smriti

Le système fournit des opérations de type Git pour l'état de raisonnement :

• Sauvegarder un bon état avant que les choses ne dérivent
• Restaurer cet état plus tard sans que la dérive ultérieure ne s'infiltre
• Brancher dans différentes directions à partir du même point
• Comparer deux chemins de raisonnement
• Transférer l'état entre différents modèles au lieu de tout réexpliquer depuis le début

Ajouts récents

• Les hypothèses comme partie intégrante de l'état
• Revue des points de contrôle pour mettre en lumière les contradictions et les hypothèses cachées
• Artefacts pour que les points de contrôle puissent inclure les plans réels, les extraits ou les résultats sur lesquels on raisonne, pas seulement des résumés de discussion

Différence clé

Il ne s'agit pas seulement de sauvegarder des fichiers markdown ou des transcriptions de discussion. Le système contrôle l'état que le modèle voit ensuite, permettant :

• Des retours propres à des états connus comme bons
• Que les tours ultérieurs restent en dehors du chemin de raisonnement actuel
• Une exploration alternative sans contaminer le fil original
• D'avancer à partir d'un état structuré plutôt que d'une transcription désordonnée

Le créateur note que cette approche devient plus utile à mesure que les workflows deviennent plus agentiques, car les systèmes de longue durée ont besoin de moyens pour rendre l'état de raisonnement inspectable, récupérable et moins chaotique au fil du temps.