Smriti: Ein Git-ähnliches System zur Verwaltung des LLM-Denkzustands, um Gesprächsabdrift zu verhindern

Smriti ist ein Open-Source-System, das das Problem der LLM-Konversationsabweichung in langen Arbeitsabläufen angeht. Anstatt Interaktionen als einen langen Chatverlauf zu behandeln, behandelt es sie als Denkzustand, der wie Code in Git verwaltet werden kann.

Kernproblem

In langen KI-Arbeitsabläufen driften Konversationen oft subtil über Zeit durch kleine Änderungen: Annahmen verschieben sich, Nebenpfade werden erkundet, Interpretationen ändern sich oder das Modell beginnt von einem leicht abweichenden Zustand aus zu denken. Dies führt zu plausiblen, aber fehlausgerichteten Antworten. Die traditionellen Optionen – zurückzusteuern oder neu anzufangen – haben beide Nachteile.

Wie Smriti funktioniert

Das System bietet Git-ähnliche Operationen für Denkzustände:

• Einen guten Zustand speichern, bevor Abweichungen auftreten
• Diesen Zustand später wiederherstellen, ohne dass spätere Abweichungen einfließen
• In verschiedene Richtungen verzweigen vom selben Punkt aus
• Zwei Denkpfade vergleichen
• Zustand über verschiedene Modelle hinweg übertragen, statt alles von Grund auf neu zu erklären

Kürzliche Ergänzungen

• Annahmen als integraler Teil des Zustands
• Checkpoint-Überprüfung, um Widersprüche und versteckte Annahmen aufzudecken
• Artefakte, sodass Checkpoints tatsächliche Pläne, Ausschnitte oder Ausgaben, über die nachgedacht wird, enthalten können, nicht nur Chat-Zusammenfassungen

Wesentlicher Unterschied

Dies ist nicht nur das Speichern von Markdown-Dateien oder Chat-Transkripten. Das System kontrolliert, welchen Zustand das Modell als nächstes sieht, und ermöglicht:

• Saubere Rückkehr zu bekannten guten Zuständen
• Spätere Züge außerhalb des aktuellen Denkpfads halten
• Alternative Erkundung ohne Kontamination des ursprünglichen Threads
• Voranschreiten von strukturiertem Zustand statt von einem unübersichtlichen Transkript

Der Ersteller merkt an, dass dieser Ansatz nützlicher wird, je agentischer Arbeitsabläufe werden, da langlaufende Systeme Wege benötigen, Denkzustände überprüfbar, wiederherstellbar und weniger chaotisch über Zeit zu machen.