Smriti: Un sistema similar a Git para gestionar el estado del razonamiento de LLM y prevenir la deriva en las conversaciones.

Smriti es un sistema de código abierto que aborda el problema de la deriva en conversaciones con LLM en flujos de trabajo largos. En lugar de tratar las interacciones como un largo historial de chat, las trata como estados de razonamiento que pueden gestionarse como código en Git.

Problema Central

En flujos de trabajo largos con IA, las conversaciones a menudo derivan sutilmente con el tiempo a través de pequeños cambios: los supuestos cambian, se exploran caminos laterales, las interpretaciones varían o el modelo comienza a razonar desde un estado ligeramente desviado. Esto conduce a respuestas plausibles pero desalineadas. Las opciones tradicionales—intentar redirigir o comenzar de nuevo—ambas tienen desventajas.

Cómo funciona Smriti

El sistema proporciona operaciones similares a Git para estados de razonamiento:

• Guardar un buen estado antes de que las cosas deriven
• Restaurar ese estado más tarde sin que la deriva posterior se filtre
• Ramificar en diferentes direcciones desde el mismo punto
• Comparar dos caminos de razonamiento
• Transferir estado entre diferentes modelos en lugar de reexplicar todo desde cero

Adiciones Recientes

• Supuestos como parte fundamental del estado
• Revisión de puntos de control para resaltar contradicciones y supuestos ocultos
• Artefactos para que los puntos de control puedan incluir planes reales, fragmentos o resultados sobre los que se razona, no solo resúmenes de chat

Diferencia Clave

Esto no es solo guardar archivos markdown o transcripciones de chat. El sistema controla qué estado ve el modelo a continuación, permitiendo:

• Retornos limpios a estados conocidos como buenos
• Mantener turnos posteriores fuera del camino de razonamiento actual
• Exploración alternativa sin contaminar el hilo original
• Avanzar desde un estado estructurado en lugar de una transcripción desordenada

El creador señala que este enfoque se vuelve más útil a medida que los flujos de trabajo se vuelven más agentes, ya que los sistemas de larga duración necesitan formas de hacer que el estado de razonamiento sea inspeccionable, recuperable y menos caótico con el tiempo.