ThoughtDAG: LLM 대화를 위한 편집 가능한 컨텍스트 그래프

ThoughtDAG는 선형 채팅 로그를 편집 가능한 컨텍스트 그래프로 대체하는 데스크톱 앱입니다. 대화의 어떤 부분이 다음 요청에 영향을 주는지 숨기는 대신, ThoughtDAG는 구조를 보여주고 변경할 수 있게 합니다. 핵심 아이디어: 그래프가 곧 컨텍스트입니다.

컨텍스트로서의 연결선

ThoughtDAG에서 노드는 소스와 메시지이고, 엣지(연결선)는 다음 LLM 요청에 포함될 내용을 결정합니다. PDF에서 구절을 잘라내거나, 소스 노드에서 직접 질문하거나, 우회 경로를 위해 관련 없는 브랜치를 생성할 수 있습니다. 이 모든 과정에서 기본 경로를 깔끔하게 유지할 수 있습니다.

• 분기: 현재 경로를 덮어쓰지 않고 대체 해석을 탐색합니다.
• 가지치기: 유용한 우회 경로를 캔버스에 유지하되 다음 요청에서 제외합니다.
• 병합: 선택한 증거와 추론 경로를 하나의 답변으로 다시 결합합니다.
• 검사: 생성 전에 모델이 받을 내용을 미리 확인합니다. 순서와 토큰 수를 포함합니다.

모든 것을 지배하는 규칙: 연결선이 컨텍스트입니다. 숨겨진 메모리 선택기가 없습니다. 엣지를 삭제하면 실제로 프롬프트에서 해당 브랜치가 제거됩니다. 단순한 시각적 도구가 아닙니다.

가시적인 차이와 재현 가능한 답변

인터페이스는 엣지를 변경할 때 토큰 차이를 표시합니다. 예를 들어, 저녁 식사에 대한 관련 없는 우회 경로를 제거하면 47토큰을 절약할 수 있습니다. 그리고 프롬프트는 그래프에서 결정적으로 생성되므로, 동일한 프롬프트는 동일한 깨끗한 답변을 재현합니다. 재현 가능한 컨텍스트입니다.

파일럿 결과

ThoughtDAG는 4개 모델과 540회 실행을 포함하는 컨텍스트 복구 파일럿을 포함합니다. 병합된 답변에서 오래된 브랜치를 제거하는 세 가지 방법을 테스트했습니다:

• 소스만 삭제: 68/72 수정
• 다운스트림 재계산: 71/72 수정
• 전체 하위 그래프 제거: 72/72 수정

파일럿은 문제가 있는 하위 그래프 전체를 가지치기할 때 컨텍스트 복구가 가장 효과적임을 보여줍니다. ThoughtDAG의 그래프 편집이 가능하게 하는 바로 그 기능입니다.

데스크톱 앱

앱은 데스크톱 빌드(v0.3.19)로 제공됩니다:

• macOS (Apple Silicon): .dmg 약 126MB, 서명 및 공증됨
• Windows x64: 설치 프로그램 약 106MB (서명되지 않음; SmartScreen 경고 표시)
• Linux x64: .AppImage 약 133MB

모든 버전과 기록은 GitHub Releases에 있습니다. macOS 빌드는 터미널 없이 실행되며, Windows 빌드는 SmartScreen에서 "추가 정보"를 클릭한 후 "그래도 실행"을 클릭해야 합니다.

대상 사용자

이 도구는 긴 복잡한 추론 작업에 LLM을 사용하고 각 프롬프트에 포함되는 컨텍스트를 정확히 제어해야 하는 개발자와 연구자를 위한 것입니다. 관련 없는 채팅 우회로 인한 오염 없이 말이죠.