긴 클로드 실행에서 컨텍스트 제한 관리: AC 트리 패턴

r/ClaudeAI의 한 개발자가 장기 실행 클로드 세션에서 반복되는 실패 패턴을 설명합니다. 이 실패들은 명백한 오류가 아니라 모델의 출력이 원래 의도와 점점 덜 일치하게 되는 점진적인 표류입니다.

문제: 자동 압축과 컨텍스트 제한

출처에 따르면, 자동 압축이 첫 번째 문제를 제기합니다. 이는 생산적인 작업이 시작되기 전에 사용 가능한 컨텍스트의 상당 부분을 소비하며, 압축은 중립적이지 않습니다. 모델이 보존할 정보를 결정함으로써 정보 손실이 발생합니다. 최신성 편향과 최근성 편향이 이를 악화시킵니다: 실행의 중간 부분이 먼저 약해지고, 초기 제약 조건이 희미해지며, 파편화된 의도에 반하는 결정이 내려집니다.

자동 압축을 끄면 두 번째 문제가 드러납니다: 엄격한 컨텍스트 제한입니다. 세션이 가득 차면 사실상 종료되며, 깔끔한 계속 진행이나 복구 경로가 없습니다.

해결책: AC 트리 실행 패턴

개발자는 단순히 설정을 조정하는 대신 실행 구조를 변경함으로써 성공을 찾았습니다. 이 접근 방식은 입력을 완성된 명세서가 아닌 인간의 목표로 취급합니다. 시스템은 사용자와 인터뷰하여 의도를 명확히 하고, 제약 조건을 추출하며, 숨겨진 가정을 표면화한 다음, 이를 AC 트리—개별적이고 검증 가능한 작업 단위의 종속성 그래프—로 컴파일합니다.

AC 트리의 각 노드는 자체 세션을 가지며, 노드들은 앞으로 전달되는 최소한의 지속 상태를 통해서만 서로를 인식합니다. 이는 전체 워크플로우를 장기 실행으로 유지하면서 각 생성 작업을 짧고, 제한적이며, 독립적으로 만듭니다. 표류는 전체 실행을 오염시키는 대신 노드 수준에서 억제됩니다.

개발자는 이 패턴을 github.com/Q00/ouroboros에서 이용 가능한 Ouroboros라는 프로젝트에서 구현했습니다.