LLM不应成为你的编码代理工作流：OpenClaw中的关注点分离

코딩 에이전트 워크플로우가 LLM 사용 한도에 도달하는 순간 중단된다면, 아키텍처에 문제가 있는 것입니다. LLM이 너무 많은 일을 하고 있는 것입니다. OpenClaw 커뮤니티의 실용적인 규칙: 모델은 작업에 대해 추론해야 하지만, 워크플로우 자체가 되어서는 안 됩니다.

주요 시사점

• 오케스트레이션과 판단을 분리하세요: 큐, 상태 관리, 재시도, 스케줄링, 검증, 영수증, 복구는 모두 LLM 개입 없이 결정론적으로 실행될 수 있습니다.
• 판단이 필요할 때만 LLM을 호출하세요: 모델 호출은 실제로 추론이 필요한 작업에 집중하고, 일상적인 제어 흐름에는 사용하지 마세요.
• 루프를 프롬프트가 아닌 인프라로 만드세요: 이러한 분리는 에이전트 루프를 "계속 프롬프트하는 것"에서 실제로 안정적으로 작동할 수 있는 것으로 바꿉니다.

중요한 이유

LLM이 워크플로우의 모든 단계에 포함되어 있으면 사용 한도가 하드 스톱이 됩니다. 작업이 완료되었기 때문이 아니라 오케스트레이터가 두뇌 없이는 생각할 수 없기 때문에 차단되는 것입니다. 결정론적 부분(상태 추적, 재시도 로직, 스케줄링, 검증 확인)을 일반 코드로 옮기면 LLM을 사용할 수 없어도 시스템은 계속 작동합니다.

그 결과는 인프라처럼 동작하는 코딩 에이전트 루프입니다. 스스로 복구하고, 재시도하고, 검증합니다. 작업에 실제로 추론이 필요할 때만 LLM 토큰을 사용(및 한도에 도달)하게 됩니다.

대상

코딩 에이전트(OpenClaw를 사용하는 등)를 구축하거나 확장하는 개발자로서, 취약한 프롬프트 체인이 아닌 탄력적이고 프로덕션급 자동화를 원하는 분들을 대상으로 합니다.