AI 에이전트 아키텍처 이해: 결정적 계층 vs 확률적 계층

r/openclaw의 한 레딧 사용자가 결정론적 레이어와 확률론적 레이어를 구분하는 AI 에이전트 시스템을 이해하기 위한 멘탈 모델을 공유했습니다. 이 프레임워크는 일부 에이전트 설정이 불안정하거나 일관성이 없다고 느껴지는 이유를 설명하는 데 도움이 됩니다.

2계층 아키텍처

사용자는 에이전트 시스템이 두 가지 유형의 레이어를 가지고 있다고 설명합니다:

결정론적 레이어

이 레이어는 동일한 입력이 항상 동일한 출력을 생성하는 전통적인 컴퓨팅 작업을 처리합니다. 출처의 예시는 다음과 같습니다:

• 파이썬 스크립트
• 리눅스 명령어
• API
• 데이터베이스
• 파일 작업
• Cron 작업 / 스케줄러

사용자가 언급한 대로: "스크립트가 python scrape_news.py를 실행하면, 컴퓨터는 정확히 그 작업을 수행합니다. 창의성이 필요하지 않습니다."

확률론적 레이어

이 레이어는 본질적으로 모호하며 매번 다른 추론 경로를 취할 수 있는 LLM 구성 요소입니다. LLM은 다음과 같은 작업을 처리합니다:

• 사용자가 원하는 것을 해석하기
• 어떤 도구를 사용할지 결정하기
• 단계 계획하기
• 결과 요약하기
• 다음에 무엇을 할지 선택하기

레이어 간 상호작용

이 아키텍처는 출처에 따르면 다음과 같은 흐름을 따릅니다:

사용자 / 이벤트 → LLM이 무엇을 할지 결정 → 코드가 실행 → 결과가 LLM으로 돌아감 → 다음 결정

사용자는 이를 다음과 같이 설명합니다: "LLM은 기본적으로 계획자이고, 스크립트와 도구는 실행자입니다."

핵심 통찰: 작업을 결정론적 측면으로 밀어넣기

사용자의 주요 깨달음은 다음과 같습니다: "좋은 에이전트 시스템은 가능한 한 많은 작업을 결정론적 측면으로 밀어넣으려고 합니다."

다음과 같은 작업을 LLM이 처리하도록 하고 싶지 않습니다:

• JSON 파싱
• 계산 수행
• 개수 세기
• 상태 관리

사용자는 결론으로 다음과 같이 말합니다: "LLM은 주로 추론과 결정을 처리해야 하며, 나머지는 결정론적 도구가 처리해야 합니다."

이 멘탈 모델은 일부 에이전트 동작이 일관성이 없어 보이는 이유를 이해하는 데 도움이 되었습니다. 이는 종종 결정론적 코드에 더 적합한 작업에 대해 불필요하게 확률론적 레이어에 의존했기 때문이었습니다.