AI 에이전트 아키텍처: 결정적 계층 vs 확률적 계층 이해

r/openclaw의 한 레딧 사용자가 결정론적 레이어와 확률론적 레이어를 구분하는 AI 에이전트 시스템을 이해하기 위한 멘탈 모델을 공유했습니다. 이 프레임워크는 일부 에이전트 설정이 불안정하거나 일관성이 없다고 느껴지는 이유를 설명하는 데 도움이 됩니다.

2계층 아키텍처

사용자는 에이전트 시스템이 두 가지 유형의 레이어를 가지고 있다고 설명합니다:

이 레이어는 동일한 입력이 항상 동일한 출력을 생성하는 전통적인 컴퓨팅 작업을 처리합니다. 출처의 예시는 다음과 같습니다:

사용자가 언급한 대로: "스크립트가 python scrape_news.py를 실행하면, 컴퓨터는 정확히 그 작업을 수행합니다. 창의성이 필요하지 않습니다."

이 레이어는 본질적으로 모호하며 매번 다른 추론 경로를 취할 수 있는 LLM 구성 요소입니다. LLM은 다음과 같은 작업을 처리합니다:

이 아키텍처는 출처에 따르면 다음과 같은 흐름을 따릅니다:

사용자 / 이벤트 → LLM이 무엇을 할지 결정 → 코드가 실행 → 결과가 LLM으로 돌아감 → 다음 결정

사용자는 이를 다음과 같이 설명합니다: "LLM은 기본적으로 계획자이고, 스크립트와 도구는 실행자입니다."

사용자의 주요 깨달음은 다음과 같습니다: "좋은 에이전트 시스템은 가능한 한 많은 작업을 결정론적 측면으로 밀어넣으려고 합니다."

다음과 같은 작업을 LLM이 처리하도록 하고 싶지 않습니다:

사용자는 결론으로 다음과 같이 말합니다: "LLM은 주로 추론과 결정을 처리해야 하며, 나머지는 결정론적 도구가 처리해야 합니다."

이 멘탈 모델은 일부 에이전트 동작이 일관성이 없어 보이는 이유를 이해하는 데 도움이 되었습니다. 이는 종종 결정론적 코드에 더 적합한 작업에 대해 불필요하게 확률론적 레이어에 의존했기 때문이었습니다.

📖 전체 출처 읽기: r/openclaw