다중 에이전트 토론 접근법이 LLM 추론 품질을 향상시킵니다

r/LocalLLaMA의 한 개발자가 LLM 추론 능력을 향상시키기 위한 다중 에이전트 토론 방식 실험 결과를 공유했습니다. 이 방법은 표준적인 단일 모델 프롬프트-응답 워크플로우 대신, 여러 AI 에이전트가 동일한 질문에 응답하고 서로를 비판한 후 최종 답변을 생성하는 방식을 사용합니다.

작동 방식

이 실험은 CyrcloAI를 사용하여 진행되었으며, 이 도구는 다양한 에이전트가 특정 역할을 맡아 프로세스를 구조화합니다:

• 분석가: 프롬프트에 대한 초기 응답을 제공합니다.
• 비평가: 다른 에이전트들의 응답을 검토하고 비판합니다.
• 종합자: 가장 강력한 포인트들을 통합하여 최종 답변을 만듭니다.

각 에이전트는 프롬프트에 응답하고 다른 에이전트들의 응답에 반응한 후, 시스템이 최종 출력을 생성합니다. 특히 비평가 에이전트는 초기 응답에서의 논리적 도약이나 약한 가정을 지적하는 것으로 알려졌으며, 이러한 수정 사항들은 최종 답변에 반영됩니다.

결과 및 관찰

개발자는 단일 모델 접근 방식과 비교했을 때 응답이 "눈에 띄게 더 구조화되고 신중하게" 느껴졌다고 보고했습니다. 이 방법은 자기 성찰 프롬프팅이나 반복적 추론 루프와 유사하지만, 단일 모델의 반복적 통과가 아닌 별도의 에이전트들에 분산되어 있다고 설명되었습니다.

장단점과 실용적 고려사항

이 접근 방식은 지연 시간과 토큰 사용량이 증가하여 일상적인 워크플로우에 대한 실용성에 대한 의문을 제기합니다. 그러나 추론 품질 향상이 충분히 의미 있어서, 개발자는 이를 Llama 변형 모델들로 로컬에서 어떻게 재현할 수 있을지 탐구하고 있습니다.

개발자는 이 방식이 역할 프롬프팅과 최종 종합 단계 전의 간단한 비판 루프로 구현될 수 있을 것이라고 제안했으며, 로컬 모델을 사용한 유사한 실험에 대한 커뮤니티의 의견을 구하고 있습니다.