Hermes Agent 및 Qwen3.6-35b-a3b를 활용한 심층 연구 보고서: 실무 가이드

15년 이상 공공 기관에서 사회 조사를 해온 Reddit 사용자가 Hermes Agent와 Q6_K 양자화된 qwen3.6-35b-a3b 모델을 사용하여 심층 연구 보고서를 생성하는 과정을 자세히 설명합니다. 목표는 Perplexity의 출력물과 비교할 만한 McKinsey 스타일의 보고서를 만드는 것이었습니다. 12세대 Intel Core CPU, 32GB RAM, RTX 4060 GPU, Linux Mint 환경에서 약 28 tokens/second의 속도로 5시간 동안 연속 처리한 결과, 에이전트는 유럽 내 AI 현황에 대한 21페이지 분량의 보고서를 생성했습니다. 이 과정에서 문제 진단, 수정, 차트 생성 및 삽입 등 6번의 반복적 개선 루프가 거의 자율적으로 수행되었습니다.

주요 세부 사항

• 모델: qwen3.6-35b-a3b Q6_K (양자화), Hermes Agent를 통해 실행.
• 하드웨어: 12세대 Intel Core CPU, 32GB RAM, RTX 4060 GPU, Linux Mint. 약 28 tokens/second 속도 달성.
• 워크플로우: 사용자는 동일한 문서에 대해 6번의 루프를 실행했습니다. 각 루프: 초안 생성, 문제 진단, 문제 수정, 차트 추가, 재삽입. 에이전트는 내장된 Hermes Agent 스킬이 "부족"하여 저장소에서 제공된 사용자 정의 스킬을 사용했습니다.
• 출력물: 최종 보고서는 Markdown, DOCX 및 PDF 형식으로 제공됩니다. 모든 중간 산출물(프롬프트, 메타 프롬프트, Python 스크립트, 차트)이 저장소에 포함되어 있습니다.
• 저장소 내용: 스킬, 프롬프트, 메타 프롬프트, Python 스크립트, 중간 산출물 및 최종 보고서. README와 폴더 구조도 AI가 생성했습니다.
• 사용자 참고 사항: 영어가 모국어가 아닌 사용자(AI 편집되지 않음). 결과는 "상당히 수용 가능" — 훌륭하지는 않지만 공공 연구 용도로 사용하기 좋은 출발점이라고 설명했습니다.

대상 독자

AI 기반 보고서 생성에 관심 있는 개발자 및 연구자, 특히 로컬 LLM을 사용하여 장문 문서 생성을 자동화하려는 공공 행정 또는 정책 연구 분야의 종사자.