로컬 AI를 위한 Ollama와 MCP로 구축된 다중 에이전트 커리어 멘토

한 개발자가 'AI 커리어 멘토'라는 멀티 에이전트 AI 시스템을 구축했습니다. 이 시스템은 이력서를 읽고 포괄적인 커리어 인텔리전스 보고서를 생성합니다. 시스템은 Ollama와 llama3를 사용하여 완전히 로컬에서 실행되며, API 키나 외부 비용이 필요하지 않습니다.

기술 아키텍처

이 시스템은 출력을 연결하는 5개의 전문 에이전트로 구성됩니다:

• 각 에이전트는 이전 에이전트의 출력을 공유 컨텍스트로 받습니다
• 로드맵 에이전트는 분석 에이전트로부터 기술 격차를 인식합니다
• 급여 에이전트는 이전 에이전트로부터 로드맵을 인식합니다
• 이 연결 방식은 보고서가 파이프라인을 통해 진행될수록 점점 더 스마트해지도록 만듭니다

기술 스택 세부사항

• AI 엔진: Ollama + llama3 (100% 로컬)
• RAG 시스템: FAISS + SentenceTransformers (지식 베이스 인덱싱용)
• 도구 계층: MCP (Model Context Protocol) - FastAPI가 MCP 서버를 하위 프로세스로 생성하고 stdio JSON-RPC를 통해 통신합니다
• 이력서 처리: PDF 이력서 읽기용 pdfplumber
• 프론트엔드: React

MCP 구현 노트

개발자는 MCP 구축이 특히 흥미로웠다고 합니다. MCP는 Anthropic의 AI와 도구를 연결하기 위한 개방형 표준으로, 하나의 서버가 모든 클라이언트와 작동할 수 있습니다. 시스템은 또한 구성 파일을 통해 Claude Desktop에 연결되어 Claude가 9개의 모든 도구를 직접 호출할 수 있도록 합니다.

발견된 주목할 만한 버그: MCP SDK v1.x가 핸들러 시그니처를 완전히 변경했습니다. 이전 코드는 전체 요청 객체를 전달하는 반면, 새 코드는 이름과 인수를 직접 언패킹합니다. 이로 인해 상당한 디버깅 시간이 소요되었습니다.

보고서 출력

시스템은 다음을 포함한 완전한 커리어 인텔리전스 보고서를 생성합니다:

• 이력서 분석
• 기술 격차 식별
• 6개월 로드맵
• 급여 전략
• 면접 준비

모든 구성 요소는 이력서 처리 후 일괄적으로 실행됩니다.

리소스

이 프로젝트는 GitHub에서 확인할 수 있으며 비디오 워크스루가 제공됩니다. 개발자는 RAG 설정과 MCP 클라이언트/서버 배선이 구현하기 가장 까다로운 부분이었다고 언급합니다.