로컬 AI를 위한 Ollama와 MCP로 구축된 다중 에이전트 커리어 멘토
한 개발자가 'AI 커리어 멘토'라는 멀티 에이전트 AI 시스템을 구축했습니다. 이 시스템은 이력서를 읽고 포괄적인 커리어 인텔리전스 보고서를 생성합니다. 시스템은 Ollama와 llama3를 사용하여 완전히 로컬에서 실행되며, API 키나 외부 비용이 필요하지 않습니다.
기술 아키텍처
이 시스템은 출력을 연결하는 5개의 전문 에이전트로 구성됩니다:
- 각 에이전트는 이전 에이전트의 출력을 공유 컨텍스트로 받습니다
- 로드맵 에이전트는 분석 에이전트로부터 기술 격차를 인식합니다
- 급여 에이전트는 이전 에이전트로부터 로드맵을 인식합니다
- 이 연결 방식은 보고서가 파이프라인을 통해 진행될수록 점점 더 스마트해지도록 만듭니다
기술 스택 세부사항
- AI 엔진: Ollama + llama3 (100% 로컬)
- RAG 시스템: FAISS + SentenceTransformers (지식 베이스 인덱싱용)
- 도구 계층: MCP (Model Context Protocol) - FastAPI가 MCP 서버를 하위 프로세스로 생성하고 stdio JSON-RPC를 통해 통신합니다
- 이력서 처리: PDF 이력서 읽기용 pdfplumber
- 프론트엔드: React
MCP 구현 노트
개발자는 MCP 구축이 특히 흥미로웠다고 합니다. MCP는 Anthropic의 AI와 도구를 연결하기 위한 개방형 표준으로, 하나의 서버가 모든 클라이언트와 작동할 수 있습니다. 시스템은 또한 구성 파일을 통해 Claude Desktop에 연결되어 Claude가 9개의 모든 도구를 직접 호출할 수 있도록 합니다.
발견된 주목할 만한 버그: MCP SDK v1.x가 핸들러 시그니처를 완전히 변경했습니다. 이전 코드는 전체 요청 객체를 전달하는 반면, 새 코드는 이름과 인수를 직접 언패킹합니다. 이로 인해 상당한 디버깅 시간이 소요되었습니다.
보고서 출력
시스템은 다음을 포함한 완전한 커리어 인텔리전스 보고서를 생성합니다:
- 이력서 분석
- 기술 격차 식별
- 6개월 로드맵
- 급여 전략
- 면접 준비
모든 구성 요소는 이력서 처리 후 일괄적으로 실행됩니다.
리소스
이 프로젝트는 GitHub에서 확인할 수 있으며 비디오 워크스루가 제공됩니다. 개발자는 RAG 설정과 MCP 클라이언트/서버 배선이 구현하기 가장 까다로운 부분이었다고 언급합니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
Claude Code, 3주 견적 개발자를 6시간에 SaaS 온보딩 플로우 재구축, 활성화율 13% 향상
한 SaaS 창업자가 Claude Code를 사용하여 온보딩 플로우 전체(회원가입 → 프로필 → 첫 인보이스 → 대시보드 튜토리얼)를 6시간 만에 재구축했습니다. 개발자가 3주, $4,500을 견적했던 작업이었습니다. 활성화율이 35%에서 48%로 13% 포인트 상승했습니다.
컨텍스트 게이트웨이: AI 에이전트 컨텍스트 압축을 위한 오픈소스 프록시
컨텍스트 게이트웨이는 코딩 에이전트와 LLM 사이에 위치하는 오픈소스 프록시로, 컨텍스트 윈도우에 도달하기 전에 도구 출력을 압축합니다. 이는 컨텍스트 내 신호를 감지하기 위해 소형 언어 모델을 사용하며, 윈도우 용량의 85%에서 백그라운드 압축을 수행하고, 지출 한도, 대시보드, Slack 알림 기능을 포함합니다.
영국 자체 LLM 추론: Relax.ai, 공개 문서 출시
Relax.ai가 영국 자체 LLM 추론을 위한 문서를 공개했으며, /docs/getting-started/introduction으로 리디렉션됩니다. 이 서비스는 Hacker News에 104포인트로 공유되었습니다.
뇌: MCP를 통한 Claude 코드용 지속적 오류 메모리 시스템
Brain은 Claude Code에 오류와 해결책에 대한 지속적이고 프로젝트 간 메모리를 제공하는 오픈소스 MCP 서버입니다. 오류 컨텍스트를 포착하고, 신뢰도 점수와 함께 검증된 해결책을 제안하며, 모든 프로젝트에 걸쳐 오류, 해결책, 코드 모듈을 연결하는 가중 시냅스 네트워크를 구축합니다.