MCP와 오픈 모델로 자비스 스타일 AI 구축하기

r/LocalLLaMA의 한 개발자가 Model Context Protocol (MCP)과 오픈 모델을 사용해 구축한 저비스 스타일 AI 어시스턴트를 공유했습니다. 이 시스템은 아직 작업 중이지만 이미 여러 에이전트 기능을 지원합니다.

주요 세부 사항

• 메모리 — 세션 간 지속적 컨텍스트
• 자율 파일 편집 — AI가 스스로 파일을 읽고 쓸 수 있음
• 도구 호출 추적 표시 — 사용자가 AI의 각 단계를 볼 수 있음
• 위험한 작업 전 확인 — 파괴적 작업에 대한 안전장치
• 지속적 컨텍스트 — 시간이 지나도 상태 유지
• 하이브리드 로컬/클라우드 추론 — 로컬과 클라우드 모델 간 전환 가능

주요 모델은 Qwen3-Coder 480B로, 추론과 도구 사용을 위해 클라우드에서 실행됩니다. 작은 로컬 모델은 MCP 워크플로에서 환각이 너무 심하기 때문입니다. 현재 개발자는 Windows UI 자동화, 동적 스킬, AI 생성 스킬 제작을 작업 중이며, 어시스턴트가 자신의 능력을 확장할 수 있도록 하고 있습니다. 목표는 단순한 챗봇이 아니라 사용자 컴퓨터와 상호작용하고 자동화하는 실용적인 AI 운영자입니다.

대상

로컬 AI 에이전트, MCP 기반 도구 사용, 오픈 웨이트 모델을 활용한 자율 컴퓨터 자동화를 실험하는 개발자.