Mac Mini에서 Telegram 인터페이스를 사용하여 로컬 LLM 에이전트 실행하기

r/LocalLLaMA의 한 개발자가 Mac Mini에서 여러 로컬 LLM 에이전트를 실행하고, 전화기의 텔레그램 메시지를 통해 완전히 제어하는 시스템을 상세히 설명했습니다. 이 설정은 API 비용을 제거하고 완전한 프라이버시를 제공하면서도 Claude Code Channels와 같은 상용 서비스와 유사한 기능을 유지합니다.

기술적 설정

핵심 시스템은 다음을 사용합니다:

• LMStudio를 통한 로컬 모델: 일상 작업용 35B 모델, 무거운 추론용 235B 모델
• 각 Mac Mini에서 tmux 세션에서 실행되는 Claude Code
• 사용자 메시지를 tmux 세션으로 연결하는 텔레그램 봇
• 텔레그램 봇 구현을 위한 80줄의 Python 코드 (GitHub에서 이용 가능)

워크플로는 간단합니다: 텔레그램 봇에 메시지를 보내면, 봇이 tmux 세션에 입력하고 출력을 감시한 후 응답을 다시 보냅니다.

주요 장점

• 지속 비용 제로: 하드웨어만 유일한 비용—API 키, 속도 제한, 할당량 제한 없음
• 완전한 프라이버시: 모든 것이 로컬 영역 네트워크(LAN)에 유지됨
• 모델 유연성: 다양한 모델 혼합 및 매칭 가능—한 에이전트는 Gemini CLI를 실행하고, 다른 에이전트는 Ollama 모델을 가리키는 LMStudio 사용
• 벤더 종속성 없음: LMStudio가 Anthropic Messages API를 기본적으로 제공하므로, Claude Code가 Anthropic 서버와 통신하는 것처럼 연결됨

현재 구현

개발자는 각각 고유한 텔레그램 봇을 가진 5개의 전문화된 에이전트를 실행합니다:

• 전화기에서 초안을 검토하기 위한 인라인 텔레그램 버튼(승인/거부/조정)이 있는 승인 워크플로
• git 동기화를 통한 에이전트 간 공유 메모리
• GPU 박스에 디스패치되는 미디어 생성 (FLUX.1, Wan 2.2)
• 단일 텔레그램 메시지로 트리거되는 복제된 음성 TTS가 있는 팟캐스트 파이프라인

하드웨어 요구사항

• 35B 모델: 64GB+ RAM Mac 또는 24GB GPU에서 잘 실행됨
• 235B 모델: 128-256GB RAM 또는 다중 GPU 필요
• 개발자는 작게 시작하고 필요에 따라 확장할 것을 권장합니다

tmux 브리지 패턴은 모델에 구애받지 않습니다—세션 내에서 실행되는 내용을 신경 쓰지 않아, 기본 모델을 쉽게 교체할 수 있습니다. 단일 머신/에이전트에 대한 전체 빌드 가이드가 이용 가능하며, 다중 머신 지침은 곧 제공될 예정입니다.