MCP 슬림: MCP 도구를 위한 로컬 임베딩 검색으로 컨텍스트 비대화 감소
MCP Slim은 전체 도구 카탈로그를 검색, 설명, 호출이라는 세 가지 메타 도구로 대체하여 MCP의 컨텍스트 비대 문제를 해결하는 프록시 도구입니다. 모든 도구 정의를 미리 로드하는 대신, LLM이 필요한 것을 검색하여 컨텍스트 윈도우 사용량을 96% 줄입니다.
주요 세부 사항
이 도구는 특히 MCP의 문서화된 컨텍스트 비대 문제를 대상으로 합니다. 몇 개의 서버만 연결해도 첫 메시지 전에 도구 정의에 55,000개 이상의 토큰이 소비될 수 있습니다. MCP Slim이 mcp-compressor나 MCProxy와 같은 다른 프록시와 차별화되는 점은 로컬 MiniLM 임베딩 모델을 사용한 시맨틱 검색입니다. 이를 통해 키워드 중복 없이 관련 도구를 찾을 수 있습니다. 예를 들어, "메모 저장하기"가 create_entities를 찾을 수 있습니다.
이 도구는 완전히 오프라인에서 실행되며 API 키가 필요하지 않습니다. Claude Desktop, Cursor, Cline, Windsurf, Zed를 포함한 모든 stdio MCP 클라이언트와 호환됩니다.
설치 및 설정
설치는 다음 명령어로 수행됩니다: npx mcp-slim init
GitHub 저장소는 다음에서 확인할 수 있습니다: https://github.com/dopatools/mcp-slim
저자(/u/OpportunitySpare2441)는 아키텍처나 트레이드오프에 대한 질문에 답변할 의사가 있습니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
피아스트 게이트: LLM 데이터 익명화를 위한 오픈소스 API 프록시
Piast Gate는 민감한 데이터를 LLM에 전송하기 전 익명화하고 응답에서 원본 데이터를 복원하는 오픈소스 API 프록시입니다. 현재 MVP는 Google Gemini API, 폴란드어, 로컬 실행을 지원하며, LLM 처리 없이 텍스트나 Word 문서를 익명화할 수 있습니다.
Claude Code가 ToolSearch를 통해 도구 스키마를 지연 로딩하여 토큰을 절약합니다
Claude Code는 도구 스키마를 미리 로드하지 않고, 도구 이름만 먼저 전송한 후 사용 전에 ToolSearch 호출을 통해 스키마를 가져오도록 합니다. 이 아키텍처는 토큰 소모를 크게 줄여줍니다.
LUMA SOUL: 클로드 기반 영구 생성자 잠금 및 투명 메모리를 갖춘 마인드
LUMA SOUL은 각 AI 마인드가 초상화, 음성, 소울 문서를 갖는 프레즌스 플랫폼입니다. 핵심 설계: 창작자는 제출 시 영구적으로 편집 권한을 잃고, 메모리는 완전히 투명합니다.
클로드 사용량 모니터: 윈도우용 부유형 CRT 위젯
한 개발자가 세션 및 주간 사용량 막대를 실시간으로 표시하는 Windows 위젯을 만들었으며, 일곱 가지 색상 테마를 제공하고 화면이 잠기거나 전체 화면 모드일 때 자동으로 일시 정지됩니다.