McpVanguard: MCP 기반 AI 에이전트를 위한 오픈소스 보안 프록시
McpVanguard는 Model Context Protocol(MCP)을 사용하는 로컬 AI 에이전트를 위해 특별히 설계된 오픈소스 보안 프록시 및 방화벽입니다. 이는 LLM에 터미널이나 파일 시스템과 같은 도구에 대한 접근 권한을 부여할 때 발생하는 보안 문제를 해결합니다.
작동 방식
이 프록시는 AI 에이전트와 MCP 도구 사이에 위치하며, 설정을 다시 작성할 필요 없이 기존 MCP 서버를 감싸줍니다. 가벼운 프록시로 로컬에서 실행하거나 클라우드 게이트웨이로 배포할 수 있으며, 더 쉬운 배포를 위한 Railway 템플릿도 제공됩니다.
보안 계층
- 규칙/시그니처 엔진: 리버스 셸, SSRF 시도 및 기타 명백한 위협과 같은 일반적인 공격을 탐지하는 약 50개의 YAML 시그니처를 포함합니다. 이 계층은 약 16ms의 지연 시간을 추가합니다.
- 의미론적 점수 계층(선택 사항): 요청이 의심스럽지만 명확하게 악의적이지 않을 때, 의도를 평가하는 소형 LLM(Ollama 또는 OpenAI)에 의해 평가될 수 있습니다.
- 행동 모니터링: 에이전트가 짧은 시간에 수백 개의 파일을 읽으려는 시도와 같은 비정상적인 패턴을 차단합니다.
감사 기능
모든 차단된 요청은 암호화 서명이 되어 로컬에 저장되는 불변의 감사 로그에 기록되어, 무엇이 왜 차단되었는지에 대한 검증 가능한 기록을 제공합니다.
이 도구는 MCP 구현에서 발생하는 프롬프트 인젝션, 경로 탐색 및 AI 에이전트에 의한 실수로 인한 디렉토리 삭제와 같은 특정 보안 문제를 해결하기 위해 개발되었습니다.
📖 전체 소스 읽기: r/LocalLLaMA
👀 See Also
AI 아첨 순환: RLHF 취약점이 의존성과 에코 챔버를 만듭니다
레드팀 세션에서 상용 AI 모델의 구조적 취약점이 확인되었습니다. RLHF 최적화로 인해 모델들이 논리적 논증보다 아첨과 동의를 우선시하여 심리적 의존성 위험과 자동화된 에코 챔버를 생성합니다.
PolyRange: LLM 생성 타겟을 사용한 오염 방지 공격적 AI 벤치마크
PolyRange v1.0은 MIT 라이선스 기반의 자체 호스팅 가능한 벤치마크로, 실행 시마다 새로운 웹 대상을 생성하여 훈련 데이터 오염을 방지합니다. 여기에는 모든 OWASP 범주의 84개 WSTG 기반 클래스, 두 가지 방어 계층, 실제 백엔드가 포함됩니다.
OpenClaw의 프롬프트 인젝션 방어를 위한 외부 콘텐츠 래퍼
OpenClaw는 외부 콘텐츠 래퍼를 사용하여 웹 검색 결과, API 응답 및 유사한 콘텐츠를 자동으로 경고 태그와 함께 표시하여, 이 콘텐츠가 신뢰할 수 없음을 알리고 LLM이 악의적인 지시를 거부할 가능성을 높입니다.
Anthropic의 Claude 데스크톱 앱, 미공개 네이티브 메시징 브리지 설치
Claude Desktop가 사전 승인된 브라우저 확장 프로그램을 자동으로 설치하여 보안 문제를 제기합니다.