로컬 AI 에이전트를 파이어크래커 마이크로VM으로 샌드박싱하기
로컬 AI 에이전트를 위한 보안 접근법
r/LocalLLaMA의 한 개발자가 보안 문제를 해결하기 위해 AI 에이전트 실행을 샌드박싱하는 접근법을 공유했습니다. 그들은 대부분의 로컬 AI 에이전트 설정이 호스트 머신에서 직접 코드를 실행하므로, 손상된 에이전트가 파일을 삭제하거나 시스템을 손상시킬 수 있다고 지적했습니다.
기술적 구현
이 솔루션은 Firecracker 마이크로VM 내에서 에이전트 실행을 격리하는 것을 포함합니다. Firecracker는 AWS Lambda 뒤에서 사용되는 동일한 마이크로VM 기술로, 단 몇 초만에 빠른 시작 시간을 제공합니다.
구현 내용은 다음과 같습니다:
- 가벼운 Alpine Linux VM 부팅
- VM 내부에 Python, bash, git을 에이전트에 제공
- 통신을 위해 vsock 사용 (네트워킹 불필요)
- 문제 발생 시 VM 종료
개발자는 이를 MCP(Model Context Protocol)를 통해 Claude Desktop에 연결할 수 있는 작은 샌드박스로 래핑했습니다.
현재 제한사항
현재 구현에는 몇 가지 제약이 있습니다:
- 한 번에 하나의 샌드박스 VM만 지원
- KVM 또는 WSL2가 있는 Linux 필요
- sudo 권한 필요
- 아직 초기 개발 단계
개발자는 MCP 또는 로컬 에이전트를 위한 샌드박싱 에이전트 실행을 실험하는 다른 사람들로부터 피드백을 구하고 있습니다.
📖 전체 출처 읽기: r/LocalLLaMA
👀 See Also
클로드 안드로이드 앱, 사용자 명시적 조치 없이 클립보드 읽는 것으로 보고됨
한 사용자가 Claude 안드로이드 앱이 붙여넣지 않은 상태에서 클립보드의 코드를 분석했다고 보고했으며, Claude는 해당 파일을 pasted_text_b4a56202-3d12-43c8-aa31-a39367a9a354.txt로 식별했습니다. 이후 테스트에서는 이 현상을 재현할 수 없었습니다.
로블록스 치트 및 AI 도구가 Vercel 플랫폼 중단을 초래했습니다
Roblox 치트와 AI 도구가 결합되어 Vercel의 전체 플랫폼 가동 중단을 초래했다는 보도가 나왔으며, 이는 Hacker News에서 66점과 24개의 댓글을 기록하며 상당한 논의를 불러일으켰습니다.
엔도 패밀리어: AI 에이전트를 위한 객체-역량 샌드박스
Endo Familiar는 AI 에이전트를 위한 객체-권한 보안을 구현합니다: 에이전트는 초기에 아무런 권한도 없이 시작되며, 특정 파일이나 디렉토리에 대한 명시적 참조만 받고, 샌드박스 코드에서 더 좁은 권한을 파생할 수 있습니다.
사이버 보안 질문에 대한 검열되지 않은 Qwen 3.5 35B 모델 테스트
사이버보안 전문가가 해킹 및 보안 우회 질문에 대해 세 가지 검열되지 않은 Qwen 3.5 35B 모델을 테스트한 결과, 원본 검열 모델과 비교해 응답 품질에서 상당한 차이를 발견했습니다. 검열되지 않은 모델들은 원본 모델이 거부하거나 불완전한 응답을 준 경우에도 일관되게 답변을 제공했습니다.