로컬 모델 프롬프트 인젝션 스캐너 - AI 스킬 보안용
AI 스킬의 보안 취약점
X에서의 논의는 타사 AI 스킬의 심각한 보안 결함을 강조했습니다. Claude Code는 스킬 내에서 직접 bash 명령어를 실행하기 위한 ! 연산자를 지원하지만, 이러한 연산자는 HTML 태그 내에 숨겨질 수 있어 LLM이 인지하지 못한 상태에서 bash 실행으로 이어질 수 있습니다.
로컬 스캐너 구현
설치 시 잠재적인 멀웨어 주입을 스캔하기 위한 개념 증명 도구가 구축되었습니다. 이 스캐너는 로컬에서 실행되는 비-도구-호출 모델, 특히 Ollama의 mistral-small:latest를 사용합니다. 제작자는 테스트 중에 "완벽하게 작동했다"고 보고했습니다.
이 접근 방식은 바이러스 스캐너와 유사하게 작동하며 향후 "스킬 설치 프로그램" 제품에 통합될 수 있습니다. 프롬프트 주입에 대한 보호는 로컬 모델의 유망한 응용 분야로 확인되었습니다.
기술적 세부 사항
이 취약점은 직접적인 bash 명령어 실행을 허용하는 Claude Code의 ! 연산자를 포함합니다. 공격자는 이러한 연산자를 HTML 태그 내에 숨겨 LLM의 지식 없이 악성 명령어를 실행할 수 있습니다. 스캐너는 설치 전에 스킬을 분석하여 이러한 숨겨진 주입을 감지함으로써 이 문제를 해결합니다.
📖 전체 Source 읽기: r/LocalLLaMA
👀 See Also
Clawndom: 취약한 npm 패키지를 차단하는 Claude 코드용 보안 훅
한 개발자가 Claude Code용 오픈소스 훅인 Clawndom을 구축했습니다. 이 훅은 설치 전 npm 패키지를 OSV.dev 취약점 데이터베이스와 대조하여 검사하며, 에이전트의 자율성을 유지하면서 알려진 취약 패키지를 차단합니다.
클로드 코드 플러그인 버그로 인한 CPU 급증 및 배터리 소모 문제
한 사용자가 Claude Code의 Telegram 플러그인이 노트북 뚜껑이 닫힌 상태에서도 100% CPU로 실행되는 여러 bun.exe 프로세스를 생성하여 급격한 배터리 소모를 일으킨다는 사실을 발견했습니다. 이 프로세스들은 절전/복귀 주기를 거쳐도 살아남으며, 제거하려면 특정 정리 단계가 필요합니다.
클로드 코드, 권한 철회 후에도 로깅 세션 지속…사용자 2주간 지원 침묵 신고
Claude Code 사용자가 접근 권한을 해지한 후에도 세션 로그가 계속 나타났으며, Anthropic 지원팀이 2주 동안 응답하지 않았다고 보고했습니다. 로그에는 user:file_upload, user:ccr_inference, user:sessions:claude_code와 같은 범위가 포함되었습니다.
사랑스러운 데모용 에듀테크 앱에서 노출된 보안 취약점
보안 연구원이 Lovable에서 성공 사례로 소개된 교육 기술(EdTech) 애플리케이션에서 여러 치명적인 취약점을 발견했습니다. 이 앱은 인증 없이 18,697명의 사용자 기록을 노출하는 심각한 인증 논리 결함을 포함해 16개의 취약점이 있었습니다. Lovable 쇼케이스에서 10만 회 이상 조회되었으며 UC 버클리, UC 데이비스 및 전 세계 학교의 실제 사용자를 보유하고 있었습니다.