로컬 모델 프롬프트 인젝션 스캐너 - AI 스킬 보안용

AI 스킬의 보안 취약점

X에서의 논의는 타사 AI 스킬의 심각한 보안 결함을 강조했습니다. Claude Code는 스킬 내에서 직접 bash 명령어를 실행하기 위한 ! 연산자를 지원하지만, 이러한 연산자는 HTML 태그 내에 숨겨질 수 있어 LLM이 인지하지 못한 상태에서 bash 실행으로 이어질 수 있습니다.

로컬 스캐너 구현

설치 시 잠재적인 멀웨어 주입을 스캔하기 위한 개념 증명 도구가 구축되었습니다. 이 스캐너는 로컬에서 실행되는 비-도구-호출 모델, 특히 Ollama의 mistral-small:latest를 사용합니다. 제작자는 테스트 중에 "완벽하게 작동했다"고 보고했습니다.

이 접근 방식은 바이러스 스캐너와 유사하게 작동하며 향후 "스킬 설치 프로그램" 제품에 통합될 수 있습니다. 프롬프트 주입에 대한 보호는 로컬 모델의 유망한 응용 분야로 확인되었습니다.

기술적 세부 사항

이 취약점은 직접적인 bash 명령어 실행을 허용하는 Claude Code의 ! 연산자를 포함합니다. 공격자는 이러한 연산자를 HTML 태그 내에 숨겨 LLM의 지식 없이 악성 명령어를 실행할 수 있습니다. 스캐너는 설치 전에 스킬을 분석하여 이러한 숨겨진 주입을 감지함으로써 이 문제를 해결합니다.