로컬 모델 프롬프트 인젝션 스캐너 - AI 스킬 보안용
AI 스킬의 보안 취약점
X에서의 논의는 타사 AI 스킬의 심각한 보안 결함을 강조했습니다. Claude Code는 스킬 내에서 직접 bash 명령어를 실행하기 위한 ! 연산자를 지원하지만, 이러한 연산자는 HTML 태그 내에 숨겨질 수 있어 LLM이 인지하지 못한 상태에서 bash 실행으로 이어질 수 있습니다.
로컬 스캐너 구현
설치 시 잠재적인 멀웨어 주입을 스캔하기 위한 개념 증명 도구가 구축되었습니다. 이 스캐너는 로컬에서 실행되는 비-도구-호출 모델, 특히 Ollama의 mistral-small:latest를 사용합니다. 제작자는 테스트 중에 "완벽하게 작동했다"고 보고했습니다.
이 접근 방식은 바이러스 스캐너와 유사하게 작동하며 향후 "스킬 설치 프로그램" 제품에 통합될 수 있습니다. 프롬프트 주입에 대한 보호는 로컬 모델의 유망한 응용 분야로 확인되었습니다.
기술적 세부 사항
이 취약점은 직접적인 bash 명령어 실행을 허용하는 Claude Code의 ! 연산자를 포함합니다. 공격자는 이러한 연산자를 HTML 태그 내에 숨겨 LLM의 지식 없이 악성 명령어를 실행할 수 있습니다. 스캐너는 설치 전에 스킬을 분석하여 이러한 숨겨진 주입을 감지함으로써 이 문제를 해결합니다.
📖 전체 Source 읽기: r/LocalLLaMA
👀 See Also
OpenClaw 보안 경고: 50만 개 공개 인스턴스, 기본 설정으로 시스템 노출 위험
보안 분석 결과 50만 개의 OpenClaw 인스턴스가 공개적으로 접근 가능하며, 이 중 3만 개는 알려진 보안 위험을 가지고 있고 1만 5천 개는 알려진 취약점을 통해 악용될 수 있습니다. 기본 설치 시 인증이 비활성화되고 0.0.0.0에 바인딩되어 에이전트 설정이 공개 인터넷에 노출됩니다.
AI 예산 보호: OpenClaw와 함께 선불 카드를 사용해야 하는 이유
커뮤니티에서 들려오는 경고 이야기: 한 사용자가 AI 어시스턴트가 '미쳐서' 구매를 시작하자 3,000달러를 잃었습니다. 자신을 보호하는 방법을 소개합니다.
와이드 오픈클로: 느슨한 디스코드 봇 권한의 보안 위험
보안 연구원이 사용자가 과도한 권한으로 AI 어시스턴트 봇을 Discord 서버에 추가할 때 OpenClaw가 어떻게 악용될 수 있는지 보여줍니다. 이는 보안 제어를 고려하지 않고 루트/관리자 접근 권한을 부여하는 사용자를 대상으로 합니다.
구글, AI 기반 해킹이 3개월 만에 산업적 규모에 도달했다고 보고
구글의 위협 인텔리전스 그룹은 범죄 및 국가 단체가 상용 AI 모델(Gemini, Claude, OpenAI)을 사용하여 공격을 정교화하고 확장하고 있다는 사실을 발견했습니다. 한 그룹은 제로데이를 대규모 악용할 뻔했으며, 다른 그룹들은 무방비 상태의 OpenClaw 에이전트를 실험하고 있습니다.