클로드 코드에서 프롬프트 인젝션을 0으로 낮춘 다층 방어 체계

Anthropic은 다층 방어를 통해 보지 못한 공격에 대해서도 프롬프트 인젝션 공격을 0%로 줄일 수 있다고 주장합니다. Claude Code의 새로운 Auto Mode에 대한 논의에서 Boris Cherny는 다층 접근 방식, 즉 모델 훈련, 의도 분류기, 입력 탐지를 설명했습니다. 그는 또한 분류기가 이제 무료임을 확인하며 토큰 비용 우려에 대해 "우리는 분류기를 무료로 제공합니다. 안전을 위해 비용을 지불할 필요가 없어야 합니다."라고 답했습니다.

레이어가 쌓이는 방식

• 모델 훈련: 기본 모델은 인젝션 패턴을 인식하고 거부하도록 미세 조정됩니다.
• 의도 분류기: 별도의 분류기가 각 프롬프트 뒤에 있는 사용자의 의도를 확인하여 실행 전에 악의적인 요청을 필터링합니다.
• 입력 탐지: 활성 탐지는 알려진 인젝션 벡터를 입력에서 테스트하여 또 다른 장벽을 추가합니다.

소스에 따르면, 이러한 조합은 보지 못한 공격에 대한 프롬프트 인젝션 비율을 0%로 줄입니다. 핵심은 단일 레이어가 완벽하지 않더라도 쌓이면 대부분의 시도를 잡아낸다는 것입니다.

분류기 이제 무료

Boris Cherny의 인용은 직접적입니다: "우리는 분류기를 무료로 제공합니다. 안전을 위해 비용을 지불할 필요가 없어야 합니다." 이는 안전 검사를 추가하면 예산이 고갈될까 걱정했던 개발자들의 일반적인 문제인 토큰 비용을 해결합니다. 토큰을 절약하기 위해 안전 기능을 우회해 왔다면 더 이상 걱정할 필요가 없습니다.

이것은 프롬프트 인젝션이 실제 위험인 Claude Code로 자율 에이전트를 구축하는 팀에게 특히 관련이 있습니다. 웹 콘텐츠나 도구 출력의 악의적인 프롬프트가 에이전트를 탈취할 수 있기 때문입니다. 분류기가 무료이므로 추가 비용 걱정 없이 활성화할 수 있습니다.

전체 블로그 게시물은 Claude Code의 Auto Mode에 관한 것이지만, 이 보안 세부 사항이 두드러집니다. 개발자에게 이것은 Anthropic이 안전을 프리미엄 추가 기능이 아닌 기본 기능으로 취급하고 있다는 신호입니다.