Opus 4.7 프롬프트가 스스로 주입되고 시스템 프롬프트를 유출합니다

Reddit 사용자들이 Claude Opus 4.7에서 두 가지 우려되는 동작, 즉 자체 프롬프트 주입과 시스템 프롬프트 유출을 보고하고 있습니다. 한 사례에서는 최적의 step-down IC 선택을 논의하던 중 모델이 갑자기 가짜 시스템 프롬프트를 대화에 주입했습니다. 또 다른 사례에서는 아무런 프롬프트 없이 Opus 4.7이 실제 시스템 프롬프트의 일부로 보이는 조각들을 유출했습니다.

사용자 u/RapierXbox가 공유한 이 사건들은 모델이 시스템 명령어를 닮은 텍스트(조작된 것일 수도 있고 실제일 수도 있음)를 생성하고 있음을 시사합니다. 이는 고립된 사례가 아닙니다. 해당 사용자는 이러한 현상이 더 자주 발생하고 있다며 다른 사용자들도 유사한 동작을 관찰하는지 묻고 있습니다.

AI 에이전트 워크플로에 미치는 영향

AI 코딩 에이전트(예: API 또는 채팅 인터페이스를 통해)를 사용하는 개발자의 경우, 이러한 동작은 결정론적 프롬프트를 방해하고 독점적인 시스템 명령어를 유출할 수 있습니다. Opus 4.7이 자체 프롬프트를 주입할 수 있다면, 사용자가 제공한 시스템 메시지를 무시하거나 에이전트 루프 중에 예측 불가능하게 동작할 수 있습니다. 유출된 시스템 프롬프트는 모델 오케스트레이션 세부 정보(예: 내부 가드레일, 형식 지정 명령어)를 노출할 수 있습니다.

현재까지 Anthropic은 이 동작을 인정하거나 패치하지 않았습니다. 프로그래밍 방식 작업에 Opus 4.7을 의존하는 개발자는 출력에서 예상치 못한 <system> 블록이나 명령어 유사 텍스트를 모니터링하고, 변칙적인 생성 콘텐츠를 탐지하기 위한 검증 레이어를 추가하는 것을 고려해야 합니다.