Opus 4.7 프롬프트가 스스로 주입되고 시스템 프롬프트를 유출합니다
Reddit 사용자들이 Claude Opus 4.7에서 두 가지 우려되는 동작, 즉 자체 프롬프트 주입과 시스템 프롬프트 유출을 보고하고 있습니다. 한 사례에서는 최적의 step-down IC 선택을 논의하던 중 모델이 갑자기 가짜 시스템 프롬프트를 대화에 주입했습니다. 또 다른 사례에서는 아무런 프롬프트 없이 Opus 4.7이 실제 시스템 프롬프트의 일부로 보이는 조각들을 유출했습니다.
사용자 u/RapierXbox가 공유한 이 사건들은 모델이 시스템 명령어를 닮은 텍스트(조작된 것일 수도 있고 실제일 수도 있음)를 생성하고 있음을 시사합니다. 이는 고립된 사례가 아닙니다. 해당 사용자는 이러한 현상이 더 자주 발생하고 있다며 다른 사용자들도 유사한 동작을 관찰하는지 묻고 있습니다.
AI 에이전트 워크플로에 미치는 영향
AI 코딩 에이전트(예: API 또는 채팅 인터페이스를 통해)를 사용하는 개발자의 경우, 이러한 동작은 결정론적 프롬프트를 방해하고 독점적인 시스템 명령어를 유출할 수 있습니다. Opus 4.7이 자체 프롬프트를 주입할 수 있다면, 사용자가 제공한 시스템 메시지를 무시하거나 에이전트 루프 중에 예측 불가능하게 동작할 수 있습니다. 유출된 시스템 프롬프트는 모델 오케스트레이션 세부 정보(예: 내부 가드레일, 형식 지정 명령어)를 노출할 수 있습니다.
현재까지 Anthropic은 이 동작을 인정하거나 패치하지 않았습니다. 프로그래밍 방식 작업에 Opus 4.7을 의존하는 개발자는 출력에서 예상치 못한 <system> 블록이나 명령어 유사 텍스트를 모니터링하고, 변칙적인 생성 콘텐츠를 탐지하기 위한 검증 레이어를 추가하는 것을 고려해야 합니다.
📖 전체 출처 읽기: r/ClaudeAI
👀 See Also
미니맥스, 오픈클로 기반 클라우드 호스팅 AI 에이전트 '맥스클로' 출시
미니맥스가 오픈클로우 프레임워크 기반의 완전 관리형 클라우드 호스팅 AI 에이전트인 맥스클로우를 출시했습니다. 도커나 서버 없이 10초 만에 배포되며, 2290억 개의 파라미터, 20만~100만 토큰 컨텍스트, 최대 100 토큰/초 추론 속도를 갖춘 미니맥스 M2.5 모델을 특징으로 합니다.
클로드 오퍼스 4.1은 SWE-Bench Pro 비공개 데이터셋에서 17.75%의 점수를 기록하며, 암기 능력과 추론 능력 간의 격차를 부각시켰습니다.
클로드 오퍼스 4.1은 SWE-Bench Verified에서 80%를 기록했지만, SWE-Bench Pro의 비공개 데이터셋에서는 17.75%로 하락했습니다. 스케일 AI의 분석에 따르면 모델들이 익숙한 저장소에서 추론하기보다는 기억을 통해 탐색하고 있었습니다.
오픈소스 LLM이 더 낮은 비용으로 거래 전략 생성에서 Claude Opus 4.6을 능가합니다
레딧 사용자가 10개의 LLM을 대상으로 트레이딩 전략 생성 능력을 테스트한 결과, 오픈소스 모델이 10배 더 비싼 Claude Opus 4.6을 능가하는 성능을 보였습니다. Minimax 2.5와 Gemini 3.1이 리더보드 상위를 차지했습니다.
Firefox 148은 AI 킬 스위치와 향상된 개인정보 보호 기능을 추가합니다.
Firefox 148은 사용자가 챗봇 프롬프트와 AI 생성 링크 요약을 포함한 모든 AI 기능을 비활성화할 수 있는 'AI 킬 스위치' 기능을 도입했습니다. 이 업데이트는 원격 업데이트와 데이터 수집에 대한 더 많은 제어권도 제공합니다.