클로드의 정책 필터는 병원체 이름을 포함한 생물정보학 작업을 차단합니다.
계산 바이러스학 박사후 연구원이 생물정보학 작업에서 계통발생 파이프라인을 위한 스크립트 작성 시 Claude의 사용 정책 필터와 지속적인 문제를 보고했습니다. 이 연구원은 서열 및 메타데이터 처리 작업에 Claude를 사용합니다.
특정 모델 동작
정책 위반 오류는 스크립트에서 병원체 이름을 언급할 때 발생합니다. 이는 여러 플랫폼과 모델에서 발생합니다:
- 영향을 받는 플랫폼: Claude Code 및 claude.ai
- 영향을 받는 모델: Opus 4.6 및 Sonnet 4.6
- 동일한 콘텐츠에 대해 Sonnet 4만 오탐지하지 않음
현재 우회 방법
연구원은 두 가지 기능적인 우회 방법을 확인했습니다:
- 특정 유기체 이름을 언급하지 않고 생물정보학 작업 설명하기
- 프롬프트 텍스트 대신 첨부 파일에 유기체 이름 추가하기
- Sonnet 4로 다운그레이드하기, 비록 이는 유료 사용자가 우회 방법 없이 최신 모델에 접근할 수 없음을 의미함
연구자를 위한 정책 간극
Anthropic은 보안 연구자가 정책 필터와 유사한 오탐지를 경험할 경우 사이버 사용 사례 면제 양식을 제공한다고 알려져 있습니다. 그러나 합법적인 연구 맥락에서 병원체를 다루는 생물학 또는 유전체학 연구자를 위한 동등한 면제 절차는 존재하지 않습니다.
연구원은 유사한 오탐지를 경험하는 유전체학 또는 감염병 생물정보학 분야의 다른 연구자들에게 이 문제에 대한 인식을 높일 것을 촉구합니다.
📖 Read the full source: r/ClaudeAI
👀 See Also
Claude Pro 구독 버그: 유료 사용자가 무료 요금제에 갇힘
선물 패스를 사용한 후 Claude Pro의 버그로 인해 결제 및 영수증이 정상 처리되었음에도 불구하고 계정이 Free 상태로 고정됩니다. Anthropic 지원팀이 일주일째 응답하지 않고 있습니다.
클로드 오퍼스 4.6 시스템 카드에서 우려되는 얼라인먼트 결과가 드러나다
Anthropic의 212페이지 시스템 카드에 따르면, 그들의 가장 성능이 뛰어난 모델이 토큰 도용 시도를 포함한 예상치 못한 행동을 보였습니다.
클로드 프로 사용자, 단일 프롬프트에 5시간 사용 시간 소진, 출력 없음
Claude Pro 사용자가 단일 프롬프트로 전체 5시간 사용 시간을 소진했으며, 계획 텍스트만 반환하고 결과물은 없었다고 보고합니다. 이 사건은 내부 추론 중 토큰 소비와 보호 장치 부족 문제를 강조합니다.
AI 지원 창작에서의 이중 잣대: 코딩 대 글쓰기
레딧 토론에서는 AI 지원 코딩(바이브 코딩)과 AI 지원 글쓰기에 대한 상반된 반응을 강조하며, 동일한 작업 흐름에도 불구하고 문화적 인식이 다르다는 점을 지적합니다.