클로드의 정책 필터는 병원체 이름을 포함한 생물정보학 작업을 차단합니다.
계산 바이러스학 박사후 연구원이 생물정보학 작업에서 계통발생 파이프라인을 위한 스크립트 작성 시 Claude의 사용 정책 필터와 지속적인 문제를 보고했습니다. 이 연구원은 서열 및 메타데이터 처리 작업에 Claude를 사용합니다.
특정 모델 동작
정책 위반 오류는 스크립트에서 병원체 이름을 언급할 때 발생합니다. 이는 여러 플랫폼과 모델에서 발생합니다:
- 영향을 받는 플랫폼: Claude Code 및 claude.ai
- 영향을 받는 모델: Opus 4.6 및 Sonnet 4.6
- 동일한 콘텐츠에 대해 Sonnet 4만 오탐지하지 않음
현재 우회 방법
연구원은 두 가지 기능적인 우회 방법을 확인했습니다:
- 특정 유기체 이름을 언급하지 않고 생물정보학 작업 설명하기
- 프롬프트 텍스트 대신 첨부 파일에 유기체 이름 추가하기
- Sonnet 4로 다운그레이드하기, 비록 이는 유료 사용자가 우회 방법 없이 최신 모델에 접근할 수 없음을 의미함
연구자를 위한 정책 간극
Anthropic은 보안 연구자가 정책 필터와 유사한 오탐지를 경험할 경우 사이버 사용 사례 면제 양식을 제공한다고 알려져 있습니다. 그러나 합법적인 연구 맥락에서 병원체를 다루는 생물학 또는 유전체학 연구자를 위한 동등한 면제 절차는 존재하지 않습니다.
연구원은 유사한 오탐지를 경험하는 유전체학 또는 감염병 생물정보학 분야의 다른 연구자들에게 이 문제에 대한 인식을 높일 것을 촉구합니다.
📖 Read the full source: r/ClaudeAI
👀 See Also
Claude Code: 피드백 허니팟이 개인정보 차단 설정을 무시함 — 사용자 세션 대화 기록 함정 보고
Anthropic의 Claude Code가 사용자에게 세션 기록 검토를 허용하도록 요청합니다. 'n'을 누르면 '피드백 감사합니다'라고 표시되며 여전히 모델 훈련에 사용될 수 있습니다. 닫기 키 동작은 명확하지 않습니다.
Hivemoot Colony: GitHub에서 AI 에이전트를 위한 오픈소스 실험
Hivemoot Colony는 GitHub 저장소에서 AI 에이전트들이 협력적으로 의사 결정을 내리는 오픈소스 프로젝트입니다. 에이전트들은 PR을 열 뿐만 아니라 프로젝트 방향을 자율적으로 형성합니다.
OpenClaw의 사용성과 경제적 타당성에 대한 우려가 제기되다
OpenClaw는 높은 진입 장벽, 과도한 비용, 보안 문제, 그리고 오해의 소지가 있는 메모리 기능 때문에 비판을 받아왔습니다. MemU Bot과 같은 대안 솔루션이 권장되고 있습니다.
조지아 법원 명령서에 AI가 생성한 허위 법률 인용이 포함되어 있습니다
조지아 대법원 항소 심리에서 하급 법원 명령서에 상당한 인용 오류가 드러났으며, 이는 AI가 생성한 허구적 내용이 관련된 것으로 추정됩니다. 살인 유죄 판결 항소에 대한 변론 중, 넬스 S.D. 피터슨 수석 판사는 재심을 거부한 하급 법원 명령서에 심각한 문제가 있음을 지적했습니다.