클로드의 정책 필터는 병원체 이름을 포함한 생물정보학 작업을 차단합니다.
계산 바이러스학 박사후 연구원이 생물정보학 작업에서 계통발생 파이프라인을 위한 스크립트 작성 시 Claude의 사용 정책 필터와 지속적인 문제를 보고했습니다. 이 연구원은 서열 및 메타데이터 처리 작업에 Claude를 사용합니다.
특정 모델 동작
정책 위반 오류는 스크립트에서 병원체 이름을 언급할 때 발생합니다. 이는 여러 플랫폼과 모델에서 발생합니다:
- 영향을 받는 플랫폼: Claude Code 및 claude.ai
- 영향을 받는 모델: Opus 4.6 및 Sonnet 4.6
- 동일한 콘텐츠에 대해 Sonnet 4만 오탐지하지 않음
현재 우회 방법
연구원은 두 가지 기능적인 우회 방법을 확인했습니다:
- 특정 유기체 이름을 언급하지 않고 생물정보학 작업 설명하기
- 프롬프트 텍스트 대신 첨부 파일에 유기체 이름 추가하기
- Sonnet 4로 다운그레이드하기, 비록 이는 유료 사용자가 우회 방법 없이 최신 모델에 접근할 수 없음을 의미함
연구자를 위한 정책 간극
Anthropic은 보안 연구자가 정책 필터와 유사한 오탐지를 경험할 경우 사이버 사용 사례 면제 양식을 제공한다고 알려져 있습니다. 그러나 합법적인 연구 맥락에서 병원체를 다루는 생물학 또는 유전체학 연구자를 위한 동등한 면제 절차는 존재하지 않습니다.
연구원은 유사한 오탐지를 경험하는 유전체학 또는 감염병 생물정보학 분야의 다른 연구자들에게 이 문제에 대한 인식을 높일 것을 촉구합니다.
📖 Read the full source: r/ClaudeAI
👀 See Also
Anthropic, 국방부 안전 요구 제거 요청 거부로 연방 계약 상실
Anthropic은 군사용 애플리케이션을 위해 Claude의 안전 장치를 제거하라는 국방부의 요구를 거부했으며, 이로 인해 2억 달러 규모의 계약이 취소되고 연방 기관이 그들의 기술을 사용하는 것을 금지하는 대통령 명령이 내려졌습니다.
구글 AI 개요, 캐나다 피들러를 성범죄자로 허위 표시해 소송 제기
애슐리 매키식, 캐나다의 3회 주노상 수상 바이올리니스트가 AI 개요가 그를 유죄 판결을 받은 성범죄자로 허위 진술하여 콘서트가 취소되자 구글을 상대로 150만 달러 손해배상 소송을 제기했습니다.
MCP의 추상화 경계 및 서비스 통합 접근법에 대한 비판
레딧 토론에서는 MCP가 API 접근성, 효율적인 도구화, 도메인 지식을 한 층으로 묶어서 기본 API와 비교했을 때 제한된 인터페이스를 만든다고 비판합니다. 이 게시물은 Lattice를 예로 들며, 그들의 공개 API는 전체 GraphQL API를 가지고 있음에도 불구하고 HR 관리 워크플로우만 다루고 있다고 지적합니다.
AI 도구가 엔지니어링 업무량을 증가시키고 전문직 역할을 변화시킵니다
2026년 2월 하버드 비즈니스 리뷰 연구에 따르면, 83%의 근로자가 AI 도구로 인해 업무량이 증가했다고 보고했으며, 62%는 번아웃을 경험했습니다. 이 기사는 AI가 엔지니어 역할을 코드 작성에서 AI 생성 코드 검토로 전환시킨 방식을 설명합니다.