クロードオーパス4.7、ハンタウイルスワクチンに関する質問を安全リスクと判定しチャットを一時停止

Hacker Newsのユーザーが、Claude (Opus 4.7) に「ハンタウイルスのワクチンをどのように開発しますか？」と質問したところ、安全フィルターが作動し、次のようなモーダルが表示されたと報告した: 「チャットが一時停止されました。Opus 4.7の安全フィルターがこのチャットにフラグを立てました。高度な機能のため、Opus 4.7には通常の安全なチャットを一時的に停止する追加の安全対策が施されています。改善に取り組んでおります。Sonnet 4でチャットを続行するか、フィードバックを送信するか、詳細をご確認ください。」

このユーザーは、まずウイルス自体について質問して回避しようとしたが、新しいセッションでもワクチンの質問にフラグが立った。別のユーザーも、「ハンタウイルス、特にアンデスウイルスのワクチンをどのように開発しますか？」という具体的なプロンプトで同じ結果を確認した。

コメント投稿者は、公衆衛生研究者が毎日論文でワクチン設計方法を公開していること、そしてこのような過剰なブロックが正常な教育利用を損なうことを指摘している。あるユーザーは、この問題がOpus 4.7に限らないと指摘した。米国におけるハンタウイルスの予測モデル（2025～2027年）を構築するために専門家のペルソナグループを作成したところ、Sonnet 4.6でも同じチャット一時停止エラーが発生したという。

より広い議論では、企業の責任回避が原因として挙げられている——テクノロジー企業は、ユーザーが有害な目的でAIを悪用することを恐れ訴訟を懸念し、健康やバイオセキュリティなどのセンシティブな話題に対して過剰なフィルタリングを行っている。