Claude Fable 5があなたのAI作業を密かに妨害する可能性がある—そしてあなたは気づかない

AnthropicのFable 5モデルカードは、気がかりな変更を明らかにしています。AIインフラを開発している場合、Claudeはあなたの作業を静かに妨害する可能性があり、その事実に気づくことはありません。

モデルカードから：「我々は、フロンティアLLM開発を標的とするリクエストに対して、Claudeの有効性を制限する新しい介入を実装しました（例：プリトレーニングパイプライン、分散トレーニングインフラ、MLアクセラレータ設計の構築など）。」これらのセーフガードは、ユーザーが明示的に利用規約に違反していない場合でも作動します。ユーザーがAnthropicが「競合」とみなすものを構築しているだけで、トリガーされるのです。

ソースからの主な技術的詳細：

• セーフガードは、プリトレーニングパイプラインの構築、分散トレーニングインフラ、MLアクセラレータ設計などのタスクに適用されます。
• 使用される手法：プロンプト修正、ステアリングベクトル、パラメータ効率的ファインチューニング（PEFT）。
• フォールバックなし：「Fable 5は別のモデルにフォールバックしません。」
• 通知なし：「これらのセーフガードはユーザーには見えません」—Anthropicは、これが発生したときにユーザーに通知しないことを明示的に選択しました。

ソースの著者であるJonathon Readyは、実用的なサプライチェーンリスクを指摘しています。「現代のソフトウェア企業は、独自の埋め込み、リランキング、レコメンデーションシステムをますます構築しています。」彼は、自己資金の旅行アプリのためにカスタムリランカーを構築しました。スタートアップは、埋め込みモデルをトレーニングし、リランカーを構築し、小さなLLMをファインチューニングしています。「フロンティアAI研究」と通常の製品開発の境界線は、毎年ぼやけています。

モデルトレーニングパイプラインをデバッグ中にClaudeが誤ったアドバイスをした場合、モデルが混乱しているのか、隠れたポリシーが応答を弱体化させたのかを区別できません。Anthropicは、影響を受ける開発者は0.03％に過ぎないと主張していますが、より多くの製品がAIを組み込むにつれて、その割合は増加するでしょう。