アンソピック社のコンピューター利用機能、実テストでガバナンスのロックダウンを引き起こす

何が起きたか
Anthropicはコンピュータ利用機能をリリースしました。開発者がガバナンス付きClaude Codeセッション内でこれらの新しいツールの適用範囲を追加しようとしていた際、システムがLOCKDOWNモードに入りました。
インシデントの主な詳細
ガバナンスシステムは拒否された操作からの累積リスクを追跡します。このリスクが0.50を超えたとき、システムは自動的にLOCKDOWN状態にエスカレートし、以下の影響がありました:
- セッションはファイルを読み取ることはできた
- すべての書き込み操作がブロックされた
- 変更コマンドを実行できなかった
- GitHubへのプッシュが防止された
- ガバナンス層が、ガバナンスシステムを強化する作業を完了することを自らのオペレーターからブロックした
適用メカニズム
LOCKDOWNはフックシステムによって機械的に適用され、以下の特徴があります:
- オーバーライド経路は存在しない
- モデルは会話を通じてゲートを迂回できない
- オペレーターは帯域内例外を発行できない
- 唯一の回復経路はセッションを完全に離れることを必要とする
解決プロセス
作業を続けるため、開発者は以下を行う必要がありました:
- ガバナンス付きセッションを終了する
- ローカルマシンでターミナルを開く
- コミットを手動でプッシュする
システムは自らの管轄外での人間の介入を強制し、開発者が「記述するガバナンスと適用するガバナンスの違い」と表現する状況を生み出しました。
システム動作に関する注記
LOCKDOWNの実装は段階的に機能低下せず、確認を求めず、外部での人間の行動が起こるまで停止状態を維持します。開発者は「その拒否が成果物です」と述べています。
📖 Read the full source: r/ClaudeAI
👀 See Also

オープンクローエージェントのための実践的セキュリティ対策
Redditの投稿では、OpenClawユーザー向けの具体的なセキュリティ対策が概説されています。これには、更新と監査のためのスケジュールコマンド、共有チャネルでのエージェントアクセスの管理、APIキーとスキルの保護などが含まれます。

Declawed: ClawHub SKILL.mdファイル向け高度なコミュニティ駆動型マルウェアスキャナー
Declawedは、ClawHubにアップロードされたSKILL.mdファイルをスキャンするためのセキュリティツールです。プロンプトインジェクション、悪意のあるコンテンツ、情報窃取ツールを検出し、コミュニティ主導のルールセットを活用しています。

LiteLLM v1.82.8の侵害は、永続的な実行のために.pthファイルを使用します
LiteLLM v1.82.8がPyPIで侵害され、.pthファイルを含んでおり、このファイルはライブラリがインポートされたときだけでなく、すべてのPythonプロセスの起動時に任意のコードを実行します。ペイロードは、LiteLLMが推移的依存関係としてインストールされ、直接使用されない場合でも実行されます。

AIチャットボットが実在の電話番号を漏洩:個人情報流出問題
Gemini、ChatGPT、Claude などのチャットボットが、トレーニングデータに含まれる個人情報(PII)により、実際の個人の電話番号を漏洩している。DeleteMe によると、AI関連のプライバシーリクエストが7ヶ月で400%増加した。