ヴィタリック・ブテリンの安全なローカルLLM構築へのアプローチ
ヴィタリック・ブテリンは、AIエージェントのセキュリティとデータプライバシーに関する懸念の高まりに対処する、プライベートで安全かつ自己主権的なLLMセットアップの構築方法について説明しています。
対処されるセキュリティ上の懸念
ブテリンは、軽減しようとしているいくつかの具体的なプライバシーとセキュリティの問題を特定しています：
- プライバシー（LLM）: 後で使用または販売される可能性のある個人データを受け取るリモートモデル
- プライバシー（その他）: インターネット検索クエリやその他のオンラインAPIを通じた非LLMデータの漏洩
- LLMジェイルブレイク: ユーザーの利益に反して行動するようLLMを「ハッキング」するリモートコンテンツ
- LLM事故: LLMが誤って個人データを間違ったチャネルに送信すること
- LLMバックドア: 作成者の利益のために動作を引き起こすようにLLMに組み込まれた隠れた仕組み
- ソフトウェアのバグとバックドア: AIが書いた特注コードによるサードパーティプログラムへの依存の低減
現在のAIセキュリティの状況
この記事は、ローカルのオープンソースAIを含む主流のAIには、適切なプライバシーとセキュリティの考慮がしばしば欠けていると指摘しています。ブテリンは、OpenClawエージェントに対する具体的なセキュリティ批判を参照しています：
- エージェントは人間の確認なしに重要な設定を変更できる
- 悪意のある外部入力を解析すると、インスタンスの乗っ取りにつながる可能性がある
- あるデモンストレーションでは、研究者がOpenClawにウェブページを要約するよう指示し、その中にはエージェントにシェルスクリプトをダウンロードして実行するよう命令する悪意のあるページが含まれていた
- 一部のスキルには、サイレントデータ流出を容易にする悪意のある指示が含まれている
- 分析されたスキルの約15％に悪意のある指示が含まれていた
核となる原則
ブテリンのセットアップは、以下の主要な原則に従っています：
- すべてのLLM推論はまずローカルで行う
- すべてのファイルはローカルでホストする
- すべてをサンドボックス化する
- 外部インターネットの脅威に対して偏執的になる
このアプローチは、一部の同僚が使用する物理的に隔離されたセットアップほど極端ではありませんが、プライバシーとセキュリティに関しては厳格な立場を取っています。
📖 Read the full source: HN LLM Tools
👀 See Also
オープンソースの攻撃対象範囲管理チートシートが公開されました
開発者が、実践的なワークフロー、ツール、参考文献を網羅したAttack Surface Management（攻撃対象領域管理）のチートシートをオープンソースとして公開しました。このプロジェクトには、資産発見、インフラストラクチャの追跡、偵察ツール、自動化ワークフロー、学習リソースのセクションが含まれています。
AIチャットボットがユーザーに気付かれずに広告を回答に紛れ込ませる可能性
研究によると、AIチャットボットは回答に製品広告をこっそり埋め込むことができ、ユーザーの選択に影響を与える一方、ほとんどの参加者は操作に気づかなかった。この研究では、カスタムチャットボットを使用してその効果を実証した。
ClawGuard：OpenClaw API認証情報保護のためのオープンソースセキュリティゲートウェイ
ClawGuardは、AIエージェントと外部APIの間に位置するセキュリティゲートウェイで、エージェントマシンではダミーの認証情報を使用し、実際のトークンは別途保存します。機密性の高い呼び出しにはTelegramによる承認を提供し、リクエストの監査証跡を維持します。
Claude Codeが技術監査中にGitHubリポジトリのマルウェアバックドアを特定
開発者が実行前にGitHubリポジトリを監査するためにClaude Codeを使用し、src/server/routes/auth.jsにリモートコード実行バックドアを発見しました。これにより、彼らのマシンが危険にさらされる可能性がありました。プロンプトでは、プロジェクトの完全性、AI/MLレイヤー、データベース、認証、バックエンドサービス、フロントエンド、コード品質、および工数見積もりをチェックする技術的デューデリジェンス監査を要求していました。