ヴィタリック・ブテリンの安全なローカルLLM構築へのアプローチ

ヴィタリック・ブテリンは、AIエージェントのセキュリティとデータプライバシーに関する懸念の高まりに対処する、プライベートで安全かつ自己主権的なLLMセットアップの構築方法について説明しています。

対処されるセキュリティ上の懸念

ブテリンは、軽減しようとしているいくつかの具体的なプライバシーとセキュリティの問題を特定しています：

• プライバシー（LLM）: 後で使用または販売される可能性のある個人データを受け取るリモートモデル
• プライバシー（その他）: インターネット検索クエリやその他のオンラインAPIを通じた非LLMデータの漏洩
• LLMジェイルブレイク: ユーザーの利益に反して行動するようLLMを「ハッキング」するリモートコンテンツ
• LLM事故: LLMが誤って個人データを間違ったチャネルに送信すること
• LLMバックドア: 作成者の利益のために動作を引き起こすようにLLMに組み込まれた隠れた仕組み
• ソフトウェアのバグとバックドア: AIが書いた特注コードによるサードパーティプログラムへの依存の低減

現在のAIセキュリティの状況

この記事は、ローカルのオープンソースAIを含む主流のAIには、適切なプライバシーとセキュリティの考慮がしばしば欠けていると指摘しています。ブテリンは、OpenClawエージェントに対する具体的なセキュリティ批判を参照しています：

• エージェントは人間の確認なしに重要な設定を変更できる
• 悪意のある外部入力を解析すると、インスタンスの乗っ取りにつながる可能性がある
• あるデモンストレーションでは、研究者がOpenClawにウェブページを要約するよう指示し、その中にはエージェントにシェルスクリプトをダウンロードして実行するよう命令する悪意のあるページが含まれていた
• 一部のスキルには、サイレントデータ流出を容易にする悪意のある指示が含まれている
• 分析されたスキルの約15％に悪意のある指示が含まれていた

核となる原則

ブテリンのセットアップは、以下の主要な原則に従っています：

• すべてのLLM推論はまずローカルで行う
• すべてのファイルはローカルでホストする
• すべてをサンドボックス化する
• 外部インターネットの脅威に対して偏執的になる

このアプローチは、一部の同僚が使用する物理的に隔離されたセットアップほど極端ではありませんが、プライバシーとセキュリティに関しては厳格な立場を取っています。