TinfoilのModelwrap技術によるモデル同一性の証明

Tinfoilは、推論プロバイダーがAPI呼び出し中に使用している正確なモデル重みを暗号学的に検証するためのソリューション「Modelwrap」を導入しました。これにより、ユーザーが正確な重みを受け取っているのか、それとも量子化されたバリアントを受け取っているのかを確認できないという繰り返し発生する問題に対処します。

主要な詳細

Modelwrapシステムは、その目的を達成するためにいくつかのコアコンポーネントを採用しています：

• モデル重みへの公開コミットメント： マークルツリーを使用してルートハッシュを作成し、モデルの完全性を単一ポイントで検証する方法を提供します。
• セキュアハードウェアエンクレーブ： システムが最初に検証済みバイナリをロードすることを保証するために使用され、システムの起動状態を検証するアテステーションを提供します。
• ランタイム検証： 重要なことに、Modelwrapはdm-verityを使用します。これはLinuxカーネルレベルのシステムで、すべての読み取り操作においてモデル重みの検証を強制します。これにより、システム起動後にフェッチされるデータの断片がコミットされたハッシュに準拠していることを保証します。

マークルツリーとdm-verityの組み合わせにより、各モデルの重みを迅速かつ正確に認証することが可能になります。これは、プロバイダーが毎回指定されたモデルを提供することを保証し、量子化などの未公開のモデル変更によるパフォーマンス変動を最小限に抑える上で重要な意味を持ちます。

このツールは、商用AIデプロイメントや学術研究のベンチマークなど、モデル出力の完全性と一貫性を維持することが重要な環境で特に有益です。