Доказательство идентичности модели с помощью технологии Modelwrap от Tinfoil

Tinfoil представил Modelwrap, решение, предназначенное для криптографической проверки точных весов модели, используемых провайдерами вывода во время вызовов API. Это решает повторяющуюся проблему, когда пользователи не могут подтвердить, что им предоставляются именно те веса, которые они ожидали, или потенциально квантованный вариант.

Ключевые детали

Система Modelwrap использует несколько основных компонентов для достижения своей цели:

• Общественное обязательство по весам модели: Это включает создание корневого хеша с помощью деревьев Меркла для предоставления единого метода проверки целостности модели.
• Защищенные аппаратные среды: Эти среды используются для обеспечения того, чтобы система изначально загружала проверенные бинарные файлы, при этом аттестация подтверждает состояние запуска системы.
• Проверка во время выполнения: Важно, что Modelwrap использует dm-verity, систему на уровне ядра Linux, которая обеспечивает проверку весов модели при каждой операции чтения. Это гарантирует, что все данные, загружаемые после загрузки системы, соответствуют зафиксированному хешу.

Сочетание деревьев Меркла и dm-verity позволяет быстро и точно аутентифицировать веса каждой модели. Это имеет значительные последствия для обеспечения того, что провайдеры каждый раз предоставляют указанную модель, минимизируя колебания производительности из-за нераскрытых изменений модели, таких как квантование.

Этот инструмент особенно полезен в средах, где поддержание целостности и согласованности выходных данных модели имеет решающее значение, таких как в коммерческих развертываниях ИИ или академических исследовательских бенчмарках.