Tinfoil의 Modelwrap 기술로 모델 신원 증명하기

Tinfoil은 추론 제공자가 API 호출 중 사용하는 정확한 모델 가중치를 암호화적으로 검증하도록 설계된 솔루션인 Modelwrap을 도입했습니다. 이는 사용자가 정확한 가중치를 제공받는지 아니면 잠재적으로 양자화된 변형을 제공받는지 확인할 수 없는 반복적인 문제를 해결합니다.

주요 세부사항

Modelwrap 시스템은 목표를 달성하기 위해 여러 핵심 구성 요소를 사용합니다:

• 모델 가중치에 대한 공개 커밋: 이는 Merkle 트리를 통해 루트 해시를 생성하여 모델 무결성에 대한 단일 지점 검증 방법을 제공합니다.
• 보안 하드웨어 엔클레이브: 시스템이 초기에 검증된 바이너리를 로드하도록 보장하는 데 사용되며, 어테스테이션은 시스템의 시작 상태를 검증합니다.
• 런타임 검증: 중요한 점은 Modelwrap이 dm-verity를 사용한다는 것입니다. 이는 Linux 커널 수준 시스템으로, 모든 읽기 작업에서 모델 가중치 검증을 강제합니다. 이렇게 하면 시스템 부팅 후 가져온 모든 데이터 조각이 커밋된 해시와 일치하도록 보장됩니다.

Merkle 트리와 dm-verity의 조합은 각 모델의 가중치를 빠르고 정확하게 인증할 수 있게 합니다. 이는 제공자가 매번 지정된 모델을 제공하도록 보장하는 데 중요한 의미를 가지며, 양자화와 같은 공개되지 않은 모델 변경으로 인한 성능 변동을 최소화합니다.

이 도구는 모델 출력의 무결성과 일관성을 유지하는 것이 중요한 상업적 AI 배포나 학술 연구 벤치마크와 같은 환경에서 특히 유용합니다.