Demostrando la Identidad del Modelo con la Tecnología Modelwrap de Tinfoil

Tinfoil ha introducido Modelwrap, una solución diseñada para verificar criptográficamente los pesos exactos del modelo que utilizan los proveedores de inferencia durante las llamadas a la API. Esto aborda un problema recurrente donde los usuarios no pueden confirmar si se les sirven los pesos exactos o una variante potencialmente cuantizada.

Detalles Clave

El sistema Modelwrap emplea varios componentes centrales para lograr su objetivo:

• Compromiso Público a los Pesos del Modelo: Esto implica crear un hash raíz a través de árboles de Merkle para proporcionar un método de verificación de un solo punto para la integridad del modelo.
• Enclaves de Hardware Seguros: Estos se utilizan para asegurar que el sistema cargue inicialmente binarios verificados, con una atestación que verifica el estado de inicio del sistema.
• Verificación en Tiempo de Ejecución: De manera crítica, Modelwrap utiliza dm-verity, un sistema a nivel de núcleo de Linux que aplica la verificación de los pesos del modelo en cada operación de lectura. Esto asegura que cualquier datos recuperados después de que el sistema arranca se ajusten al hash comprometido.

La combinación de árboles de Merkle y dm-verity permite que los pesos de cada modelo sean autenticados de manera rápida y precisa. Esto tiene implicaciones significativas para asegurar que los proveedores entreguen el modelo especificado cada vez, minimizando las variaciones de rendimiento debidas a alteraciones en el modelo no divulgadas, como las cuantizaciones.

Esta herramienta es particularmente beneficiosa para entornos donde mantener la integridad y consistencia de las salidas del modelo es crucial, como en implementaciones comerciales de IA o en benchmarks de investigación académica.