Configuración de OpenClaw para Inferencia de LLM Cifrada Utilizando Enclaves TEE

Configuración de OpenClaw para Inferencia Privada de LLM

Un desarrollador en r/openclaw detalló su configuración para ejecutar OpenClaw con inferencia de LLM cifrada usando entornos de ejecución confiable (TEEs). Cambiaron de la inferencia estándar basada en claves API a un backend cifrado basado en enclaves usando el proveedor Onera, que ejecuta la inferencia dentro de entornos de ejecución confiable AMD SEV-SNP.

Implementación Técnica

La diferencia clave con este enfoque es que los prompts se cifran de extremo a extremo y se envían directamente a los entornos de ejecución confiable de hardware. El cliente realiza primero una atestación remota para verificar la identidad del enclave antes de enviar cualquier dato. Esto significa:

• Los prompts no son visibles para el sistema operativo anfitrión
• El proveedor de infraestructura no puede leer el texto plano
• La inferencia se ejecuta dentro de memoria aislada por hardware

OpenClaw hizo esta integración sencilla ya que admite proveedores compatibles con OpenAI. El desarrollador agregó el proveedor en ~/.openclaw/openclaw.json y lo estableció como principal.

Ejemplo de Configuración

Configuración del proveedor:

{
  models: {
    mode: "merge",
    providers: {
      onera: {
        baseUrl: "https://api.onera.chat/v1",
        apiKey: "onr_YOUR_API_KEY_HERE",
        auth: "api-key",
        api: "openai-completions",
        models: [
          {
            id: "openai/gpt-oss-120b",
            name: "GPT OSS 120B (via Onera)",
            reasoning: false,
            input: ["text"],
            cost: {
              input: 0,
              output: 0,
              cacheRead: 0,
              cacheWrite: 0
            },
            contextWindow: 200000,
            maxTokens: 8192
          }
        ]
      }
    }
  }
}

Establecer como modelo principal:

{
  agents: {
    defaults: {
      model: {
        primary: "onera/openai/gpt-oss-120b"
      },
      models: {
        "onera/openai/gpt-oss-120b": {
          alias: "Onera GPT OSS 120B"
        }
      }
    }
  }
}

Cómo Funciona

Internamente:

• El cliente verifica el enclave mediante atestación
• Se establece un canal seguro (protocolo Noise)
• El prompt se procesa dentro del enclave
• La respuesta se devuelve a través del mismo canal cifrado

Compensaciones Observadas

• Ligera mayor latencia debido a la atestación y configuración de sesión segura
• Más componentes en comparación con endpoints API estándar
• Garantías más fuertes en torno a la confidencialidad de los prompts

Para trabajar con repositorios privados, este enfoque proporciona un modelo de confianza más limpio en comparación con enviar texto plano a APIs en la nube típicas. El desarrollador menciona otros proveedores que exploran enfoques TEE similares incluyendo Phala y tinfoil AI.