Configurando o OpenClaw para Inferência de LLM Criptografada Usando Enclaves TEE

Configuração do OpenClaw para Inferência Privada de LLM

Um desenvolvedor no r/openclaw detalhou sua configuração para executar o OpenClaw com inferência de LLM criptografada usando ambientes de execução confiáveis (TEEs). Eles mudaram da inferência padrão baseada em chave de API para um backend criptografado baseado em enclave usando o provedor Onera, que executa inferência dentro dos ambientes de execução confiáveis AMD SEV-SNP.

Implementação Técnica

A principal diferença com essa abordagem é que os prompts são criptografados de ponta a ponta e enviados diretamente para os ambientes de execução confiáveis de hardware. O cliente realiza primeiro a atestação remota para verificar a identidade do enclave antes de enviar quaisquer dados. Isso significa:

• Os prompts não são visíveis para o sistema operacional do host
• O provedor de infraestrutura não pode ler o texto simples
• A inferência é executada dentro da memória isolada por hardware

O OpenClaw tornou essa integração direta, pois suporta provedores compatíveis com OpenAI. O desenvolvedor adicionou o provedor em ~/.openclaw/openclaw.json e o definiu como principal.

Exemplo de Configuração

Configuração do provedor:

{
  models: {
    mode: "merge",
    providers: {
      onera: {
        baseUrl: "https://api.onera.chat/v1",
        apiKey: "onr_YOUR_API_KEY_HERE",
        auth: "api-key",
        api: "openai-completions",
        models: [
          {
            id: "openai/gpt-oss-120b",
            name: "GPT OSS 120B (via Onera)",
            reasoning: false,
            input: ["text"],
            cost: {
              input: 0,
              output: 0,
              cacheRead: 0,
              cacheWrite: 0
            },
            contextWindow: 200000,
            maxTokens: 8192
          }
        ]
      }
    }
  }
}

Definindo como modelo principal:

{
  agents: {
    defaults: {
      model: {
        primary: "onera/openai/gpt-oss-120b"
      },
      models: {
        "onera/openai/gpt-oss-120b": {
          alias: "Onera GPT OSS 120B"
        }
      }
    }
  }
}

Como Funciona

Nos bastidores:

• O cliente verifica o enclave via atestação
• Um canal seguro é estabelecido (protocolo Noise)
• O prompt é processado dentro do enclave
• A resposta é retornada pelo mesmo canal criptografado

Compensações Observadas

• Latência ligeiramente maior devido à atestação e configuração da sessão segura
• Mais componentes em comparação com endpoints de API padrão
• Garantias mais fortes em relação à confidencialidade dos prompts

Para trabalhar com repositórios privados, essa abordagem fornece um modelo de confiança mais limpo em comparação com o envio de texto simples para APIs de nuvem típicas. O desenvolvedor menciona outros provedores explorando abordagens TEE semelhantes, incluindo Phala e tinfoil AI.