Konfigurieren von OpenClaw für verschlüsselte LLM-Inferenz mit TEE-Enklaven

OpenClaw-Konfiguration für private LLM-Inferenz

Ein Entwickler auf r/openclaw beschrieb seinen Aufbau für den Betrieb von OpenClaw mit verschlüsselter LLM-Inferenz unter Verwendung von Trusted Execution Environments (TEEs). Er wechselte von einer standardmäßigen API-Schlüssel-basierten Inferenz zu einem enclave-basierten verschlüsselten Backend mit dem Anbieter Onera, der die Inferenz innerhalb von AMD SEV-SNP Trusted Execution Environments ausführt.

Technische Umsetzung

Der entscheidende Unterschied bei diesem Ansatz ist, dass Eingabeaufforderungen Ende-zu-Ende verschlüsselt und direkt in hardwaregestützte Trusted Execution Environments gesendet werden. Der Client führt zunächst eine Remote-Attestierung durch, um die Identität der Enclave zu überprüfen, bevor Daten gesendet werden. Das bedeutet:

• Eingabeaufforderungen sind für das Host-Betriebssystem nicht sichtbar
• Der Infrastrukturanbieter kann den Klartext nicht lesen
• Die Inferenz läuft innerhalb von hardwareisoliertem Speicher ab

OpenClaw machte diese Integration unkompliziert, da es OpenAI-kompatible Anbieter unterstützt. Der Entwickler fügte den Anbieter in ~/.openclaw/openclaw.json hinzu und setzte ihn als primären Anbieter.

Konfigurationsbeispiel

Anbieterkonfiguration:

{
  models: {
    mode: "merge",
    providers: {
      onera: {
        baseUrl: "https://api.onera.chat/v1",
        apiKey: "onr_YOUR_API_KEY_HERE",
        auth: "api-key",
        api: "openai-completions",
        models: [
          {
            id: "openai/gpt-oss-120b",
            name: "GPT OSS 120B (via Onera)",
            reasoning: false,
            input: ["text"],
            cost: {
              input: 0,
              output: 0,
              cacheRead: 0,
              cacheWrite: 0
            },
            contextWindow: 200000,
            maxTokens: 8192
          }
        ]
      }
    }
  }
}

Als primäres Modell festlegen:

{
  agents: {
    defaults: {
      model: {
        primary: "onera/openai/gpt-oss-120b"
      },
      models: {
        "onera/openai/gpt-oss-120b": {
          alias: "Onera GPT OSS 120B"
        }
      }
    }
  }
}

Wie es funktioniert

Im Hintergrund:

• Der Client überprüft die Enclave über Attestierung
• Ein sicherer Kanal wird eingerichtet (Noise-Protokoll)
• Die Eingabeaufforderung wird innerhalb der Enclave verarbeitet
• Die Antwort wird über denselben verschlüsselten Kanal zurückgegeben

Festgestellte Abwägungen

• Etwas höhere Latenz aufgrund von Attestierung und sicherer Sitzungseinrichtung
• Mehr bewegliche Teile im Vergleich zu Standard-API-Endpunkten
• Stärkere Garantien bezüglich der Vertraulichkeit von Eingabeaufforderungen

Bei der Arbeit mit privaten Repositories bietet dieser Ansatz ein saubereres Vertrauensmodell im Vergleich zum Senden von Klartext an typische Cloud-APIs. Der Entwickler erwähnt andere Anbieter, die ähnliche TEE-Ansätze erforschen, darunter Phala und tinfoil AI.