TEE 인클레이브를 사용한 암호화된 LLM 추론을 위한 OpenClaw 구성

개인용 LLM 추론을 위한 OpenClaw 구성

r/openclaw의 한 개발자가 신뢰 실행 환경(TEE)을 사용하여 암호화된 LLM 추론으로 OpenClaw를 실행하기 위한 설정을 상세히 설명했습니다. 그들은 표준 API 키 기반 추론에서 제공업체 Onera를 사용하는 엔클레이브 기반 암호화 백엔드로 전환했으며, 이는 AMD SEV-SNP 신뢰 실행 환경 내에서 추론을 실행합니다.

기술적 구현

이 접근 방식의 핵심 차이점은 프롬프트가 종단 간 암호화되어 하드웨어 신뢰 실행 환경으로 직접 전송된다는 점입니다. 클라이언트는 데이터를 전송하기 전에 먼저 원격 증명을 수행하여 엔클레이브 신원을 확인합니다. 이는 다음을 의미합니다:

• 프롬프트가 호스트 OS에 노출되지 않음
• 인프라 제공업체가 평문을 읽을 수 없음
• 추론이 하드웨어로 격리된 메모리 내에서 실행됨

OpenClaw는 OpenAI 호환 제공업체를 지원하기 때문에 이 통합을 간단하게 만들었습니다. 개발자는 ~/.openclaw/openclaw.json에 제공업체를 추가하고 기본값으로 설정했습니다.

구성 예시

제공업체 구성:

{
  models: {
    mode: "merge",
    providers: {
      onera: {
        baseUrl: "https://api.onera.chat/v1",
        apiKey: "onr_YOUR_API_KEY_HERE",
        auth: "api-key",
        api: "openai-completions",
        models: [
          {
            id: "openai/gpt-oss-120b",
            name: "GPT OSS 120B (via Onera)",
            reasoning: false,
            input: ["text"],
            cost: {
              input: 0,
              output: 0,
              cacheRead: 0,
              cacheWrite: 0
            },
            contextWindow: 200000,
            maxTokens: 8192
          }
        ]
      }
    }
  }
}

기본 모델로 설정:

{
  agents: {
    defaults: {
      model: {
        primary: "onera/openai/gpt-oss-120b"
      },
      models: {
        "onera/openai/gpt-oss-120b": {
          alias: "Onera GPT OSS 120B"
        }
      }
    }
  }
}

작동 방식

내부적으로:

• 클라이언트가 증명을 통해 엔클레이브 확인
• 보안 채널 설정(Noise 프로토콜)
• 프롬프트가 엔클레이브 내에서 처리됨
• 응답이 동일한 암호화된 채널을 통해 반환됨

인지된 장단점

• 증명 및 보안 세션 설정으로 인한 약간의 지연 증가
• 표준 API 엔드포인트에 비해 더 많은 구성 요소
• 프롬프트 기밀성에 대한 강력한 보장

비공개 저장소 작업의 경우, 이 접근 방식은 일반적인 클라우드 API에 평문을 전송하는 것에 비해 더 깔끔한 신뢰 모델을 제공합니다. 개발자는 Phala와 tinfoil AI를 포함하여 유사한 TEE 접근 방식을 탐구하는 다른 제공업체들도 언급했습니다.