인텔 아크 프로 B60에 로컬 '세컨드 브레인' 구축한 초보자: Qwen 3.8 27B, 38 tok/s, 128K 컨텍스트

코딩 배경이 전혀 없는 비개발자가 오래된 Dell OptiPlex에 대부분 로컬로 동작하는 개인 AI 에이전트(OpenClaw)를 구축한 뒤, Intel Arc Pro B60 GPU를 중심으로 전용 AI 서버를 만들었습니다. 원문은 정확한 하드웨어, 비용, 결과를 상세히 다룬 글로 — Qwen 3.8 27B를 128K 컨텍스트 창에서 약 38 tok/s로 실행하는 내용을 포함합니다.

시작은 어떻게

글쓴이는 평범한 챗봇 사용자였습니다 — 조사와 글쓰기 정도만 했죠 — 그러다 OpenClaw(단순 대화가 아니라 실제로 뭔가를 하는 AI 에이전트)에 관한 YouTube 영상을 보고 직접 만들기 시작했습니다. 오래된 Dell OptiPlex 3431에서 무료 Claude 계정으로 약 이틀 만에 설정을 마쳤고, 처음에는 월 20달러짜리 ChatGPT 구독으로 돌렸습니다.

Dell (에이전트의 컨트롤 플레인)

• CPU: Intel Core i9-9900 (기본 i5에서 업그레이드)
• RAM: 32GB DDR4-2666 (원래 64GB였으나 절반을 AI 박스로 옮김)
• GPU: NVIDIA Quadro P620, 2GB (기본 제공, AI에는 무용지물)
• OS 드라이브: 512GB NVMe (추가)
• 저장장치: 2TB SATA SSD (원래 있던 것)
• OS: Windows 11 Pro

OpenClaw(에이전트 하네스), 메모리, 스케줄링, Telegram(채팅 인터페이스), 백업을 실행하고, 언제든 AI 박스로 배포할 수 있는 로컬 모델을 저장합니다.

안정성 문제는 Dell이 Amazon에서 함께 보낸 저렴한 "그레이 마켓" 메모리 스틱 때문이었습니다 — 글쓴이는 불량 RAM이 Windows 파일을 손상시켰다고 의심합니다. i9 업그레이드는 지금까지 유일한 잘못된 지출이었다고 언급했는데(이베이에서 200달러), 에이전트가 문자 그대로 사지 말라고 간청했다고 합니다.

BlackBox (BB) — 전용 AI 서버

에이전트를 돌리던 중, 글쓴이는 2,000달러짜리 Mac Studio를 주문했다가 필요한 일을 할 수 있는 모델을 실행할 수 없다는 걸 깨닫고 취소했습니다. 잠시 모든 것을 클라우드로 돌렸습니다: 월 20달러 Claude에 100달러 ChatGPT 플랜 = 에이전트를 돌리는 데만 월 120달러, 이는 함정처럼 느껴졌습니다.

전환점은 작은 오픈 모델들이었습니다 — Qwen, GPT-OSS 20B, Mistral, Gemma. Qwen 3.8 27B가 나왔을 때, 그들은 에이전트에게 AI를 서빙하는 것 외에는 아무것도 하지 않는 별도 머신을 만들기로 결심했습니다. 그 분리가 이 프로젝트의 최고 결정이었다고 설명합니다.

guiding rule

모든 것은 범용적이고 교체 가능해야 합니다 — 모델, 하드웨어 조각, 심지어 에이전트 하네스 자체에도 얽매이지 않아야 합니다. 그래야 로컬 추론은 그대로 두고 에이전트 호스트 머신을 바꿀 수 있습니다.

보고된 수치

Intel Arc Pro B60에서 Qwen 3.8 27B를 약 38 tok/s, 128K 컨텍스트 창으로 실행 — 이제 기본 모델이며, 클라우드 모델이 그 반대가 아니라 백업 역할을 합니다. 전체 스펙, 구성, 수치는 원문 게시물에 있습니다.