메모리, AI 칩 비용의 63% 차지: HBM 지출 320억 달러 돌파

Epoch AI의 최신 분석에 따르면 고대역폭 메모리(HBM)가 이제 AI 칩 구성 요소 비용의 거의 3분의 2를 차지합니다. 2024년 1분기부터 2025년 4분기까지 엔비디아, AMD, 구글, 아마존이 설계한 칩에서 HBM의 비중은 생산량 기준으로 52%에서 63%로 증가했습니다. AI 칩에 대한 총 구성 요소 지출은 2024년 220억 달러에서 2025년 520억 달러로 증가했으며, 이 중 HBM만 200억 달러 증가에 기여했습니다.
주요 수치
- 메모리(HBM): 52% → 63% 비중. 절대 지출은 2024년 약 120억 달러에서 2025년 320억 달러로 증가.
- 로직 다이: 약 13~14% 비중으로 거의 변화 없음.
- 고급 패키징(CoWoS): 19%에서 15%로 하락.
- 보조 구성 요소: 15%에서 9%로 하락.
중요한 이유
이제 메모리가 AI 가속기의 주요 비용 요인입니다. Epoch은 재무 공시, 공급업체 신고, 애널리스트 보고서를 통해 HBM 스택(HBM3, HBM3e), 고급 노드 로직 다이(3~5nm), TSMC CoWoS 패키징, 보조 구성 요소(기판, 전원 공급)의 네 가지 범주로 칩당 비용을 모델링합니다. 이러한 변화는 메모리 공급 부족과 HBM 가격 상승에 기인합니다. 하이퍼스케일러들은 이미 이를 자본 지출 가이던스에 반영하고 있습니다. 마이크로소프트의 2026 회계연도 1,900억 달러 자본 지출 전망에는 구성 요소 가격 상승으로 인한 약 250억 달러가 포함되어 있으며, 메타는 같은 요인을 이유로 2026년 자본 지출 범위를 100억 달러 상향 조정했습니다.
불확실성 범위
Epoch은 90% 신뢰 구간과 두 가지 경계 지표를 제공합니다.
- 메모리 비용만 고려한 범위: 2025년 4분기 60~67%.
- 모든 구성 요소가 극단값일 때 범위: 2025년 4분기 54~73%.
이 추세는 2026년에도 HBM 공급이 제한되면서 메모리의 비중이 더욱 증가할 것임을 시사합니다.
📖 전체 출처 읽기: HN AI Agents
👀 See Also

EU 가입자, 미공개 Claude Pro 사용 제한 보고 – 소비자법 위반 가능성
Reddit 게시물은 Claude Pro의 마케팅이 '무제한'을 약속하지만 EU 사용자에게 추가 요금이 부과되고 공개되지 않은 세션 제한이 있어 EU 소비자 지침을 위반할 수 있다고 자세히 설명합니다.

벤치마크 결과: Apple Silicon 대 AMD GPU에서 ROCm 및 Vulkan을 사용한 Qwen3.5 모델 성능 비교
한 개발자가 Apple Silicon Mac과 AMD GPU 워크스테이션에서 Qwen3.5 모델(35B MoE, 27B dense, 122B MoE)을 벤치마킹하여 ROCm과 Vulkan 백엔드를 컨텍스트 스케일링 테스트와 비교했습니다. 하드웨어에는 M5 Max, M1 Max 및 다양한 PCIe 구성의 세 가지 AMD GPU가 포함되었습니다.

메타, 직원 키스트로크 데이터 유출로 내부 AI 훈련 프로그램 중단
데이터 유출로 개인 대화, 성과 데이터, 기록이 전사적으로 노출된 후, 메타가 직원 키보드 입력을 추적하는 MCI 프로그램을 중단했습니다.

클로드 코드 개발자는 적응적 사고의 결함을 인정하고 해결책을 제공합니다.
Claude Code의 창시자인 Boris Charny는 적응형 사고 기능의 결함으로 인해 성능 저하가 발생한다고 확인했습니다. effort=high 설정에서도 문제를 겪는 사용자는 임시 해결책으로 CLAUDE_CODE_DISABLE_ADAPTIVE_THINKING=1을 사용할 수 있습니다.