AI 추론은 분명히 수익성이 있다: 경제학 분석

Sean Goedecke는 AI 추론이 VC 자금으로 보조받는다는 주장과 달리 분명히 수익성이 있다고 주장합니다. 그는 수학과 오픈 모델 가격 책정을 분석하여 LLM 서비스가 지속 가능한 사업이 될 수 있음을 보여줍니다.

70B Dense 모델의 비용 분석

4개의 Nvidia A100 GPU(각 400W, 시간당 약 200만 토큰) 사용 시:

• 전력: 산업용 요금 기준 시간당 약 13센트, 냉각비 약 13센트 추가 → 총 시간당 26센트
• GPU 감가상각: A100당 $20k, 5년 사용 → 연간 $16k 또는 시간당 $1.80
• 총계: 대략 출력 토큰 백만 개당 $1

OpenAI의 GPT-5.4-mini는 백만 토큰당 $4.50을 청구하며, 더 강력한 모델은 3-6배 더 비쌉니다. 이는 70-80%의 총 마진이 타당함을 뒷받침합니다.

오픈 모델이 수익성 확인

DeepSeek는 R1 추론에서 80% 이상의 마진을 주장하며 OpenAI/Anthropic의 절반 미만을 청구합니다. DeepSeek-V4-Pro API는 출력 토큰 백만 개당 약 87센트로 실제 비용에 근접하며, 이는 최첨단 모델의 마진이 훨씬 더 높을 수 있음을 시사합니다.

높은 마진의 이유

OpenAI 및 Anthropic과 같은 AI 연구소는 훈련 비용을 보조하기 위해 추론 수익이 필요하므로 API 가격을 높게 유지합니다. 그러나 훈련 비용이 없는 추론 전용 제공업체는 더 낮은 가격으로도 수익을 낼 수 있습니다. 최첨단 연구소가 문을 닫더라도 모델 권리를 인수한 업체는 계속해서 추론을 수익성 있게 판매할 수 있습니다.