AI-инференс явно прибылен: разбираем экономику

Шон Гёдекс утверждает, что AI-инференс явно прибылен, вопреки заявлениям о том, что он субсидируется венчурными инвестициями. Он разбирает математику и ценообразование открытых моделей, показывая, что обслуживание LLM может быть устойчивым бизнесом.

Разбор затрат для плотной модели на 70B

Используя четыре Nvidia A100 (400W каждая, ~2 млн токенов/час):

• Электроэнергия: ~13¢/час по промышленным тарифам, плюс ~13¢/час на охлаждение → итого 26¢/час
• Амортизация GPU: $20k за A100 за 5 лет → $16k/год или $1,80/час
• Итого: примерно $1 за миллион выходных токенов

OpenAI GPT-5.4-mini взимает $4,50 за миллион токенов, а более мощные модели — в 3-6 раз дороже. Это делает заявленную валовую маржу в 70-80% правдоподобной.

Открытые модели подтверждают прибыльность

DeepSeek заявляет о марже более 80% на инференсе R1, взимая менее половины от цен OpenAI/Anthropic. Их API DeepSeek-V4-Pro стоит около 87¢ за миллион выходных токенов — близко к фактической стоимости, что предполагает еще более высокую маржу для фронтирных моделей.

Почему существуют высокие маржи

AI-лабораториям, таким как OpenAI и Anthropic, нужна прибыль от инференса для субсидирования затрат на обучение, поэтому они держат высокие цены на API. Но провайдер, занимающийся только инференсом и не несущий затрат на обучение, может получать прибыль даже при более низких ценах. Даже если фронтирные лаборатории разорятся, тот, кто приобретет права на их модели, сможет продолжать прибыльно продавать инференс.