L'inférence IA est clairement rentable : analyse des aspects économiques

Sean Goedecke affirme que l'inférence IA est clairement rentable, contrairement aux affirmations selon lesquelles elle serait subventionnée par l'argent du capital-risque. Il détaille les calculs et la tarification des modèles ouverts pour montrer que le service des LLM peut être une activité durable.

Répartition des coûts pour un modèle dense de 70B

En utilisant quatre GPU Nvidia A100 (400 W chacun, ~2 millions de tokens/heure) :

• Électricité : ~13 ¢/h aux tarifs industriels, plus ~13 ¢/h de refroidissement → 26 ¢/h au total
• Amortissement des GPU : 20 000 $ par A100 sur 5 ans → 16 000 $/an, soit 1,80 $/h
• Total : environ 1 $ par million de tokens de sortie

Le GPT-5.4-mini d'OpenAI facture 4,50 $ le million de tokens, et les modèles plus puissants sont 3 à 6 fois plus chers. Cela rend plausible la marge brute annoncée de 70 à 80 %.

Les modèles ouverts confirment la rentabilité

DeepSeek revendique plus de 80 % de marge sur l'inférence de R1 tout en facturant moins de la moitié du prix d'OpenAI/Anthropic. Leur API DeepSeek-V4-Pro coûte environ 87 ¢ par million de tokens de sortie—proche du coût réel, ce qui suggère que les marges des modèles de pointe sont encore plus élevées.

Pourquoi des marges aussi élevées

Les labos d'IA comme OpenAI et Anthropic ont besoin des profits de l'inférence pour subventionner les coûts d'entraînement, ils maintiennent donc des prix d'API élevés. Mais un fournisseur spécialisé dans l'inférence, sans coûts d'entraînement, pourrait être rentable même à des prix plus bas. Même si les labos de pointe disparaissent, quiconque acquiert les droits de leurs modèles peut continuer à vendre de l'inférence de manière rentable.