KI-Inferenz ist offensichtlich profitabel: Eine Analyse der Wirtschaftlichkeit

Sean Goedecke argumentiert, dass KI-Inferenz offensichtlich profitabel ist, im Gegensatz zu Behauptungen, sie werde durch VC-Gelder subventioniert. Er schlüsselt die Mathematik und die Preise offener Modelle auf, um zu zeigen, dass der Betrieb von LLMs ein nachhaltiges Geschäft sein kann.

Kostenaufschlüsselung für ein 70B-Dense-Modell

Mit vier Nvidia A100 GPUs (400W pro Stück, ~2 Millionen Tokens/Stunde):

• Strom: ~13¢/Stunde zu Industriepreisen, plus ~13¢/Stunde Kühlung → insgesamt 26¢/Stunde
• GPU-Amortisation: 20.000 $ pro A100 über 5 Jahre → 16.000 $/Jahr oder 1,80 $/Stunde
• Gesamt: rund 1 $ pro Million Ausgabetokens

OpenAIs GPT-5.4-mini verlangt 4,50 $ pro Million Tokens, und stärkere Modelle sind 3-6x teurer. Damit sind die behaupteten 70-80 % Bruttomarge plausibel.

Offene Modelle bestätigen Rentabilität

DeepSeek behauptet über 80 % Marge bei R1-Inferenz, während es weniger als die Hälfte von OpenAI/Anthropic verlangt. Deren DeepSeek-V4-Pro-API liegt bei etwa 87¢ pro Million Ausgabetokens – nahe an den tatsächlichen Kosten, was darauf hindeutet, dass die Margen bei Spitzenmodellen sogar noch höher sind.

Warum hohe Margen existieren

KI-Labore wie OpenAI und Anthropic benötigen Inferenzgewinne, um Trainingskosten zu subventionieren, weshalb sie die API-Preise hoch halten. Aber ein reiner Inferenzanbieter ohne Trainingskosten könnte selbst zu niedrigeren Preisen Gewinne erzielen. Selbst wenn Spitzenlabore untergehen, kann derjenige, der ihre Modellrechte erwirbt, weiterhin profitabel Inferenz verkaufen.