Die Analyse der Inferenzpreise zeigt eine 4,4-fache Preisspanne für dasselbe Modell bei verschiedenen Anbietern.
Analyse der Inferenzkosten für KI-Coding-Agents
Die Analyse der Inferenzpreise über mehrere Anbieter hinweg zeigt erhebliche Kostenunterschiede für identische Modellausgaben, mit Spannen von bis zu 4,4-fach für Standardmodelle und bis zu 30-fach für Reasoning-Modelle.
Wichtige Preisdaten aus der Quelle
Für Llama 3.1 70B Instruct (gleiches Modell, gleiche Gewichtungen):
- DeepInfra: 0,20 $ / 0,27 $ pro Million Tokens
- Hyperbolic: 0,40 $ / 0,40 $ pro Million Tokens
- Groq: 0,59 $ / 0,79 $ pro Million Tokens
- Fireworks: 0,70 $ / 0,70 $ pro Million Tokens
- Together: 0,88 $ / 0,88 $ pro Million Tokens
Dies stellt einen 4,4-fachen Unterschied zwischen dem günstigsten (DeepInfra) und dem teuersten (Together) Anbieter für exakt denselben API-Aufruf dar.
Auswirkungen auf die Nutzungskosten
Für einen einzelnen Agenten, der etwa 10 Millionen Tokens pro Tag verarbeitet:
- DeepInfra: ~876 $/Jahr
- Together: ~3.212 $/Jahr
Gleiche Ausgabe, gleicher API-Aufruf, aber ein Unterschied von 2.336 $ jährlich.
Preisspanne bei Reasoning-Modellen
Die Analyse erstreckt sich auf Reasoning-Modelle mit noch aggressiveren Preisunterschieden:
- DeepSeek R1 (Hyperbolic): ~2 $ pro 1 Million Ausgabe-Tokens
- OpenAI o1: ~60 $ pro 1 Million Ausgabe-Tokens
Dies entspricht einer etwa 30-fachen Spanne zwischen den Anbietern.
Marktbeobachtungen
Die Quelle stellt fest, dass sich die Preise von Woche zu Woche stärker als erwartet zwischen den Anbietern verschieben, was darauf hindeutet, dass es noch keinen etablierten "Marktpreis" für Inferenzdienste gibt. Der Autor verfolgt derzeit die Preise für: DeepInfra, Hyperbolic, Groq, Fireworks, Together, OpenAI, Anthropic und Akash.
Überlegungen für Entwickler
Die Analyse wirft praktische Fragen für Entwickler auf, die KI-Coding-Agents nutzen:
- An einen Anbieter binden vs. Routing basierend auf dem Preis
- Ob Preise aktiv verfolgt oder die Unterschiede ignoriert werden sollen
- Welche zusätzlichen Anbieter in die Überwachung einbezogen werden sollten
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
Google Trends zeigt einen steigenden Suchinteresse für Claude Code Anfang 2026
Ein Reddit-Nutzer verglich die Google Trends-Suchanfragen der letzten Jahr für fünf Coding-Tools: Vibe Coding, Cursor, Claude Code, Codex und Replit. Der Aufstieg von Claude Code Anfang 2026 sticht in den Daten besonders hervor.
Anthropic entfernt Zugriff auf Gmail-Nachrichtentexte aus Claude Connector
Anthropic hat die Tools gmail_read_message und gmail_search_messages aus dem Gmail-Connector entfernt und durch get_thread und search_threads ersetzt, die keine Nachrichtentexte oder Anhänge mehr zurückgeben.
KI-Startups veröffentlichen weniger Forschung: Was das für Open Source und Entwickler bedeutet
Top-KI-Startups veröffentlichen deutlich weniger Forschung, was Bedenken hinsichtlich Transparenz und Reproduzierbarkeit in diesem Bereich aufwirft.
Claude-Code-Quellcode angeblich geleakt, enthüllt Details zur Agentenarchitektur
Der Quellcode von Claude Code, Anthropics KI-gestützter Programmierassistent, scheint laut Berichten der r/LocalLLaMA-Community geleakt worden zu sein. Der Leak soll das vollständige Repository enthalten, nicht nur dekompilierten Code oder Wrapper-Implementierungen.