Die Analyse der Inferenzpreise zeigt eine 4,4-fache Preisspanne für dasselbe Modell bei verschiedenen Anbietern.
Analyse der Inferenzkosten für KI-Coding-Agents
Die Analyse der Inferenzpreise über mehrere Anbieter hinweg zeigt erhebliche Kostenunterschiede für identische Modellausgaben, mit Spannen von bis zu 4,4-fach für Standardmodelle und bis zu 30-fach für Reasoning-Modelle.
Wichtige Preisdaten aus der Quelle
Für Llama 3.1 70B Instruct (gleiches Modell, gleiche Gewichtungen):
- DeepInfra: 0,20 $ / 0,27 $ pro Million Tokens
- Hyperbolic: 0,40 $ / 0,40 $ pro Million Tokens
- Groq: 0,59 $ / 0,79 $ pro Million Tokens
- Fireworks: 0,70 $ / 0,70 $ pro Million Tokens
- Together: 0,88 $ / 0,88 $ pro Million Tokens
Dies stellt einen 4,4-fachen Unterschied zwischen dem günstigsten (DeepInfra) und dem teuersten (Together) Anbieter für exakt denselben API-Aufruf dar.
Auswirkungen auf die Nutzungskosten
Für einen einzelnen Agenten, der etwa 10 Millionen Tokens pro Tag verarbeitet:
- DeepInfra: ~876 $/Jahr
- Together: ~3.212 $/Jahr
Gleiche Ausgabe, gleicher API-Aufruf, aber ein Unterschied von 2.336 $ jährlich.
Preisspanne bei Reasoning-Modellen
Die Analyse erstreckt sich auf Reasoning-Modelle mit noch aggressiveren Preisunterschieden:
- DeepSeek R1 (Hyperbolic): ~2 $ pro 1 Million Ausgabe-Tokens
- OpenAI o1: ~60 $ pro 1 Million Ausgabe-Tokens
Dies entspricht einer etwa 30-fachen Spanne zwischen den Anbietern.
Marktbeobachtungen
Die Quelle stellt fest, dass sich die Preise von Woche zu Woche stärker als erwartet zwischen den Anbietern verschieben, was darauf hindeutet, dass es noch keinen etablierten "Marktpreis" für Inferenzdienste gibt. Der Autor verfolgt derzeit die Preise für: DeepInfra, Hyperbolic, Groq, Fireworks, Together, OpenAI, Anthropic und Akash.
Überlegungen für Entwickler
Die Analyse wirft praktische Fragen für Entwickler auf, die KI-Coding-Agents nutzen:
- An einen Anbieter binden vs. Routing basierend auf dem Preis
- Ob Preise aktiv verfolgt oder die Unterschiede ignoriert werden sollen
- Welche zusätzlichen Anbieter in die Überwachung einbezogen werden sollten
📖 Read the full source: r/LocalLLaMA
👀 Siehe auch
ETH-Studie hinterfragt den Nutzen von AGENTS.md-Dateien für KI-Codierungsagenten
Neue Forschungsergebnisse der ETH Zürich zeigen, dass LLM-generierte AGENTS.md-Dateien die Erfolgsquote von KI-Agenten-Aufgaben um 3 % reduzieren und die Inferenzkosten um über 20 % erhöhen, während menschlich verfasste Dateien nur marginale Verbesserungen von 4 % bei ähnlichen Kostensteigerungen bieten.
CBPs Clearview-AI-Deal: Gesichtserkennung für taktische Zielverfolgung
Die US-amerikanische Zoll- und Grenzschutzbehörde hat Clearview AI für die taktische Zielverfolgung beauftragt, wobei Gesichtserkennungstechnologie auf Milliarden von im Internet gesammelten Bildern verwendet wird.
MiMo-V2.5-Pro im Benchmark: Starke soziale Deduktionslogik, gutes Preis-Leistungs-Verhältnis im Vergleich zu K2.6
MiMo-V2.5-Pro konkurriert mit Kimi K2.6 in autonomen Blood on the Clocktower-Spielen, mit einer unausgewogenen Siegquote von 88% für das gute Team und 48% für das böse Team, kostet 0,99 $ pro Spiel bei 183.000 Ausgabetoken und ist mit 2-3-stündigen Matches praktisch.
Wöchentlicher r/ClaudeAI-Überlebensleitfaden: Opus 4.7, Abrechnungsfehler und Datenbanklöschvorfall
Wilsons wöchentlicher Survival Guide destilliert die wichtigsten r/ClaudeAI-Threads (50+ Kommentare) in umsetzbare Lektionen: Opus 4.7-Diskurs, ein Abrechnungsfehler durch Git-Dateinamen, ein KI-Agent, der eine gesamte Datenbank in 9 Sekunden löschte, und Copilots 9-fache Preiserhöhung für Claude-Modelle.