Databricks senkt KI-Codierungskosten um 70 %: Modellflexibilität, Open Source und die Effizienzgrenze

Databricks meldet eine Reduzierung der KI-Codeausgaben um 70% bei gleichbleibender Entwicklungsgeschwindigkeit – durch eine Kombination aus aggressivem Modellwechsel, internen Benchmarks und einer Open-Source-Infrastruktur. Die wichtigste Erkenntnis: Die meisten Codierungsaufgaben benötigen keine Spitzenintelligenz, daher liegt das eigentliche Ziel in der Effizienzgrenze – dem besten Preis für ein bestimmtes Qualitätsniveau. Hier ist, was funktioniert hat.

Wichtige Kostenhebel

• Umstieg auf Open-Source- und kostengünstigere Modelle – Der größte einzelne Hebel. Databricks entwickelte einen internen Benchmark, der zeigte, dass GLM-Modelle ein wettbewerbsfähiges Preis-Leistungs-Verhältnis bieten, was zu einer unternehmensweiten Einführung führte. Stripe testete ähnlich Opus 4.7, verzichtete aber auf den Einsatz, weil es mehr kostete, ohne die Qualität zu verbessern. Databricks sah dasselbe bei Opus 5.0 im Vergleich zu 4.8.
• Harness- und Modellflexibilität – Um neue Modelle schnell zu übernehmen, benötigen Sie Werkzeuge, die den Wechsel ermöglichen. Databricks hat Omnigent (einen Endbenutzer-Meta-Harness) und Unity AI Gateway als Open Source veröffentlicht, um den Datenverkehr über Modelle zu routen. Sie erlauben Entwicklern auch, vertraute Harnesses (Claude Code, Codex, Cursor) zu verwenden, leiten sie aber über das Gateway zu kosteneffizienten Modellen.

Die Effizienzgrenze

Führende Labore optimieren auf Spitzenintelligenz, aber die tägliche Codierung erfordert keine mathematischen Beweise oder neuartige Sicherheitslücken. Die Effizienzgrenze – Modelle, die die beste Intelligenz pro Dollar bieten – schreitet viel schneller voran. Öffentliche Benchmarks erfassen die reale Codierungsleistung nicht, daher entwickeln Databricks und andere interne Bewertungen, die ihre eigenen Entwicklungsarbeitslasten widerspiegeln.

Was das für Ihr Team bedeutet

Wenn Sie KI-Codekosten verwalten, lautet der Plan:

• Erstellen oder übernehmen Sie interne Benchmarks, die auf Ihre Codebasis zugeschnitten sind, um neue Modelle bei ihrer Veröffentlichung zu bewerten.
• Seien Sie bereit, Modelle schnell zu wechseln – legen Sie sich nicht auf einen einzigen Anbieter fest.
• Nutzen Sie ein Gateway, um Anfragen dynamisch an das günstigste Modell zu leiten, das die Qualitätsstandards erfüllt.
• Überwachen Sie Kostenregressionen bei Modellupdates; manchmal ist das alte Modell wirtschaftlich immer noch die bessere Wahl.

Databricks behauptet, diese Techniken können die Gesamtkosten pro Benutzer in einem festen Rahmen halten, selbst wenn die Nutzung wächst. Für weitere Details und den vollständigen Tech-Stack lesen Sie den Beitrag.