Databricks réduit les coûts de codage IA de 70 % : flexibilité des modèles, open source et frontière de l’efficacité

Databricks rapporte une réduction de 70 % de ses dépenses en codage IA tout en maintenant la vélocité des développeurs, grâce à une combinaison de changement agressif de modèles, de benchmarking interne et d'infrastructure qu'ils ont open-sourcée. L'idée clé : la plupart du codage n'a pas besoin d'intelligence de pointe, donc la véritable cible est la frontière d'efficacité — le meilleur prix pour un niveau de qualité donné. Voici ce qui a fonctionné.

Leviers de coûts clés

• Passer à des modèles open source et moins chers — Le plus grand levier. Databricks a construit un benchmark interne qui a révélé que les modèles GLM offraient un rapport performance/prix compétitif, conduisant à un déploiement à l'échelle de l'entreprise. Stripe a également testé Opus 4.7 mais a refusé de le déployer car il coûtait plus cher sans améliorer la qualité. Databricks a constaté la même chose avec Opus 5.0 vs 4.8.
• Flexibilité du harnais et des modèles — Pour adopter rapidement de nouveaux modèles, vous avez besoin d'outils permettant de changer. Databricks a open-sourcé Omnigent (un méta-harnais pour utilisateur final) et Unity AI Gateway pour router le trafic entre les modèles. Ils laissent également les développeurs utiliser des harnais familiers (Claude Code, Codex, Cursor) mais les dirigent vers des modèles économiques via la passerelle.

La frontière d'efficacité

Les laboratoires de pointe optimisent pour l'intelligence maximale, mais le codage quotidien n'exige pas de preuves mathématiques ni d'exploits de sécurité inédits. La frontière d'efficacité — les modèles qui offrent la meilleure intelligence par dollar — progresse beaucoup plus vite. Les benchmarks publics ne parviennent pas à capturer la performance réelle en codage, c'est pourquoi Databricks et ses pairs construisent des évaluations internes qui reflètent leurs propres charges de travail de développement.

Ce que cela signifie pour votre équipe

Si vous gérez les coûts de codage IA, la marche à suivre est :

• Construire ou adopter des benchmarks internes adaptés à votre codebase pour évaluer les nouveaux modèles dès leur sortie.
• Soyez prêt à changer de modèle rapidement — ne vous verrouillez pas sur un seul fournisseur.
• Utilisez une passerelle pour router dynamiquement les requêtes vers le modèle le moins cher qui répond aux exigences de qualité.
• Surveillez les régressions de coûts lors des mises à jour de modèles ; parfois l'ancien modèle reste le meilleur choix économique.

Databricks affirme que ces techniques peuvent maintenir les coûts agrégés dans une enveloppe fixe par utilisateur, même si l'utilisation augmente. Pour plus de détails et la pile technique complète, lisez leur article.