Databricks reduce los costos de codificación con IA en un 70%: flexibilidad de modelos, código abierto y la frontera de la eficiencia

Databricks reporta una reducción del 70% en el gasto de codificación con IA mientras mantiene la velocidad de desarrollo, mediante una combinación de cambio agresivo de modelos, evaluación comparativa interna e infraestructura que han liberado como código abierto. La idea clave: la mayoría de la codificación no necesita inteligencia de vanguardia, por lo que el objetivo real es la frontera de eficiencia: el mejor precio para un nivel de calidad dado. Esto es lo que funcionó.

Palancas clave de costos

• Cambio a modelos de código abierto y de menor costo — La palanca más importante. Databricks creó un benchmark interno que encontró que los modelos GLM ofrecían una relación precio/rendimiento competitiva, lo que llevó a un despliegue en toda la empresa. Stripe también probó Opus 4.7 pero rechazó implementarlo porque costaba más sin mejorar la calidad. Databricks vio lo mismo con Opus 5.0 frente a 4.8.
• Flexibilidad de harness y modelos — Para adoptar nuevos modelos rápidamente, necesitas herramientas que te permitan cambiar. Databricks liberó como código abierto Omnigent (un meta-harness para usuarios finales) y Unity AI Gateway para enrutar el tráfico entre modelos. También permiten a los desarrolladores usar harnesses familiares (Claude Code, Codex, Cursor) pero dirigirlos a modelos rentables a través del gateway.

La frontera de eficiencia

Los laboratorios de vanguardia optimizan para la inteligencia máxima, pero la codificación diaria no requiere pruebas matemáticas ni exploits de seguridad novedosos. La frontera de eficiencia (modelos que dan la mejor inteligencia por dólar) avanza mucho más rápido. Los benchmarks públicos no logran capturar el rendimiento real en codificación, por lo que Databricks y sus pares crean evaluaciones internas que reflejan sus propias cargas de trabajo de desarrollo.

Qué significa esto para tu equipo

Si gestionas los costos de codificación con IA, el manual es:

• Crea o adopta benchmarks internos adaptados a tu base de código para evaluar nuevos modelos a medida que salgan.
• Prepárate para cambiar de modelos rápidamente: no te ates a un solo proveedor.
• Usa un gateway para enrutar dinámicamente las solicitudes al modelo más barato que cumpla con los estándares de calidad.
• Monitorea las regresiones de costos cuando los modelos se actualicen; a veces el modelo antiguo sigue siendo la mejor opción económica.

Databricks afirma que estas técnicas pueden mantener los costos agregados en un límite fijo por usuario, incluso cuando el uso crece. Para más detalles y la pila tecnológica completa, lee su publicación.