API por lotes rentable para cambios de código en múltiples archivos

Un desarrollador en r/ClaudeAI compartió su experiencia usando procesamiento por lotes con Claude Sonnet y Opus para tareas de programación, destacando su rentabilidad y flujo de trabajo.

Detalles clave de la fuente

El desarrollador logró cambios significativos en el código en más de 30 archivos diferentes, generando alrededor de 3.000 líneas de código por aproximadamente 2 libras. Inicialmente se centraron en RAG (Generación Aumentada por Recuperación), pero descubrieron que no era necesario para su caso de uso.

Su flujo de trabajo incluyó:

• Usar Claude Opus para determinar qué archivos eran necesarios para solicitudes grandes
• Emplear un proceso por lotes de dos pasos con indicaciones relativamente simples
• Usar Repomix para recopilar contenido para enviar a los modelos
• Utilizar Minimax m2.5/Qwen Coder para limpiar problemas de Sonnet después de operaciones de buscar/reemplazar

Ejemplos de costos específicos mencionados:

• Primera indicación: $0.30
• Segunda indicación con cambios de código: $1.42
• Costos de limpieza con Minimax: descritos como "casi nada"

El desarrollador completó el desarrollo de la API y reemplazó todas las tablas de datos simulados en su aplicación Flutter con datos reales de la API. Notaron que aprendieron sobre el almacenamiento en caché en múltiples indicaciones, describiendo la capacidad de almacenar en caché ciertas partes de lotes en diferentes solicitudes como "un cambio de juego".

Su estrategia de uso de modelos evolucionó:

• Originalmente usaron Opus para planificación y Sonnet para implementación
• Luego experimentaron con GPT para planificación, luego alimentando esa salida a Sonnet
• Encontraron que este enfoque era mejor para la eficiencia de tokens que usar Opus en todo el proceso

El desarrollador reconoció haber cometido errores inicialmente, particularmente con el almacenamiento en caché en múltiples indicaciones, e invitó preguntas sobre su experiencia.