Batch-API kosteneffektiv für Änderungen an mehreren Codedateien

Ein Entwickler auf r/ClaudeAI teilte seine Erfahrungen mit der Stapelverarbeitung mit Claude Sonnet und Opus für Codierungsaufgaben und hob deren Kosteneffizienz und Arbeitsablauf hervor.

Wichtige Details aus der Quelle

Der Entwickler erreichte signifikante Codeänderungen in über 30 verschiedenen Dateien und generierte etwa 3.000 Codezeilen für ungefähr 2 Pfund. Ursprünglich konzentrierte er sich auf RAG (Retrieval-Augmented Generation), stellte jedoch fest, dass es für seinen Anwendungsfall unnötig war.

Sein Arbeitsablauf umfasste:

• Verwendung von Claude Opus, um zu bestimmen, welche Dateien für große Anfragen benötigt wurden
• Einsatz eines zweistufigen Stapelverarbeitungsprozesses mit relativ einfachen Prompts
• Verwendung von Repomix, um Inhalte für die Modelle zu sammeln
• Nutzung von Minimax m2.5/Qwen Coder, um Probleme von Sonnet nach Such-/Ersetzungsoperationen zu bereinigen

Genannte spezifische Kostenbeispiele:

• Erster Prompt: 0,30 $
• Zweiter Prompt mit Codeänderungen: 1,42 $
• Minimax-Bereinigungskosten: als "kaum etwas" beschrieben

Der Entwickler schloss die API-Entwicklung ab und ersetzte alle Mock-Datentabellen in seiner Flutter-App durch tatsächliche API-Daten. Er bemerkte, dass er etwas über das Caching über mehrere Prompts hinweg gelernt hatte, und beschrieb die Fähigkeit, bestimmte Teile von Batches über verschiedene Anfragen hinweg zu cachen, als "ein Game Changer".

Seine Modellnutzungsstrategie entwickelte sich weiter:

• Ursprünglich verwendete er Opus für die Planung und Sonnet für die Implementierung
• Später experimentierte er mit GPT für die Planung und fütterte dann diese Ausgabe an Sonnet
• Fand diesen Ansatz für die Token-Effizienz besser als die durchgängige Verwendung von Opus

Der Entwickler räumte ein, anfangs Fehler gemacht zu haben, insbesondere beim Caching über mehrere Prompts hinweg, und lud zu Fragen über seine Erfahrungen ein.