バッチAPIは、複数ファイルのコード変更にコスト効果が高い

r/ClaudeAIで開発者が、コーディングタスクにおけるClaude SonnetとOpusを使ったバッチ処理の経験を共有し、そのコスト効率とワークフローについて強調しました。

ソースからの主な詳細

開発者は、30以上の異なるファイルにわたる大幅なコード変更を達成し、約3,000行のコードを約2ポンドで生成しました。当初はRAG（Retrieval-Augmented Generation）に焦点を当てていましたが、ユースケースには不要であると判断しました。

彼らのワークフローは以下の通りです：

• 大規模なリクエストに必要なファイルを決定するためにClaude Opusを使用
• 比較的シンプルなプロンプトを用いた2段階のバッチ処理を採用
• モデルに送信するコンテンツを収集するためにRepomixを使用
• 検索/置換操作後のSonnetからの問題をクリーンアップするためにMinimax m2.5/Qwen Coderを活用

具体的なコスト例：

• 最初のプロンプト：$0.30
• コード変更を含む2番目のプロンプト：$1.42
• Minimaxのクリーンアップコスト：「ほとんどかからない」と表現

開発者はAPI開発を完了し、Flutterアプリ内のすべてのモックデータテーブルを実際のAPIデータに置き換えました。複数のプロンプトにわたるキャッシュについて学び、特定のバッチ部分を異なるリクエスト間でキャッシュできる能力を「ゲームチェンジャー」と表現しました。

モデル使用戦略の進化：

• 当初は計画にOpus、実装にSonnetを使用
• 後に計画にGPTを使用し、その出力をSonnetにフィードする実験を実施
• このアプローチが、Opusを一貫して使用するよりもトークン効率が良いと判明

開発者は、特に複数のプロンプトにわたるキャッシュにおいて初期にミスを犯したことを認め、自身の経験について質問を歓迎しました。