일괄 처리 API: 다중 파일 코드 변경에 비용 효율적

r/ClaudeAI의 한 개발자가 Claude Sonnet과 Opus를 사용한 배치 처리로 코딩 작업을 수행한 경험을 공유하며, 비용 효율성과 워크플로우를 강조했습니다.

원본의 주요 내용

해당 개발자는 30개 이상의 서로 다른 파일에서 상당한 코드 변경을 이루었으며, 약 £2에 3,000줄 가량의 코드를 생성했습니다. 처음에는 RAG(검색 증강 생성)에 집중했으나 자신의 사용 사례에는 불필요하다는 것을 발견했습니다.

그들의 워크플로우는 다음과 같았습니다:

• 대규모 요청에 필요한 파일을 결정하기 위해 Claude Opus 사용
• 상대적으로 간단한 프롬프트를 사용한 두 단계 배치 프로세스 활용
• 모델에 전송할 콘텐츠를 수집하기 위해 Repomix 사용
• 검색/교체 작업 후 Sonnet에서 발생한 문제를 정리하기 위해 Minimax m2.5/Qwen Coder 활용

언급된 구체적인 비용 예시:

• 첫 번째 프롬프트: $0.30
• 코드 변경이 포함된 두 번째 프롬프트: $1.42
• Minimax 정리 비용: "거의 들지 않음"으로 설명

해당 개발자는 API 개발을 완료하고 Flutter 앱의 모든 모의 데이터 테이블을 실제 API 데이터로 교체했습니다. 여러 프롬프트에 걸친 캐싱에 대해 배웠으며, 특정 배치 부분을 다른 요청에 걸쳐 캐시할 수 있는 능력을 "게임 체인저"라고 표현했습니다.

그들의 모델 사용 전략은 다음과 같이 발전했습니다:

• 원래는 계획에는 Opus, 구현에는 Sonnet 사용
• 나중에는 계획에는 GPT를 사용한 후 그 출력을 Sonnet에 공급하는 방식 실험
• 이 접근 방식이 전체적으로 Opus를 사용하는 것보다 토큰 효율성이 더 좋다는 것을 발견

해당 개발자는 특히 여러 프롬프트에 걸친 캐싱과 관련해 초기에 실수를 했음을 인정했으며, 자신의 경험에 대한 질문을 환영했습니다.