LLMSpend: Anthropic 및 OpenAI SDK용 오픈소스 비용 추적기

LLMSpend의 기능

LLMSpend는 Anthropic 및 OpenAI SDK의 API 사용 비용을 모니터링하는 Python 패키지입니다. Anthropic 대시보드가 기능별로 세분화하지 않고 총 지출만 표시하기 때문에 만들어졌습니다. 이 도구는 호출별 토큰, 비용, 지연 시간을 추적하며 데이터를 기능, 모델, 사용자 또는 프로젝트별로 그룹화합니다.

사용 방법

pip install llmspend로 설치합니다. 통합에는 두 줄의 코드가 필요합니다:

from llmspend import monitor
client = monitor.wrap(anthropic.Anthropic(), project="my-app")

그런 다음 특정 기능을 추적하기 위해 llmspend 매개변수를 추가합니다:

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1000,
    messages=[{"role": "user", "content": query}],
    llmspend={"feature": "chatbot"}
)

보고서 및 대시보드

터미널에서 llmspend stats --last 7d --by feature를 실행하면 다음과 같은 출력을 얻을 수 있습니다:

Total: $4.2100 across 847 calls
chatbot 512 $2.8900 1180ms
summarizer 335 $1.3200 640ms

llmspend dashboard를 실행하면 localhost:8888에서 로컬 웹 대시보드가 열립니다.

기술적 세부 사항

• 로컬 SQLite 저장소 — 계정이 필요 없으며, 데이터가 사용자의 기기를 떠나지 않음
• Anthropic 및 OpenAI SDK 모두와 호환
• 종속성 없음 (순수 Python 표준 라이브러리)
• 프롬프트나 응답을 저장하지 않음 — 비용 지표만 추적
• 프롬프트 로깅, 추적 또는 평가 없음 — 비용 추적에만 집중
• MIT 라이선스, GitHub에서 오픈 소스

이 도구는 단일 세션에서 Claude Code로 완전히 구축되었으며, Claude가 몽키 패칭 로직, 가격 엔진, CLI 및 웹 대시보드를 작성했습니다.