LLMSpend: Открытый трекер расходов для SDK Anthropic и OpenAI

Что делает LLMSpend

LLMSpend — это пакет Python, который отслеживает затраты на использование API для SDK Anthropic и OpenAI. Он был создан потому, что панель управления Anthropic показывает только общие расходы без разбивки по функциям. Инструмент отслеживает токены, стоимость и задержку для каждого вызова, группируя данные по функциям, моделям, пользователям или проектам.

Как использовать

Установите с помощью pip install llmspend. Для интеграции требуется две строки кода:

from llmspend import monitor
client = monitor.wrap(anthropic.Anthropic(), project="my-app")

Затем добавьте параметр llmspend для отслеживания конкретных функций:

response = client.messages.create(
    model="claude-sonnet-4-6",
    max_tokens=1000,
    messages=[{"role": "user", "content": query}],
    llmspend={"feature": "chatbot"}
)

Отчеты и панель управления

Из терминала выполните llmspend stats --last 7d --by feature, чтобы получить вывод, например:

Total: $4.2100 across 847 calls
chatbot 512 $2.8900 1180ms
summarizer 335 $1.3200 640ms

Выполните llmspend dashboard, чтобы открыть локальную веб-панель управления на localhost:8888.

Технические детали

• Локальное хранилище SQLite — не требуется учетная запись, данные не покидают вашу машину
• Работает как с SDK Anthropic, так и с OpenAI
• Нет зависимостей (чистая стандартная библиотека Python)
• Никогда не хранит промпты или ответы — отслеживает только метрики затрат
• Нет логирования промптов, трассировки или оценок — фокус исключительно на отслеживании затрат
• Лицензия MIT, открытый исходный код на GitHub

Инструмент был полностью создан с помощью Claude Code за одну сессию, где Claude написал логику monkey-patching, механизм ценообразования, CLI и веб-панель управления.