Claude Prompt Cache-Diagnose: Statistik-Thread zeigt 98,9 % Cache-Lesequote

Vor zwei Tagen hat Anthropic die Prompt-Cache-Diagnosefunktion in der Claude Console veröffentlicht. Sie hilft Entwicklern zu verstehen, warum eine Anfrage den Cache verfehlt und Kosten zu senken. Ein Entwickler (u/samuelroy_) teilte seine Statistiken in einem Community-Thread, um Muster zu finden und die Cache-Leistung insgesamt zu verbessern.

Wichtige Statistiken aus der Quelle

• Gesamte Cache-Lesequote: 98,9 %
• 80 % der Cache-Fehlschläge sind auf messages changed zurückzuführen.
• Schreibamortisation für Sonnet: 3,69x

Der Entwickler merkte an, dass sein Projekt-Harness so konzipiert ist, dass nur Nachrichten an den Verlauf angehängt werden, was die hohe Fehlerrate durch messages changed überraschend macht. Die wahrscheinliche Erklärung ist, dass Benutzer Unterhaltungen abzweigen, was die Nachrichtenkette verändert.

Was das bedeutet

Prompt-Caching reduziert Kosten und Latenz. Mit einer Lesequote von 98,9 % ist der Entwickler bereits effizient, aber die Diagnosedaten zeigen einen klaren Verbesserungsbereich: die Reduzierung unnötiger Nachrichtenänderungen. Wenn Sie ähnliche Muster sehen, könnte die Prüfung, wie Unterhaltungen abgezweigt oder bearbeitet werden, die Cache-Trefferquote erhöhen.

Zur Referenz: Die Schreibamortisation (3,69x für Sonnet) gibt an, wie oft ein Cache-Eintrag im Verhältnis zu Lesezugriffen geschrieben wird. Ein niedrigerer Wert ist besser.

Erstanbieter-Analysen wie diese sind ein Schritt nach vorne für die Optimierung der KI-API-Kosten. Andere Anbieter werden voraussichtlich folgen.