Oodle.ai startet Agent Observability zu 10 $/Million Traces

Oodle.ai (von Kiran und Vijay) hat ein Agent-Observability-Produkt gestartet, das mit 10 $ pro Million Spans, subsekündlicher P99-Abfragelatenz und null Sampling punktet. Der Dienst speichert Traces in S3 mittels eines benutzerdefinierten Parquet-ähnlichen Spaltenformats, das über AWS Lambda abgefragt wird.

Wichtige Details aus dem HN-Launch:

• Eigene Spaltenspeicher-Engine, über zwei Jahre für Logs, Metriken und Traces entwickelt, jetzt auf LLM-Agenten-Traces angewandt.
• Traces können MB bis GB groß sein; werden in S3 in einem proprietären Parquet-ähnlichen Format gespeichert und serverlos mit Lambda abgefragt.
• Deterministische Analyse pro Span vor LLM-Evaluierung: erkennt Tool-Fehler, Wiederholungen, Schleifen, ungewöhnliche Token-Nutzung, Latenzregressionen, Schemaverstöße, Stimmungen und andere Produktionssignale.
• Preise: 10 $ pro Million Spans. Aufnahme 0,30 $/GB, Speicher 0,001 $/GB/Monat (Beispiel: 1200 GB/Monat + 90 Tage Aufbewahrung = 362 $/Monat).
• Vorgefertigte Erkenntnisse: Fehlerbehebungsfehler, Hohe Dauer, Niedrige Benutzerzufriedenheit, Modellkostenoptimierung, Cache-Ineffizienz, Übermäßige LLM-Durchgänge.
• Die Autoren verwendeten zuvor Langfuse (6x teurer). Verarbeiten derzeit 3 Mio.+ Agenten-Traces/Tag ohne Sampling.

So funktioniert's: Oodle speichert alle Traces ohne Sampling, analysiert jeden Span deterministisch auf Fehlersignale und führt dann optional LLM-basierte Evaluierungen bei markierten Traces durch. Abfragen über alle gespeicherten Daten sind gleichmäßig schnell – keine Warm-/Kalt-Trennungen.

Für wen es gedacht ist: Entwicklungsteams, die KI-Agenten in der Produktion einsetzen und erschwingliches, vollständiges Tracing ohne Sampling benötigen.