Oodle.ai、エージェントの可観測性を100万トレースあたり10ドルで提供開始

Oodle.ai（Kiran氏とVijay氏による）は、100万スパンあたり10ドル、サブ秒のP99クエリレイテンシ、ゼロサンプリングのエージェント可観測性製品を発表しました。このサービスは、カスタムParquetライクなカラムナフォーマットを使用してS3にトレースを保存し、AWS Lambda経由でクエリを実行します。

HNローンチからの主な詳細：

• ログ、メトリクス、トレース向けに2年間かけて開発されたカスタムカラムナストレージエンジンを、LLMエージェントトレースに適用。
• トレースはMBからGBまで対応。独自のParquetライクなフォーマットでS3に保存され、Lambdaでサーバーレスクエリ可能。
• LLM評価の前に各スパンを決定論的に分析：ツール障害、リトライ、ループ、異常なトークン使用、レイテンシ悪化、スキーマ違反、感情、その他の本番シグナルを検出。
• 価格：100万スパンあたり10ドル。取り込み0.30ドル/GB、保存0.001ドル/GB/月（例：1200 GB/月 + 90日保存 = 362ドル/月）。
• 標準搭載のインサイト：エラーリカバリ失敗、高レイテンシ、低ユーザ満足度、モデルコスト最適化、キャッシュ非効率、過剰なLLMターン。
• 著者は以前Langfuseを使用（6倍高価）。現在、サンプリングなしで1日300万以上のエージェントトレースを処理中。

仕組み： Oodleはすべてのトレースをサンプリングなしで保存し、各スパンを決定論的に分析して障害シグナルを検出。その後、フラグが立ったトレースに対してオプションでLLMベースの評価を実行。保持データ全体のクエリは一律高速で、ウォーム/コールドティアなし。

対象ユーザー： 本番環境でAIエージェントを提供し、サンプリングなしで手頃な価格の完全忠実度トレースを必要とするエンジニアリングチーム。