Oodle.ai lance l'observabilité des agents à 10 $ par million de traces

Oodle.ai (par Kiran et Vijay) a lancé un produit d'observabilité pour agents facturé 10 $ par million de spans, avec une latence de requête P99 inférieure à la seconde et zéro échantillonnage. Le service stocke les traces dans S3 en utilisant un format columnar propriétaire de type Parquet, interrogé via AWS Lambda.

Détails clés du lancement sur HN :

• Moteur de stockage columnar personnalisé développé sur deux ans pour les logs, métriques et traces, désormais appliqué aux traces d'agents LLM.
• Les traces peuvent aller de quelques Mo à plusieurs Go ; stockées dans S3 dans un format propriétaire de type parquet, interrogées sans serveur avec Lambda.
• Analyse déterministe par span avant les évaluations LLM : détection des échecs d'outils, nouvelles tentatives, boucles, utilisation anormale de tokens, régressions de latence, violations de schéma, sentiment et autres signaux de production.
• Tarification : 10 $ par million de spans. Ingestion à 0,30 $/Go, conservation à 0,001 $/Go/mois (exemple : 1 200 Go/mois + conservation 90 jours = 362 $/mois).
• Informations prêtes à l'emploi : échecs de récupération d'erreur, durée élevée, faible satisfaction utilisateur, optimisation des coûts de modèle, inefficacité du cache, tours LLM excessifs.
• Les auteurs utilisaient auparavant Langfuse (6 fois plus cher). Traitement actuel de plus de 3 millions de traces d'agents par jour avec zéro échantillonnage.

Comment ça marche : Oodle stocke toutes les traces sans échantillonnage, analyse chaque span de manière déterministe pour les signaux de défaillance, puis exécute éventuellement des évaluations basées sur LLM sur les traces signalées. Les requêtes sur les données conservées sont uniformément rapides — pas de niveaux chaud/froid.

À qui cela s'adresse : Aux équipes d'ingénierie déployant des agents IA en production qui ont besoin d'un traçage complet et abordable sans échantillonnage.