Oodle.ai startet Agent Observability zu 10 $/Million Traces
Oodle.ai (von Kiran und Vijay) hat ein Agent-Observability-Produkt gestartet, das mit 10 $ pro Million Spans, subsekündlicher P99-Abfragelatenz und null Sampling punktet. Der Dienst speichert Traces in S3 mittels eines benutzerdefinierten Parquet-ähnlichen Spaltenformats, das über AWS Lambda abgefragt wird.
Wichtige Details aus dem HN-Launch:
- Eigene Spaltenspeicher-Engine, über zwei Jahre für Logs, Metriken und Traces entwickelt, jetzt auf LLM-Agenten-Traces angewandt.
- Traces können MB bis GB groß sein; werden in S3 in einem proprietären Parquet-ähnlichen Format gespeichert und serverlos mit Lambda abgefragt.
- Deterministische Analyse pro Span vor LLM-Evaluierung: erkennt Tool-Fehler, Wiederholungen, Schleifen, ungewöhnliche Token-Nutzung, Latenzregressionen, Schemaverstöße, Stimmungen und andere Produktionssignale.
- Preise: 10 $ pro Million Spans. Aufnahme 0,30 $/GB, Speicher 0,001 $/GB/Monat (Beispiel: 1200 GB/Monat + 90 Tage Aufbewahrung = 362 $/Monat).
- Vorgefertigte Erkenntnisse: Fehlerbehebungsfehler, Hohe Dauer, Niedrige Benutzerzufriedenheit, Modellkostenoptimierung, Cache-Ineffizienz, Übermäßige LLM-Durchgänge.
- Die Autoren verwendeten zuvor Langfuse (6x teurer). Verarbeiten derzeit 3 Mio.+ Agenten-Traces/Tag ohne Sampling.
So funktioniert's: Oodle speichert alle Traces ohne Sampling, analysiert jeden Span deterministisch auf Fehlersignale und führt dann optional LLM-basierte Evaluierungen bei markierten Traces durch. Abfragen über alle gespeicherten Daten sind gleichmäßig schnell – keine Warm-/Kalt-Trennungen.
Für wen es gedacht ist: Entwicklungsteams, die KI-Agenten in der Produktion einsetzen und erschwingliches, vollständiges Tracing ohne Sampling benötigen.
📖 Vollständige Quelle lesen: HN AI Agents
👀 Siehe auch
GuppyLM: Ein 9-Millionen-Parameter-LLM, das zu Bildungszwecken von Grund auf entwickelt wurde
GuppyLM ist ein Sprachmodell mit ~9M Parametern, das von Grund auf mit 60K synthetischen Gesprächen trainiert wurde. Es verwendet eine einfache Transformer-Architektur mit 6 Schichten, 384 versteckten Dimensionen und 6 Aufmerksamkeitsköpfen. Das Training dauert etwa 5 Minuten auf einer kostenlosen Colab T4 GPU, und es spricht mit einer Fisch-Persönlichkeit, die sich auf Wasser, Futter und Aquarienleben konzentriert.
Benötigt MCP-Server bietet semantische Werkzeugentdeckung für KI-Agenten
Ein MCP-Server namens Need ermöglicht semantische Suche über 10.000+ Tools von brew, npm, pip und cargo. Wenn ein Agent eine Aufgabe wie 'komprimiere diese PNGs' anfordert, findet er pngquant, installiert es, führt es aus und meldet den Erfolg zurück.
80-zeiliges Python-Skript nutzt Claude, um automatisch interne Linkvorschläge zu generieren und reduziert die Verlinkungszeit von 2 Stunden auf 8 Minuten
Ein Reddit-Nutzer hat ein 80-zeiliges Python-Skript entwickelt, das einen Artikelentwurf und eine Sitemap an Claude übergibt und relevante interne Linkziele mit vorgeschlagenem Ankertext zurückgibt – wodurch die manuelle Verlinkungszeit von 2 Stunden auf 8 Minuten pro Artikel reduziert wird.
Entwicklung einer Programmiersprache mit Claude Code: Das Cutlet-Experiment
Ankur Sethi entwickelte in vier Wochen eine vollständige Programmiersprache namens Cutlet mithilfe von Claude Code, wobei die KI jede Codezeile generierte, während er sich auf Sicherheitsvorkehrungen und Tests konzentrierte. Die Sprache bietet dynamische Typisierung, vektorisierte Operationen und eine REPL und läuft auf macOS und Linux.