Queuelo: Eine schlanke Genehmigungs-API für LLM-Agenten

Queuelo ist eine leichtgewichtige Genehmigungs-API, die für LLM-Agenten in der Produktion entwickelt wurde. Sie bietet eine einfache HTTP-basierte Schicht, in der Agenten vor der Ausführung potenziell irreversibler Aktionen pausieren können, wobei eine menschliche Genehmigung erforderlich ist.

Wie es funktioniert

Das System arbeitet über einen einfachen HTTP-Fluss. Ihr LLM-Agent stellt eine POST-Anfrage an die Queuelo-API mit Aktionsdetails. Sie erhalten eine Benachrichtigung, überprüfen die Anfrage und genehmigen oder lehnen sie ab. Der Agent erhält dann die Entscheidung per Webhook zurück.

Technische Implementierung

Die API erfordert keine spezifischen Frameworks oder SDKs – nur HTTP. Hier ist der Beispiel-curl-Befehl aus der Quelle:

curl -X POST https://queuelo.com/api/actions \
   -H "Authorization: Bearer YOUR_API_KEY" \
   -H "Content-Type: application/json" \
   -d '{"action_type": "send_email", "summary": "Follow up with 500 leads", "risk_level": "high"}'

Die Anfrage-Payload enthält drei Felder: action_type (z.B. "send_email"), summary (eine kurze Beschreibung) und risk_level (z.B. "high").

Kompatibilität

Queuelo funktioniert mit jedem Agenten-Framework, das HTTP-Anfragen stellen kann, einschließlich LangChain, CrewAI, AutoGen oder direkten API-Aufrufen. Der Ersteller erwähnt ausdrücklich, dass es für "jedes Agenten-Framework" entwickelt wurde und "wenn es eine HTTP-Anfrage stellen kann, kann es Queuelo nutzen".

Verfügbarkeit

Eine kostenlose Stufe ist verfügbar. Der Ersteller sucht aktiv nach Feedback darüber, welche Aktionstypen in Produktionsumgebungen verwendet werden.