Queuelo: LLM 에이전트를 위한 경량 승인 API

Queuelo는 프로덕션 환경에서 실행되는 LLM 에이전트를 위해 설계된 경량 승인 API입니다. 이는 에이전트가 되돌릴 수 없는 작업을 실행하기 전에 일시 중지하고, 인간의 승인이 필요하도록 하는 간단한 HTTP 기반 레이어를 제공합니다.

작동 방식

시스템은 간단한 HTTP 흐름을 통해 작동합니다. LLM 에이전트가 작업 세부 정보와 함께 Queuelo의 API에 POST 요청을 보냅니다. 사용자는 알림을 받고, 요청을 검토한 후 승인하거나 거절합니다. 에이전트는 웹훅을 통해 결정을 다시 받습니다.

기술적 구현

이 API는 특정 프레임워크나 SDK가 필요하지 않습니다—HTTP만 있으면 됩니다. 다음은 소스에서 가져온 curl 명령어 예시입니다:

curl -X POST https://queuelo.com/api/actions \
   -H "Authorization: Bearer YOUR_API_KEY" \
   -H "Content-Type: application/json" \
   -d '{"action_type": "send_email", "summary": "Follow up with 500 leads", "risk_level": "high"}'

요청 페이로드는 세 가지 필드를 포함합니다: action_type (예: "send_email"), summary (간단한 설명), 그리고 risk_level (예: "high").

호환성

Queuelo는 HTTP 요청을 보낼 수 있는 모든 에이전트 프레임워크와 호환됩니다. 여기에는 LangChain, CrewAI, AutoGen 또는 직접 API 호출이 포함됩니다. 제작자는 특히 "모든 에이전트 프레임워크"와 "HTTP 요청을 보낼 수 있다면 Queuelo를 사용할 수 있다"고 언급했습니다.

사용 가능성

무료 티어가 제공됩니다. 제작자는 프로덕션 환경에서 사람들이 어떤 작업 유형을 사용하고 있는지에 대한 피드백을 적극적으로 구하고 있습니다.