GoModel: Go로 작성된 경량 오픈소스 AI 게이트웨이

✍️ OpenClawRadar📅 게시일: April 21, 2026🔗 Source
GoModel: Go로 작성된 경량 오픈소스 AI 게이트웨이
Ad

GoModel는 Go로 작성된 오픈소스 AI 게이트웨이로, 애플리케이션과 OpenAI, Anthropic, Gemini 등의 모델 제공업체 사이에 위치합니다. 내부적으로 제공업체별 차이를 처리하면서 통합된 OpenAI 호환 API 인터페이스를 제공합니다.

주요 기능과 차이점

이 프로젝트는 여러 실용적인 문제를 해결하기 위해 만들어졌습니다: 클라이언트나 팀별 AI 사용량과 비용 추적, 애플리케이션 코드 변경 없이 모델 전환, 요청 흐름 디버깅 용이성, 정확 및 의미론적 캐싱으로 AI 지출 절감 등입니다.

대안과의 주요 차별점:

  • ~17MB Docker 이미지 (LiteLLM 이미지는 amd64에서 ~746MB로, GoModel가 44배 더 가벼움)
  • 요청 워크플로가 가시적이고 검사하기 쉬움
  • 기본적으로 환경 변수 우선 구성

빠른 시작

Docker를 이용한 기본 배포:

docker run --rm -p 8080:8080 \
  -e OPENAI_API_KEY="your-openai-key" \
  enterpilot/gomodel

프로덕션 환경에서는 명령줄을 통해 비밀번호를 전달하지 말고 다음을 사용하세요:

docker run --env-file .env enterpilot/gomodel

첫 API 호출하기:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{ "model": "gpt-5-chat-latest", "messages": [{"role": "user", "content": "Hello!"}] }'
Ad

지원되는 제공업체

GoModel는 제공된 자격 증명을 기반으로 자동 감지되는 여러 LLM 제공업체를 지원합니다:

  • OpenAI (OPENAI_API_KEY)
  • Anthropic (ANTHROPIC_API_KEY)
  • Google Gemini (GEMINI_API_KEY)
  • Groq (GROQ_API_KEY)
  • OpenRouter (OPENROUTER_API_KEY)
  • Z.ai (ZAI_API_KEY)
  • xAI/Grok (XAI_API_KEY)
  • Azure OpenAI (AZURE_API_KEY + AZURE_BASE_URL)
  • Oracle (ORACLE_API_KEY + ORACLE_BASE_URL)
  • Ollama (OLLAMA_BASE_URL)

이 게이트웨이는 대부분의 제공업체에서 채팅 완성, 임베딩, 파일 처리, 배치 작업 및 패스스루 기능을 지원합니다. Oracle의 경우 업스트림 /models 엔드포인트를 사용할 수 없을 때 ORACLE_MODELS=openai.gpt-oss-120b,xai.grok-3을 설정해야 할 수 있습니다.

대체 설정 방법

소스에서 실행하거나(Go 1.26.2+ 필요) Redis, PostgreSQL, MongoDB, Adminer를 포함한 인프라 구성 요소에 Docker Compose를 사용할 수도 있습니다.

이러한 유형의 게이트웨이는 여러 AI 모델을 다양한 제공업체에서 관리하는 팀, 비용 추적이 필요한 경우, 또는 코드 변경 없이 제공업체를 전환할 수 있는 유연성을 유지하려는 경우에 특히 유용합니다. 가벼운 Docker 이미지는 리소스가 제한된 환경에 적합합니다.

📖 Read the full source: HN LLM Tools

Ad

👀 See Also

깊이 패킹된 코드베이스 컨텍스트를 위한 MCP 서버
Tools

깊이 패킹된 코드베이스 컨텍스트를 위한 MCP 서버

새로운 MCP 서버가 토큰 예산 내에서 5단계 깊이 수준으로 코드베이스 컨텍스트를 압축합니다. 이는 AI 코딩 에이전트가 너무 적은 파일을 로드하거나 실제 내용 없이 평평한 저장소 맵을 얻는 문제를 해결합니다.

OpenClawRadar
사서 MCP: 문서와 지속적 컨텍스트를 위한 로컬 AI 서버
Tools

사서 MCP: 문서와 지속적 컨텍스트를 위한 로컬 AI 서버

Librarian MCP는 로컬에서 실행되는 오픈소스 Model Context Protocol 서버로, Jan, LM Studio 또는 Claude Desktop에 연결하여 AI 모델이 문서 컬렉션을 검색하고 분석할 수 있게 하면서도 전체 대화 컨텍스트와 데이터 프라이버시를 유지합니다.

OpenClawRadar
M5 Max에서 Flash-MOE 벤치마크: Qwen3.5-397B로 12.99 토큰/초
Tools

M5 Max에서 Flash-MOE 벤치마크: Qwen3.5-397B로 12.99 토큰/초

3970억 파라미터 규모의 Qwen3.5 모델을 MacBook Pro M5 Max(128GB RAM)에서 로컬로 실행한 벤치마크 결과, 4비트 양자화와 cache-io-split 4 설정으로 초당 12.99 토큰을 달성했으며, 이는 원본 48GB 벤치마크보다 세 배 빠른 속도입니다.

OpenClawRadar
에이전트-Xray: 추적 로그에서 AI 에이전트 실패를 디버깅하는 오픈소스 도구
Tools

에이전트-Xray: 추적 로그에서 AI 에이전트 실패를 디버깅하는 오픈소스 도구

Agent-Xray는 MIT 라이선스 오픈소스 도구로, AI 에이전트 추적 로그를 분석하여 spin, tool_bug, early_abort와 같은 범주로 실패를 분류하며, 적대적 도전에 대한 수정 사항을 테스트하는 강제 모드를 포함합니다.

OpenClawRadar