Rails 8, Docker, Traefik을 활용한 관리형 AI 호스팅 플랫폼 구축

플랫폼 아키텍처와 기술 스택

한 개발자가 Rails 8을 사용해 2주 만에 처음부터 AI 애플리케이션용 관리형 호스팅 플랫폼을 구축했습니다. 현재 이 플랫폼은 50명의 유료 고객을 서비스하고 있습니다. 기술 스택에는 Rails 8 모놀리스, PostgreSQL 데이터베이스, 백그라운드 처리를 위한 Sidekiq(5개 프로세스와 50개 스레드로 구성), 작업 예약을 위한 Clockwork, 고객 VPS 인스턴스를 생성하기 위한 Hetzner Cloud API가 포함됩니다.

기술적 과제와 해결책

개발자는 특히 Docker 구성 문제, Traefik 리버스 프록시를 통한 서버 전송 이벤트(SSE) 스트리밍 구현, 그리고 새벽 2시와 같은 비업무 시간에 발생하는 고객 인스턴스 충돌 처리와 같은 "복잡한 부분"을 해결한 점을 언급했습니다.

참고로: Rails 8에는 실시간 기능을 위한 Hotwire가 기본 포함되어 있어, 이는 SSE 스트리밍 구현과 관련이 있을 수 있습니다. Traefik은 WebSocket 및 SSE 연결을 기본적으로 처리할 수 있는 현대적인 리버스 프록시이지만, 구성이 복잡할 수 있습니다. Hetzner Cloud는 셀프 호스팅 배포에 인기 있는 저렴한 VPS 인스턴스를 제공합니다. 5개 프로세스와 50개 스레드로 구성된 Sidekiq은 고객 워크로드를 처리하기 위한 상당한 백그라운드 작업 처리 능력을 시사합니다.

이 플랫폼은 특히 AI 애플리케이션을 위한 인프라스트럭처 서비스 구축 사례 연구로 보이며, 개발자는 배포, 모니터링 및 사고 대응에 관한 실용적인 경험을 공유하고 있습니다.