Создание управляемой платформы для размещения ИИ с использованием Rails 8, Docker и Traefik

Архитектура платформы и стек технологий

Разработчик с нуля создал управляемую платформу хостинга для AI-приложений за две недели, используя Rails 8. В настоящее время платформа обслуживает 50 платящих клиентов. Технологический стек включает монолит на Rails 8, базу данных PostgreSQL, Sidekiq для фоновой обработки (настроен с 5 процессами и 50 потоками), Clockwork для планирования задач и API Hetzner Cloud для развертывания VPS-инстансов клиентов.

Технические проблемы и решения

Разработчик отдельно упоминает решение "сложных моментов", включая проблемы с конфигурацией Docker, реализацию Server-Sent Events (SSE) стриминга через обратный прокси Traefik и обработку клиентских инстансов, которые выходят из строя в нерабочее время (конкретно в 2 часа ночи).

Для контекста: Rails 8 по умолчанию включает Hotwire для функций реального времени, что может быть связано с реализацией SSE-стриминга. Traefik — современный обратный прокси, который может нативно обрабатывать WebSocket и SSE соединения, хотя его конфигурация может быть сложной. Hetzner Cloud предоставляет доступные VPS-инстансы, популярные для самостоятельных развертываний. Sidekiq с 5 процессами и 50 потоками предполагает значительную мощность для обработки фоновых задач клиентских рабочих нагрузок.

Платформа представляет собой пример создания инфраструктуры как услуги специально для AI-приложений, где разработчик делится практическим опытом по развертыванию, мониторингу и реагированию на инциденты.