Création d'une Plateforme d'Hébergement d'IA Gérée avec Rails 8, Docker et Traefik

Architecture de la plateforme et pile technique

Un développeur a créé une plateforme d'hébergement géré pour applications d'IA à partir de zéro en deux semaines en utilisant Rails 8. La plateforme dessert actuellement 50 clients payants. La pile technique comprend une architecture monolithique Rails 8, une base de données PostgreSQL, Sidekiq pour le traitement en arrière-plan (configuré avec 5 processus et 50 threads), Clockwork pour la planification des tâches et l'API Hetzner Cloud pour déployer les instances VPS clientes.

Défis techniques et solutions

Le développeur mentionne spécifiquement avoir abordé les "aspects complexes" incluant les problèmes de configuration Docker, la mise en œuvre du streaming Server-Sent Events (SSE) via le proxy inverse Traefik, et la gestion des instances clientes qui plantent pendant les heures creuses (spécifiquement à 2 heures du matin).

Pour contexte : Rails 8 inclut Hotwire par défaut pour les fonctionnalités en temps réel, ce qui peut être lié à l'implémentation du streaming SSE. Traefik est un proxy inverse moderne qui peut gérer nativement les connexions WebSocket et SSE, bien que sa configuration puisse être complexe. Hetzner Cloud fournit des instances VPS abordables populaires pour les déploiements auto-hébergés. Sidekiq avec 5 processus et 50 threads suggère une capacité significative de traitement des tâches en arrière-plan pour gérer les charges de travail clientes.

La plateforme semble être une étude de cas sur la construction d'infrastructure-en-tant-que-service spécifiquement pour les applications d'IA, avec le développeur partageant son expérience pratique concernant le déploiement, la surveillance et la réponse aux incidents.