Entwicklung einer verwalteten KI-Hostplattform mit Rails 8, Docker und Traefik

Plattformarchitektur und Technologie-Stack

Ein Entwickler hat eine verwaltete Hosting-Plattform für KI-Anwendungen innerhalb von zwei Wochen komplett neu mit Rails 8 aufgebaut. Die Plattform bedient derzeit 50 zahlende Kunden. Der Technologie-Stack umfasst einen Rails 8 Monolithen, eine PostgreSQL-Datenbank, Sidekiq für Hintergrundverarbeitung (konfiguriert mit 5 Prozessen und 50 Threads), Clockwork für geplante Aufgaben und die Hetzner Cloud API zum Hochfahren von Kunden-VPS-Instanzen.

Technische Herausforderungen und Lösungen

Der Entwickler erwähnt insbesondere die Bewältigung von "unschönen Aspekten" wie Docker-Konfigurationsproblemen, der Implementierung von Server-Sent Events (SSE) Streaming über den Traefik Reverse-Proxy und dem Umgang mit Kundeninstanzen, die außerhalb der Geschäftszeiten abstürzen (insbesondere um 2 Uhr morgens).

Zum Kontext: Rails 8 enthält standardmäßig Hotwire für Echtzeitfunktionen, was mit der SSE-Streaming-Implementierung zusammenhängen könnte. Traefik ist ein moderner Reverse-Proxy, der WebSocket- und SSE-Verbindungen nativ verarbeiten kann, obwohl die Konfiguration komplex sein kann. Hetzner Cloud bietet kostengünstige VPS-Instanzen, die für selbst gehostete Bereitstellungen beliebt sind. Sidekiq mit 5 Prozessen und 50 Threads deutet auf eine erhebliche Verarbeitungskapazität für Hintergrundjobs zur Bewältigung von Kundenworkloads hin.

Die Plattform scheint eine Fallstudie zum Aufbau von Infrastructure-as-a-Service speziell für KI-Anwendungen zu sein, wobei der Entwickler praktische Erfahrungen zu Bereitstellung, Überwachung und Störungsbehandlung teilt.