Holaboss AI Runtime Migre vers TypeScript, Implémente des Ports MCP Persistants

Un utilisateur de Reddit a analysé le dépôt du runtime d'agent local Holaboss AI, mettant en lumière deux améliorations techniques significatives pour les développeurs travaillant avec des piles LLM locales comme Ollama, llama.cpp et LM Studio combinées au MCP (Model Context Protocol).

Packaging exclusif en TypeScript

Le runtime a été entièrement migré vers TypeScript. La couche API, l'orchestration des runners, l'hébergement MCP des espaces de travail et le packaging résident désormais tous en TypeScript. Cela signifie que le runtime emballé ne contient plus de code source Python ni de dépendances Python. Pour les piles locales/auto-hébergées, cela se traduit par un bundle plus petit, moins de pièces mobiles et moins de dérive inter-langages.

Gestion persistante des ports MCP

Le runtime a éliminé le calcul manuel des ports MCP. Désormais, les ports sont persistés dans SQLite avec une contrainte UNIQUE(port) et (workspace_id, app_id) comme clé. Le runner fusionne les serveurs MCP préparés lors du démarrage. Cette approche garantit que les sidecars locaux redémarrent sur des ports stables et résistants aux collisions, remplaçant la méthode typique du "13100 + estimation".

L'analyse suggère qu'à mesure que les modèles locaux s'améliorent, l'accent se déplace de la qualité des modèles vers la qualité de l'infrastructure. Le packaging, le cycle de vie des sidecars, la découverte des services locaux et l'état du runtime deviennent des facteurs critiques pour déterminer si une pile d'agents locaux semble solide en pratique.

Le dépôt est disponible à l'adresse : https://github.com/holaboss-ai/holaboss-ai