htmLLM-124M v2 publié : Modèle d'autocomplétion HTML/Bootstrap spécialisé

Modèle spécialisé d'autocomplétion HTML/Bootstrap

LH-Tech-AI a publié htmLLM-124M v2, un modèle de base spécialisé conçu spécifiquement pour l'autocomplétion haute fidélité HTML/Bootstrap. Il s'agit d'une mise à niveau de leur version précédente de 50M, avec des capacités de logique structurelle améliorées.

Performances et détails d'entraînement

Le modèle atteint une perte de validation maximale de 0,91 et un plancher d'entraînement de 0,27. Il a été entraîné à l'aide d'un notebook .ipynb open-source inclus avec la version, nécessitant environ 8 heures sur une seule GPU T4.

Capacités et cas d'utilisation

Le modèle comprend les systèmes de grille complexes et les chaînes de dépendance des scripts. Selon le créateur, il possède une compréhension approfondie des structures Bootstrap, de l'initialisation jQuery et de syntaxes de frameworks spécifiques comme Angular Material.

Exemples de cas d'utilisation démontrés dans la source :

• Complétion de grille de connexion Bootstrap en zero-shot
• Barre de navigation complexe avec logique de bascule

Exemple d'entrée pour la complétion de barre de navigation :

<nav class="navbar navbar-expand-lg navbar-light bg-light">
<div class="container-fluid">
<a class="navbar-brand" href="#">LH-Tech AI</a>

Caractéristiques du modèle

Avec 124 millions de paramètres, le modèle est conçu pour fonctionner efficacement sur du matériel modeste - décrit comme fonctionnant "sur chaque 'patate'" aux côtés d'un IDE et d'un navigateur sans impact sur les performances.

Le créateur met en avant une philosophie "Spécialisation plutôt qu'échelle", positionnant ce modèle comme un moteur d'autocomplétion plutôt qu'un modèle de langage à usage général. Bien qu'il puisse gérer des instructions de base, il est optimisé pour une fonctionnalité d'autocomplétion pure, le rendant adapté à l'intégration de texte fantôme dans les IDE.

Publications supplémentaires

Parallèlement à htmLLM-124M v2, le créateur a également publié les poids et le code pour la série Apex 1.5 (350M), incluant :

• La variante Apex 1.5 Coder
• Les exportations ONNX FULL et INT8 pour l'inférence locale-first
• La variante Apex 1.5 Instruct