Usar LLM locales para enlaces internos en un sitio estático.

Un desarrollador compartió un caso de uso práctico para LLMs locales: crear enlaces internos para un sitio web estático con aproximadamente 400 páginas MDX en un subdirectorio. En lugar de leer manualmente todas las páginas para encontrar conexiones relevantes, automatizó el proceso utilizando modelos locales.

Flujo de trabajo

El desarrollador primero utilizó Claude Code para escribir un script que creó un mapa de metadatos de todos los archivos MDX. Este mapa contenía detalles básicos como título, slug, descripción y etiquetas, pero no el contenido completo de la página, lo cual habría sido demasiado intensivo en recursos.

Con el mapa creado, consultaron cada página pasando un cuarto del mapa a la vez a un modelo Gemma3 27B, ejecutando cada página cuatro veces. Se le pidió al modelo que encontrara páginas relevantes del mapa que pudieran enlazarse a la página principal que se estaba consultando.

Problema y solución

Inicialmente, las etiquetas en los metadatos eran demasiado amplias para que Gemma3 las entendiera, lo que resultó en enlaces aleatorios. El desarrollador identificó que la calidad de los datos era el problema.

Para solucionarlo, utilizaron Claude Code nuevamente para escribir otro script que pasó cada publicación por el modelo para etiquetarla desde un conjunto predefinido. Mientras ejecutaban el sitio localmente, verificaron que se respetaba el conjunto de etiquetas predefinido para garantizar la coherencia antes de publicar los cambios en vivo.

Limitaciones técnicas

El proceso requirió una gestión cuidadosa del hardware debido a la generación de calor. Con temperaturas exteriores de 41°C, la computadora se calentaba rápidamente, obligando al desarrollador a detener y reiniciar el script varias veces para evitar el sobrecalentamiento de la GPU en su única 3090 Ti.

Después de implementar el sistema de etiquetado y recrear el mapa, el proceso de enlace funcionó sin problemas para las páginas probadas. El desarrollador planea verificar manualmente las 400 páginas antes de hacer los cambios en vivo.