Usando LLMs locais para links internos em um site estático

Um desenvolvedor compartilhou um caso de uso prático para LLMs locais: criar links internos para um site estático com cerca de 400 páginas MDX em um subdiretório. Em vez de ler manualmente todas as páginas para encontrar conexões relevantes, ele automatizou o processo usando modelos locais.

Fluxo de trabalho

O desenvolvedor primeiro usou o Claude Code para escrever um script que criou um mapa de metadados de todos os arquivos MDX. Este mapa continha detalhes básicos como título, slug, descrição e tags—mas não o conteúdo completo da página, o que teria sido muito intensivo em recursos.

Com o mapa criado, ele consultou cada página passando um quarto do mapa por vez para o modelo Gemma3 27B, executando cada página quatro vezes. O modelo foi solicitado a encontrar páginas relevantes do mapa que poderiam ser vinculadas à página principal sendo consultada.

Problema e solução

Inicialmente, as tags nos metadados eram muito amplas para o Gemma3 entender, resultando em vinculação aleatória. O desenvolvedor identificou que a qualidade dos dados era o problema.

Para corrigir isso, ele usou o Claude Code novamente para escrever outro script que passou cada postagem pelo modelo para marcá-la a partir de um conjunto predefinido. Enquanto executava o site localmente, ele verificou que o conjunto de tags predefinido estava sendo respeitado para garantir consistência antes de enviar as alterações ao vivo.

Restrições técnicas

O processo exigiu um gerenciamento cuidadoso do hardware devido à geração de calor. Com temperaturas externas de 41°C, o computador esquentava rapidamente, forçando o desenvolvedor a parar e reiniciar o script várias vezes para evitar o superaquecimento da GPU em sua única 3090 Ti.

Após implementar o sistema de marcação e recriar o mapa, o processo de vinculação funcionou sem problemas para as páginas testadas. O desenvolvedor planeja verificar manualmente todas as 400 páginas antes de tornar as alterações ao vivo.