정적 사이트에서 내부 링크를 위해 로컬 LLMs 사용하기

한 개발자가 로컬 LLM의 실용적인 사용 사례를 공유했습니다: 한 하위 디렉토리에 약 400개의 MDX 페이지가 있는 정적 웹사이트를 위한 내부 링크 생성입니다. 모든 페이지를 수동으로 읽어 관련 연결을 찾는 대신, 로컬 모델을 사용해 이 과정을 자동화했습니다.

작업 흐름

개발자는 먼저 Claude Code를 사용하여 모든 MDX 파일의 메타데이터 맵을 생성하는 스크립트를 작성했습니다. 이 맵에는 제목, 슬러그, 설명, 태그와 같은 기본 세부 정보가 포함되었지만, 전체 페이지 내용은 포함되지 않았습니다. 전체 내용을 포함하면 리소스 소모가 너무 컸기 때문입니다.

맵이 생성된 후, Gemma3 27B 모델에 맵의 4분의 1씩 전달하여 모든 페이지를 쿼리했으며, 각 페이지를 네 번 실행했습니다. 모델은 쿼리되는 메인 페이지에 연결할 수 있는 관련 페이지를 맵에서 찾도록 요청받았습니다.

문제와 해결

처음에는 메타데이터의 태그가 너무 광범위하여 Gemma3가 이해하지 못해 무작위 링크가 생성되었습니다. 개발자는 데이터 품질이 문제임을 파악했습니다.

이를 해결하기 위해, 다시 Claude Code를 사용하여 모든 게시물을 모델에 전달해 미리 정의된 세트에서 태그를 지정하는 또 다른 스크립트를 작성했습니다. 사이트를 로컬에서 실행하면서, 변경 사항을 라이브로 푸시하기 전에 일관성을 보장하기 위해 미리 정의된 태그 세트가 준수되는지 확인했습니다.

기술적 제약

이 과정은 열 발생으로 인해 하드웨어 관리에 신경을 써야 했습니다. 외부 온도가 41°C일 때 컴퓨터가 빠르게 가열되어, 개발자는 단일 3090 Ti GPU의 과열을 방지하기 위해 스크립트를 여러 번 중단하고 재시작해야 했습니다.

태깅 시스템을 구현하고 맵을 재생성한 후, 테스트된 페이지에 대해 링크 생성 과정이 원활하게 작동했습니다. 개발자는 변경 사항을 라이브로 만들기 전에 모든 400페이지를 수동으로 확인할 계획입니다.