静的サイトでの内部リンクにローカルLLMを活用する

ある開発者が、ローカルLLMの実用的なユースケースを共有しました：約400のMDXページを持つ静的ウェブサイトのサブディレクトリ内で、内部リンクを作成する方法です。すべてのページを手動で読み込んで関連する接続を見つける代わりに、ローカルモデルを使用してプロセスを自動化しました。

ワークフロー

開発者はまず、Claude Codeを使用して、すべてのMDXファイルのメタデータマップを作成するスクリプトを書きました。このマップには、タイトル、スラッグ、説明、タグなどの基本情報が含まれていましたが、リソースが過剰になるため、ページの完全なコンテンツは含まれていませんでした。

マップを作成した後、マップの4分の1を一度にGemma3 27Bモデルに渡して各ページを4回実行し、クエリを実行しました。モデルには、クエリ対象のメインページにリンクできる関連ページをマップから見つけるように指示されました。

問題と解決策

最初は、メタデータ内のタグがGemma3にとって広すぎて理解できず、ランダムなリンクが生成されました。開発者は、データの品質が問題であることを特定しました。

これを修正するために、彼らは再びClaude Codeを使用して、すべての投稿をモデルに渡し、事前定義されたセットからタグ付けする別のスクリプトを書きました。サイトをローカルで実行しながら、変更を公開する前に一貫性を確保するために、事前定義されたタグセットが尊重されていることを確認しました。

技術的な制約

このプロセスでは、発熱によるハードウェア管理に注意が必要でした。外気温が41°Cの状況で、コンピュータは急速に加熱し、開発者は単一の3090 TiのGPU過熱を防ぐためにスクリプトを何度も停止および再起動することを余儀なくされました。

タグ付けシステムを実装し、マップを再作成した後、テストしたページに対してリンクプロセスはスムーズに機能しました。開発者は、変更を公開する前にすべての400ページを手動で確認する予定です。