정적 사이트에서 내부 링크를 위해 로컬 LLMs 사용하기
한 개발자가 로컬 LLM의 실용적인 사용 사례를 공유했습니다: 한 하위 디렉토리에 약 400개의 MDX 페이지가 있는 정적 웹사이트를 위한 내부 링크 생성입니다. 모든 페이지를 수동으로 읽어 관련 연결을 찾는 대신, 로컬 모델을 사용해 이 과정을 자동화했습니다.
작업 흐름
개발자는 먼저 Claude Code를 사용하여 모든 MDX 파일의 메타데이터 맵을 생성하는 스크립트를 작성했습니다. 이 맵에는 제목, 슬러그, 설명, 태그와 같은 기본 세부 정보가 포함되었지만, 전체 페이지 내용은 포함되지 않았습니다. 전체 내용을 포함하면 리소스 소모가 너무 컸기 때문입니다.
맵이 생성된 후, Gemma3 27B 모델에 맵의 4분의 1씩 전달하여 모든 페이지를 쿼리했으며, 각 페이지를 네 번 실행했습니다. 모델은 쿼리되는 메인 페이지에 연결할 수 있는 관련 페이지를 맵에서 찾도록 요청받았습니다.
문제와 해결
처음에는 메타데이터의 태그가 너무 광범위하여 Gemma3가 이해하지 못해 무작위 링크가 생성되었습니다. 개발자는 데이터 품질이 문제임을 파악했습니다.
이를 해결하기 위해, 다시 Claude Code를 사용하여 모든 게시물을 모델에 전달해 미리 정의된 세트에서 태그를 지정하는 또 다른 스크립트를 작성했습니다. 사이트를 로컬에서 실행하면서, 변경 사항을 라이브로 푸시하기 전에 일관성을 보장하기 위해 미리 정의된 태그 세트가 준수되는지 확인했습니다.
기술적 제약
이 과정은 열 발생으로 인해 하드웨어 관리에 신경을 써야 했습니다. 외부 온도가 41°C일 때 컴퓨터가 빠르게 가열되어, 개발자는 단일 3090 Ti GPU의 과열을 방지하기 위해 스크립트를 여러 번 중단하고 재시작해야 했습니다.
태깅 시스템을 구현하고 맵을 재생성한 후, 테스트된 페이지에 대해 링크 생성 과정이 원활하게 작동했습니다. 개발자는 변경 사항을 라이브로 만들기 전에 모든 400페이지를 수동으로 확인할 계획입니다.
📖 Read the full source: r/LocalLLaMA
👀 See Also
독립 연구원, 클로드 AI를 활용해 양자역학 논문과 3만~5만 줄의 러스트 코드 작성
한 독립 연구자가 협력자로 Claude AI를 활용하여 '양자역학의 기초로서의 클리퍼드 기하학'이라는 연구 논문을 작성하고, 외부 의존성이 전혀 없는 3만~5만 줄의 Rust 코드를 개발했습니다. 이 코드는 위상 격자에서 벨 상관관계와 파동 역학을 검증합니다.
OpenClaw 텔레그램 조직: 주제별 에이전트 설정으로 채팅 혼란 해결
한 개발자가 전용 그룹 내에서 에이전트별 주제 구조를 구현하여 OpenClaw 텔레그램 관리 문제를 해결했으며, 이로 인해 컨텍스트 혼선이 줄어들고 디버깅이 개선되었습니다. 설정에는 특정 주제 매핑, 멘션 전용 기본값, 더 깔끔한 라우팅 규칙이 포함됩니다.
Qwen3-VL-32B-Instruct는 멀티모달 플래시카드 채점에 탁월한 성능을 보입니다.
한 개발자가 이미지가 가려진 Anki 플래시카드 채점을 위해 Qwen3-VL-32B-Instruct를 테스트한 결과, Gemini 2.5 Flash, GPT 5 Nano/Mini, XAI 4.1 Fast, GLM, Mistral 모델 등을 능가하는 성능을 보였으며, ChatGPT 5.2와 Gemini 3/3.1/Claude 4+만이 비슷한 수준이었습니다.
로컬 LLM으로 'Slay the Spire 2' 에이전트 구축하기: 교훈과 미해결 과제
개발자가 Qwen3.5-27B를 KoboldCPP/Ollama를 통해 사용하여 Slay the Spire 2를 플레이하는 에이전트를 구축했습니다. 상태 기반 도구 라우팅 및 단일 도구 모드와 같은 기술을 사용하여 액션당 약 10초, 액션 성공률 약 88%를 달성했으며, 프롬프트 일관성과 도구 호출 신뢰성과 같은 개방형 문제를 확인했습니다.