성능 팁: LimitMEMLOCK=infinity로 로컬 모델 VRAM/RAM 고정

로컬 모델이 VRAM과 RAM을 합친 용량 안에 들어간다면, 해당 프로바이더의 systemd 유닛에서 [Service] 헤더 아래에 LimitMEMLOCK=infinity를 추가하여 모델 프로바이더의 메모리를 상주시킬 수 있습니다. 그러면 커널이 모델 가중치를 디스크로 페이징하는 것을 중단하며, 모델이 로드된 후 발생하는 대부분의 속도 저하가 바로 여기서 비롯됩니다.

유닛 파일

r/openclaw에 LM Studio용으로 작동하는 예시가 게시되었습니다(경로와 사용자 이름은 설치 환경에 맞게 수정하세요):

[Unit]
Description=LM Studio Server
RequiresMountsFor=/home

[Service]
LimitMEMLOCK=infinity
Type=oneshot
RemainAfterExit=yes
User=********
Environment="HOME=/home/"
ExecStartPre=/home//.lmstudio/bin/lms daemon up
ExecStartPre=/home//.lmstudio/bin/lms load text-embedding-bge-large-en-v1.5 --yes
ExecStartPre=/home//.lmstudio/bin/lms load qwen3.6-35b-a3b-uncensored-hauhaucs-aggressive --yes
ExecStart=/home//.lmstudio/bin/lms server start
ExecStop=/home//.lmstudio/bin/lms daemon down
[Install]
WantedBy=multi-user.target

각 부분의 역할

• LimitMEMLOCK=infinity — 기본 프로세스별 mlock 상한을 제거하여, 로드된 모델이 스왑/페이징되지 않도록 유지합니다.
• lms daemon up이 포함된 ExecStartPre — 다른 무엇보다 먼저 LM Studio 데몬을 시작합니다.
• lms load <model> --yes — 서비스 시작 시 각 모델을 미리 로드합니다. 예시에서는 임베딩 모델(text-embedding-bge-large-en-v1.5)과 채팅 모델(qwen3.6-35b-a3b-uncensored-hauhaucs-aggressive)을 로드합니다.
• ExecStart로 실행되는 lms server start — OpenAI 호환 서버를 구동합니다.
• ExecStop으로 실행되는 lms daemon down — 종료 시 정리합니다.
• RequiresMountsFor=/home — 모델 파일이 있는 홈 파티션이 서비스 시작 전에 마운트되도록 보장합니다.
• Type=oneshot + RemainAfterExit=yes — 시작 명령이 끝난 후에도 유닛이 활성 상태로 간주되며, 이는 lms CLI가 별도로 관리하는 데몬에 적합합니다.

주의사항

이 팁은 모델이 VRAM+RAM에 들어간다고 명시적으로 가정합니다. 그렇지 않다면 메모리를 잠그는 것은 잘못된 선택입니다. 문제를 다른 곳으로 밀어낼 뿐입니다. 모델이 들어맞기만 하면, 추론 시 페이징으로 인한 지연을 피하는 것이 이점입니다.

적용하려면: 유닛 파일에 이 블록을 넣은 다음 systemctl daemon-reload를 실행하고 서비스를 재시작하세요. LM Studio를 systemd 서비스로 헤드리스 실행하는 개발자가 여기 주요 대상입니다. 동일한 아이디어는 가중치를 메모리에 고정하려는 모든 프로바이더 프로세스에 적용됩니다.