Dica de desempenho: bloqueie a VRAM/RAM do modelo local com LimitMEMLOCK=infinity

Se o seu modelo local couber na soma da VRAM com a RAM, você pode manter a memória do provedor do modelo residente adicionando LimitMEMLOCK=infinity sob o cabeçalho [Service] da unit systemd do seu provedor. O kernel então para de paginar os pesos do modelo para o disco, que é a origem da maior parte das lentidões depois que um modelo é carregado.

O arquivo da unit

Postado no r/openclaw como exemplo funcional para o LM Studio (edite os caminhos e nomes de usuário para corresponder à sua instalação):

[Unit]
Description=LM Studio Server
RequiresMountsFor=/home

[Service]
LimitMEMLOCK=infinity
Type=oneshot
RemainAfterExit=yes
User=********
Environment="HOME=/home/"
ExecStartPre=/home//.lmstudio/bin/lms daemon up
ExecStartPre=/home//.lmstudio/bin/lms load text-embedding-bge-large-en-v1.5 --yes
ExecStartPre=/home//.lmstudio/bin/lms load qwen3.6-35b-a3b-uncensored-hauhaucs-aggressive --yes
ExecStart=/home//.lmstudio/bin/lms server start
ExecStop=/home//.lmstudio/bin/lms daemon down
[Install]
WantedBy=multi-user.target

O que cada parte faz

• LimitMEMLOCK=infinity — remove o limite padrão de mlock por processo, para que o modelo carregado possa ser mantido fora do swap/paginação.
• ExecStartPre com lms daemon up — inicia o daemon do LM Studio antes de qualquer outra coisa.
• lms load <model> --yes — pré-carrega cada modelo na inicialização do serviço. O exemplo carrega um modelo de embeddings (text-embedding-bge-large-en-v1.5) e um modelo de chat (qwen3.6-35b-a3b-uncensored-hauhaucs-aggressive).
• lms server start como ExecStart — sobe o servidor compatível com OpenAI.
• lms daemon down como ExecStop — limpa tudo ao desligar.
• RequiresMountsFor=/home — garante que a partição home que contém os arquivos do modelo esteja montada antes de o serviço iniciar.
• Type=oneshot + RemainAfterExit=yes — a unit é tratada como ativa depois que os comandos de inicialização terminam, o que se encaixa em um daemon gerenciado separadamente pela CLI lms.

Ressalva

A dica assume explicitamente que o modelo cabe na VRAM+RAM. Se não couber, travar a memória é a alavanca errada — você só vai empurrar o problema para outro lugar. Quando couber, o ganho é evitar travamentos induzidos por paginação durante a inferência.

Para aplicar: insira o bloco no seu arquivo de unit, depois execute systemctl daemon-reload e reinicie o serviço. Desenvolvedores que rodam o LM Studio headless como serviço systemd são o público-alvo aqui; a mesma ideia se aplica a qualquer processo de provedor cujos pesos você queira fixados na memória.