Key Takeaways
- LM Studio tem configurações avançadas na aba Configurações → Servidor (opções de GPU, comprimento de contexto).
- A memória GPU pode ser configurada manualmente de 10% a 100% da VRAM — valores menores liberam GPU para outros aplicativos.
- A janela de contexto (número de tokens que o modelo pode ver) pode ser estendida até os limites do modelo, mas usa mais VRAM.
- A API local (beta) expõe endpoints compatíveis com OpenAI em localhost:1234 para integração.
- A partir de abril de 2026, o fine-tuning com LoRA ainda não está integrado ao LM Studio; use Text-Generation-WebUI ou scripts de treinamento.
Como configurar a memória GPU no LM Studio?
O LM Studio permite controlar quanta VRAM da GPU o modelo usa:
- 1. Clique em Configurações (ícone de engrenagem no canto inferior esquerdo).
- 2. Encontre o controle deslizante Aceleração GPU (padrão: 100%).
- 3. Deslize para 50% se quiser que a GPU use 50% da VRAM, liberando o restante para outros aplicativos.
- 4. Menor alocação de GPU = inferência mais lenta, mas mais espaço para aplicativos simultâneos.
- 5. Clique em Reiniciar para aplicar as alterações.
Como estender a janela de contexto?
A janela de contexto é o número máximo de tokens (texto) que o modelo pode ler. Estendê-la permite conversas mais longas, mas usa mais VRAM.
- 1. Abra Configurações → Servidor.
- 2. Procure por Comprimento do contexto (padrão: limite integrado do modelo).
- 3. Aumente para 4k, 8k, 16k ou 32k (dependendo do suporte do modelo).
- 4. Dobrar o comprimento do contexto aproximadamente dobra o uso de VRAM.
- 5. Teste seu contexto estendido iniciando um chat e fornecendo prompts longos.
Como habilitar a API local do LM Studio (Beta)?
A API local do LM Studio (beta em abril de 2026) imita a API da OpenAI:
# 1. Abra LM Studio Configurações → Servidor
# 2. Ative "Enable local API server"
# 3. A API roda em http://localhost:1234/v1
# 4. Use como o Ollama:
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:1234/v1",
api_key="nao-necessario"
)
response = client.chat.completions.create(
model="llama-3.2-3b-gguf",
messages=[{"role": "user", "content": "Olá"}]
)
print(response.choices[0].message.content)Você pode fazer fine-tuning de modelos com o LM Studio?
A partir de abril de 2026, o LM Studio não tem fine-tuning com LoRA integrado. Para fine-tuning, use:
- Text-Generation-WebUI (mais fácil para LoRA)
- LLaMA-Factory (avançado, nível de produção)
- unsloth (mais rápido, ótimo para uso de VRAM)
O LM Studio é adequado para aplicar adaptadores LoRA pré-treinados, mas não para treinar novos. Versões futuras podem adicionar treinamento LoRA diretamente.
Como executar inferência em batch no LM Studio?
Inferência em batch significa processar múltiplos prompts sem esperar por respostas entre eles. O LM Studio não tem modo batch integrado, mas você pode simulá-lo via API ou loop Python:
# Python: inferência em batch via API do LM Studio
from openai import OpenAI
import json
client = OpenAI(base_url="http://localhost:1234/v1", api_key="x")
prompts = [
"Quanto é 2+2?",
"Explique computação quântica",
"Como funcionam os transformers?"
]
results = []
for prompt in prompts:
response = client.chat.completions.create(
model="llama-3.2-3b-gguf",
messages=[{"role": "user", "content": prompt}]
)
results.append({
"prompt": prompt,
"response": response.choices[0].message.content
})
with open("batch_results.json", "w") as f:
json.dump(results, f, indent=2)Como fazer benchmark da velocidade do modelo no LM Studio?
O LM Studio inclui uma ferramenta de benchmark integrada:
- 1. Carregue um modelo no LM Studio.
- 2. Clique em Configurações → aba Benchmark.
- 3. Clique em Executar benchmark — mede tokens/segundo para seu hardware específico.
- 4. Os resultados mostram o desempenho de base sem o overhead do chat.
- Isso ajuda a entender a velocidade esperada antes de fazer deploy em produção.
Erros comuns com os recursos avançados do LM Studio
- Reduzir a alocação de GPU demais e culpar o modelo pela lentidão. Se você definir a GPU para 10%, a inferência será 5–10× mais lenta porque está rodando principalmente na CPU. Teste primeiro com alocação de GPU de 80%+.
- Estender a janela de contexto além do suporte do modelo. Os modelos têm comprimentos de contexto máximos suportados. Estender além disso não adiciona capacidade; apenas desperdiça VRAM.
- Esperar treinamento LoRA no LM Studio. A partir de abril de 2026, não está disponível. Use Text-Generation-WebUI ou bibliotecas de treinamento.
- Esquecer que a API precisa ser habilitada explicitamente. A API local está desativada por padrão. Habilite em Configurações → Servidor.
Perguntas comuns sobre os recursos avançados do LM Studio
Qual é a diferença entre a API do LM Studio e a API do Ollama?
Ambas expõem endpoints compatíveis com OpenAI. A API do LM Studio fica em localhost:1234, o Ollama em localhost:11434. Ambas funcionam de forma idêntica. Escolha a ferramenta que você preferir para chat.
Posso usar a API do LM Studio em produção?
Funciona, mas a API do Ollama é mais madura. A API do LM Studio está em beta. Para produção, o Ollama é a escolha mais segura.
Reduzir a alocação de GPU diminui os requisitos de VRAM?
Sim. Reduzir a alocação de GPU para 50% reduz o uso de VRAM aproximadamente pela metade, mas a inferência é 2–5× mais lenta porque o modelo roda parcialmente na CPU.
Fontes
- Documentação do LM Studio — lmstudio.ai/docs
- LM Studio Local Server (Beta) — lmstudio.ai/docs/local-server/overview
- Compatibilidade com a API OpenAI — platform.openai.com/docs/api-reference