Quanta VRAM você precisa para um LLM local?

Ler em:

🇺🇸en 🇩🇪de 🇫🇷fr 🇯🇵ja 🇨🇳zh 🇪🇸es 🇧🇷pt 🇸🇦ar 🇰🇷ko

Resposta rápida

4 GB de VRAM suporta Phi-4 Mini e Gemma 2B confortavelmente com margem para expansão de contexto. 6 GB roda Llama 3 8B em Q4. 12 GB acomoda Qwen 14B Q4 eficientemente. Modelos 70B em Q4 requerem 16+ GB.

▸4 GB: Phi-4 Mini Q4, Gemma 2 2B
▸6 GB: Llama 3 8B Q4_K_M
▸8–12 GB: Mistral Small Q5, Qwen 14B Q4

Atualizado: 2 de junho de 2026

Quantization & VRAM

Pontos principais

✓4 GB de VRAM roda Phi-4 Mini Q4 e Gemma 2 2B sem problemas
✓6 GB é o ponto de entrada para Llama 3 8B em Q4_K_M — o modelo local mais popular
✓12 GB desbloqueia Qwen 14B Q4, o melhor nível de qualidade por preço
✓Modelos 70B requerem 40+ GB — planeje com dual RTX 3090 ou Apple M-series com grande memória unificada

Requisitos de VRAM por tamanho de modelo

Em maio de 2026, a necessidade de VRAM de um modelo segue uma fórmula simples: contagem de parâmetros em bilhões × 0,7 = GB aproximados em quantização Q4. Um modelo 7B precisa de ~4,9 GB para os pesos, mais 0,5–1 GB de sobrecarga de contexto. É por isso que 6 GB é o mínimo para o nível 7–8B, e 12 GB desbloqueia o nível 14B com folga.

Use a tabela abaixo como referência rápida de decisão. A coluna "Velocidade" assume Ollama em uma GPU desktop rodando com contexto padrão (2048 tokens).

Sempre mantenha 1–2 GB de VRAM livres acima das necessidades declaradas do seu modelo. Sistemas operacionais, abas do navegador e o runtime do Ollama consomem 500 MB–1 GB mesmo sem nenhum modelo carregado. Uma placa de 6 GB rodando um modelo de 5,5 GB deixa apenas 500 MB de margem — você terá erros de falta de memória assim que aumentar --num-ctx além de 2048 tokens. Para o nível de 6 GB com margem segura, veja os melhores LLMs locais para 6 GB de VRAM.

VRAM	Melhor modelo em Q4_K_M	Velocidade
4 GB	Phi-4 Mini Q4	~25 tok/s
6 GB	Llama 3 8B Q4_K_M	~20 tok/s
8 GB	Mistral Small Q5_K_M	~18 tok/s
12 GB	Qwen 14B Q4_K_M	~15 tok/s
16+ GB	Qwen 32B Q4 ou Llama 70B parcial	~8 tok/s

O que fazer quando a VRAM não é suficiente

Se um modelo exceder sua VRAM, você tem três opções: reduzir a quantização (Q4_K_M em vez de Q5), reduzir a janela de contexto com --num-ctx 2048, ou deixar o Ollama descarregar camadas para a RAM do sistema.

O offload para CPU funciona, mas é lento — cada camada movida para a RAM adiciona latência. Para uso interativo, fique dentro do limite de VRAM da sua GPU. Reduzir o contexto de 4096 para 2048 tokens economiza aproximadamente 2 GB em um modelo 7B.

Para um detalhamento completo dos tamanhos de modelos e a matemática por trás das estimativas de VRAM, veja o guia completo de VRAM para LLMs locais. Para o nível 7B especificamente, veja quanta RAM um modelo 7B precisa.

Respostas rápidas sobre VRAM

8 GB de VRAM são suficientes para LLMs locais?▾

Sim. 8 GB roda Llama 3 8B em Q5_K_M a cerca de 18 tokens por segundo, ou Mistral Small em Q5_K_M com margem de sobra. A maioria das tarefas cotidianas de chat e codificação são bem cobertas neste nível.

Posso rodar um modelo 7B com 4 GB de VRAM?▾

Não. Um modelo 7B em Q4 precisa de 5–6 GB de VRAM. A menor quantização utilizável ainda excede 4 GB. Veja quanta RAM um modelo 7B precisa para o detalhamento completo.

O tamanho da janela de contexto afeta o uso de VRAM?▾

Sim. Cada 1.000 tokens adicionais de contexto usam aproximadamente 250 MB de VRAM em um modelo 7B. O contexto padrão de 2048 tokens usa ~0,5 GB; 16.384 tokens usam ~4 GB além do peso do modelo.

O que fazer se meu modelo usa mais VRAM do que o esperado?▾

Defina --num-ctx 2048 no seu comando do Ollama. Isso reduz a VRAM em até 2 GB em modelos 7B sem alterar o arquivo do modelo.

← Voltar para Prompts em resumo