Quanta VRAM um modelo 70B precisa?
Resposta rápida
Um modelo 70B em Q4_K_M precisa de aproximadamente 40 GB de VRAM. Opções de consumo: dois RTX 3090 (48 GB no total), M5 Max com 128 GB de memória unificada ou aluguel de GPU na nuvem.
- ▸Q4_K_M 70B: ~40 GB de VRAM necessários
- ▸Dois RTX 3090 (48 GB no total): opção de desktop de consumo
- ▸M5 Max com 128 GB de memória unificada: melhor experiência em um único equipamento
Atualizado: 21 de junho de 2026
Pontos principais
- ✓Um modelo 70B em Q4_K_M precisa de aproximadamente 40 GB de VRAM
- ✓Opções de hardware de consumo: dois RTX 3090 (48 GB) ou Apple M5 Max com 128 GB de memória unificada
- ✓Para uso ocasional de menos de 5 horas por semana, o aluguel de GPU na nuvem a $0,50–$1,50/hora é mais barato que comprar hardware
Opções de hardware para executar um modelo 70B
Em maio de 2026, um modelo 70B em Q4_K_M representa aproximadamente 40 GB de pesos comprimidos — 1,7× uma RTX 4090 individual e 1,6× uma RTX 3090 individual. Por isso 70B é o nível mais difícil de executar localmente: ele cruza a fronteira entre GPUs de consumo (máx. 24 GB) e hardware de workstation. Existem três caminhos, cada um com diferentes trade-offs.
Apple M5 Max com 128 GB de memória unificada é a opção de equipamento único mais fluida — sem gargalo PCIe entre a memória CPU e GPU, e o macOS gerencia a alocação automaticamente. Dois RTX 3090 funcionam, mas exigem um desktop de nível workstation e configuração cuidadosa de drivers.
| Hardware | VRAM total | Velocidade |
|---|---|---|
| Dois RTX 3090 | 48 GB | ~8 tok/s |
| RTX 3090 + offload CPU | 24 GB + 32 GB RAM | ~3 tok/s |
| Apple M5 Max 128 GB | 128 GB unificada | ~15 tok/s |
| RunPod H100 (nuvem) | 80 GB | ~50 tok/s |
Quando a nuvem faz mais sentido que o local
O aluguel de GPU na nuvem para inferência 70B custa $0,50–$1,50 por hora no RunPod e Lambda Labs em maio de 2026. Uma configuração de dois RTX 3090 custa $1.500–$2.500 em hardware, que amortiza para os custos de nuvem apenas após 1.500–3.000 horas de uso.
Para equipes ou indivíduos que usam modelos 70B menos de 5 horas por semana, o aluguel na nuvem é tanto mais barato quanto mais fácil de manter. O 70B local se justifica para casos de uso sensíveis à privacidade (sem dados saindo do seu hardware) ou inferência de alta frequência sustentada onde os custos de nuvem se acumulam rapidamente. Para modelos menores que cabem em GPUs de consumo, veja o guia de níveis de VRAM.
Para uma análise completa das estratégias de implantação 70B, veja como executar modelos 70B com 24 GB de VRAM.
Guias Relacionados
- ▸Quanto VRAM Você Precisa para um LLM Local? — tabela de VRAM para todos os tamanhos de modelo
- ▸Forma Mais Barata de Executar um Modelo 70B Localmente — opções de baixo custo quando o hardware excede o orçamento
- ▸Guia de Hardware LLM Local 2026 — guia completo para configurações capazes de 70B
- ▸Melhores LLMs Locais 2026 — quais modelos 70B valem o custo do hardware