Key Takeaways
- RTX 4090 vence claramente em modelos que cabem em 24 GB de VRAM. M5 Max vence claramente quando o modelo não cabe. Ponto de cruzamento: ~24 GB de tamanho de modelo.
- Benchmarks: RTX 4090 entrega 120-140 tok/s em Llama 3.3 8B Q4. M5 Max entrega 100-120 tok/s. Em Llama 3.3 70B Q4: M5 Max roda a 15-20 tok/s. RTX 4090 não consegue executá-lo (OOM).
- Custo total de 3 anos: Mac Mini M5 Pro 64 GB = US$ 1.304. RTX 4090 desktop = US$ 3.682. Mac vence no TCO apesar de preço de hardware similar, inteiramente pela eletricidade.
- Consumo em operação 24/7: Mac Mini M5 Pro = US$ 35/ano em eletricidade. RTX 4090 desktop = US$ 394/ano.
- Fine-tuning: o ecossistema NVIDIA CUDA leva 1-2 anos de vantagem sobre Apple MLX para treinamento. Use NVIDIA para fine-tuning, Mac para inferência em modelos grandes.
- Tempo de configuração: Ollama no Mac = 5 minutos. CUDA + drivers + framework no Linux/Windows = 30-60 minutos.
- Setup híbrido funciona bem: Mac para inferência diária (portátil, silencioso, capaz de 70B), desktop NVIDIA para fine-tuning (ecossistema CUDA). Total: US$ 5.000 para ambos.
- M5 Ultra (previsto para meados de 2026, 256 GB de memória unificada) rodará 70B FP16 sem perdas e modelos de 120B+.
A diferença fundamental: limite de VRAM vs memória unificada
A diferença arquitetural mais importante entre Apple Silicon e GPUs NVIDIA determina qual plataforma vence para LLMs locais.
Arquitetura GPU NVIDIA: a VRAM está separada da RAM do sistema. A VRAM discreta é rápida (1.008 GB/s na RTX 4090), mas tem um limite fixo. RTX 4090 topa em 24 GB de VRAM. Modelos que ultrapassam 24 GB não podem rodar sem complexidade de dual-GPU.
Arquitetura Apple Silicon: toda a RAM é unificada (compartilhada entre CPU e GPU). É mais lenta que a VRAM discreta (M5 Max: 614 GB/s vs RTX 4090: 1.008 GB/s), mas TODA a memória está disponível para o modelo. Um Mac com 128 GB roda um modelo 70B Q5 (49 GB) com espaço para o SO e outros aplicativos.
Impacto prático por tamanho de modelo:
| Tamanho do modelo | RTX 4090 (24 GB VRAM) | M5 Max (128 GB Unificada) |
|---|---|---|
| 7B Q4 (~4 GB) | ✓ Cabe, muito rápida | ✓ Cabe |
| 13B Q4 (~8,5 GB) | ✓ Cabe, rápida | ✓ Cabe |
| 34B Q4 (~21 GB) | ✓ Cabe (apertado) | ✓ Cabe |
| 70B Q4 (~42 GB) | ✗ Não cabe -- OOM | ✓ Cabe |
| 70B Q8 (~70 GB) | ✗ Não cabe -- OOM | ✓ Cabe |
Benchmarks frente a frente: M5 Max vs RTX 4090
| Modelo | RTX 4090 | M5 Max 128 GB | Vencedor |
|---|---|---|---|
| Llama 3.3 8B Q4 | 120-140 tok/s | 100-120 tok/s | NVIDIA (+20%) |
| Llama 3.3 13B Q4 | 85-100 tok/s | 65-80 tok/s | NVIDIA (+25%) |
| Qwen3 34B Q4 | Cabe por pouco (apertado) | 25-35 tok/s | Apple (cabe confortavelmente) |
| Llama 3.3 70B Q4 | Não roda (OOM) | 15-20 tok/s | Apple (único que roda) |
Custo total de propriedade (3 anos)
| Item de custo | Mac Mini M5 Pro 64 GB | RTX 4090 Desktop |
|---|---|---|
| Hardware inicial | US$ 1.199 | US$ 2.800 |
| Eletricidade (24/7, 3 anos) | US$ 105 | US$ 1.182 |
| TCO total (3 anos) | US$ 1.304 | US$ 3.682 |
| Eletricidade anual (24/7) | US$ 35 | US$ 394 |
A eletricidade a US$ 0,15/kWh (tarifa média dos EUA). Mac Mini: ~30 W de consumo; RTX 4090 desktop: ~350 W. Tarifas brasileiras (~R$ 0,75/kWh) aumentam o custo da RTX 4090 para ~R$ 1.970/ano.
Quando o Apple Silicon vence
- Modelos 70B+: único hardware de consumo que roda sem dual-GPU. M5 Max 128 GB: Llama 3.3 70B Q4 a 15-20 tok/s.
- Eficiência energética: US$ 35/ano vs US$ 394/ano. Para uso 24/7, o Mac paga a diferença de hardware em ~2 anos.
- Simplicidade: Ollama no Mac = 5 minutos. Sem drivers CUDA, sem conflitos de versão, sem reinicializações para atualizações.
- Silêncio: Mac Mini é silencioso mesmo sob carga. Desktop com RTX 4090 pode atingir 70+ dB.
- Portabilidade: MacBook Pro M5 Max roda modelos 70B em bateria. Nenhuma GPU discreta de laptop consegue isso.
- Uso simultâneo de memória: 128 GB disponíveis para LLM + SO + outras apps simultâneo. VRAM de 24 GB é apenas para o LLM.
- LGPD: Empresas brasileiras que processam dados sensíveis podem garantir conformidade com a LGPD rodando modelos 70B inteiramente locais. Nenhum dado sai da infraestrutura da organização.
Quando a NVIDIA vence
- Modelos 8B-24B (velocidade bruta): RTX 4090 é 20-30% mais rápida em modelos que cabem na VRAM.
- Fine-tuning e treinamento: ecossistema PyTorch + CUDA tem 1-2 anos de vantagem sobre MLX. Use NVIDIA para qualquer treinamento sério.
- Stable Diffusion e multimodal: modelos de difusão, ControlNet e workflows ComfyUI são 2-3× mais rápidos na NVIDIA.
- Pesquisa e código experimental: a maioria dos papers de pesquisa disponibiliza código CUDA, não Metal/MLX.
- Orçamento: RTX 4070 Ti (US$ 800-1.200) supera Mac Studio M5 Pro em velocidade de inferência 7B-13B.
- Capacidade de upgrade: troque a GPU por uma mais nova, adicione mais VRAM, expanda a configuração ao longo do tempo.
Workflow e ecossistema
- Ecossistema Mac (Metal/MLX): Ollama (todas as versões), LM Studio, Jan.ai, Msty. MLX da Apple está melhorando rapidamente -- maiores ganhos de velocidade entre outubro 2024 e maio 2026 foram no Mac.
- Ecossistema NVIDIA (CUDA): vLLM, text-generation-webui, Oobabooga, TGI, torch. Domina em fine-tuning, treinamento, Stable Diffusion.
- Compatibilidade entre plataformas: Ollama é o único framework verdadeiramente multiplataforma (mesmo código funciona em Mac e NVIDIA). llama.cpp também, mas com configuração diferente.
- Modelos: todos os modelos GGUF principais funcionam em ambas as plataformas. Modelos exclusivos de GPU (ex: vLLM FP16) só funcionam na NVIDIA.
A abordagem híbrida
Setup recomendado para desenvolvedores sérios que precisam de ambos: Mac Mini M5 Pro 64 GB (US$ 1.400) para inferência diária -- silencioso, eficiente, capaz de 70B; desktop Linux com RTX 4090 (US$ 3.000-4.000) para fine-tuning, treinamento e Stable Diffusion. Total: ~US$ 5.000. Ambos se conectam ao mesmo NAS para armazenamento de modelos compartilhado via Thunderbolt ou NFS.
Matriz de decisão por tipo de usuário
| Tipo de usuário | Recomendação | Razão |
|---|---|---|
| Rodar 70B+ modelos localmente | Mac M5 Max 128 GB | Única opção de consumo |
| Velocidade máxima em modelos 7B-13B | RTX 4090 | 20-30% mais rápida em modelos pequenos |
| Fine-tuning LoRA | RTX 4090 ou superior | Ecossistema CUDA domina |
| Servidor de inferência 24/7 | Mac Mini M5 Pro | US$ 35/ano vs US$ 394/ano em eletricidade |
| LLM portátil | MacBook Pro M5 Max | Única laptop capaz de 70B |
| Stable Diffusion + LLM combinados | NVIDIA + Mac híbrido | NVIDIA para difusão, Mac para LLM grande |
| Orçamento abaixo de US$ 1.500 | RTX 4070 Ti | Supera Mac Studio M5 Pro em velocidade 7B-13B |
| Conformidade com LGPD (Brasil) | Mac M5 Max 128 GB | Inferência local 70B -- nenhum dado sai da organização |
Perguntas frequentes
O M5 Max é mais lento que o RTX 4090?
Em modelos que cabem na VRAM de 24 GB: sim, RTX 4090 é 20-30% mais rápida. Em modelos 70B+: M5 Max vence -- RTX 4090 não consegue carregá-los sem dual-GPU.
Vale a pena o custo extra de um Mac para LLMs locais?
Para usuários de modelos 70B: sim -- é a única opção de consumo. Para usuários de modelos 8B-24B: RTX 4090 oferece mais velocidade pelo dinheiro.
Posso usar MLX no mesmo Mac que uso para trabalho diário?
Sim. O Mac Mini M5 Pro roda inferência LLM em segundo plano enquanto você trabalha. A inferência usa ~30-60 W e raramente impacta outros aplicativos.
A NVIDIA vai lançar uma GPU de consumo com mais de 24 GB de VRAM?
RTX 5090 (2025) tem 32 GB de VRAM -- suficiente para alguns modelos 70B Q3. Mas para 70B Q4 (42 GB) ou Q8 (70 GB), você ainda precisaria de dual-GPU ou Apple Silicon.
Qual o melhor setup para conformidade com a LGPD no Brasil?
Mac M5 Max 128 GB rodando LLMs locais. Nenhum dado de prompt, contexto ou saída sai da organização. Ideal para escritórios de advocacia, consultórios médicos, empresas financeiras e qualquer organização que processa dados pessoais sob a LGPD (Lei nº 13.709/2018).