Para executar LLMs locais: 7B requer 8–9 GB de VRAM (Q8) ou 5 GB (Q4_K_M), 13B requer 15 GB, 70B requer 39 GB em Q4_K_M. GPU recomendada por faixa: RTX 4070 Ti (12 GB, R$ 3.200–3.800), RTX 4090 (24 GB, R$ 9.500–12.000), Apple Silicon M4 Pro (48 GB unificada). Sem GPU: CPU + 16 GB de RAM executa modelos 7B a 5–8 tok/s.
Executar LLMs locais requer ajustar a VRAM da sua GPU ao modelo que você quer usar. A partir de junho de 2026, um modelo 7B precisa de 8–9 GB de VRAM em Q8, um modelo 14B precisa de 15 GB, e a maioria dos modelos 70B precisa de 39 GB em Q4_K_M — mais do que cabe em uma RTX 4090. Este guia cobre recomendações específicas de modelos para os níveis de 12 GB, 16 GB e 24 GB de VRAM, inferência somente CPU em 16 GB de RAM do sistema, configuração de velocidade do llama.cpp para RTX 4070 Ti e configurações completas de hardware.
O conjunto de slides cobre: níveis de VRAM de GPU para 12/16/24 GB, melhores modelos por nível com uso de VRAM e benchmarks de velocidade, inferência somente CPU em 16 GB de RAM, e parâmetros de velocidade do llama.cpp para RTX 4070 Ti. Baixe o PDF como cartão de referência do Guia de Hardware LLM Local 2026.
Browse the slides below or download as PDF for offline reference. Download Reference Card (PDF)
Key Takeaways
This article references third-party AI models, benchmarks, prices, and licenses. The AI landscape changes rapidly. Benchmark scores, license terms, model names, and API prices can shift between the time of writing and the time you read this. Before making deployment or compliance decisions based on this article, verify current figures on each provider's official source: Hugging Face model cards for licenses and benchmarks, provider websites for API pricing, and EUR-Lex for current GDPR and EU AI Act text. This article reflects publicly available information as of May 2026.
Compare your local LLM against 25+ cloud models simultaneously with PromptQuorum.
Join the PromptQuorum Waitlist →