Você pode executar LLMs locais em uma Radeon RX 6800M?
Resposta rápida
Sim. A Radeon RX 6800M tem 12 GB de VRAM GDDR6 e pode executar LLMs locais. No Linux, use ROCm para aceleração GPU. No Windows, use llama.cpp com Vulkan ou fallback para CPU. Llama 3 8B Q4_K_M roda a ~12 tok/s no Linux com ROCm.
- ▸Linux + ROCm: aceleração GPU completa, ~12 tok/s no Llama 3 8B Q4
- ▸Windows: use llama.cpp com backend Vulkan para descarga parcial na GPU
- ▸12 GB de VRAM suporta modelos de até 14B em Q4_K_M
Pontos principais
- ✓Radeon RX 6800M é um chip RDNA 2 móvel com 12 GB de VRAM — NÃO é a RX 6800 desktop; suporte ROCm para RDNA 2 móvel tem sido historicamente inconsistente
- ✓Backend Vulkan (Ollama ou llama.cpp) é o caminho multiplataforma mais confiável; Linux + ROCm dá maior velocidade (~12 tok/s) quando funciona
- ✓Velocidades Vulkan são 30–40% mais lentas que CUDA em placas NVIDIA equivalentes — espere ~14 tok/s no Llama 3 8B vs ~25 tok/s em uma placa NVIDIA de 12 GB
- ✓Sempre rode com cabo: GPUs AMD móveis sofrem throttle na bateria e a inferência LLM roda 40–50% mais lenta
O que a Radeon 6800M pode realmente executar
Em maio de 2026, a Radeon RX 6800M é um chip RDNA 2 móvel com 12 GB de VRAM GDDR6 — não é a RX 6800 desktop, que usa um die de GPU diferente com cobertura de suporte ROCm diferente. Com 12 GB, a 6800M cabe modelos de até 14B em Q4_K_M sem offloading de camadas, igualando a capacidade de uma RTX 3060 desktop de 12 GB.
O suporte ROCm para chips RDNA 2 móveis tem sido historicamente inconsistente — verifique a matriz oficial de suporte GPU da AMD ROCm antes de depender dela. No Linux onde o ROCm funciona, o Ollama detecta automaticamente a 6800M e o Llama 3 8B Q4_K_M atinge aproximadamente 12 tok/s. O backend Vulkan no Ollama ou llama.cpp roda tanto no Windows quanto no Linux sem dependência de ROCm e é o caminho multiplataforma mais confiável.
Velocidades Vulkan são 30–40% menores que CUDA em hardware NVIDIA equivalente: o mesmo modelo que roda a ~25 tok/s em uma RTX 3060 12 GB atinge ~14 tok/s na 6800M via Vulkan. Para uma comparação com um rig CUDA de 8 GB de VRAM, veja a comparação do rig AMD 5700X + RTX 3070 Ti.
| Modelo | VRAM Q4 | Velocidade testada |
|---|---|---|
| Llama 3 8B Q4_K_M | ~5 GB | ~14 tok/s (Vulkan) |
| Mistral Small Q5_K_M | ~6 GB | ~13 tok/s (Vulkan) |
| Phi-4 14B Q4 | ~9 GB | ~10 tok/s (Vulkan) |
| Qwen3 14B Q4_K_M | ~9 GB | ~9 tok/s (Vulkan) |
Configurando LLMs locais na 6800M
No Linux, instale o Ollama — ele inclui suporte Vulkan por padrão e detecta automaticamente a 6800M. Se o ROCm estiver funcionando no seu chip específico (verifique a matriz de suporte GPU AMD ROCm), o Ollama o usará automaticamente e entregará aproximadamente 12 tok/s no Llama 3 8B Q4_K_M em vez do baseline Vulkan.
No Windows, ROCm nativo não está disponível de forma confiável para a 6800M. Use o Ollama com suporte Vulkan ou baixe um binário Vulkan pré-compilado do llama.cpp e carregue seu GGUF com -ngl 33 para fazer offload de camadas para a GPU. WSL2 com passthrough de GPU é outra opção para acessar os benefícios exclusivos do ROCm no Linux sem dual boot.
Sempre rode com cabo — GPUs AMD móveis sofrem throttle agressivo na bateria e a velocidade de inferência LLM cai 40–50% sem alimentação. Para a comparação completa de GPUs entre NVIDIA e AMD, veja o guia das melhores GPUs para LLMs locais.
ollama run llama3:8b e verifique o uso da GPU com rocm-smi (se ROCm) ou verifique ollama ps. Se o modelo cair para CPU, confirme a detecção de GPU com ollama info.Guias relacionados
- ▸Strix Halo + Ollama + Vulkan: Guia de desempenho -- Strix Halo Ollama Vulkan setup