Skip to main content
PromptQuorumPromptQuorum

Strix Halo (Ryzen AI Max) + Ollama Vulkan: configuração e desempenho

Esta página contém links de referência para produtos de terceiros. O PromptQuorum não está inscrito em nenhum programa de afiliados — são links simples que não geram comissão. Clicar nos links e os próximos passos são de sua inteira responsabilidade. Estes links não representam qualquer endosso ou verificação por parte do PromptQuorum.

Resposta rápida

Sim — Ryzen AI Max (Strix Halo, RDNA 3.5) executa Ollama via Vulkan no Linux. Com 96 GB de memória unificada no MAX 395, cabe Qwen 32B e até Llama 70B Q4_K_M — modelos que nenhuma GPU desktop individual consegue armazenar.

  • Linux: Ollama detecta automaticamente Strix Halo Vulkan; configure OLLAMA_FLASH_ATTENTION=1 para sessões de contexto longo
  • Ryzen AI Max 395 (96 GB): cabe Llama 70B Q4_K_M (~41 GB) e Qwen 32B Q4_K_M (~19 GB) simultaneamente na memória
  • O caminho Vulkan Windows para Strix Halo é experimental; Linux é a plataforma estável para Ollama com aceleração GPU

Atualizado: 1 de julho de 2026

Hardware-Specific

Pontos principais

  • Ryzen AI Max 395 (Strix Halo, 40 CU RDNA 3.5, 96 GB LPDDR5X) usa o backend Vulkan no Ollama no Linux — o caminho GPU correto quando o suporte ROCm iGPU não está disponível
  • O pool de 96 GB de memória unificada é a vantagem principal: cabe Llama 70B Q4_K_M (~41 GB) — um modelo que requer múltiplas GPUs desktop em outras configurações
  • Velocidade no Ryzen AI Max 395: Llama 3.3 8B ~22 tok/s, Qwen 3 14B ~13 tok/s, Qwen 3 32B ~7 tok/s via Vulkan
  • O suporte Windows para Strix Halo no Ollama está amadurecendo; Linux via Vulkan é o caminho estável em meados de 2026

Como executar Ollama com Vulkan no Strix Halo

No Linux, instalar o binário padrão do Ollama é suficiente — ele usa llama.cpp com o backend Vulkan, que suporta RDNA 3.5 (gfx1150) nativamente. Nenhuma instalação adicional de ROCm é necessária para o caminho Vulkan. Execute `curl -fsSL https://ollama.com/install.sh | sh` como de costume.

Após a instalação, defina o flag de flash attention para melhor eficiência de memória em sessões longas: `OLLAMA_FLASH_ATTENTION=1 ollama run qwen2.5:14b`. Isso reduz o uso de memória do KV-cache e é particularmente importante ao executar modelos de 32B ou mais que se aproximam do pool completo de 96 GB.

Para verificar se o Ollama está usando a GPU (e não a CPU), execute `ollama ps` enquanto um modelo estiver ativo. A saída mostra "GPU" na coluna PROCESSOR e um valor VRAM diferente de zero. Se você ver "CPU", o backend Vulkan não foi inicializado — verifique se o pacote `vulkan-icd-loader` está instalado na sua distribuição Linux.

ModeloVRAM em Q4_K_MVelocidade (MAX 395 Vulkan)Cabe em 96 GB?
Llama 3.3 8B4,9 GB~22 tok/s
Qwen 3 14B9,3 GB~13 tok/s
Qwen 3 32B19,4 GB~7 tok/s
Llama 3.3 70B~41 GB~3 tok/s
Qwen 3 72B~43 GB~3 tok/s
Ver preço do Minisforum AI370-G na Amazonlink de produto · divulgadoVer preço do ASUS ROG NUC na Amazonlink de produto · divulgado

Strix Halo vs RTX 4090: a memória vence, a velocidade perde

O Ryzen AI Max 395 troca velocidade de GPU por capacidade de memória. Uma RTX 4090 executa Llama 3.3 8B a ~45 tok/s versus ~22 tok/s no Strix Halo Vulkan. Para modelos de 7B e 14B, a RTX 4090 é mais rápida. Mas a RTX 4090 está limitada a 24 GB de VRAM — Strix Halo MAX 395 tem 96 GB, permitindo tamanhos de modelos simplesmente impossíveis em uma GPU desktop.

O caso de uso prático para Strix Halo é executar modelos de 32B–70B localmente sem APIs em nuvem. Qwen 3 32B em Q4_K_M (~19 GB) roda a ~7 tok/s — lento para chat interativo, mas adequado para sumarização em lote, processamento de documentos ou trabalhos de fine-tuning noturnos. Llama 3.3 70B em Q4_K_M (~41 GB) é alcançável a ~3 tok/s, adequado para consultas únicas de alta qualidade.

No Windows, Ollama para Strix Halo cai de volta para inferência por CPU por padrão em meados de 2026, pois o suporte ROCm iGPU para gfx1150 ainda não está completo na versão oficial do Ollama Windows. O caminho Vulkan requer compilar llama.cpp do código fonte com `-DGGML_VULKAN=ON`. Linux é recomendado para inferência Strix Halo com aceleração GPU até que o caminho ROCm Windows amadureça.

Para comparação com outro hardware APU Apple Silicon, veja o bite Mac Mini M4 para LLMs locais, que cobre a abordagem alternativa de memória unificada no macOS.

Leituras relacionadas

Respostas rápidas sobre Strix Halo e Ollama Vulkan

AMD Strix Halo suporta ROCm no Ollama?
Não completamente em meados de 2026. O suporte ROCm para gfx1150 (RDNA 3.5) está em desenvolvimento, mas ainda não está estável nas versões oficiais do Ollama. O backend Vulkan é o caminho de aceleração GPU atualmente confiável no Linux. Verifique a página de releases do Ollama no GitHub para atualizações sobre o suporte ROCm iGPU.
Posso usar Ollama com Strix Halo Vulkan no Windows?
De forma experimental, sim. A versão oficial do Ollama Windows não expõe o backend Vulkan por padrão para Strix Halo — ele cai para CPU. Você pode compilar llama.cpp do código fonte com -DGGML_VULKAN=ON no Windows para habilitá-lo, mas isso requer um processo de compilação manual. Linux é a plataforma recomendada para inferência Strix Halo Vulkan.
Qual é o maior modelo que cabe no Ryzen AI Max 395?
Com 96 GB de memória unificada, o Ryzen AI Max 395 cabe Llama 3.3 70B em Q4_K_M (~41 GB) ou Qwen 3 72B em Q4_K_M (~43 GB), cada um com memória sobrando. Para modelos muito grandes, Qwen 3 72B em Q5_K_M (~55 GB) também cabe, embora a velocidade caia para aproximadamente 2 tok/s. Modelos que requerem mais de 90 GB (ex.: 70B em Q8_0) excedem o pool disponível.
Qual janela de contexto o Strix Halo consegue no Ollama — existe um limite de 64K?
Não há limite fixo de 64K tokens; o teto é a sua memória unificada. Em um Ryzen AI Max 395 de 96 GB, um modelo 30B em Q4_K_M roda confortavelmente um contexto de 64K–96K (cerca de 36–45 GB no total, para os pesos mais o KV-cache). Defina o tamanho com o parâmetro num_ctx do Ollama (ou a variável de ambiente OLLAMA_CONTEXT_LENGTH) e mantenha OLLAMA_FLASH_ATTENTION=1 para reduzir a memória do KV-cache. Você pode avançar para 128K–200K, mas isso passa a ser limitado pela memória (~50–70 GB) e o processamento do prompt fica mais lento no backend Vulkan/RADV — um build ROCm otimizado é cerca de 3× mais rápido em contexto muito longo (cerca de 51 contra 17 tok/s de processamento de prompt acima de ~130K).
Como Strix Halo se compara ao Mac Studio M4 Ultra para Ollama?
Mac Studio M4 Ultra tem 192 GB de memória unificada e usa aceleração Metal via llama.cpp — significativamente mais rápido que Strix Halo Vulkan por token (~12 tok/s em 70B Q4_K_M vs ~3 tok/s no Strix Halo). Para qualidade e velocidade de inferência em modelos grandes, M4 Ultra vence. Strix Halo é competitivo apenas na faixa de 8B–32B e roda em um fluxo de trabalho Linux padrão.