Strix Halo (Ryzen AI Max) + Ollama Vulkan : configuration et performances
Cette page contient des liens de référence vers des produits tiers. PromptQuorum n'est inscrit à aucun programme d'affiliation — ce sont de simples liens qui ne génèrent aucune commission. Cliquer sur les liens et vos prochaines étapes relèvent entièrement de votre responsabilité. Ces liens ne représentent aucune approbation ou vérification par PromptQuorum.
Réponse rapide
Oui — Ryzen AI Max (Strix Halo, RDNA 3.5) fait tourner Ollama via Vulkan sous Linux. Avec 96 Go de mémoire unifiée sur le MAX 395, il charge Qwen 32B et même Llama 70B Q4_K_M — des modèles qu'aucun GPU de bureau ne peut contenir.
- ▸Linux : Ollama détecte automatiquement Strix Halo Vulkan ; définissez OLLAMA_FLASH_ATTENTION=1 pour les sessions de long contexte
- ▸Ryzen AI Max 395 (96 Go) : charge Llama 70B Q4_K_M (~41 Go) et Qwen 32B Q4_K_M (~19 Go) simultanément
- ▸Contexte : pas de plafond strict à 64K — num_ctx le définit ; 64K–96K sont confortables sur un modèle 30B, 128K+ est limité par la mémoire et plus lent sur Vulkan
- ▸Le chemin Vulkan Windows pour Strix Halo est expérimental ; Linux est la plateforme stable pour Ollama accéléré GPU
Mis à jour : 2026-07
Points clés
- ✓Ryzen AI Max 395 (Strix Halo, 40 CU RDNA 3.5, 96 Go LPDDR5X) utilise le backend Vulkan dans Ollama sous Linux — le chemin GPU correct quand la prise en charge ROCm iGPU n'est pas disponible
- ✓Le pool de 96 Go de mémoire unifiée est l'avantage clé : il accueille Llama 70B Q4_K_M (~41 Go) — un modèle qui nécessite plusieurs GPU de bureau dans d'autres configurations
- ✓Vitesse sur Ryzen AI Max 395 : Llama 3.3 8B ~22 tok/s, Qwen 3 14B ~13 tok/s, Qwen 3 32B ~7 tok/s via Vulkan
- ✓La prise en charge Windows pour Strix Halo dans Ollama est en cours de maturation ; Linux via Vulkan est le chemin stable à mi-2026
Comment faire tourner Ollama avec Vulkan sur Strix Halo
Sous Linux, l'installation du binaire Ollama standard suffit — il utilise llama.cpp avec le backend Vulkan, qui prend en charge RDNA 3.5 (gfx1150) nativement. Aucune installation ROCm supplémentaire n'est requise pour le chemin Vulkan. Exécutez `curl -fsSL https://ollama.com/install.sh | sh` comme d'habitude.
Après l'installation, définissez le flag flash attention pour une meilleure efficacité mémoire sur les longues sessions : `OLLAMA_FLASH_ATTENTION=1 ollama run qwen2.5:14b`. Cela réduit l'utilisation mémoire du KV-cache et est particulièrement important lors de l'exécution de modèles 32B+ qui approchent du pool complet de 96 Go.
Pour vérifier qu'Ollama utilise le GPU (et non le CPU), exécutez `ollama ps` pendant qu'un modèle est actif. La sortie affiche "GPU" dans la colonne PROCESSOR et une valeur VRAM non nulle. Si vous voyez "CPU", le backend Vulkan n'a pas été initialisé — vérifiez que le paquet `vulkan-icd-loader` est installé sur votre distribution Linux.
| Modèle | VRAM à Q4_K_M | Vitesse (MAX 395 Vulkan) | Entre dans 96 Go ? |
|---|---|---|---|
| Llama 3.3 8B | 4,9 Go | ~22 tok/s | ✓ |
| Qwen 3 14B | 9,3 Go | ~13 tok/s | ✓ |
| Qwen 3 32B | 19,4 Go | ~7 tok/s | ✓ |
| Llama 3.3 70B | ~41 Go | ~3 tok/s | ✓ |
| Qwen 3 72B | ~43 Go | ~3 tok/s | ✓ |
Strix Halo vs RTX 4090 : la mémoire gagne, la vitesse perd
Le Ryzen AI Max 395 échange la vitesse GPU contre la capacité mémoire. Une RTX 4090 fait tourner Llama 3.3 8B à ~45 tok/s contre ~22 tok/s sur Strix Halo Vulkan. Pour les modèles 7B et 14B, la RTX 4090 est plus rapide. Mais la RTX 4090 est limitée à 24 Go de VRAM — Strix Halo MAX 395 dispose de 96 Go, permettant des tailles de modèles tout simplement impossibles sur un GPU de bureau.
Le cas d'usage pratique pour Strix Halo est l'exécution locale de modèles 32B–70B sans API cloud. Qwen 3 32B à Q4_K_M (~19 Go) tourne à ~7 tok/s — lent pour le chat interactif, mais convenable pour la synthèse par lots, le traitement de documents, ou les tâches de fine-tuning nocturnes. Llama 3.3 70B à Q4_K_M (~41 Go) est atteignable à ~3 tok/s, adapté aux requêtes uniques de haute qualité.
Sous Windows, Ollama pour Strix Halo revient par défaut à l'inférence CPU à mi-2026, la prise en charge ROCm iGPU pour gfx1150 n'étant pas encore complète dans la version officielle Ollama Windows. Le chemin Vulkan nécessite de compiler llama.cpp depuis les sources avec `-DGGML_VULKAN=ON`. Linux est recommandé pour l'inférence Strix Halo accélérée GPU jusqu'à ce que le chemin ROCm Windows soit finalisé.
Pour une comparaison avec d'autres matériels APU Apple Silicon, consultez le bite Mac Mini M4 pour les LLMs locaux, qui couvre l'approche alternative de mémoire unifiée sur macOS.
Lectures complémentaires
- ▸Mac Mini M4 pour les LLMs locaux — alternative Apple à mémoire unifiée pour Strix Halo
- ▸Meilleur mini PC pour LLM local — comparatif mini PC avec options AMD et Apple
- ▸Meilleures GPU budget pour LLMs locaux — options GPU discrètes pour PC Linux