Strix Halo (Ryzen AI Max) + Ollama Vulkan: Einrichtung und Performance
Ja — Ryzen AI Max 395 (Strix Halo) betreibt Ollama mit GPU-Beschleunigung über das Vulkan-Backend unter Linux. Installieren Sie das Standard-Ollama-Binärprogramm, überprüfen Sie die GPU-Erkennung mit ollama ps und setzen Sie optional OLLAMA_FLASH_ATTENTION=1 für große Modelle. Der 96-GB-Unified-Memory-Pool ermöglicht 70B-Modelle, die auf keiner einzelnen Desktop-GPU möglich sind. Beim Kontext gibt es kein hartes 64K-Limit — die Obergrenze ist der Speicher: Setzen Sie ihn mit Ollamas num_ctx, betreiben Sie ein 30B-Modell komfortabel mit 64K–96K Kontext (~36–45 GB gesamt) und gehen Sie nur auf 128K–200K, wenn Sie Speicher übrig haben (es ist speicherbegrenzt und langsamer auf Vulkan; ein optimierter ROCm-Build ist bei sehr langem Kontext ~3× schneller).
Diese Seite enthält Verweislinks zu Produkten von Drittanbietern. PromptQuorum ist an keinem Partnerprogramm beteiligt — es sind reine Referenzlinks, die keine Provision erzielen. Das Anklicken von Links und Ihre nächsten Schritte liegen in Ihrer eigenen Verantwortung. Diese Links stellen keine Billigung oder Verifizierung durch PromptQuorum dar.
Schnelle Antwort
Ja — Ryzen AI Max (Strix Halo, RDNA 3.5) betreibt Ollama über Vulkan unter Linux. Mit 96 GB Unified Memory beim MAX 395 passt Qwen 32B und sogar Llama 70B Q4_K_M — Modelle, die keine einzelne Desktop-GPU aufnehmen kann.
- ▸Linux: Ollama erkennt Strix Halo Vulkan automatisch; OLLAMA_FLASH_ATTENTION=1 für lange Kontextsitzungen setzen
- ▸Ryzen AI Max 395 (96 GB): Llama 70B Q4_K_M (~41 GB) und Qwen 32B Q4_K_M (~19 GB) gleichzeitig im Speicher
- ▸Kontext: kein hartes 64K-Limit — num_ctx legt ihn fest; 64K–96K sind komfortabel bei einem 30B-Modell, 128K+ ist speicherbegrenzt und langsamer auf Vulkan
- ▸Windows-Vulkan-Pfad für Strix Halo ist experimentell; Linux ist die stabile Plattform für GPU-beschleunigtes Ollama
Wichtigste Punkte
- ✓Ryzen AI Max 395 (Strix Halo, 40 RDNA 3.5 CUs, 96 GB LPDDR5X) verwendet das Vulkan-Backend in Ollama unter Linux — der korrekte GPU-Pfad, wenn ROCm-iGPU-Unterstützung nicht verfügbar ist
- ✓Der 96 GB große Unified-Memory-Pool ist der entscheidende Vorteil: Er nimmt Llama 70B Q4_K_M (~41 GB) auf — ein Modell, das in anderen Setups mehrere Desktop-GPUs erfordert
- ✓Geschwindigkeit auf Ryzen AI Max 395: Llama 3.1 8B ~22 tok/s, Qwen 3 14B ~13 tok/s, Qwen 3 32B ~7 tok/s via Vulkan
- ✓Die Windows-Unterstützung für Strix Halo in Ollama reift; Linux via Vulkan ist der stabile Pfad Stand Mitte 2026
Ollama mit Vulkan auf Strix Halo einrichten
Unter Linux reicht die Installation des Standard-Ollama-Binärprogramms aus — es verwendet llama.cpp mit dem Vulkan-Backend, das RDNA 3.5 (gfx1151) von Haus aus unterstützt. Für den Vulkan-Pfad ist keine zusätzliche ROCm-Installation erforderlich. Führen Sie wie gewohnt `curl -fsSL https://ollama.com/install.sh | sh` aus.
Setzen Sie nach der Installation das Flash-Attention-Flag für bessere Speichereffizienz bei langen Sitzungen: `OLLAMA_FLASH_ATTENTION=1 ollama run qwen2.5:14b`. Dies reduziert den KV-Cache-Speicherverbrauch und ist besonders wichtig beim Ausführen von 32B+-Modellen, die an den vollen 96-GB-Pool heranreichen.
Um zu überprüfen, ob Ollama die GPU (und nicht die CPU) verwendet, führen Sie `ollama ps` aus, während ein Modell aktiv ist. Die Ausgabe zeigt "GPU" in der Spalte PROCESSOR und einen von null verschiedenen VRAM-Wert. Wenn Sie "CPU" sehen, wurde das Vulkan-Backend nicht initialisiert — überprüfen Sie, ob das Paket `vulkan-icd-loader` auf Ihrer Linux-Distribution installiert ist.
| Modell | VRAM bei Q4_K_M | Geschwindigkeit (MAX 395 Vulkan) | Passt in 96 GB? |
|---|---|---|---|
| Llama 3.1 8B | 4,9 GB | ~22 tok/s | ✓ |
| Qwen 3 14B | 9,3 GB | ~13 tok/s | ✓ |
| Qwen 3 32B | 19,4 GB | ~7 tok/s | ✓ |
| Llama 3.3 70B | ~41 GB | ~3 tok/s | ✓ |
| Qwen 3 72B | ~43 GB | ~3 tok/s | ✓ |
Strix Halo vs. RTX 4090: Speicher gewinnt, Geschwindigkeit verliert
Der Ryzen AI Max 395 tauscht GPU-Geschwindigkeit gegen Speicherkapazität. Eine RTX 4090 führt Llama 3.1 8B mit ~45 tok/s aus, gegenüber ~22 tok/s auf Strix Halo Vulkan. Für 7B- und 14B-Modelle ist die RTX 4090 schneller. Aber die RTX 4090 ist auf 24 GB VRAM begrenzt — Strix Halo MAX 395 hält 96 GB, was Modellgrößen ermöglicht, die auf einer Desktop-GPU schlicht unmöglich sind.
Der praktische Anwendungsfall für Strix Halo ist das lokale Ausführen von 32B–70B-Modellen ohne Cloud-APIs. Qwen 3 32B bei Q4_K_M (~19 GB) läuft mit ~7 tok/s — langsam für interaktiven Chat, aber geeignet für Batch-Zusammenfassungen, Dokumentenverarbeitung oder nächtliche Fine-Tuning-Jobs. Llama 3.3 70B bei Q4_K_M (~41 GB) ist mit ~3 tok/s erreichbar und eignet sich für hochwertige Einzelabfragen.
Unter Windows fällt Ollama für Strix Halo Stand Mitte 2026 standardmäßig auf CPU-Inferenz zurück, da die ROCm-iGPU-Unterstützung für gfx1151 im offiziellen Ollama-Windows-Build noch nicht abgeschlossen ist. Der Vulkan-Pfad erfordert das Kompilieren von llama.cpp aus dem Quellcode mit `-DGGML_VULKAN=ON`. Linux wird für GPU-beschleunigte Strix-Halo-Inferenz empfohlen, bis der Windows-ROCm-Pfad ausgereift ist.
Die Modellarchitektur zählt für die reale Geschwindigkeit ebenso wie die Größe. Mixture-of-Experts-Modelle (MoE) wie Qwen 3 30B-A3B laufen auf Strix Halo Vulkan mit etwa 86 Tok/s — deutlich schneller als ein ähnlich großes dichtes Modell wie Qwen 3 32B (~7 Tok/s), da pro Token nur ein Bruchteil der Parameter aktiv ist. GPT-OSS 120B, ebenfalls MoE, läuft trotz seiner viel größeren Gesamtgröße mit etwa 55 Tok/s. Wenn interaktive Geschwindigkeit wichtiger ist als das größtmögliche dichte Modell unterzubringen, ist ein MoE-Modell für diese Hardware meist die bessere Wahl.
Einen Vergleich mit anderer Apple-Silicon-APU-Hardware finden Sie im Mac Mini M4 für lokale LLMs-Bite, der den alternativen Unified-Memory-Ansatz unter macOS behandelt.
Weiterführende Artikel
- ▸Mac Mini M4 für lokale LLMs — Apple-Unified-Memory-Alternative zu Strix Halo
- ▸Bester Mini-PC für lokale LLMs — Mini-PC-Vergleich mit AMD- und Apple-Optionen
- ▸Beste Budget-GPUs für lokale LLMs — diskrete GPU-Optionen für Linux-Desktop-Builds