Qwen 14B vs. Llama 3 8B: Welches läuft lokal besser?
Von Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI
Wichtigste Erkenntnisse
- ✓Llama 3 8B (4,7 GB Download) passt in 6 GB VRAM und liefert etwa 25 tok/s auf einer RTX 3060 — die richtige Wahl für interaktives Tempo auf kleinen Karten
- ✓Qwen3 14B (9,3 GB Download) braucht mindestens etwa 10 GB VRAM und läuft mit etwa 15 tok/s, erzielt in Qwens eigenen Vergleichstabellen als Basismodell aber 81,1 auf MMLU gegenüber 66,6 für Llama 3 8B
- ✓Der praktische Wendepunkt liegt bei 12 GB VRAM: bis 8 GB Llama 3 8B oder Qwen3 8B, ab 12 GB gewinnt Qwen3 14B bei der Qualität
- ✓Bei Code und Mathematik ist der Abstand größer: EvalPlus 72,2 vs. 44,1 und GSM8K 92,5 vs. 55,3 (Basismodelle, von Qwen berichtet)
- ✓Auch der Kontext unterscheidet sich: Llama 3 8B ist auf 8K begrenzt, Qwen3 14B hat nativ 32K (131K mit YaRN), Llama 3.1 8B bietet 128K

Schnelle Antwort
Llama 3 8B ist das leichtere Modell: 4,7 GB Download, passt auf 6-GB-Karten und generiert schneller. Qwen3 14B ist ein 9,3-GB-Download und braucht etwa 10–12 GB VRAM, erzielt als Basismodell aber rund 14 Punkte mehr auf MMLU (81,1 vs. 66,6). Mit 12 GB VRAM gewinnt Qwen3 14B bei der Qualität.
- ▸Llama 3 8B: 4,7 GB (ollama run llama3), 8K Kontext, etwa 25 tok/s auf einer RTX 3060
- ▸Qwen3 14B: 9,3 GB (ollama run qwen3:14b), 32K nativer Kontext (131K mit YaRN), etwa 15 tok/s
- ▸Brauchen Sie 128K Kontext auf einer kleinen Karte? Llama 3.1 8B (4,9 GB) ist das aktuelle Llama 8B
Llama 3 8B gewinnt bei Geschwindigkeit und VRAM-Bedarf
Llama 3 8B ist in Ollama ein 4,7-GB-Download und erzeugt auf einer RTX 3060 12 GB etwa 25 Tokens pro Sekunde — damit ist es die Standardwahl für jedes System mit weniger als 10 GB VRAM. Die 8B-Parameter liefern schnelle, interaktive Antworten, die sich für Chat und kurze Code-Sitzungen natürlich anfühlen.
Qwen3 14B ist ein 9,3-GB-Download und braucht daher etwa 10 GB VRAM vor dem Kontext-Cache, für entspanntes Arbeiten 12 GB. Auf derselben Karte erzeugt es etwa 15 tok/s. Der geringere Durchsatz ist in Echtzeit-Konversationen spürbar, aber akzeptabel für Batch-Zusammenfassungen oder lange Dokumente, bei denen Qualität wichtiger ist als Latenz.
Bei diesen Geschwindigkeiten schreibt Llama 3 8B eine 200-Token-Antwort in etwa 8 Sekunden, Qwen3 14B in etwa 13. Bei einzelnen Anfragen ist der Unterschied gering, über eine mehrstufige Sitzung summiert er sich. Die tok/s-Werte sind grobe Schätzungen für einen Einzelnutzer auf einer RTX 3060 12 GB, keine PromptQuorum-Benchmarks — messen Sie mit ollama run --verbose Ihre eigene Karte.
| Modell | Ollama-Befehl | Download-Größe | Nativer Kontext | MMLU (Basis) |
|---|---|---|---|---|
| Llama 3 8B | ollama run llama3 | 4,7 GB | 8K | 66,6 |
| Qwen3 8B | ollama run qwen3:8b | 5,2 GB | 32K (131K mit YaRN) | 76,9 |
| Qwen3 14B | ollama run qwen3:14b | 9,3 GB | 32K (131K mit YaRN) | 81,1 |
📍 In einem Satz
Llama 3 8B braucht 4,7 GB Download und läuft schneller; Qwen3 14B braucht 9,3 GB, erzielt aber etwa 14 Punkte mehr auf MMLU (81,1 vs. 66,6, Basismodelle).
💬 In einfachen Worten
Mit 6–8 GB VRAM nehmen Sie Llama 3 8B oder Qwen3 8B. Ab 12 GB nehmen Sie Qwen3 14B für bessere Antworten.
Qwen3 14B gewinnt bei Qualität, wenn VRAM ausreicht
Qwen3 14B Base erzielt 81,1 auf MMLU gegenüber 66,6 für Llama 3 8B Base — ein Abstand von rund 14 Punkten, der sich in besserem mehrstufigem Reasoning, Instruktionsbefolgung und konsistenter strukturierter Ausgabe zeigt. Es sind Basismodell-Werte aus Qwens eigenem Technical Report, mit einer gemeinsamen Pipeline ausgewertet; Herstellerangaben, und Instruct-Versionen weichen ab.
Bei Code und Mathematik wächst der Abstand. In denselben Tabellen erreicht Qwen3 14B Base 72,2 auf EvalPlus gegenüber 44,1 für Llama 3 8B und 92,5 auf GSM8K gegenüber 55,3. Qwen3 8B liegt dazwischen (76,9 MMLU, 67,7 EvalPlus): Wer zwischen Qwen 8B und 14B wählt, bekommt mit dem 14B etwa 4 MMLU-Punkte für 4,1 GB mehr Download.
Versions-Check: Llama 3 8B ist auf 8K Kontext begrenzt. Llama 3.1 8B (4,9 GB) ist das aktuelle Llama 8B mit 128K Kontext. Qwen3 14B hat 32K nativen Kontext und 131K mit YaRN-Skalierung. Meta bietet kein 14B-Llama, und Qwen3.5 auf Ollama hat ein 9B (6,6–7,6 GB, 256K Kontext), aber kein 14B — Qwen3 14B bleibt also die 14B-Option.
≤8 GB VRAM: Llama 3 8B (4,7 GB) oder Qwen3 8B (5,2 GB). 10–12 GB VRAM: Qwen3 14B passt am Wendepunkt. 16+ GB VRAM: beide Modelle funktionieren mit langem Kontext. Für Coding-Empfehlungen und Benchmark-Tabellen siehe den Vergleich beste 14B-Modelle für Coding.
| Benchmark (Basismodelle) | Llama 3 8B | Qwen3 8B | Qwen3 14B |
|---|---|---|---|
| MMLU | 66,6 | 76,9 | 81,1 |
| MMLU-Pro | 35,4 | 56,7 | 61,0 |
| GSM8K (Mathe) | 55,3 | 89,8 | 92,5 |
| MATH | 20,5 | 60,8 | 62,0 |
| EvalPlus (Code) | 44,1 | 67,7 | 72,2 |
Weiterführende Literatur
Quellen
- ▸Qwen3 Technical Report (arXiv 2505.09388), Tables 5–6 -- arxiv.org/abs/2505.09388
- ▸Qwen3-14B model card (Hugging Face) -- huggingface.co/Qwen/Qwen3-14B
- ▸Ollama: qwen3 -- ollama.com/library/qwen3
- ▸Ollama: llama3 -- ollama.com/library/llama3
- ▸Ollama: llama3.1 -- ollama.com/library/llama3.1
- ▸Ollama: qwen3.5 -- ollama.com/library/qwen3.5
- ▸Meta Llama 3 8B model card (Hugging Face) -- huggingface.co/meta-llama/Meta-Llama-3-8B