Beste DeepSeek-Distill für Ihre GPU (2026)
Ordnen Sie Ihre GPU in einer Zeile einer DeepSeek-R1-Distill zu: Die RTX 3060 12GB betreibt die 7B, die RTX 4060 Ti 16GB die 14B, die RTX 4090 die 32B (schlägt o1-mini laut DeepSeeks veröffentlichten Ergebnissen), und Dual-GPU betreibt die 70B. Auf einer 8-GB-Karte führen Sie DeepSeek-R1-0528-Qwen3-8B aus — eine der stärksten kleinen Reasoning-Distills zum Zeitpunkt ihres Releases. Alle Befehle nutzen standardmäßig Q4_K_M. Stand: R1 ist nicht mehr die aktuelle Generation von DeepSeek (das ist DeepSeek-V4), aber diese Distills sind eigenständige Open-Weight-Releases und laufen weiterhin lokal. Der o1-mini-Vergleich ist historisch: OpenAI hat o1-mini am 27. Oktober 2025 abgeschaltet.
Wichtigste Erkenntnisse
- ✓R1 ist nicht mehr die aktuelle Generation von DeepSeek – das ist DeepSeek-V4 (Flash und Pro, Open Weights unter MIT-Lizenz). Die R1-Distills sind eigenständige Open-Weight-Releases und laufen weiterhin lokal.
- ✓RTX 3060 12GB → 7B-Distill; RTX 4060 Ti 16GB → 14B (der ideale Mittelweg); RTX 4090 → 32B (schlägt o1-mini).
- ✓Dual-GPU oder 48 GB → 70B-Distill, die stärkste der sechs.
- ✓Auf 8 GB ist das beste kleine Modell DeepSeek-R1-0528-Qwen3-8B.
- ✓Jedes Modell installiert sich mit einem Befehl bei Q4_K_M, z. B. `ollama run deepseek-r1:14b`.
- ✓Setzen Sie die Temperatur auf 0,6 und verwenden Sie keinen System-Prompt, wie von DeepSeek empfohlen, um endlose Wiederholungen zu vermeiden.
- ✓Dies ist die R1-Reasoning-Familie — nicht DeepSeek-V3, das ein Chat-Modell ist.
Diese Seite enthält Verweislinks zu Produkten von Drittanbietern. PromptQuorum ist an keinem Partnerprogramm beteiligt — es sind reine Referenzlinks, die keine Provision erzielen. Das Anklicken von Links und Ihre nächsten Schritte liegen in Ihrer eigenen Verantwortung. Diese Links stellen keine Billigung oder Verifizierung durch PromptQuorum dar.
Schnelle Antwort
Finden Sie Ihre Karte: RTX 3060 12GB → 7B, RTX 4070 12GB → 8B (14B nur mit kurzem Kontext), RTX 4060 Ti 16GB / 4070 Ti Super / 4080 → 14B, RTX 4090 → 32B, Dual-GPU/48 GB → 70B. Die 32B benötigt allein für die Gewichte ~20 GB und passt daher nicht auf 12- oder 16-GB-Karten. Für das beste kleine Modell auf 8 GB führen Sie DeepSeek-R1-0528-Qwen3-8B (`ollama run deepseek-r1:8b`) aus. Jedes läuft mit einem einzigen Ollama-Befehl bei Q4_K_M.
- ▸RTX 3060 12GB → deepseek-r1:7b — ~30–40 tok/s
- ▸RTX 4060 Ti 16GB → deepseek-r1:14b — ~25–35 tok/s (empfohlen)
- ▸RTX 4070 12GB → deepseek-r1:8b (14B nur mit kurzem Kontext) — ~30–40 tok/s
- ▸RTX 4070 Ti Super / 4080 16GB → deepseek-r1:14b — ~40–50 tok/s (32B passt nicht)
- ▸RTX 4090 24GB → deepseek-r1:32b — ~30–40 tok/s, schlägt o1-mini
- ▸Dual-GPU / 48 GB → deepseek-r1:70b — ~12–18 tok/s
- ▸8-GB-Karte, bestes kleines → DeepSeek-R1-0528-Qwen3-8B
GPU → DeepSeek-R1-Distill → Ollama-Befehl
Suchen Sie Ihre GPU in der ersten Spalte und lesen Sie quer. Die tok/s-Werte sind grobe Richtwerte für Q4_K_M-Reasoning-Workloads, keine Messungen von PromptQuorum, und variieren mit Kontextlänge, Sampling-Einstellungen und Hardware. Wenn zwei Modelle passen, denkt das größere besser, das kleinere ist schneller.
| GPU (VRAM) | Beste Distill | Ollama-Befehl | Erwartete tok/s |
|---|---|---|---|
| RTX 3060 12GB (8-GB-Klasse) | DeepSeek-R1-Distill-Qwen-7B | ollama run deepseek-r1:7b | ~30–40 |
| 8 GB, bestes kleines | DeepSeek-R1-0528-Qwen3-8B | ollama run deepseek-r1:8b | ~30–40 |
| RTX 4060 Ti 16GB | DeepSeek-R1-Distill-Qwen-14B | ollama run deepseek-r1:14b | ~25–35 |
| RTX 4070 12GB | 8B oder 14B (kurzer Kontext) | ollama run deepseek-r1:8b | ~30–40 |
| RTX 4070 Ti Super / 4080 16GB | 14B (32B passt nicht) | ollama run deepseek-r1:14b | ~40–50 |
| RTX 4090 24GB | DeepSeek-R1-Distill-Qwen-32B | ollama run deepseek-r1:32b | ~30–40 |
| Dual-GPU / 48 GB | DeepSeek-R1-Distill-Llama-70B | ollama run deepseek-r1:70b | ~12–18 |
So nutzen Sie diese Tabelle in 3 Schritten
Vier Zeilen: (1) Finden Sie Ihre GPU und ihren VRAM, (2) installieren Sie Ollama und führen Sie den passenden Befehl aus, (3) prüfen Sie mit `ollama ps`, dass das Modell vollständig auf der GPU liegt, (4) setzen Sie Temperatur 0,6 und leeren Sie den System-Prompt. Ist ein Modell zu langsam, gehen Sie eine Stufe herunter; haben Sie freien VRAM, steigen Sie eine Stufe auf für besseres Reasoning.
V3 vs. R1: Diese Tabelle gilt nur für R1
**DeepSeek-R1 ist die Reasoning-Familie, die diese Befehle installieren; DeepSeek-V3 ist ein separates Chat-Modell.** Erwarten Sie von diesen Distills kein V3-Erlebnis — sie sind darauf abgestimmt, Schritt-für-Schritt-Reasoning für Mathematik und Logik zu zeigen. V3 ist zudem ein 671B-MoE und nicht auf Consumer-Hardware lauffähig; siehe den [DeepSeek-V3-Hardware-Bite](/de/prompt-bites/deepseek-v3-local-hardware-requirements).
**Update:** Die aktuelle Generation von DeepSeek ist DeepSeek-V4 (Flash und Pro), veröffentlicht als Open Weights unter MIT-Lizenz (Preview: 24. April 2026). Die DeepSeek-API liefert jetzt V4: Die Aliase deepseek-chat (V3-Generation) und deepseek-reasoner (R1-Generation) wurden als nach dem 24. Juli 2026 vollständig abgeschaltet angekündigt. Die R1-Distills sind eigenständige Open-Weight-Releases, waren nicht Teil dieser Ankündigung und laufen weiterhin lokal. V4 selbst ist kein Modell für Consumer-GPUs: V4-Pro hat 1,6T Parameter insgesamt (49B aktiv), das ursprüngliche V4-Flash 284B (13B aktiv). Selbst bei 4-Bit-Präzision (Parameterzahl × 0,5 Byte) benötigen allein die Gewichte grob 140 GB (Flash) bis 800 GB (Pro); die Modellkarten von DeepSeek nennen keine GPU-Anforderung. Für Reasoning auf einer einzelnen Consumer-GPU bleiben die Distills die praktische Wahl.
Verwandte Anleitungen
- ▸DeepSeek-R1-Distill VRAM-Cheatsheet — jede Distill nach Quant (Q4_K_M, Q8, FP16) mit VRAM und Mindest-GPU
- ▸Bestes lokales Reasoning-Modell 2026: DeepSeek-R1 im Ranking — die vollständige Rangliste mit Benchmarks und Stufen
- ▸DeepSeek-V3 lokale Hardware-Anforderungen — das V3-Chat-Modell-Gegenstück
Häufig gestellte Fragen
Ist DeepSeek-R1 noch das aktuelle Modell von DeepSeek?▾
Welche DeepSeek-Distill läuft auf einer RTX 4090?▾
Welche DeepSeek-R1-Distill passt in 16 GB VRAM?▾
Kann eine RTX 4070 deepseek-r1:32b ausführen?▾
Was ist die beste DeepSeek-Distill für eine 8-GB-GPU?▾
Warum ist meine Distill langsam?▾
Muss ich eine Quantisierung wählen?▾
Den vollständigen Überblick?
Die vollständige Anleitung lesen →Verwandte Prompt Bites