RTX 3060 12GB: Beste GPU unter 300 € für lokale LLMs (2026)?
Diese Seite enthält Verweislinks zu Produkten von Drittanbietern. PromptQuorum ist an keinem Partnerprogramm beteiligt — es sind reine Referenzlinks, die keine Provision erzielen. Das Anklicken von Links und Ihre nächsten Schritte liegen in Ihrer eigenen Verantwortung. Diese Links stellen keine Billigung oder Verifizierung durch PromptQuorum dar.
Schnelle Antwort
Gebrauchte RTX 3060 12 GB für 200–250 € ist die beste GPU unter 300 € für lokale LLMs — 12 GB VRAM führt alle 7B- und die meisten 14B-Modelle aus.
- ▸RTX 3060 12 GB läuft Llama 3 8B Q4_K_M mit ~25 tok/s und Qwen 14B Q4_K_M mit ~15 tok/s.
- ▸Ihre 360 GB/s Bandbreite schlägt die neuere RTX 4060 (272 GB/s) bei der LLM-Inferenzgeschwindigkeit.
- ▸RX 6700 XT 12 GB ist rund 40–60 € günstiger, erfordert aber Linux für ROCm; Windows vermeiden.
- ▸GPUs mit 8 GB unter 300 € vermeiden — die VRAM-Grenze blockiert 14B-Modelle vollständig.
Aktualisiert: 2026-07
Wichtigste Punkte
- ✓Beste Wahl: gebrauchte NVIDIA RTX 3060 12 GB — CUDA arbeitet sofort mit Ollama und llama.cpp
- ✓Günstigste Wahl: gebrauchte AMD RX 6700 XT — 12 GB VRAM, aber ROCm-Einrichtung kostet 3-5 Stunden
- ✓Beide Karten führen jedes 7B-Modell und die meisten 13B-Modelle bei Q4 aus; keine reicht für ein 70B-Modell
- ✓Kaufen Sie die RTX 3060 in der 12-GB-Version — die 6-GB-Variante führt nur 3B-Modelle aus und lohnt nicht
Beste Wahl: gebrauchte NVIDIA RTX 3060 12 GB
Die gebrauchte NVIDIA RTX 3060 12 GB ist die beste GPU unter 300 € für lokale LLMs, weil 12 GB VRAM plus CUDA-Unterstützung ohne Einrichtungsaufwand in Minuten ein funktionierendes LLM-System ergeben. Auf dem deutschen Gebrauchtmarkt führt sie Mistral Small, Llama 3 8B und Qwen3 8B mit 15-20 Token pro Sekunde aus und die meisten 13B-Modelle bei Q4.
Die RTX 3060 gewinnt bei der Software. Ollama und llama.cpp erkennen NVIDIA-GPUs unter Windows und Linux automatisch über CUDA — keine Treibersuche, kein ROCm. Die AMD RX 6700 XT erreicht dieselbe 12-GB-Kapazität, doch die ROCm-Einrichtung unter Linux kostet typischerweise 3-5 Stunden und wird unter Windows für schnelle Inferenz nicht unterstützt.
Wählen Sie die RX 6700 XT nur, wenn das Budget der einzige Entscheidungsfaktor ist und Sie sich mit Linux wohlfühlen. Für alle anderen ist die RTX 3060 12 GB die sicherere erste GPU. Vermeiden Sie die 6-GB-Variante — sie sieht in Anzeigen identisch aus, passt aber nur für 3B-Modelle.
RTX 3060 12 GB vs RX 6700 XT für lokale LLMs
Beide Karten haben 12 GB VRAM, die Modellkapazität ist also identisch — die Entscheidung lautet CUDA gegen ROCm. Die Preise unten sind eine Momentaufnahme des deutschen Marktes von Mai 2026; die Speicherknappheit 2026 hält die GPU-Preise volatil — vor dem Kauf erneut prüfen.
| GPU | VRAM | Preis (Mai 2026) | Einrichtung | Geeignet für |
|---|---|---|---|---|
| RTX 3060 12 GB | 12 GB | 545-575 € neu | CUDA, sofort | Beste Wahl — keine Reibung |
| RX 6700 XT | 12 GB | 530-550 € neu | ROCm, 3-5 Stunden | Günstigste, AMD-Setup akzeptiert |
Weiterführende Artikel
- ▸Beste GPU unter 600 € für lokale LLMs — die nächste Stufe: RTX 4060 Ti 16 GB
- ▸Beste Ollama-Modelle für RTX 3060 12 GB — welche Modelle nach dem Kauf laden
- ▸GPU-Kaufberatung für lokale LLMs 2026 — der vollständige Acht-GPU-Vergleich über alle Klassen
Kurze Antworten zu GPUs unter 300 € für lokale LLMs
Kann eine 300-€-GPU lokale LLMs gut ausführen?▾
Warum die RTX 3060 statt der günstigeren RX 6700 XT?▾
Soll ich die 6-GB- oder 12-GB-RTX 3060 kaufen?▾
Kann eine GPU unter 300 € ein 70B-Modell ausführen?▾
Den vollständigen Überblick?
Die vollständige Anleitung lesen →Verwandte Prompt Bites