Wichtigste Erkenntnisse
- Gesamtkosten des Builds: ca. 1.107 €. RTX 5060 Ti 16GB (499 €), Ryzen 5 7600 (164 €), 32GB DDR5-6000 (ca. 100 €), 1TB Gen4 NVMe (130 €), B650-mATX-Board (99 €), 650W-80+-Gold-Netzteil (60 €), mATX-Gehäuse (55 €).
- 16 GB VRAM ist das Ziel, nicht die reine GPU-Geschwindigkeit. Die RTX 5060 Ti 16GB schlägt schnellere Karten mit 8–12 GB VRAM bei LLM-Arbeit, weil die Modellgröße — nicht die Shader-Anzahl — überhaupt erst entscheidet, was passt.
- 7B-Modelle: 55–65 Tok/s bei Q4. 14B-Modelle: 28–35 Tok/s. 32B-Modelle passen bei Q4 mit 1–2 GB Spielraum für den Kontext und laufen mit 12–15 Tok/s.
- 70B-Modelle passen nicht. Ein 70B-Modell bei Q4 benötigt ca. 40 GB VRAM; dieser Build erreicht maximal etwa 32B. Siehe den 2.000-€-Dual-GPU-Build für Inferenz der 70B-Klasse.
- 32 GB System-RAM, nicht 16 GB. Modell-Ladevorgänge, OS-Overhead und alle CPU-ausgelagerten Layer benötigen Spielraum über die GPU hinaus; 16 GB verursacht Swapping bei Modellen ab 14B.
- Vermeiden: GPUs mit 8 GB (RTX 5060, RTX 4060 Ti 8GB) — sie erreichen maximal 7B und können ohne kompletten GPU-Tausch nicht auf 13B–14B wachsen.
Wofür dieses Budget tatsächlich ausgegeben wird
Die Geschwindigkeit lokaler LLM-Inferenz wird zuerst durch die VRAM-Kapazität begrenzt, an zweiter Stelle durch die Speicherbandbreite und erst mit großem Abstand durch die Rechenleistung (CUDA-Kerne). Ein Modell, das nicht in den VRAM passt, lädt entweder gar nicht oder weicht in den System-RAM aus, was den Durchsatz um das 5- bis 10-Fache senkt. Bei ca. 1.100 € ist die einzig richtige Verteilung, die GPU überzugewichten und alles andere unterzugewichten — deshalb ist die CPU hier eine 164-€-Mittelklasse-Komponente und kein Flaggschiff.
Dieser Build geht von Einzelmodell-Inferenz aus (ein geladenes Modell zur Zeit über Ollama, LM Studio oder llama.cpp), nicht von gleichzeitigem Multi-User-Serving. Für das Bedienen mehrerer gleichzeitiger Anfragen steigen die VRAM-Anforderungen weiter, und ein Budget von ca. 1.100 € ist dafür nicht realistisch.
📍 In einem Satz
Ein lokaler LLM-PC-Build für unter 1.000 € sollte fast die Hälfte des Budgets in die GPU-VRAM-Kapazität stecken, nicht in CPU-Geschwindigkeit, da VRAM entscheidet, welche Modelle überhaupt laufen können.
💬 In einfachen Worten
VRAM = der eigene Speicher der GPU, in dem das Modell liegt; passt das Modell nicht hinein, wird alles 5- bis 10-mal langsamer oder lädt gar nicht erst.
Vollständige Teileliste
Die Preise sind Straßenpreise auf dem deutschen Markt (Stand Juli 2026, u. a. geizhals.de) und variieren je nach Händler.
| Komponente | Wahl | Preis | Warum |
|---|---|---|---|
| GPU | RTX 5060 Ti 16GB | 499 € | 16 GB VRAM ist der Kernzweck des Builds — passt 14B komfortabel, 32B bei knappem Q4 |
| CPU | AMD Ryzen 5 7600 | 164 € | 6 Kerne reichen für Einzelmodell-Inferenz; die CPU ist nicht der Flaschenhals |
| RAM | 32GB DDR5-6000 (2×16GB) | ca. 100 € | Spielraum für OS, Modell-Laden und alle CPU-ausgelagerten Layer |
| Speicher | 1TB NVMe Gen4 SSD | 130 € | Schnelle Ladezeiten; eine 5-Modell-Bibliothek belegt ca. 40–60 GB bei Q4 |
| Mainboard | B650 mATX | 99 € | PCIe-4.0-x16-Slot, DDR5-Unterstützung, keine unnötigen Extras |
| Netzteil | 650W 80+ Gold | 60 € | RTX 5060 Ti zieht 180 W; 650 W lassen Spielraum für kurzzeitige Lastspitzen |
| Gehäuse | mATX-Midi-Tower | 55 € | Luftstrom für anhaltende Inferenzlast; passt zu jeder 5060-Ti-Kartenlänge |
| CPU-Kühler | Mitgelieferter Boxed-Kühler | 0 € | Der Ryzen 5 7600 benötigt für diese Last keine Nachrüstkühlung |
Warum die RTX 5060 Ti 16GB gegenüber günstigeren GPUs
Die 8-GB- und 12-GB-Varianten ähnlich teurer GPUs sind bei lokaler LLM-Arbeit eine trügerische Ersparnis. Die RTX 5060 Ti gibt es in einer 8-GB- und einer 16-GB-Version mit einem Preisunterschied von rund 130 € — nur die 16-GB-Karte lohnt sich für LLM-Inferenz, denn die 8-GB-Version passt kaum über ein 7B-Modell bei Q4 mit nutzbarer Kontextlänge hinaus.
VRAM-Spielraum ist auch für die Kontextlänge relevant: Ein 7B-Modell selbst benötigt bei Q4 etwa 4–4,5 GB, aber ein 16K-Token-Kontext fügt weitere 1–2 GB KV-Cache hinzu. Auf einer 8-GB-Karte bleibt dafür fast nichts übrig; auf der 16-GB-Karte ist Platz für Modell und langen Kontext zugleich.
- RTX 5060 Ti 8GB (ca. 370 €): Passt nur knapp für 7B bei Q4 — lange Kontextfenster laufen über. Nicht empfohlen.
- RTX 4060 Ti 16GB (ältere Generation, gebraucht ca. 480 €): Gleicher VRAM wie die 5060 Ti zu ähnlichem oder höherem Preis bei geringerer Rechenleistung — kein Grund, sie neu zu bevorzugen.
- RTX 5060 Ti 16GB (499 €, dieser Build): Bestes VRAM-pro-Euro-Verhältnis in der 16-GB-Klasse, Stand Juli 2026.
- Gebrauchte RTX 3090 24GB (ca. 700–800 €): Mehr VRAM (passt Modelle bis niedrige 30B komfortabler), treibt die Gesamtkosten des Builds aber über ca. 1.300 € und zieht deutlich mehr Strom.
Erwartete Leistung nach Modellgröße
Alle Werte sind Q4_K_M-Quantisierung, gemessen mit llama.cpp/Ollama auf der RTX 5060 Ti 16GB. Die tatsächliche Geschwindigkeit variiert je nach Prompt-Länge, Quantisierungsmethode und Inference-Engine.
| Modellgröße | VRAM-Nutzung (Q4) | Tokens/Sek. | Passt komfortabel? |
|---|---|---|---|
| 7B-8B | ~4,5-5GB | 55-65 | Ja — voller Kontext-Spielraum |
| 13B-14B | ~8-9GB | 28-35 | Ja — 8GB+ Spielraum für Kontext |
| 20B (MoE, ~4B aktiv) | ~12GB | 35-45 | Ja |
| 32B | ~14,5-15,5GB | 12-15 | Knapp — nur kurzer Kontext (4K-8K) |
| 70B | ~40GB | N/A | Passt nicht — siehe 2.000-€-Dual-GPU-Build |
Hinweise zum Zusammenbau
- GPU-Freiraum: Vor der Bestellung die Kartenlänge der RTX 5060 Ti (je nach Hersteller 210–270 mm) mit dem maximalen GPU-Freiraum des mATX-Gehäuses abgleichen.
- RAM-Geschwindigkeit im BIOS: DDR5-6000-Kits laufen ab Werk oft mit JEDEC-4800-Standardtakt — EXPO/XMP im BIOS aktivieren, um die spezifizierten 6000 MT/s zu erreichen; das wirkt sich auf die CPU-seitige Token-Generierung aus, falls Layer ausgelagert werden.
- Reihenfolge der Treiberinstallation: Den aktuellen NVIDIA-Treiber und das CUDA-Toolkit vor Ollama oder LM Studio installieren, nicht danach — beide erkennen die GPU-Fähigkeiten automatisch bei der Installation.
- Netzteilverkabelung: Die RTX 5060 Ti nutzt einen einzelnen 8-Pin- (oder bei manchen Modellen 12VHPWR-)PCIe-Stromanschluss — vor dem Zusammenbau prüfen, ob das modulare Kabelset des Netzteils den passenden Anschluss enthält.
Aufrüstpfad
Dieser Build ist so konzipiert, dass später nur die GPU austauschwürdig ist. Das B650-Mainboard unterstützt einen zweiten PCIe-Slot (typischerweise x4 elektrisch) für eine spätere zweite GPU, wobei Tensor-Split-Multi-GPU-Inferenz mindestens x8/x8 benötigt, um einen PCIe-Bandbreiten-Flaschenhals zu vermeiden — siehe den 2.000-€-Build für ein bewusst dafür ausgewähltes Mainboard.
Ein naheliegendes Upgrade dieses Builds ist der Tausch der RTX 5060 Ti 16GB gegen eine gebrauchte RTX 3090 24GB, sobald das Budget es zulässt — das ermöglicht komfortable 32B-Inferenz und leichtes 70B-Offloading. Ryzen 5 7600, 32 GB RAM und das 650W-Netzteil bieten genug Spielraum, um diesen Tausch ohne weitere Änderungen zu unterstützen.
Häufige Fehler bei diesem Budget
- Die 8-GB-RTX-5060-Ti kaufen, um ca. 130 € zu sparen — die dadurch entstehende VRAM-Grenze lässt sich nicht per Software beheben und erzwingt später einen GPU-Tausch, was insgesamt mehr kostet.
- Zu viel Geld in die CPU stecken (z. B. einen Ryzen 7 statt Ryzen 5) bei einer 8-GB- oder 12-GB-GPU — die CPU-Wahl hat fast keinen Einfluss auf Tokens/Sek., sobald ein Modell in den VRAM passt.
- Das EXPO/XMP-RAM-Profil im BIOS nicht einrichten, wodurch DDR5-6000-Kits mit 4800 MT/s laufen — ein kostenloser Leistungsverlust, der sich ohne Zusatzkosten beheben lässt.
- Das Netzteil zu knapp dimensionieren, um 20–30 € zu sparen — der Stromverbrauch der GPU springt unter Dauerlast kurzzeitig deutlich über die TDP-Angabe, und ein 550W-Netzteil lässt zu wenig Spielraum.
Häufig gestellte Fragen
Kann ein PC für ca. 1.000 € lokale LLMs gut ausführen?
Ja, für 7B–14B-Modelle komfortabel und für 32B-Modelle bei knapper Q4-Quantisierung. Eine RTX 5060 Ti 16GB, die Kernkomponente dieses Builds, ist der entscheidende Faktor — die VRAM-Kapazität zählt weit mehr als das reine Budget oberhalb der GPU.
Warum gibt dieser Build relativ so viel für die GPU im Vergleich zur CPU aus?
Die Geschwindigkeit lokaler LLM-Inferenz hängt fast ausschließlich von der GPU-VRAM-Kapazität und der Speicherbandbreite ab. Eine schnellere CPU erhöht die Tokens/Sek. nicht, sobald ein Modell in den VRAM geladen ist — deshalb schlägt eine Mittelklasse-CPU mit starker GPU eine starke CPU mit schwacher GPU bei genau dieser Arbeitslast.
Reichen 16 GB VRAM 2026 für lokale LLMs aus?
16 GB fassen jedes 7B–14B-Modell bei Q4 komfortabel mit Platz für langen Kontext und passen 32B-Modelle bei Q4 mit kurzem Kontextfenster. Für Modelle der 70B-Klasse, die etwa 40 GB bei Q4 benötigen, reichen sie nicht.
Kann ich stattdessen eine 8-GB-GPU nutzen, um Geld zu sparen?
Das ist möglich, begrenzt Sie aber auf 7B-Modelle mit minimalem Kontext-Spielraum — eine harte Grenze, die sich ohne Kartentausch nicht anheben lässt. Die gesparten ca. 130 € bei einer 8-GB-RTX-5060-Ti lohnen sich nicht, wenn dafür der Zugang zu 13B–14B-Modellen wegfällt.
Wie viel RAM brauche ich tatsächlich zusätzlich zu einer GPU mit 16 GB VRAM?
32 GB System-RAM. Das deckt OS-Overhead, das Zwischenspeichern von Modelldateien beim Laden und alle Layer ab, die für Modelle, die den VRAM leicht überschreiten, auf die CPU ausgelagert werden.
Läuft dieser Build gut mit 32B-Modellen?
Er passt 32B-Modelle bei Q4-Quantisierung mit etwa 12–15 Tokens pro Sekunde, aber die Kontextlänge ist auf etwa 4K–8K Token begrenzt, da nach dem Laden des Modells wenig VRAM-Spielraum bleibt.
Welche Software sollte ich auf diesem Build nutzen?
Ollama oder LM Studio sind die einfachsten Einstiegspunkte — beide erkennen die RTX 5060 Ti automatisch und übernehmen die Q4-Quantisierung selbstständig. llama.cpp direkt gibt mehr Kontrolle über Quantisierungsformat und Kontexteinstellungen.
Lässt sich dieser Build später auf 70B-Modelle aufrüsten?
Nicht mit einer einzelnen GPU — 70B bei Q4 benötigt ca. 40 GB VRAM. Der klarste Aufrüstpfad ist entweder der Wechsel zu einer gebrauchten RTX 3090 24GB (reicht immer noch nicht ganz für volles 70B) oder das Hinzufügen einer zweiten GPU für VRAM-Pooling, was der 2.000-€-Dual-GPU-Build direkt behandelt.
Spielt der Mainboard-Chipsatz (B650 vs. B850) für lokale LLM-Inferenz eine Rolle?
Nicht bei einem Single-GPU-Build. B650 bietet einen PCIe-4.0-x16-Slot, den die GPU benötigt; die Unterschiede zwischen B650 und neueren Boards betreffen eher die PCIe-Lane-Aufteilung bei Multi-GPU als Single-GPU-LLM-Inferenz.
Ist eine gebrauchte GPU bei diesem Budget besser als eine neue RTX 5060 Ti 16GB?
Eine gebrauchte RTX 3060 12GB kann günstiger sein, hat aber weniger VRAM und geringere Speicherbandbreite und passt damit weniger Modellgrößen. Eine gebrauchte RTX 3090 24GB ist ein echtes VRAM-Upgrade, treibt die Gesamtkosten inklusive des restlichen Builds aber über 1.300 € — sie gehört in eine höhere Budgetklasse, nicht in diese.