Wichtigste Erkenntnisse
- Cloud-GPU kostet 0,35–2,50 $/Std. je nach GPU-Klasse und Anbieter
- Lokale RTX-4090-Workstation: ca. 3.200 $ Gesamtkosten
- Break-even: 1.800 kumulierte Stunden bei Ø 0,50 $/Std. Cloud-Rate
- Mac Mini M4 Pro 48 GB: 2.000 $ Einstieg, Break-even bei ~1.200 Stunden
- Strom in Deutschland (38 Ct/kWh): ca. 0,16 $/Std. für RTX-4090-System
- Cloud gewinnt bei sporadischer oder experimenteller Nutzung
- Lokal gewinnt bei täglichem Dauerbetrieb, Datenschutz und Fine-Tuning
Wann lohnt sich eine lokale LLM-Workstation gegenüber Cloud-GPU?
Eine RTX-4090-Workstation (ca. 3.200 $ gesamt) amortisiert sich gegenüber 0,50 $/Std. Cloud-GPU nach ca. 6.400 kumulierten Betriebsstunden — bei 8 Std./Tag sind das 2,2 Jahre, bei 16 Std./Tag (gemeinsamer Team-Server) 13 Monate.
Wie wirken sich die deutschen Stromkosten auf den Vergleich aus?
Bei 38 Ct/kWh (Deutschland) verursacht ein RTX-4090-System (450 W) ca. 0,17 €/Std. Stromkosten. Das schmälert den Kostenvorteil lokaler Hardware gegenüber günstiger Cloud-GPU erheblich. Der Mac Mini M4 Pro mit nur 45 W ist hier deutlich effizienter.