Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs
Cost & Comparisons

Lokale LLMs vs. Cloud-GPU: Was ist günstiger?

·7 Min. LesezeitVon · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

Eine GPU zu kaufen lohnt sich nur bei dauerhafter Nutzung. Eine RTX 4090 für 1.800 $ (Beispielpreis) rechnet sich nach rund 2.200 Stunden gegenüber RunPod Secure Cloud zu 0,89 $/Stunde und nach rund 6.500 Stunden gegenüber Community Cloud zu 0,34 $/Stunde. Darunter ist Mieten günstiger.

Wichtigste Erkenntnisse

  • Break-even-Formel: Kaufpreis ÷ (Cloud-Preis pro Stunde − lokale Stromkosten pro Stunde) = Nutzungsstunden
  • Beispielwerte: RTX 4090 für 1.800 $, 450 W, 0,14 $/kWh ergeben Stromkosten von rund 0,063 $/Stunde
  • Gegenüber RunPod Community Cloud RTX 4090 (0,34 $/Stunde): Break-even nach rund 6.500 Stunden
  • Gegenüber RunPod Secure Cloud RTX 4090 (0,89 $/Stunde): Break-even nach rund 2.200 Stunden
  • Im Dauerbetrieb (24/7) liegt der Break-even bei rund 91 Tagen (Secure) bzw. rund 271 Tagen (Community)
  • Die Cloud gewinnt bei Lastspitzen, bei Hardware, die Sie nicht kaufen können (H100, B200), und wenn Sie kein Kapital binden wollen
  • Kaufpreis, Leistungsaufnahme und Strompreis sind Beispielwerte, keine Marktdaten: Ersetzen Sie sie durch Ihre eigenen

📍 In einem Satz

Eine lokale RTX 4090, gekauft für beispielhafte 1.800 $, rechnet sich gegenüber einer gemieteten RTX 4090 nach rund 2.200 Stunden bei RunPod Secure Cloud (0,89 $/Stunde) bzw. nach rund 6.500 Stunden bei Community Cloud (0,34 $/Stunde); darunter ist Mieten günstiger.

💬 In einfachen Worten

Eine Cloud-GPU zu mieten kostet nichts im Voraus und einen festen Preis pro Stunde. Kaufen kostet viel im Voraus und danach nur Strom. Wie viele Stunden Sie die Karte wirklich nutzen, entscheidet, was günstiger ist – zählen Sie also vor dem Kauf Ihre Stunden.

Eine GPU zu kaufen lohnt sich nur bei dauerhafter Nutzung. Eine RTX 4090 für 1.800 $ (Beispielpreis) rechnet sich nach rund 2.200 Stunden gegenüber RunPod Secure Cloud zu 0,89 $/Stunde und nach rund 6.500 Stunden gegenüber Community Cloud zu 0,34 $/Stunde. Darunter ist Mieten günstiger.

Lokale LLMs vs. Cloud-GPU: Was ist günstiger?

Wie hoch sind die Stundenkosten: lokal vs. Cloud?

Eine lokale GPU kostet pro Stunde Strom plus ihren Kaufpreis, verteilt auf die Stunden, die Sie sie nutzen. Stromkosten pro Stunde = Leistungsaufnahme in kW × Ihr Preis pro kWh.

Beispielwerte (durch eigene ersetzen): Eine RTX 4090 nimmt 450 W auf (NVIDIA Total Graphics Power); bei 0,14 $/kWh sind das 0,45 × 0,14 = 0,063 $/Stunde. Eine RTX 4070 nimmt 200 W auf, das sind 0,028 $/Stunde.

Cloud: RunPod listet die RTX 4090 (24 GB) mit 0,34 $/Stunde in der Community Cloud und 0,89 $/Stunde in der Secure Cloud, abgerufen am 2. November 2026.

Lambda listet eine A6000 (48 GB) mit 1,09 $/Stunde und eine A100 (40 GB) mit 1,99 $/Stunde, jeweils pro GPU on demand, abgerufen am 2. November 2026.

Cloud-Preise ändern sich ohne Ankündigung; prüfen Sie die Seite des Anbieters, bevor Sie entscheiden.

Ab wann rechnet sich eine lokale GPU gegenüber Cloud-Rechenzeit?

Break-even-Stunden = Kaufpreis ÷ (Cloud-Preis pro Stunde − lokale Stromkosten pro Stunde).

RTX 4090 für 1.800 $ gegenüber RunPod Community Cloud RTX 4090 (0,34 $/Stunde): 1.800 ÷ (0,34 − 0,063) = rund 6.500 Stunden bzw. rund 325 Wochen bei 20 Stunden pro Woche.

Dieselbe Karte gegenüber RunPod Secure Cloud RTX 4090 (0,89 $/Stunde): 1.800 ÷ (0,89 − 0,063) = rund 2.200 Stunden bzw. rund 109 Wochen bei 20 Stunden pro Woche.

Im Dauerbetrieb werden daraus rund 271 Tage (Community) und rund 91 Tage (Secure).

Das Ergebnis ignoriert den Wiederverkaufswert, den PC für die Karte und Ihre Zeit. Es setzt außerdem voraus, dass die gemietete GPU dieselben 24 GB Speicher hat wie die Karte, die Sie kaufen würden.

Wie schneiden die Cloud-GPU-Anbieter im Vergleich ab?

Die Preise unten sind On-Demand-Listenpreise pro GPU-Stunde ohne Steuern, abgerufen auf den Anbieterseiten am 2. November 2026.

RunPod (Community / Secure): RTX 4090 24 GB 0,34 $/Stunde / 0,89 $/Stunde; A100 PCIe 80 GB 1,19 $/Stunde / 1,79 $/Stunde; L40S 48 GB 0,79 $/Stunde / 1,09 $/Stunde; RTX A6000 48 GB 0,33 $/Stunde / 0,59 $/Stunde.

Lambda (Single-GPU-Instanzen): A6000 48 GB 1,09 $/Stunde; A100 40 GB 1,99 $/Stunde; H100 PCIe 80 GB 3,29 $/Stunde; H100 SXM 80 GB 4,29 $/Stunde.

DigitalOcean GPU Droplets: RTX 6000 Ada 48 GB 1,57 $/Stunde; L40S 48 GB 1,57 $/Stunde; H100 80 GB 4,41 $/Stunde.

AWS EC2 g4dn.2xlarge (eine NVIDIA T4, 16 GiB): 0,752 $/Stunde On-Demand, 0,474 $/Stunde mit 1-Jahres-Reservierung und 0,311 $/Stunde Spot, laut dem Drittanbieter-Index Vantage. Eine T4 ist deutlich langsamer als eine RTX 4090, der Vergleich hinkt also.

Was kostet es über 1 Jahr und im 24/7-Betrieb?

Bei 20 Stunden pro Woche (1.040 Stunden im Jahr) kostet die Beispiel-RTX-4090 im ersten Jahr 1.866 $ (1.800 $ + 1.040 × 0,063 $), gegenüber 354 $ bei RunPod Community Cloud und 926 $ bei Secure Cloud.

Kumuliert wird die lokale Karte nach rund 6,2 Jahren gegenüber Community Cloud und nach rund 2,1 Jahren gegenüber Secure Cloud günstiger.

Bei 24/7-Last (8.760 Stunden im Jahr) betragen die Stromkosten der Beispielkarte rund 552 $ pro Jahr, gegenüber 2.978 $ bei Community Cloud und 7.796 $ bei Secure Cloud.

Für einen einmaligen Fine-Tuning-Job von 10 Stunden kostet eine A100 40 GB bei Lambda (1,99 $/Stunde) 19,90 $ und erfordert keinen Kauf.

Häufige Fragen

Kann ich Cloud-GPUs für Dauerbetrieb (24/7) nutzen?

Ja, aber hier ist Mieten am teuersten. Eine gemietete RTX 4090 kostet bei 8.760 Stunden 2.978 $ pro Jahr in der RunPod Community Cloud oder 7.796 $ in der Secure Cloud (abgerufen am 2. November 2026); die lokale Beispielkarte kostet nach dem Kauf rund 552 $ Strom pro Jahr.

Ist eine Cloud-GPU bei gelegentlicher Nutzung immer günstiger?

Bei wenigen Stunden im Monat ja: 10 Stunden auf einer Lambda A100 40 GB kosten 19,90 $ und brauchen keinen Hardwarekauf. Der Break-even zählt erst, wenn Sie eine GPU Hunderte Stunden nutzen.

Mit welchem Cloud-Preis sollte ich meine GPU vergleichen?

Vergleichen Sie mit einer GPU mit gleichem Speicher. Für eine RTX 4090 (24 GB) ist das die RTX 4090 von RunPod mit 0,34 $/Stunde (Community) bzw. 0,89 $/Stunde (Secure). Eine AWS T4 für 0,752 $/Stunde hat 16 GiB und ist viel langsamer.

Sind Cloud-GPU-Preise fest?

Nein. Anbieter ändern ihre Listenpreise, und die Preisseite von DigitalOcean weist selbst darauf hin, dass sich Preise ändern können. Prüfen Sie die Anbieterseite am Tag der Entscheidung.

Was passiert, wenn meine lokale GPU mitten in der Inferenz ausfällt?

Sie haben Ausfallzeit, bis sie ersetzt ist. Cloud-Kapazität kann als Rückfall dienen; das ist ein häufiger Grund, neben einer lokalen GPU ein kleines Cloud-Budget zu behalten.

Was gilt für EU-Kunden mit DSGVO-Anforderungen?

Compliance bestimmt, welche Anbieter Sie nutzen können. Der Vergleich von EU-Cloud-GPUs unter DSGVO → behandelt Hetzner, Scaleway und OVHcloud.

Typische Fehler beim Vergleich lokaler und Cloud-GPU-Kosten

  • Beispielwerte als Tatsachen behandeln: Kaufpreis, Leistungsaufnahme und Strompreis verändern das Ergebnis um ein Vielfaches.
  • Den Host-PC ignorieren: Eine GPU braucht Rechner, Netzteil und Kühlung, die nicht im Kartenpreis stecken.
  • Verschiedene Speichergrößen vergleichen: Eine T4 mit 16 GiB und eine RTX 4090 mit 24 GB führen nicht dieselben Modelle aus.
  • Nur eine Stufe betrachten: Dieselbe RunPod-RTX-4090 kostet in der Secure Cloud rund 2,6-mal so viel wie in der Community Cloud.
  • Annehmen, lokal sei immer günstiger: Unterhalb von rund 2.200 bis 6.500 Stunden ist die gemietete Karte in diesem Beispiel billiger.

Weiterführende Artikel

Quellen

Hinweis zu Drittanbieter-Fakten

Dieser Artikel referenziert KI-Modelle, Benchmarks, Preise und Lizenzen von Drittanbietern. Die KI-Landschaft verändert sich schnell. Benchmark-Werte, Lizenzbedingungen, Modellnamen und API-Preise können sich zwischen dem Zeitpunkt der Erstellung und dem Zeitpunkt ändern, zu dem Sie dies lesen. Bevor Sie Bereitstellungs- oder Compliance-Entscheidungen auf Basis dieses Artikels treffen, überprüfen Sie aktuelle Zahlen bei der offiziellen Quelle jedes Anbieters: Hugging-Face-Modellkarten für Lizenzen und Benchmarks, Anbieter-Websites für API-Preise und EUR-Lex für den aktuellen DSGVO- und EU-KI-Gesetz-Text.

Nutzen Sie PromptQuorum mit einem lokalen LLM, eigenen API-Schlüsseln oder beidem — Sie wählen das Backend.

PromptQuorum-Beta herunterladen →

← Zurück zu Lokale LLMs

MCP