Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs Pro
Overview & Reference

RunPod Review (2026): Pods, Serverless und die echten Kosten

·10 Min. LesezeitVon · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

RunPod ist ein sekundengenauer GPU-Mietservice mit zwei Produkten: Pods (ein dauerhafter GPU-Container) und Serverless (autoskalierende Worker, die auf null herunterskalieren); die Preisseite, geprüft am 2026-11-22, nennt für eine RTX 4090 0,89 $/Std. in der Secure Cloud und 0,34 $/Std. in der Community Cloud. Einschätzung von PromptQuorum, erstellt aus RunPods eigener Preisseite und Dokumentation statt aus einem praktischen Labortest: 8,5/10 insgesamt. Stärken sind die GPU-Auswahl und die flexible Abrechnung; Schwächen sind Gebühren für ungenutzten Speicher, nicht erstattbares Prepaid-Guthaben und Community-Cloud-Hardware, die RunPod nicht in Sicherheitsbegriffen beschreibt. → RunPod-GPU-Preise prüfen

Wichtigste Erkenntnisse

  • RunPod verkauft GPU-Zeit pro Sekunde, in zwei Produkten: Pods und Serverless (Preisseite, geprüft am 2026-11-22)
  • RTX 4090: 0,89 $/Std. Secure Cloud, 0,34 $/Std. Community Cloud; H100 SXM: 4,39 $/Std. Secure, 2,69 $/Std. Community
  • Serverless wird auf der Seite pro Stunde ausgewiesen, zum Beispiel 24-GB-GPUs für 0,75 $/Std. und H100 80 GB für 5,89 $/Std.
  • Speicher kommt separat dazu: Netzwerkspeicher 0,07 $/GB/Monat unter 1 TB, Volume-Disk 0,20 $/GB/Monat im Leerlauf
  • Prepaid-Guthaben beginnt bei 10 $, ist nicht erstattbar, und ein Pod ohne Netzwerk-Volume wird beendet, wenn das Guthaben null erreicht
  • Die Secure Cloud läuft in T3/T4-Rechenzentren; die Sicherheit der Community Cloud wird in der Dokumentation nicht beschrieben
  • Am besten für: Entwickler, die 24-GB- bis 80-GB-GPUs für Inferenz und Fine-Tuning ohne Vertrag mieten

RunPod vermietet NVIDIA-GPUs sekundengenau, entweder als Pods (ein GPU-Container, den Sie selbst steuern) oder als Serverless-Endpoints (Worker, die auf null herunterskalieren). Wenn Sie die besten Cloud-GPU-Anbieter für den Betrieb von Open-Weight-Modellen vergleichen: RunPod veröffentlicht eine breite GPU-Liste, von der RTX 3090 bis zur B300. Die Preisseite, geprüft am 2026-11-22, nennt für die RTX 4090 0,89 US-Dollar pro Stunde in der Secure Cloud und 0,34 US-Dollar pro Stunde in der Community Cloud. Diese Rezension behandelt die beiden Abrechnungsprodukte, den Unterschied zwischen Secure und Community Cloud, die Angaben der Dokumentation zum Umgang mit Daten und die leicht übersehenen Kosten, etwa für ungenutzten Speicher und das Verhalten bei aufgebrauchtem Guthaben.

Diese Seite enthält Verweislinks zu Produkten von Drittanbietern. PromptQuorum ist an keinem Partnerprogramm beteiligt — es sind reine Referenzlinks, die keine Provision erzielen. Das Anklicken von Links und Ihre nächsten Schritte liegen in Ihrer eigenen Verantwortung. Jede Empfehlung auf dieser Seite beruht auf unserer eigenen Auswertung der öffentlichen Seiten der Anbieter, nicht auf einer Billigung durch die Anbieter oder einem Test.

RunPod Review (2026): Pods, Serverless und die echten Kosten

RunPod-Scorecard

Einschätzung von PromptQuorum auf Basis von RunPods eigener Preisseite und Dokumentation, geprüft am 2026-11-22 — kein praktischer Labortest des Dienstes. Die Bewertungen spiegeln die Eignung für den Betrieb oder das Fine-Tuning von Open-Weight-LLMs wider.

Preis

Bewertung:
8/10
Begründung:
Günstig pro Sekunde; Leerlaufspeicher summiert sich

Zuverlässigkeit

Bewertung:
7,5/10
Begründung:
Secure in T3/T4-Rechenzentren; Community von Peers

Einrichtungsaufwand

Bewertung:
9/10
Begründung:
Prepaid-Guthaben, Pods und ein dokumentierter vLLM-Worker

GPU-Auswahl

Bewertung:
9,5/10
Begründung:
Preisseite listet RTX 3090 bis B300

Support und Doku

Bewertung:
8,5/10
Begründung:
Ausführliche Doku zu Abrechnung, Speicher und Serverless

Gesamt

Bewertung:
8,5/10
Begründung:
Flexible Miete; Speicher, Guthaben, Daten im Blick

Diese Bewertungen sind die redaktionelle Einschätzung von PromptQuorum, abgeleitet aus RunPods veröffentlichten Preisen und der Dokumentation (siehe „Wie wir bewerten“ unten). Sie sind nicht das Ergebnis von Benchmarks oder Langzeittests, die PromptQuorum mit dem Dienst durchgeführt hat.

Fazit: Für wen sich RunPod eignet

Nutzen Sie RunPod, wenn Sie eine bestimmte GPU sekundengenau mieten möchten und bereit sind, Speichergebühren und Ihr Guthaben im Auge zu behalten. Die Preisseite, geprüft am 2026-11-22, listet GPUs von der RTX 3090 bis zur B300, und die Community Cloud setzt eine RTX 4090 bei 0,34 $/Std. an. Für einen einmaligen Fine-Tuning-Lauf oder ein Test-Wochenende bedeutet die Abrechnung pro Sekunde, dass Sie nur die genutzten Minuten bezahlen.

RunPod ist nicht deshalb die richtige Wahl, weil es in jeder Zeile am günstigsten wäre; es ist die richtige Wahl, wenn GPU-Vielfalt, Abrechnung pro Sekunde und ein dokumentierter Serverless-vLLM-Pfad wichtiger sind als eine Erstattungsregel. Guthaben ist nicht erstattbar, und die Dokumentation beschreibt die Sicherheit der Community Cloud nicht; halten Sie sensible Daten daher in der Secure Cloud oder ganz von der Plattform fern.

Wenn die Hauptfrage der Preis gegenüber einem Peer-to-Peer-Marktplatz ist, lesen Sie vor dem Aufladen den Preisvergleich RunPod vs. Vast.ai.

So funktioniert RunPod: Pods, Serverless und Cloud-Stufen

RunPod hat zwei Compute-Produkte und zwei Hardwarestufen: Pods oder Serverless, in der Secure Cloud oder der Community Cloud. Laut Dokumentation läuft jeder Pod und jeder Serverless-Worker in einem eigenen Container mit Trennung von anderen Workloads, und beide werden sekundengenau abgerechnet.

  • Pods vs. Serverless: Nutzen Sie einen Pod für interaktive Arbeit, Fine-Tuning und dauerhaft laufende Server; nutzen Sie Serverless, wenn Anfragen schubweise eintreffen und Leerlauf nichts kosten soll.
  • Kaltstarts: Ein Worker wird während des Kaltstarts und während seines Leerlauf-Timeouts abgerechnet. RunPod dokumentiert FlashBoot als Verfahren, das den Worker-Zustand nach dem Herunterfahren behält, um schneller wieder zu starten; die Dokumentation nennt keine Zeitwerte und sagt, es funktioniere am besten bei Endpoints mit gleichmäßigem Traffic.
  • Aktive Worker: Der Standard ist 0. Ein Wert ab 1 beseitigt Kaltstarts, verursacht laut Dokumentation aber dauerhaft Kosten, auch wenn keine Jobs anliegen. Geprüfte Standardwerte: Leerlauf-Timeout 5 Sekunden (Konsole), maximal 3 Worker.
  • vLLM auf Serverless: RunPod dokumentiert einen vLLM-Worker, der sich über den RunPod Hub bereitstellen lässt und als Drop-in-Ersatz für die OpenAI-API beschrieben wird (Endpoint-URL und API-Schlüssel ändern). Einrichtungsdetails stehen in der RunPod-vLLM-Worker-Dokumentation. Hintergründe zur Engine finden Sie unter vLLM erklärt.
  • Netzwerk-Volume: Hält Modellgewichte außerhalb eines einzelnen Pods, sodass Sie sie nicht jedes Mal neu herunterladen müssen.
Option
Was es ist
PodGPU-Container unter Ihrer Kontrolle; Laufzeit abgerechnet
ServerlessWorker skalieren auf null; Abrechnung bei Laufzeit
Secure CloudT3/T4-Rechenzentren, auf Produktionseinsatz ausgelegt
Community CloudGeprüfte einzelne Compute-Anbieter, niedrigere Preise
Container-DiskTemporär; weg, wenn der Pod stoppt oder gelöscht wird
Volume-DiskBleibt bei Stopp/Neustart; eingebunden unter /workspace
Netzwerk-VolumeUnabhängiger Speicher, an Pods oder Endpoints anhängbar

Preise und echte Kosten

Pods werden pro GPU und Stunde bepreist und sekundengenau abgerechnet; die Community Cloud ist bei jeder GPU der Tabelle günstiger als die Secure Cloud. Alle Preise sind in US-Dollar von RunPods Preisseite, geprüft am 2026-11-22, und können sich ändern.

  • Serverless (pro Stunde, gleiche Seite): 24-GB-GPUs (L4, A5000, 3090) 0,75 $; 4090 1,34 $; 48 GB L40/L40S/6000 Ada 1,89 $; A100 80 GB 2,99 $; H100 80 GB 5,89 $. Die Seite zeigt keine getrennten Flex- und Active-Sekundenpreise.
  • Speicher: Container-Disk 0,10 $/GB/Monat; Volume-Disk 0,10 $ im Betrieb und 0,20 $ im Leerlauf; Netzwerkspeicher 0,07 $/GB/Monat unter 1 TB und 0,05 $ darüber (Hochleistung 0,14 $).
  • Rechenbeispiel, kein Angebot: Eine 8-Stunden-Sitzung mit einer RTX 4090 kostet 8 × 0,89 $ = 7,12 $ in der Secure Cloud oder 8 × 0,34 $ = 2,72 $ in der Community Cloud. Ein 100-GB-Netzwerk-Volume zu 0,07 $ kostet 7,00 $ pro Monat, egal ob ein Pod läuft oder nicht.
  • Guthaben: Prepaid; laut Abrechnungsdokumentation können Sie mit nur 10 $ starten, Prepaid-Karten müssen mindestens 100 $ pro Transaktion einzahlen, und ein neuer Pod braucht mindestens eine Stunde Guthaben. Guthaben ist nicht erstattbar und lässt sich nicht auszahlen.
  • Guthaben null: Laufende Pods werden gestoppt. Ein Pod mit Netzwerk-Volume behält seine Daten; ein Pod ohne Netzwerk-Volume wird beendet, und seine Daten sind nicht wiederherstellbar. Der Netzwerk-Volume-Speicher läuft weiter auf, während Pods gestoppt sind.
  • Traffic und Limits: Die Dokumentation nennt keine Ingress- oder Egress-Gebühren. Das Standard-Ausgabenlimit liegt bei 80 $ pro Stunde über alle Ressourcen und steigt mit der Kontohistorie.
  • Stundenpreise verschiedener Anbieter finden Sie unter Cloud-GPU-Kosten pro Stunde.

RTX 3090

Secure:
0,50 $/Std.
Community:
0,22 $/Std.

RTX 4090

Secure:
0,89 $/Std.
Community:
0,34 $/Std.

RTX A6000

Secure:
0,69 $/Std.
Community:
0,33 $/Std.

L40S

Secure:
1,09 $/Std.
Community:
0,79 $/Std.

A100 PCIe

Secure:
2,09 $/Std.
Community:
1,19 $/Std.

H100 SXM

Secure:
4,39 $/Std.
Community:
2,69 $/Std.

H200

Secure:
5,29 $/Std.
Community:
3,59 $/Std.

Welches Modell auf welche GPU passt

Eine einzelne 24-GB-Karte deckt Modelle bis etwa 32B mit Q4 ab, und ein 70B-Modell mit Q4 braucht rund 44 GB VRAM, also eine 48-GB-Karte oder mehr. Die Größen stammen aus dem VRAM-Spickzettel für DeepSeek-R1-Distill von PromptQuorum (Q4_K_M). Die Geschwindigkeit in Tokens pro Sekunde wird nicht genannt, weil sie für diese Rezension nicht gemessen wurde.

  • Einschätzung von PromptQuorum: Ein 70B-Modell mit Q4 lässt auf einer 48-GB-Karte wenig Speicher für den Kontext; eine 80-GB-Karte bietet Spielraum für längere Prompts.
  • Die Serverless-Tabelle nennt A100 und H100 mit 80 GB sowie L40/L40S mit 48 GB; das sind die Einstiegspunkte für 70B auf Endpoints.
  • Um ein anderes Modell zu prüfen, nutzen Sie den VRAM-Leitfaden für lokale LLMs. Für den Vergleich zwischen Mieten und Besitzen dient der Kostenrechner Kaufen vs. Mieten.
  • Auf einem Pod können Sie Ollama oder vLLM selbst installieren; PromptQuorum hat keines von beiden auf RunPod-Hardware gebenchmarkt.

7B–8B

Benötigter VRAM:
~5,5–6 GB
RunPod-GPU-Klasse:
Jede 16–24-GB-Karte (A4000, L4, 3090)

14B

Benötigter VRAM:
~9,5 GB
RunPod-GPU-Klasse:
16–24-GB-Karte

32B

Benötigter VRAM:
~20,5 GB
RunPod-GPU-Klasse:
24-GB-Karte (4090, knapp) oder 32–48 GB

70B

Benötigter VRAM:
~44 GB
RunPod-GPU-Klasse:
48-GB-Karte (knapp) oder A100/H100 80 GB

Was Sie damit bauen können

RunPod eignet sich für Arbeit, bei der Sie eine GPU für Stunden oder Tage brauchen, oder für einen Endpoint, der zwischen Lastspitzen ungenutzt bleibt.

  • Gut geeignet: Fine-Tuning-Läufe, Experimente mit 7B–32B-Modellen und Batch-Jobs, die nur während der Laufzeit abgerechnet werden. Siehe beste Cloud-GPU für Fine-Tuning unter 1 Dollar pro Stunde.
  • Gut geeignet: eine Inferenz-API auf Serverless mit dem vLLM-Worker bei schwankendem Traffic. Zur Serverwahl im Produktionsmaßstab siehe Enterprise-LLM-Inferenzserver.
  • Eingeschränkt: dauerhaft laufende Endpoints, bei denen aktive Worker fortlaufend abgerechnet werden und ein dedizierter Pod einfacher sein kann.
  • Schlecht geeignet: Workloads mit sensiblen personenbezogenen Daten in der Community Cloud oder alles, was erstattbares Prepaid-Guthaben braucht.

Risiko und Vertrauen

Nur Fakten, aus RunPods Dokumentation, geprüft am 2026-11-22: Bezahlt wird mit Prepaid-Guthaben, die Secure Cloud wird in T3/T4-Rechenzentren betrieben, und die Community Cloud nutzt einzelne Compute-Anbieter. PromptQuorum hat weder RunPod noch dessen Hosts geprüft.

  • Abrechnungsmodell: Prepaid-Guthaben; Abrechnung von Compute und Speicher pro Sekunde; Guthaben ist nicht erstattbar und nicht auszahlbar; Auto-Pay setzt eine hinterlegte Karte voraus.
  • Woher die Hardware kommt: Die Secure Cloud läuft in T3/T4-Rechenzentren. Die Community Cloud verbindet einzelne Compute-Anbieter mit Nutzern über ein System, das RunPod als geprüft und Peer-to-Peer beschreibt.
  • Isolation: Laut Dokumentation läuft jeder Pod oder Worker in einem eigenen Container mit strikter Trennung von anderen Workloads.
  • Zugriff durch Hosts: RunPods Bedingungen untersagen Hosts, Pod- oder Worker-Daten einzusehen; die Dokumentation sagt nicht, wie das technisch durchgesetzt wird.
  • Zertifizierungen: Die Dokumentation gibt an, dass die Infrastrukturpartner der Secure Cloud SOC 2, ISO 27001 und PCI DSS erfüllen. Das wird den Partnern zugeschrieben und nicht als eigene Zertifizierung von RunPod angegeben. Die Sicherheit der Community Cloud beschreibt die Dokumentation nicht.
  • DSGVO: Die Dokumentation gibt DSGVO-Konformität für Daten an, die in europäischen Rechenzentrumsregionen verarbeitet werden, und nennt keine konkreten Standorte. Die Datenschutzerklärung betrifft Website-Daten und nennt die Vereinigten Staaten als Unternehmenssitz von RunPod.
  • Erstattungen und Guthaben: keine über die obige Nicht-Erstattbarkeit hinaus; auf der Abrechnungsseite wurden keine Bedingungen für Sparpläne gefunden.
  • Praktische Regel (Einschätzung von PromptQuorum): Halten Sie sensible personenbezogene Daten aus der Community Cloud heraus und prüfen Sie RunPods Auftragsverarbeitungsbedingungen, bevor Sie regulierte Daten verwenden. Dies ist keine Rechtsberatung; ob eine konkrete Nutzung zulässig ist, entscheiden Sie gemeinsam mit Ihrer Datenschutzberatung.

Vorteile & Nachteile

RunPod tauscht Erstattungsflexibilität gegen GPU-Vielfalt und Abrechnung pro Sekunde. Ausgewogene Übersicht unten.

  • Vorteile
  • Abrechnung pro Sekunde ohne Bindung und ohne Ingress- oder Egress-Gebühren
  • Breite GPU-Auswahl, auf der Preisseite von der RTX 3090 bis zur B300
  • Community-Cloud-Preise deutlich unter der Secure Cloud bei jeder gelisteten GPU
  • Serverless skaliert auf null; ein dokumentierter vLLM-Worker bietet eine OpenAI-kompatible API
  • Netzwerk-Volumes halten Gewichte unabhängig von einem einzelnen Pod
  • Nachteile
  • Prepaid-Guthaben ist nicht erstattbar
  • Ungenutzte Volume-Disk kostet 0,20 $/GB/Monat; Netzwerkspeicher läuft auch ohne laufenden Pod auf
  • Ein Pod ohne Netzwerk-Volume wird bei Guthaben null beendet, und seine Daten sind nicht wiederherstellbar
  • Die Sicherheit der Community Cloud wird in der Dokumentation nicht beschrieben; Rechenzentrumsstandorte sind nicht aufgeführt
  • Für FlashBoot gibt es keine veröffentlichten Zeitwerte

Wo Sie sich anmelden

Legen Sie ein Konto auf runpod.io an, laden Sie Prepaid-Guthaben auf und wählen Sie dann eine Pod-Vorlage oder stellen Sie einen Serverless-Endpoint bereit. Prüfen Sie die aktuellen Preise, bevor Sie sich festlegen; die Zahlen hier wurden am 2026-11-22 geprüft.

  • Schritt 1: Konto bei RunPod anlegen und Guthaben aufladen (laut Dokumentation genügen 10 $ zum Start; Prepaid-Karten brauchen 100 $ pro Transaktion).
  • Schritt 2: Secure Cloud oder Community Cloud nach Datensensibilität wählen, dann eine GPU aus der Modell-Tabelle oben aussuchen.
  • Schritt 3: Ein Netzwerk-Volume anhängen, wenn Gewichte oder Checkpoints erhalten bleiben sollen, falls ein Pod gestoppt oder beendet wird.
  • Schritt 4: In der Abrechnung eine E-Mail-Warnung für niedriges Guthaben einrichten, damit ein Guthaben von null einen Pod nicht unerwartet stoppt.
  • Schritt 5: Für Serverless den vLLM-Worker aus dem RunPod Hub bereitstellen und aktive Worker auf 0 lassen, außer Sie müssen Kaltstarts beseitigen.
RunPod-Konto anlegen →Produktlink · offengelegtRunPod-GPU-Preise prüfen →Produktlink · offengelegt

Alternativen

Wählen Sie nach Abrechnungsmodell und Datensensibilität, nicht allein nach dem Listenpreis.

  • Peer-to-Peer-Marktplatz mit On-Demand- und unterbrechbarer Preisgestaltung → Vast.ai-Review.
  • Krypto-denominierter GPU-Marktplatz → Clore.ai-Review; lesen Sie den Risikoabschnitt, bevor Sie entscheiden, welche Daten Sie senden.
  • GPU-Instanzen großer Anbieter → siehe direkt AWS, Google Cloud und Lambda; Preise wurden hier nicht verglichen.
  • Stattdessen Hardware kaufen → Vergleichen Sie mit einer lokalen Karte über den oben verlinkten Kostenrechner, denn bei stetiger täglicher Nutzung kann Besitzen günstiger sein.

Wie wir bewerten

Diese Rezension wurde von PromptQuorum nicht praktisch getestet. PromptQuorum hat keine GPUs gemietet, keine Benchmarks ausgeführt und weder Tokens pro Sekunde noch Kaltstartzeiten für diese Seite gemessen. Sie basiert auf RunPods eigenen Seiten, abgerufen am 2026-11-22.

  • Vom Anbieter angegeben: Preise, Abrechnungsgranularität, Speichertypen, Standardwerte und Sicherheitsangaben aus RunPod-Preisen, Abrechnungsdokumentation, Pods-Übersicht, Serverless-Endpoint-Konfiguration, Sicherheits- und Compliance-Dokumentation und der Datenschutzerklärung.
  • Einschätzung von PromptQuorum: die Scorecard, die Modelleignung und die Kauf-/Überspringen-Empfehlung, angewandt auf die oben genannten, vom Anbieter angegebenen Fakten. Die VRAM-Größen stammen aus dem PromptQuorum-Spickzettel, der im Abschnitt zur Modelleignung verlinkt ist.
  • Nicht verifiziert: Rechenzentrumsstandorte, Sicherheitslage der Community Cloud, Serverless-Sekundenpreise und Kaltstartzeiten.
  • Bewertete Kriterien: Preis, Zuverlässigkeit, Einrichtungsaufwand, GPU-Auswahl, Support und Doku.

Häufig gestellte Fragen

Was ist RunPod?

RunPod ist ein Cloud-Dienst, der NVIDIA-GPUs mit sekundengenauer Abrechnung vermietet. Er bietet Pods (einen GPU-Container unter Ihrer Kontrolle) und Serverless (autoskalierende Worker, die auf null herunterskalieren), in den Stufen Secure Cloud und Community Cloud.

Was kostet eine RTX 4090 bei RunPod?

Die RunPod-Preisseite, geprüft am 2026-11-22, nennt für die RTX 4090 0,89 US-Dollar pro Stunde in der Secure Cloud und 0,34 US-Dollar pro Stunde in der Community Cloud. Serverless führt GPUs der 24-GB-Klasse separat auf; die 4090 kostet dort 1,34 US-Dollar pro Stunde. Preise können sich ändern, prüfen Sie daher die aktuelle Seite.

Was ist der Unterschied zwischen Secure Cloud und Community Cloud?

Laut RunPods Dokumentation läuft die Secure Cloud in T3/T4-Rechenzentren, die auf Produktionseinsatz ausgelegt sind, während die Community Cloud einzelne Compute-Anbieter über ein geprüftes Peer-to-Peer-System zu niedrigeren Preisen mit Nutzern verbindet. Die Dokumentation beschreibt die Sicherheit der Community Cloud nicht, halten Sie sensible Daten daher fern.

Wie rechnet RunPod ab?

Compute und Speicher werden pro Sekunde aus Prepaid-Guthaben abgerechnet, ohne Ingress- oder Egress-Gebühren. Laut Abrechnungsdokumentation können Sie mit nur 10 US-Dollar starten, Prepaid-Karten müssen mindestens 100 US-Dollar pro Transaktion einzahlen, und Guthaben ist nicht erstattbar.

Was passiert, wenn mein RunPod-Guthaben null erreicht?

Laufende Pods werden gestoppt. Ein Pod mit Netzwerk-Volume behält seine Daten; ein Pod ohne Netzwerk-Volume wird beendet, und seine Daten sind nicht wiederherstellbar. Der Netzwerk-Volume-Speicher läuft weiter auf, während Pods gestoppt sind; richten Sie daher eine Warnung für niedriges Guthaben ein.

Unterstützt RunPod Serverless vLLM?

Ja. RunPod dokumentiert einen vLLM-Worker, den Sie über den RunPod Hub bereitstellen oder aus dem worker-vllm-Repository anpassen können. Die Dokumentation beschreibt ihn als Drop-in-Ersatz für die OpenAI-API: Endpoint-URL und API-Schlüssel ändern.

Was macht FlashBoot?

Laut Dokumentation verkürzt FlashBoot Kaltstarts, indem der Worker-Zustand nach dem Herunterfahren erhalten bleibt und so ein schnelleres Wiederanlaufen als bei einem frischen Start möglich ist. Es funktioniert am besten bei Endpoints mit gleichmäßigem Traffic. RunPod veröffentlicht keine Zeitwerte, und PromptQuorum hat keine gemessen.

Kosten aktive Worker im Leerlauf Geld?

Ja. Laut Dokumentation verursachen aktive Worker fortlaufend Kosten, auch wenn sie keine Jobs haben. Der Standard sind 0 aktive Worker; ein Wert ab 1 beseitigt Kaltstarts, verursacht aber konstante Kosten.

Ist der RunPod-Speicher kostenlos?

Nein. Die Preisseite nennt (Stand der Prüfung 2026-11-22) für die Container-Disk 0,10 US-Dollar pro GB und Monat, für die Volume-Disk 0,10 US-Dollar im Betrieb und 0,20 US-Dollar im Leerlauf sowie für Netzwerkspeicher 0,07 US-Dollar pro GB und Monat unter 1 TB und 0,05 US-Dollar darüber.

Kann RunPod ein 70B-Modell ausführen?

Ja, auf einer Karte mit genügend Speicher. Ein 70B-Modell mit Q4 braucht laut Spickzettel von PromptQuorum etwa 44 GB VRAM; nutzen Sie also eine 48-GB-Karte (knapp) oder eine A100 oder H100 mit 80 GB. Die Geschwindigkeit wurde für diese Rezension nicht gemessen.

Was sagt die RunPod-Dokumentation zur DSGVO?

RunPods Sicherheits- und Compliance-Seite gibt DSGVO-Konformität für Daten an, die in europäischen Rechenzentrumsregionen verarbeitet werden, ohne Standorte zu nennen. PromptQuorum hat das nicht geprüft; lesen Sie die Auftragsverarbeitungsbedingungen, bevor Sie personenbezogene Daten verwenden. Ob Ihre Nutzung konform ist, hängt von Ihrer eigenen Rechtsgrundlage, einem Auftragsverarbeitungsvertrag und einem etwaigen Übermittlungsmechanismus ab, da RunPod seinen Sitz in den Vereinigten Staaten hat.

Kann ich nicht genutztes RunPod-Guthaben erstattet bekommen?

Laut Abrechnungsdokumentation ist Guthaben nicht erstattbar, nach der Einzahlung nicht auszahlbar und nur für RunPod-Dienste nutzbar. Laden Sie nur auf, was Sie voraussichtlich verbrauchen.

← Zurück zu Lokale LLMs Pro

MCP