Wichtigste Erkenntnisse
- GPU-Dichte: Alle vier Anbieter haben eine 8-GPU-SXM5-Flaggschiffplattform im Programm (Dell XE9680, HPE Cray XD670, Supermicro SYS-821GE-TNHR); Lenovo und HPE bieten zusätzlich günstigere PCIe-Plattformen mit geringerer Dichte.
- Preisband: Ein 8x-H100/H200-SXM5-Server kostet je nach GPU-Speicherausstattung (80GB H100 vs. 141GB H200) und Support-Stufe grob 200.000–400.000+ US-Dollar.
- Kühlung ist der eigentliche Engpass. Schon zwei bis drei 8-GPU-SXM5-Server überschreiten die praktische Obergrenze der Luftkühlung von etwa 20-40kW pro Rack — oberhalb dieser Dichte wird Flüssigkühlung Pflicht, nicht Option.
- Netzwerk ist für Training wichtig, für Inferenz weniger. Multi-Node-Trainingscluster brauchen InfiniBand NDR oder RoCE-v2-Ethernet; Single-Node-Inferenz nicht.
- GPU nach Workload wählen, nicht nur nach Budget. L40S (48GB, PCIe, luftgekühlt) passt zu Inferenz; H100/H200 (80-141GB, SXM5, NVLink) passt zu Training und großvolumiger Auslieferung.
- Wer nur ein bis zwei GPUs Inferenz-Kapazität braucht, sollte gar keinen Rack-Server kaufen — dafür ist ein Workstation-Aufbau die richtige Größenordnung.
📍 In einem Satz
Beim Kauf eines Enterprise-GPU-Servers zählt der Workload mehr als die Marke — Dell PowerEdge XE9680, HPE Cray XD670 und Supermicro SYS-821GE-TNHR konkurrieren direkt bei 8x-H100/H200-SXM5-Trainingsplattformen für 200.000–400.000+ US-Dollar, während HPE ProLiant DL380a Gen11 und Lenovo ThinkSystem SR675 V3 mit PCIe-L40S-GPUs reine Inferenz-Budgets zu etwa einem Drittel bis der Hälfte des Preises bedienen.
💬 In einfachen Worten
Ein KI-Server für ein Unternehmen zu kaufen ist etwas anderes als einen leistungsstarken Gaming-PC zusammenzustellen. Diese Maschinen kosten so viel wie ein Haus, brauchen schon vor der Lieferung einen Plan für Kühlung und Stromversorgung und kommen mit einem mehrjährigen Support-Vertrag. Dieser Ratgeber vergleicht die vier Firmen, die solche rackmontierten KI-Server tatsächlich verkaufen — Dell, Lenovo, HPE und Supermicro —, damit der Einkauf die richtige Größe und den richtigen Anbieter für die tatsächliche Aufgabe wählt (KI-Modelle für Mitarbeitende bereitstellen vs. neue Modelle von Grund auf trainieren), statt nur nach dem größten Datenblatt zu gehen.
Kurzfakten
- Dell PowerEdge XE9680: 6U, bis zu 8x H100/H200 SXM5, zwei Intel-Xeon-Platinum-CPUs, bis zu 4TB DDR5.
- Lenovo ThinkSystem SR675 V3: 3U, bis zu 8 GPUs (H100/H200/L40S-Mix), zwei AMD-EPYC-9004/9005-CPUs, bis zu 6TB DDR5, optionale Neptune-Flüssigkühlung.
- HPE Cray XD670: 5U, bis zu 8x H100/H200 SXM5, zwei Intel-Xeon-CPUs der 4. Generation, InfiniBand NDR / Slingshot 11 / Ethernet als Fabric-Optionen.
- HPE ProLiant DL380a Gen11: 2U, bis zu 4 doppelbreite oder 8 einfachbreite GPUs (L40S/H100 PCIe), zwei Intel-Xeon-CPUs mit bis zu 64 Kernen.
- Supermicro SYS-821GE-TNHR: 8U, bis zu 8x H100/H200 SXM5, zwei Intel-Xeon-CPUs der 4./5. Generation, bis zu 8TB DDR5.
- GPU-VRAM: H100 = 80GB HBM3; H200 = 141GB HBM3e; L40S = 48GB GDDR6.
- Stromaufnahme im Rack: ein einzelner 8x-H100/H200-SXM5-Node zieht unter Volllast grob 10-12kW — zwei davon überschreiten bereits die praktische Luftkühlungs-Obergrenze für ein Rack.
Welcher GPU-Server passt zu welchem Einsatzszenario?
Der richtige Anbieter hängt vom Workload und der Rechenzentrums-Ausstattung ab, nicht von der Markenpräferenz. Trainingscluster, reine Inferenz-Einsätze und Rechenzentren mit Flüssigkühlung führen jeweils zu einer anderen Plattform.
- Beste Wahl für großes Multi-Node-Training: Dell PowerEdge XE9680 — das breiteste Enterprise-Vertriebs- und Systemhaus-Netzwerk für den Aufbau eines InfiniBand-verbundenen Multi-Rack-Clusters.
- Beste Wahl für ein Rechenzentrum mit Flüssigkühlung: Lenovo ThinkSystem SR675 V3 — Neptune-Direct-to-Chip-Flüssigkühlung senkt bei dauerhaft hoher GPU-Auslastung die Kühlkosten spürbar, mit AMD-EPYC-CPU-Option.
- Beste Wahl für reine Inferenz oder eine kleinere Erstanschaffung: HPE ProLiant DL380a Gen11 — 2U, luftgekühlt, PCIe-GPUs, grob ein Drittel bis die Hälfte der Kosten einer 8x-SXM5-Trainingsbox.
- Beste Wahl für Konfigurationsflexibilität und Preiswettbewerb: Supermicro SYS-821GE-TNHR — die breitesten Build-to-Order-Optionen über den Systemhaus-Kanal, oft der preislich wettbewerbsfähigste Weg zu einer 8x-H100/H200-SXM5-Konfiguration.
- Auf Rack-Server ganz verzichten, wenn: der tatsächliche Bedarf bei 1-2 GPUs Inferenz-Kapazität für ein kleines Team liegt — ein Workstation-Aufbau für lokale LLMs kostet einen Bruchteil und braucht keinen Kühlungsplan fürs Rechenzentrum.
Wie schneiden die vier Anbieter bei Spezifikationen und Preis ab?
Dell, Lenovo, HPE und Supermicro bieten jeweils mindestens eine 8-GPU-SXM5-Plattform, unterscheiden sich aber deutlich bei Formfaktor, Kühloptionen und Vertriebskanal.
| Anbieter / Modell | Formfaktor | Max. GPUs | GPU-Optionen | Kühlung | Preisband |
|---|---|---|---|---|---|
| Dell PowerEdge XE9680 | 6U | 8 (SXM5, NVLink) | H100 80GB / H200 141GB | Luft Standard, Flüssig optional | ~200-375K $ (8x GPU) |
| Lenovo SR675 V3 | 3U | 8 (PCIe oder SXM) | H100 / H200 / L40S | Luft oder Neptune-Flüssig | Stark konfigurationsabhängig |
| HPE Cray XD670 | 5U | 8 (SXM5, NVLink) | H100 80GB / H200 141GB | Luft Standard | Nur auf Anfrage |
| HPE ProLiant DL380a Gen11 | 2U | 4 doppelbreit / 8 einfach | L40S / H100 PCIe | Nur Luft | Niedriger — nur auf Anfrage |
| Supermicro SYS-821GE-TNHR | 8U | 8 (SXM5, NVLink) | H100 80GB / H200 141GB | Luft Standard | ~200-320K $ (8x GPU) |
Was bietet der Dell PowerEdge XE9680?
Der Dell PowerEdge XE9680 ist ein 6U-Rack-Server mit 8 NVIDIA-HGX-H100- oder -H200-SXM5-GPUs über NVLink, gebaut speziell für Training und Inferenz großer Modelle. Dazu kommen zwei Intel-Xeon-Scalable-CPUs der 4. oder 5. Generation (bis zu 56 Kerne je CPU), bis zu 32 DDR5-DIMM-Slots (4TB max., 4800 MT/s) und 10 PCIe-Gen5-x16-Slots für Netzwerk und Storage-Erweiterung.
Standardmäßig wird luftgekühlt geliefert; für Rechenzentren oberhalb von etwa 20-30kW pro Rack, wo Luftkühlung praktisch an ihre Grenzen stößt, bietet Dell Flüssigkühlungsoptionen an.
Der Preis wird nicht veröffentlicht — Reseller- und Systemhaus-Angebote für eine voll konfigurierte 8x-H100/H200-Einheit lagen grob bei 200.000-375.000 US-Dollar, je nach GPU-Speicherstufe, RAM, Storage und Support-Level. Ein verbindliches Angebot über Dell.com einholen, bevor budgetiert wird.
Was bietet der Lenovo ThinkSystem SR675 V3?
Der Lenovo ThinkSystem SR675 V3 ist ein 3U-Rack-Server für bis zu 8 doppel- oder einfachbreite GPUs — darunter NVIDIA H100, H200 und L40S — kombiniert mit zwei AMD-EPYC-9004/9005-CPUs der 5. Generation und bis zu 6TB DDR5-4800-Speicher über 24 DIMM-Slots.
Das entscheidende Merkmal ist Lenovo Neptune, ein Direct-to-Chip- und Hybrid-Flüssig-Luft-Kühlsystem als Konfigurationsoption — relevant für Betreiber, deren Rechenzentrum bereits mit Flüssigkühlkreisläufen arbeitet oder das plant, da es die Kühlkosten bei dauerhaft hoher GPU-Auslastung gegenüber reiner Luftkühlung spürbar senkt.
Der SR675 V3 unterstützt auch gemischte GPU-Konfigurationen (H200-4-GPU-NVLink-Builds oder L40S für inferenzorientierte Einsätze) und ist damit die konfigurationsflexibelste Plattform in diesem Vergleich für Kunden, die eine Chassis-Familie für Training und Inferenz zugleich nutzen wollen. Konfiguration über Lenovo.com.
Was bieten der HPE Cray XD670 und der ProLiant DL380a Gen11?
HPE verkauft zwei unterschiedliche GPU-Server-Stufen: den Cray XD670 für Training im großen Maßstab und den ProLiant DL380a Gen11 für Inferenz und kleinere Einsätze.
Der Cray XD670 ist ein 5U-Chassis mit 8x NVIDIA-H100- oder -H200-SXM5-GPUs und zwei Intel-Xeon-CPUs der 4. Generation. Sein Alleinstellungsmerkmal ist die Fabric-Wahl: 8x PCIe-Gen5-Half-Height-Slots für HPE Slingshot 11, InfiniBand NDR oder Standard-Ethernet — relevant für Betreiber, die bereits über eine bestehende HPE-Cray-Supercomputing-Infrastruktur auf Slingshot standardisiert sind.
Der ProLiant DL380a Gen11 ist ein 2U-Server für 4 doppel- oder 8 einfachbreite GPUs (L40S oder H100 PCIe), bis zu 3TB DDR5 und PCIe 5.0 — die luftgekühlte Option mit geringerer Dichte für Inferenz-Workloads oder eine erste GPU-Anschaffung, die eine 8-GPU-SXM5-Plattform noch nicht rechtfertigt. Beide auf HPE.com.
Was bietet der Supermicro SYS-821GE-TNHR?
Der Supermicro SYS-821GE-TNHR ist ein 8U-Rack-Server für bis zu 8 NVIDIA-HGX-H100- (80GB) oder -HGX-H200-GPUs (141GB), zwei Intel-Xeon-Scalable-CPUs der 4. oder 5. Generation und bis zu 8TB DDR5-5600-Speicher über 32 DIMM-Slots — die höchste maximale RAM-Kapazität der vier hier verglichenen Plattformen.
Supermicro verkauft vorrangig über einen Systemhaus- und Reseller-Kanal statt über direkte Enterprise-Vertriebsteams, was in der Regel mehr Build-to-Order-Flexibilität bedeutet (Laufwerksschächte, Netzwerkkarten, redundante Netzteile) und laut aktuellen Reseller-Listings oft einen wettbewerbsfähigen Einstiegspreis für eine 8x-H100-Konfiguration — Einstiegsangebote lagen grob bei 200.000-320.000 US-Dollar, voll ausgestattete Konfigurationen entsprechend höher.
Storage ist eine Stärke: bis zu 19 Hot-Swap-2,5"-NVMe/SATA/SAS-Einschübe plus 2 M.2-Slots — nützlich für Betreiber, die große lokale Datensätze parallel zu Inferenz oder Fine-Tuning vorhalten. Basiskonfiguration bei Supermicro.com.
H100, H200 oder L40S — welche GPU kaufen?
H200 gewinnt bei Speicher und Bandbreite, H100 ist die verfügbarere und oft günstigere SXM5-Option, und L40S ist die luftgekühlte PCIe-Wahl für reine Inferenz. Alle drei sind Stand September 2026 aktuelle NVIDIA-Rechenzentrums-GPUs; keine steht vor unmittelbarer Abkündigung, die Entscheidung ist also Workload-Passung, kein Obsoleszenzrisiko.
- H200 wählen, wenn: Large-Context-Workloads bedient werden oder größere Modelle trainiert werden, bei denen 80GB pro GPU ein Cross-GPU-Sharding erzwingen würden, das man lieber vermeidet.
- H100 wählen, wenn: die breiteste Hersteller- und Reseller-Verfügbarkeit für ein Multi-Node-NVLink/InfiniBand-Trainingscluster benötigt wird und 80GB pro GPU für die Modellgröße ausreichen.
- L40S wählen, wenn: der Workload reine Inferenz ist, das Rechenzentrum nur luftgekühlt ist und 48GB pro GPU das größte geplante Modell in der vorgesehenen Quantisierungsstufe abdecken.
| GPU | VRAM | Speicherbandbreite | Am besten für |
|---|---|---|---|
| NVIDIA H100 SXM5 | 80GB HBM3 | 3,35 TB/s | Multi-Node-Training, breiteste Verfügbarkeit |
| NVIDIA H200 SXM | 141GB HBM3e | 4,8 TB/s | Large-Context-Serving, größeres Batch-Training |
| NVIDIA L40S | 48GB GDDR6 | 864 GB/s | Luftgekühlte PCIe-Inferenz, kleineres Budget |
Wie viel Strom und Kühlung braucht ein GPU-dichtes Rack?
Ein einzelner 8-GPU-H100/H200-SXM5-Server zieht unter Volllast grob 10-12kW — allein 8x 700W-GPUs machen 5,6kW aus, noch vor CPUs, Speicher und Lüftern. Schon zwei oder drei dieser Server in einem Rack überschreiten die praktische Grenze der Luftkühlung.
Branchenwerte setzen die praktische Grenze der Luftkühlung bei grob 20-40kW pro Rack; oberhalb davon ist Flüssigkühlung (Direct-to-Chip oder Immersion) nötig und kann 100-200kW+ pro Rack tragen. Zum Vergleich: NVIDIAs GB200-NVL72-Rack-System zieht insgesamt grob 120-130kW — ein Anhaltspunkt dafür, wohin sich die KI-Rack-Dichte entwickelt, keine Spezifikation eines hier verglichenen Servers.
Praktische Konsequenz für den Einkauf: Wer mehr als ein oder zwei 8-GPU-SXM5-Server pro Rack unterbringen will, sollte Direct-to-Chip-Flüssigkühlung einplanen (Lenovo Neptune oder einen rechenzentrumsweiten Flüssigkreislauf), statt sich auf die Standard-Luftkühlung des Rechenzentrums zu verlassen.
InfiniBand oder Standard-Ethernet?
Single-Node-Inferenz braucht kein InfiniBand — Standard-100/200GbE-Ethernet reicht. Multi-Node-Trainings- oder Fine-Tuning-Cluster, bei denen GPUs über mehrere Server hinweg ständig Gradienten synchronisieren, brauchen dagegen ein dediziertes Fabric mit hoher Bandbreite und niedriger Latenz.
Die zwei Optionen dafür sind InfiniBand NDR (400Gb/s pro Link, die klassische HPC-Wahl, eine NIC pro GPU bei Flaggschiff-Plattformen) und RoCE v2 (RDMA over Converged Ethernet — z. B. NVIDIA Spectrum-X —, das ähnlichen Durchsatz über ein Standard-Ethernet-Fabric liefert, das das Netzwerkteam möglicherweise schon betreibt).
- InfiniBand NDR nutzen, wenn: ein dediziertes Multi-Node-Trainingscluster aufgebaut wird und das ausgereifteste, am weitesten verbreitete RDMA-Fabric für diese Größenordnung gewünscht ist.
- RoCE v2 (Ethernet) nutzen, wenn: das Netzwerkteam bereits ein konvergentes Ethernet-Netz betreibt und den Aufwand für ein separates InfiniBand-Fabric samt Know-how vermeiden will.
- Beides überspringen, wenn: nur Single-Node-Inferenz betrieben wird — Standard-Netzwerk reicht aus, der zusätzliche Fabric-Aufwand rechnet sich nicht.
Wie wird die Beschaffung richtig auf den Workload dimensioniert?
Die Anschaffung nach dem Workload dimensionieren, nicht nach der größten verfügbaren Konfiguration. Reine Inferenz-Einsätze und Trainings-/Fine-Tuning-Einsätze haben grundlegend unterschiedliche Anforderungen an GPU, Speicher und Netzwerk.
- 1Workload zuerst klassifizieren
Why it matters: Reine Inferenz (ein festes Modell für Nutzer bereitstellen) braucht deutlich weniger GPU-Speicher und kein Multi-Node-Fabric im Vergleich zu Training oder Fine-Tuning, das zusätzlich zu den Modellgewichten Gradienten und Optimizer-State vorhalten muss. - 2GPU-Speicherbedarf aus Modellgröße und Quantisierung ableiten
Why it matters: Ein 70B-Parameter-Modell in FP16 braucht vor Overhead grob 140GB VRAM — das schließt eine Single-GPU-L40S (48GB) bereits aus und führt zu Multi-GPU-H100/H200-Sharding oder einem kleineren/quantisierten Modell. - 3Single-Node vs. Multi-Node entscheiden
Why it matters: Deckt der VRAM eines 8-GPU-Servers Modell und Nutzerlast ab, kann InfiniBand/RoCE komplett entfallen und die Fabric-Kosten gespart werden; wenn nicht, von Anfang an ein dediziertes Netzwerk-Fabric einplanen. - 4Kühlung vor der Bestellung auf Rack-Dichte abstimmen
Why it matters: Vor der Bestellung mit dem Facility-Team klären, ob das Ziel-Rack Flüssigkühlung unterstützt, bevor mehr als ein oder zwei 8-GPU-SXM5-Server pro Rack verpflichtend werden — eine nachträgliche Kühlungs-Nachrüstung ist deutlich teurer als vorausschauende Planung. - 5Verbindliches Angebot und Lieferzeit einholen
Why it matters: Keiner der Anbieter veröffentlicht Listenpreise für 8-GPU-Konfigurationen, und Lieferzeiten für GPU-dichte Server lagen je nach GPU-Zuteilung bei mehreren Wochen bis wenigen Monaten — den Zeitplan einbudgetieren, nicht nur den Preis.
Welche Garantie- und Support-Stufe wählen?
Alle vier Anbieter bieten gestaffelten Enterprise-Support über die Basis-Hardware-Garantie hinaus, aber Stufenbezeichnungen, Reaktionszeiten und enthaltene Leistungen unterscheiden sich — die aktuellen Bedingungen vor dem Kauf direkt beim Anbieter bestätigen, da sich Programme ändern.
- Dell verkauft seine ProSupport-Stufen (inklusive Optionen mit schnellerer, mission-kritischer Reaktion) zum XE9680 — explizit nach GPU-Server-qualifiziertem Support fragen, nicht nach der Standard-PowerEdge-Stufe.
- Lenovo verkauft Premier-Support-Stufen für die ThinkSystem-Linie, mit Optionen für Vor-Ort-Reaktion und proaktives Monitoring.
- HPE verkauft Support über Pointnext Complete Care und bietet HPE GreenLake als verbrauchsbasierte (Pay-per-Use) Alternative zum Kapitalkauf für Kunden, die die sechsstelligen Vorabkosten vermeiden wollen.
- Supermicro-Support-Bedingungen variieren stärker je nach Reseller/Systemhaus als bei den anderen drei Anbietern, da ein Großteil des Volumens über diesen Kanal statt über Enterprise-Direktvertrieb läuft — Support-Bedingungen schriftlich vom konkreten Reseller einholen, nicht nur von der Basis-Garantieseite von Supermicro.
- Bei jedem Anbieter gilt: konkret fragen, was bei einem GPU-Ausfall passiert (Ersatz-SLA, ob der gesamte Node oder nur die GPU-Tray eingeschickt werden muss) — das ist der Ausfallmodus, der bei einem GPU-dichten Server am wahrscheinlichsten tatsächlich eintritt.
Welche Fehler machen Enterprise-Einkäufer?
- 8-GPU-SXM5-Kapazität für einen reinen Inferenz-Workload kaufen. Wird nur ein festes Modell für Nutzer bereitgestellt, deckt eine 2U-PCIe-Plattform wie der ProLiant DL380a Gen11 das zu einem Bruchteil von Preis und Komplexität ab.
- Bestellen, bevor die Rack-Kühlkapazität geklärt ist. Ein zweiter oder dritter 8-GPU-SXM5-Server im selben Rack kann die praktische Obergrenze der Luftkühlung überschreiten — das vor der Lieferung mit dem Facility-Team klären, nicht danach.
- Das Netzwerk-Fabric-Budget bei einem „vielleicht skalieren wir später“-Cluster überspringen. InfiniBand oder RoCE nachträglich auf eine bereits ausgerollte Single-Node-Flotte aufzurüsten, ist störender als es von Anfang an einzuplanen.
- Den Listenpreis als Gesamtkosten behandeln. Support-Verträge, Netzwerk-Fabric, Kühlungs-Nachrüstung und Stromversorgungs-Upgrades kommen regelmäßig zu 15-30% zusätzlich zur reinen Server-Hardware-Position hinzu.
- Annehmen, dass H200 immer das richtige Upgrade gegenüber H100 ist. Passen Modell und Batch-Größe bequem in 80GB pro GPU, bringen der zusätzliche Speicher und Preisaufschlag des H200 keinen Vorteil — den tatsächlichen VRAM-Bedarf prüfen, bevor der Aufpreis gezahlt wird.
Häufig gestellte Fragen
Wie viele H100- oder H200-GPUs braucht man für Enterprise-Inferenz vs. Training?
Reine Inferenz-Einsätze, die ein festes Modell für eine moderate Anzahl gleichzeitiger Nutzer bereitstellen, kommen oft mit 1-4 GPUs aus und brauchen gar keine 8-GPU-SXM5-Plattform. Training oder Fine-Tuning großer Modelle (70B+ Parameter) benötigt in der Regel die volle 8-GPU-NVLink-Konfiguration, um Modell, Gradienten und Optimizer-State über die GPUs zu verteilen. Die Anschaffung nach dem Workload dimensionieren, nicht standardmäßig „die größte Plattform kaufen".
Was kostet ein 8-GPU-H100-Rack-Server tatsächlich insgesamt?
Reseller- und Systemhaus-Angebote für eine voll konfigurierte 8x-H100-Einheit lagen grob bei 200.000-375.000 US-Dollar allein für die Hardware, vor Support-Verträgen, Netzwerk-Fabric und einem eventuellen Kühlungs-Upgrade — die kommen typischerweise mit weiteren 15-30% obendrauf. Keiner der vier Anbieter veröffentlicht Listenpreise; für die Budgetierung ein verbindliches Angebot einholen.
Braucht man Flüssigkühlung für ein GPU-dichtes Rack?
Wer mehr als ein oder zwei 8-GPU-H100/H200-SXM5-Server pro Rack unterbringt, ja — jeder zieht unter Volllast grob 10-12kW, und die praktische Grenze der Luftkühlung liegt bei etwa 20-40kW pro Rack. Unterhalb dieser Dichte kann Standard-Luftkühlung noch funktionieren; das vor der Bestellung mit dem Facility-Team klären.
InfiniBand oder Ethernet (RoCE) fürs Netzwerk wählen?
Bei Single-Node-Inferenz keins von beiden — Standard-Ethernet reicht. Bei Multi-Node-Trainingsclustern ist InfiniBand NDR das ausgereiftere, weiter verbreitete High-Bandwidth-RDMA-Fabric; RoCE v2 über Ethernet ist die Alternative, wenn das Netzwerkteam kein separates InfiniBand-Fabric samt Know-how betreiben will.
Dell vs. Lenovo vs. HPE vs. Supermicro — welcher Anbieter hat den besten Enterprise-Support?
Dell, Lenovo und HPE verkaufen jeweils gestaffelten Enterprise-Support (ProSupport, Premier Support bzw. Pointnext Complete Care) über direkte Account-Teams. Supermicro verkauft vorrangig über Systemhäuser und Reseller, Support-Bedingungen variieren daher stärker je nach Reseller als über eine einheitliche Supermicro-Stufe — Support-Bedingungen vor dem Kauf schriftlich vom konkreten Reseller einholen.
H100 vs. H200 vs. L40S — welche GPU sollte man kaufen?
H200 (141GB HBM3e) für Large-Context-Serving oder Training, bei dem 80GB pro GPU ein ungewolltes Cross-GPU-Sharding erzwingen würden. H100 (80GB HBM3) für die breiteste Hersteller- und Reseller-Verfügbarkeit in einem Multi-Node-Trainingscluster, wenn 80GB ausreichen. L40S (48GB GDDR6, PCIe, luftgekühlt) für reine Inferenz mit kleinerem Budget.
Können GPU-Modelle im selben Rack oder Server gemischt werden?
Innerhalb eines einzelnen Servers nicht — eine 8-GPU-SXM5-Plattform ist um ein einziges GPU-Modell herum gebaut und per NVLink verbunden (nicht gemischt). Innerhalb eines Racks schon — ein für Training konfigurierter H100/H200-Server kann neben einem für Inferenz konfigurierten L40S-Server stehen, solange Kühlung und Stromaufnahme jedes Servers separat berücksichtigt werden.
Welche Garantie- und Support-Stufe sollten Enterprise-Einkäufer wählen?
Mindestens die Ersatz-SLA des Anbieters speziell für GPU-Ausfälle klären (nicht nur allgemeinen Hardware-Ausfall) — GPU-Ausfall ist der wahrscheinlichste Ausfallmodus bei einem GPU-dichten Server, und die Ersatzlogistik (Versand einer GPU-Tray vs. des gesamten Node) variiert je nach Anbieter und Stufe. Die Reaktionszeit-Stufe daran ausrichten, wie viel Ausfallzeit der Workload tatsächlich verkraftet.
Ist On-Premises-Hardware bei Enterprise-Größenordnung günstiger als Cloud-GPU-Miete?
Das hängt von der Auslastung ab, nicht nur vom Anschaffungspreis — On-Premises-Hardware hat hohe Vorabkosten, aber niedrige Kosten pro Stunde im Betrieb, während Cloud-Miete keine Vorabkosten, aber einen deutlich höheren Stundensatz hat. Der Break-even liegt typischerweise bei durchgängig hoher, konstanter Auslastung; gelegentliche oder stoßweise Workloads sind meist mit Miete günstiger. Siehe unseren Cloud-GPU-Mietvergleich für einen detaillierten Kostenvergleich.
Wie lange dauert die Lieferung einer 8x-H100- oder -H200-Konfiguration?
Lieferzeiten für GPU-dichte Server haben je nach GPU-Zuteilung und aktueller Nachfrage zwischen mehreren Wochen und wenigen Monaten geschwankt — das ist bei den meisten Anbietern kein Lagerartikel in einer 8-GPU-Konfiguration. Die Lieferzeit als Teil des verbindlichen Angebots klären und den Projektzeitplan danach ausrichten, nicht nur nach dem Preis.
Quellen
- Dell PowerEdge XE9680 Produktseite -- dell.com/en-us/shop/ipovw/poweredge-xe9680
- Lenovo ThinkSystem SR675 V3 Product Guide -- lenovopress.lenovo.com/lp1611-thinksystem-sr675-v3-server
- HPE Cray XD670 QuickSpecs -- hpe.com/us/en/hpe-cray-xd670.html
- HPE ProLiant DL380a Gen11 Datenblatt -- hpe.com/us/en/compute/hpe-proliant-compute/dl380a-gen11.html
- Supermicro SYS-821GE-TNHR Datenblatt -- supermicro.com/en/products/system/datasheet/SYS-821GE-TNHR
- NVIDIA H100/H200 Tensor Core GPU Spezifikationen -- nvidia.com