重要なポイント
- GPU密度: 4社すべてが8GPU SXM5のフラッグシップ機種を持つ(Dell XE9680、HPE Cray XD670、Supermicro SYS-821GE-TNHR)。LenovoとHPEは低密度・低コストのPCIeモデルも販売。
- 価格帯: 8x H100/H200 SXM5サーバーはGPUメモリ(80GB H100 vs 141GB H200)とサポート階層により20万〜40万ドル以上。
- 冷却が真の制約。 8GPU SXM5サーバー2〜3台で、空冷の実用上限とされる1ラックあたり約20〜40kWを超える——この密度を超えると液冷はオプションではなく必須になる。
- ネットワークは学習で重要、推論ではあまり重要ではない。 マルチノード学習クラスタにはInfiniBand NDRまたはRoCE v2 Ethernetファブリックが必要だが、シングルノード推論には不要。
- 予算だけでなくワークロードでGPUを選ぶ。 L40S(48GB、PCIe、空冷)は推論向き、H100/H200(80〜141GB、SXM5、NVLink)は学習・大規模バッチ配信向き。
- 推論容量がGPU1〜2基分で足りる購入者は、そもそもラックサーバーを買うべきではない——その規模にはワークステーション構成が適切。
📍 一文で説明
エンタープライズGPUサーバー購入ではワークロードとベンダーを一致させることが重要——Dell PowerEdge XE9680、HPE Cray XD670、Supermicro SYS-821GE-TNHRは20万〜40万ドル以上の8x H100/H200 SXM5学習プラットフォームで直接競合し、PCIe L40S搭載のHPE ProLiant DL380a Gen11とLenovo ThinkSystem SR675 V3は推論専用予算を3分の1〜半額程度でカバーする。
💬 簡潔に説明
企業向けAIサーバーの購入は、性能の高いゲーミングPCを組むのとはまったく違う。この規模のマシンは家一軒分の価格になり、到着前に冷却と電力の計画が必要で、数年単位のサポート契約が付いてくる。本ガイドでは、実際にこうしたラックマウント型AIサーバーを販売する4社——Dell、Lenovo、HPE、Supermicro——を比較し、単に最も派手なスペックシートではなく、実際の用途(従業員向けにAIモデルを稼働させるのか、ゼロから新しいモデルを学習するのか)に合った適切な規模とベンダーを選べるようにする。
クイックファクト
- Dell PowerEdge XE9680: 6U、最大8x H100/H200 SXM5、デュアルIntel Xeon Platinum、最大4TB DDR5。
- Lenovo ThinkSystem SR675 V3: 3U、最大8GPU(H100/H200/L40S混在可)、デュアルAMD EPYC 9004/9005、最大6TB DDR5、Neptune液冷オプション。
- HPE Cray XD670: 5U、最大8x H100/H200 SXM5、デュアル第4世代Intel Xeon、InfiniBand NDR / Slingshot 11 / Ethernetのファブリック選択肢。
- HPE ProLiant DL380a Gen11: 2U、最大4基(ダブルワイド)または8基(シングルワイド)のGPU(L40S/H100 PCIe)、最大64コアのデュアルIntel Xeon。
- Supermicro SYS-821GE-TNHR: 8U、最大8x H100/H200 SXM5、デュアル第4/5世代Intel Xeon、最大8TB DDR5。
- GPU VRAM: H100 = 80GB HBM3、H200 = 141GB HBM3e、L40S = 48GB GDDR6。
- ラック消費電力: 8x H100/H200 SXM5ノード1台でフル稼働時約10〜12kW——2台で1ラックの実用的な空冷上限を超える。
ユースケース別にどのGPUサーバーを選ぶべきか?
適切なベンダーはブランドの好みではなく、ワークロードとデータセンターの準備状況によって決まる。 学習クラスタ、推論専用構成、液冷対応データセンターは、それぞれ異なるプラットフォームを指し示す。
- 大規模マルチノード学習に最適: Dell PowerEdge XE9680——InfiniBand接続のマルチラッククラスタを構築する上で最も広いエンタープライズ営業・SIネットワークを持つ。
- 液冷対応データセンターに最適: Lenovo ThinkSystem SR675 V3——Neptuneダイレクト・トゥ・チップ液冷は高負荷GPU利用時の冷却コストを大幅に削減し、AMD EPYC CPUオプションも用意。
- 推論専用または小規模な初回導入に最適: HPE ProLiant DL380a Gen11——2U、空冷、PCIe GPU、8x SXM5学習機の3分の1〜半額程度。
- 構成の柔軟性と価格競争力に最適: Supermicro SYS-821GE-TNHR——SIチャネル経由で最も幅広いビルド・トゥ・オーダーの選択肢を持ち、8x H100/H200 SXM5構成への価格競争力あるルートになることが多い。
- 次の場合はラックサーバーを完全に避ける: 実際の需要が小規模チーム向けの推論容量GPU1〜2基分であれば、ローカルLLMワークステーション構築の方が価格は一部で済み、データセンターの冷却計画も不要。
4社のスペックと価格をどう比較するか?
Dell、Lenovo、HPE、Supermicroはいずれも少なくとも1機種の8GPU SXM5プラットフォームを持つが、フォームファクター・冷却オプション・販売チャネルは大きく異なる。
| ベンダー / モデル | フォームファクター | 最大GPU | GPUオプション | 冷却方式 | 価格帯 |
|---|---|---|---|---|---|
| Dell PowerEdge XE9680 | 6U | 8(SXM5、NVLink) | H100 80GB / H200 141GB | 標準空冷、液冷オプション | 約20〜37.5万ドル(8GPU) |
| Lenovo SR675 V3 | 3U | 8(PCIeまたはSXM) | H100 / H200 / L40S | 空冷またはNeptune液冷 | 構成により大きく変動 |
| HPE Cray XD670 | 5U | 8(SXM5、NVLink) | H100 80GB / H200 141GB | 標準空冷 | 見積もりのみ |
| HPE ProLiant DL380a Gen11 | 2U | ダブルワイド4 / シングル8 | L40S / H100 PCIe | 空冷のみ | 低価格帯——見積もりのみ |
| Supermicro SYS-821GE-TNHR | 8U | 8(SXM5、NVLink) | H100 80GB / H200 141GB | 標準空冷 | 約20〜32万ドル(8GPU) |
Dell PowerEdge XE9680は何を提供するか?
Dell PowerEdge XE9680は、NVLink接続の8基のNVIDIA HGX H100またはH200 SXM5 GPUを搭載する6Uラックサーバーで、大規模モデルの学習・推論専用に設計されている。 第4/第5世代Intel Xeon Scalableプロセッサ(各最大56コア)2基、最大32枚のDDR5 DIMMスロット(最大4TB、4800 MT/s)、ネットワークとストレージ拡張用の10基のPCIe Gen5 x16スロットを組み合わせる。
標準では空冷で出荷される。ラックあたり約20〜30kWを超え、空冷が実用的でなくなるデータセンター向けにDellは液冷オプションを用意している。
価格は非公開——フル構成の8x H100/H200ユニットに対するリセラー・SI見積もりは、GPUメモリ階層・RAM・ストレージ・サポートレベルによりおおむね20万〜37.5万ドルの範囲で推移している。予算策定前にDell.comで正式見積もりを取得すること。
Lenovo ThinkSystem SR675 V3は何を提供するか?
Lenovo ThinkSystem SR675 V3は、NVIDIA H100・H200・L40Sを含む最大8基のダブルワイドまたはシングルワイドGPUに対応する3Uラックサーバーで、第5世代AMD EPYC 9004/9005プロセッサ2基、24 DIMMスロットで最大6TBのDDR5-4800メモリを搭載する。
最大の特徴はLenovo Neptune——ダイレクト・トゥ・チップおよびハイブリッド液空冷システムで、構成オプションとして選択可能。既に液冷ループを運用している、あるいは導入予定の施設を持つ購入者にとって、空冷単独と比較して持続的な高GPU利用時の冷却コストを大幅に削減できる点で意味がある。
SR675 V3は混合GPU構成(H200 4GPU NVLink構成、または推論寄りのL40S構成)にも対応しており、学習と推論の両方を1つのシャーシファミリーでカバーしたい購入者にとって、本比較の中で最も構成の柔軟性が高いプラットフォームとなる。構成はLenovo.comから。
HPE Cray XD670とProLiant DL380a Gen11は何を提供するか?
HPEは2つの異なるGPUサーバー階層を販売している:大規模学習向けのCray XD670と、推論・小規模導入向けのProLiant DL380a Gen11だ。
Cray XD670は、第4世代Intel Xeonプロセッサ2基と8基のNVIDIA H100またはH200 SXM5 GPUを搭載する5Uシャーシ。最大の特徴はファブリック選択の自由度——8基のPCIe Gen5ハーフハイトスロットがHPE Slingshot 11、InfiniBand NDR、標準Ethernetに対応する。既存のHPE Cray スーパーコンピューティング基盤でSlingshotに標準化済みの購入者に意味がある。
ProLiant DL380a Gen11は、4基のダブルワイドまたは8基のシングルワイドGPU(L40SまたはH100 PCIe)、最大3TBのDDR5、PCIe 5.0に対応する2Uサーバー——8GPU SXM5プラットフォームを正当化できない推論ワークロードや初回GPU購入向けの、空冷・低密度オプション。両モデルともHPE.comで確認できる。
Supermicro SYS-821GE-TNHRは何を提供するか?
Supermicro SYS-821GE-TNHRは、最大8基のNVIDIA HGX H100(80GB)またはHGX H200(141GB)GPU、第4/第5世代Intel Xeon Scalableプロセッサ2基、32枚のDIMMスロットで最大8TBのDDR5-5600メモリに対応する8Uラックサーバー——本比較の4プラットフォーム中最大のRAM容量を持つ。
Supermicroは直接のエンタープライズ営業チームではなく、主にSI・リセラーチャネル経由で販売している。これは通常、より高いビルド・トゥ・オーダーの柔軟性(ドライブベイ、ネットワークカード、電源冗長性)を意味し、現行のリセラー掲載情報によれば8x H100構成に対して競争力のある開始価格になることが多い——ベース構成の見積もりはおおむね20万〜32万ドルで推移しており、フル構成はさらに高くなる。
ストレージが強み:最大19基のホットスワップ2.5インチNVMe/SATA/SASベイに加え、M.2スロット2基——推論やファインチューニングと並行して大規模なローカルデータセットを運用する購入者に有用。ベース構成はSupermicro.comで確認できる。
H100、H200、L40Sのどれを買うべきか?
H200はメモリと帯域幅で優位、H100はより入手しやすく多くの場合安価なSXM5オプション、L40Sは推論専用向けの空冷PCIe選択肢だ。 2026年9月時点で3種すべてが現行のNVIDIAデータセンター向けGPUであり、いずれも近く廃止される予定はない——選択基準は陳腐化リスクではなくワークロード適合性だ。
- H200を選ぶ場合: 大コンテキストワークロードを配信する、あるいは80GB/GPUでは避けたいクロスGPUシャーディングが必要になる大きなモデルを学習する場合。
- H100を選ぶ場合: マルチノードNVLink/InfiniBand学習クラスタで最も広いベンダー・リセラー入手性が必要で、80GB/GPUがモデルサイズに十分な場合。
- L40Sを選ぶ場合: ワークロードが推論専用で、データセンターが空冷のみで、想定する量子化レベルで最大モデルが48GB/GPUに収まる場合。
| GPU | VRAM | メモリ帯域幅 | 最適な用途 |
|---|---|---|---|
| NVIDIA H100 SXM5 | 80GB HBM3 | 3.35 TB/s | マルチノード学習、最も広い入手性 |
| NVIDIA H200 SXM | 141GB HBM3e | 4.8 TB/s | 大コンテキスト配信、より大きなバッチ学習 |
| NVIDIA L40S | 48GB GDDR6 | 864 GB/s | 空冷PCIe推論、低予算 |
GPU高密度ラックにはどれだけの電力・冷却が必要か?
8GPU H100/H200 SXM5サーバー1台はフル稼働時約10〜12kWを消費する——700WのGPU8基だけでCPU・メモリ・ファンを除いても5.6kWに達する。 この種のサーバーが1ラックに2〜3台入るだけで、空冷の実用的な上限を超えてしまう。
業界の目安では空冷の実用上限は1ラックあたり約20〜40kW。それを超えると液冷(ダイレクト・トゥ・チップまたは液浸)が必要になり、1ラックあたり100〜200kW以上を支えられる。参考までに、NVIDIA GB200 NVL72ラックスケールシステムの総消費電力は約120〜130kW——これはAIラック密度が向かう方向を示すデータポイントであり、本記事で比較したいずれのサーバーの仕様でもない。
購入者にとっての実務的な含意:1ラックに8GPU SXM5サーバーを2台以上設置するなら、標準的なデータセンター空調が対応できると想定するのではなく、ダイレクト・トゥ・チップ液冷(Lenovo Neptune、または施設レベルの液冷ループ)を計画すべきだ。
InfiniBandと標準Ethernet、どちらが必要か?
シングルノード推論の展開にはInfiniBandは不要——標準の100/200GbE Ethernetで十分だ。 複数サーバーのGPU同士が絶えず勾配を同期する必要があるマルチノード学習・ファインチューニングクラスタには、専用の高帯域幅・低遅延ファブリックが必要になる。
そのファブリックの選択肢は2つ:InfiniBand NDR(400Gb/sのリンク、伝統的なHPCの選択肢で、フラッグシップ機ではGPU1基あたり1NIC)とRoCE v2(Converged Ethernet上のRDMA——例えばNVIDIA Spectrum-X——ネットワークチームが既に運用している可能性のある標準Ethernetファブリック上で同等のスループットを提供)。
- InfiniBand NDRを使う場合: 専用のマルチノード学習クラスタを構築しており、その規模で最も成熟し広く普及しているRDMAファブリックを求める場合。
- RoCE v2(Ethernet)を使う場合: チームが既にコンバージドEthernetネットワークを運用しており、別途InfiniBandファブリックとスキルセットを維持したくない場合。
- 両方とも不要な場合: シングルノード推論のみを運用している場合——標準ネットワークで十分であり、追加ファブリックのコストは正当化されない。
ワークロードに合わせてGPUサーバー購入をどう規模設定するか?
購入規模はワークロードに合わせて決めるべきで、入手可能な最大構成に合わせるべきではない。 推論専用の展開と学習・ファインチューニングの展開では、GPU・メモリ・ネットワークの要件が根本的に異なる。
- 1まずワークロードを分類する
Why it matters: 推論専用(固定モデルをユーザーに提供する)は、モデル重みに加えて勾配とオプティマイザ状態を保持する必要がある学習・ファインチューニングと比べて、必要なGPUメモリがはるかに少なく、マルチノードファブリックも不要。 - 2モデルサイズと量子化からGPUメモリ需要を見積もる
Why it matters: 70Bパラメータのモデルは FP16でオーバーヘッド前に約140GBのVRAMが必要——これだけでシングルGPUのL40S(48GB)は選択肢から外れ、マルチGPU H100/H200シャーディングか、より小さい・量子化されたモデルのいずれかを検討することになる。 - 3シングルノードかマルチノードかを決める
Why it matters: 8GPUサーバー1台の合計VRAMがモデルと想定同時実行数をカバーできるなら、InfiniBand/RoCEは完全にスキップしてファブリックコストを節約できる。カバーできない場合は最初から専用ネットワークファブリックの予算を組むこと。 - 4発注前に冷却をラック密度に合わせる
Why it matters: 1ラックに8GPU SXM5サーバーを2台以上導入する前に、対象ラックが液冷に対応できるか施設チームと確認すること——納品後の冷却改修は事前計画よりはるかに高コストになる。 - 5正式見積もりと納期を確認する
Why it matters: これらのベンダーはいずれも8GPU構成の定価を公開しておらず、GPU高密度サーバーの納期はGPUの割当状況によって数週間から数か月まで幅がある——価格だけでなくスケジュールも予算に組み込むこと。
どの保証・サポート階層を選ぶべきか?
4社すべてが基本的なハードウェア保証を超えた階層型のエンタープライズサポートを提供しているが、階層名・応答時間・含まれるサービスは異なる——プログラムは変更されるため、購入前に必ずベンダーに直接最新条件を確認すること。
- DellはXE9680と併せてProSupport階層(より迅速なミッションクリティカル対応を含むオプションも)を販売している——標準のPowerEdge階層ではなく、GPUサーバー適格サポートを具体的に確認すること。
- LenovoはThinkSystemライン向けにPremier Support階層を販売しており、オンサイト対応や予防的モニタリングのオプションがある。
- HPEはPointnext Complete Care経由でサポートを販売し、6桁の初期費用を避けたい購入者向けに、資本購入の代替として従量課金型のHPE GreenLakeも用意している。
- Supermicroのサポート条件は、他の3社よりもリセラー・SIごとの差が大きい。その理由は、直接のエンタープライズ営業よりもこのチャネル経由の販売量が多いためだ——Supermicroのベースとなる保証ページだけでなく、具体的なリセラーからサポート条件を書面で入手すること。
- どのベンダーでも共通して確認すべき点:GPU故障時に何が起こるか具体的に聞く(交換SLA、ノード全体を送る必要があるのかGPUトレイだけでよいのか)——これはGPU高密度サーバーで実際に最も起こりやすい故障モードだ。
エンタープライズ購入者が犯しがちなミスは?
- 推論専用ワークロードに対して8GPU SXM5容量を購入する。 固定モデルをユーザーに提供するだけなら、ProLiant DL380a Gen11のような2U PCIeプラットフォームで、価格と複雑さの一部でカバーできる。
- ラックの冷却容量を確認する前に発注する。 同じラックに2台目・3台目の8GPU SXM5サーバーを入れると空冷の実用上限を超える可能性がある——ハードウェア到着前に施設チームと確認すべきで、後からでは遅い。
- 「後で拡張するかもしれない」クラスタでネットワークファブリック予算を省く。 既に展開済みのシングルノード群に後からInfiniBandやRoCEを追加する方が、当初購入時に予算化するより破壊的になる。
- 定価を総コストと見なす。 サポート契約、ネットワークファブリック、冷却改修、電力インフラのアップグレードは、サーバーハードウェアの項目に対して定常的に15〜30%を上乗せする。
- H200が常にH100からの正しいアップグレードだと仮定する。 モデルとバッチサイズが80GB/GPUに余裕を持って収まるなら、H200の追加メモリと追加コストは何も生まない——プレミアムを支払う前に実際のVRAM需要を確認すること。
よくある質問
エンタープライズの推論と学習それぞれ、H100またはH200は何基必要か?
中程度の同時ユーザー数に固定モデルを提供する推論専用の展開は、多くの場合1〜4基で足り、8GPU SXM5プラットフォームは全く必要ない。大規模モデル(70B以上のパラメータ)の学習・ファインチューニングでは、通常GPU間でモデル・勾配・オプティマイザ状態を分散するためフル8GPU NVLink構成が必要になる。購入規模は「最大プラットフォームを買う」というデフォルトではなく、ワークロードから決めること。
8GPU H100ラックサーバーの実際の総コストはいくらか?
フル構成の8x H100ユニットに対するリセラー・SI見積もりは、ハードウェアのみでおおむね20万〜37.5万ドルの範囲。これにサポート契約、ネットワークファブリック、冷却インフラのアップグレードが加わり、通常さらに15〜30%上乗せされる。4社いずれも定価を公開していないため、予算策定前に正式見積もりを取得すること。
GPU高密度ラックには液冷が必要か?
1ラックに8GPU H100/H200 SXM5サーバーを2台以上設置するなら必要——各サーバーがフル稼働時約10〜12kWを消費し、空冷の実用上限は1ラックあたり約20〜40kW程度とされる。この密度以下であれば標準の空冷でも機能する可能性があるため、発注前に施設チームと確認すること。
ネットワークにはInfiniBandとEthernet(RoCE)のどちらを選ぶべきか?
シングルノード推論であればどちらも不要——標準Ethernetで十分。マルチノード学習クラスタでは、InfiniBand NDRがより成熟し広く普及した高帯域幅RDMAファブリック。ネットワークチームが別途InfiniBandファブリックとスキルセットを維持したくない場合の代替がEthernet上のRoCE v2だ。
Dell vs Lenovo vs HPE vs Supermicro——どのベンダーのエンタープライズサポートが最も優れているか?
Dell、Lenovo、HPEはそれぞれ直接のアカウントチーム経由で階層型のエンタープライズサポート(それぞれProSupport、Premier Support、Pointnext Complete Care)を販売している。Supermicroは主にシステムインテグレーターとリセラー経由で販売するため、サポート条件は単一のSupermicro全社階層よりもリセラーごとの差が大きい——購入前に具体的なリセラーからサポート条件を書面で入手すること。
H100 vs H200 vs L40S——どのGPUを買うべきか?
大コンテキスト配信、または80GB/GPUでは避けたいクロスGPUシャーディングが必要な学習にはH200(141GB HBM3e)。80GBで十分なマルチノード学習クラスタで最も広いベンダー・リセラー入手性を求めるならH100(80GB HBM3)。低予算での推論専用にはL40S(48GB GDDR6、PCIe、空冷)を選ぶ。
同じラックやサーバー内でGPUモデルを混在できるか?
1台のサーバー内では不可——8GPU SXM5プラットフォームは単一のGPUモデル(すべてH100、またはすべてH200)を中心にNVLink接続で構築されており、混在はできない。ラック内では可能——学習用にH100/H200を構成したサーバーと、推論用にL40Sを構成した別のサーバーを、各サーバーの冷却と消費電力を個別に考慮する限り併設できる。
エンタープライズ購入者はどの保証・サポート階層を選ぶべきか?
最低限、GPU故障に特化したベンダーの交換SLAを確認すること(一般的なハードウェア故障ではなく)——GPU故障はGPU高密度サーバーで最も起こりやすい故障モードであり、交換ロジスティクス(GPUトレイのみの発送かノード全体か)はベンダーと階層によって異なる。応答時間の階層は、ワークロードが実際に許容できるダウンタイムに合わせて選ぶこと。
エンタープライズ規模では、オンプレミスハードウェアはクラウドGPUレンタルより安いか?
これは定価だけでなく稼働率に左右される——オンプレミスハードウェアは初期費用が高いが稼働後の時間あたりコストは低い一方、クラウドレンタルは初期費用がないが時間あたりのレートははるかに高い。分岐点は通常、持続的でほぼ一定の稼働率にある。散発的・バースト的なワークロードは通常レンタルの方が安くつく。詳しいコスト比較はクラウドGPUレンタルガイドを参照。
8x H100またはH200構成の納期はどのくらいか?
GPU高密度サーバーの納期は、GPUの割当状況と現在の需要によって数週間から数か月まで幅がある——ほとんどのベンダーにとって8GPU構成は在庫品ではない。正式見積もりの一部として納期を確認し、価格だけでなくプロジェクトのスケジュールもそれに合わせて予算化すること。
出典
- Dell PowerEdge XE9680 製品ページ -- dell.com/en-us/shop/ipovw/poweredge-xe9680
- Lenovo ThinkSystem SR675 V3 Product Guide -- lenovopress.lenovo.com/lp1611-thinksystem-sr675-v3-server
- HPE Cray XD670 QuickSpecs -- hpe.com/us/en/hpe-cray-xd670.html
- HPE ProLiant DL380a Gen11 データシート -- hpe.com/us/en/compute/hpe-proliant-compute/dl380a-gen11.html
- Supermicro SYS-821GE-TNHR データシート -- supermicro.com/en/products/system/datasheet/SYS-821GE-TNHR
- NVIDIA H100/H200 Tensor Core GPU仕様 -- nvidia.com