重要なポイント
- GPU密度: Dell XE9680、HPE Cray XD670、Supermicro SYS-821GE-TNHRはそれぞれ8GPU SXM5のフラッグシップ機種を持つ。LenovoのSXM5モジュールは4GPUが上限で、8GPU構成はPCIeとして提供される。LenovoとHPEは推論向けに低密度・低コストのPCIeモデルも販売。
- 価格帯: 8x H100/H200 SXM5サーバーはGPUメモリ(80GB H100 vs 141GB H200)とサポート階層により20万〜40万ドル以上。
- 冷却が真の制約。 8GPU SXM5サーバー2〜3台で、空冷の実用上限とされる1ラックあたり約20〜40kWを超える——この密度を超えると液冷はオプションではなく必須になる。
- ネットワークは学習で重要、推論ではあまり重要ではない。 マルチノード学習クラスタにはInfiniBand NDRまたはRoCE v2 Ethernetファブリックが必要だが、シングルノード推論には不要。
- 予算だけでなくワークロードでGPUを選ぶ。 L40S(48GB、PCIe、空冷)は推論向き、H100/H200(80〜141GB、SXM5、NVLink)は学習・大規模バッチ配信向き。
- 推論容量がGPU1〜2基分で足りる購入者は、そもそもラックサーバーを買うべきではない——その規模にはワークステーション構成が適切。
📍 一文で説明
エンタープライズGPUサーバー購入ではワークロードとベンダーを一致させることが重要——Dell PowerEdge XE9680、HPE Cray XD670、Supermicro SYS-821GE-TNHRは20万〜40万ドル以上の8x H100/H200 SXM5学習プラットフォームで直接競合し、PCIe L40S搭載のHPE ProLiant DL380a Gen11とLenovo ThinkSystem SR675 V3は推論専用予算を3分の1〜半額程度でカバーする。
💬 簡潔に説明
企業向けAIサーバーの購入は、性能の高いゲーミングPCを組むのとはまったく違う。この規模のマシンは家一軒分の価格になり、到着前に冷却と電力の計画が必要で、数年単位のサポート契約が付いてくる。本ガイドでは、実際にこうしたラックマウント型AIサーバーを販売する4社——Dell、Lenovo、HPE、Supermicro——を比較し、単に最も派手なスペックシートではなく、実際の用途(従業員向けにAIモデルを稼働させるのか、ゼロから新しいモデルを学習するのか)に合った適切な規模とベンダーを選べるようにする。
クイックファクト
- Dell PowerEdge XE9680: 6U、最大8x H100/H200 SXM5、デュアルIntel Xeon Platinum、最大4TB DDR5。
- Lenovo ThinkSystem SR675 V3: 3U、最大4x H100/H200 SXM5(NVLinkモジュール)または最大8x PCIe GPU(H100/L40S)、デュアルAMD EPYC 9004/9005、最大6TB DDR5、Neptune液冷オプション。
- HPE Cray XD670: 5U、最大8x H100/H200 SXM5、デュアル第4世代Intel Xeon、InfiniBand NDR / Slingshot 11 / Ethernetのファブリック選択肢。
- HPE ProLiant DL380a Gen11: 2U、最大4基(ダブルワイド)または8基(シングルワイド)のGPU(L40S/H100 PCIe)、最大64コアのデュアルIntel Xeon。
- Supermicro SYS-821GE-TNHR: 8U、最大8x H100/H200 SXM5、デュアル第4/5世代Intel Xeon、最大8TB DDR5。
- GPU VRAM: H100 = 80GB HBM3、H200 = 141GB HBM3e、L40S = 48GB GDDR6。
- ラック消費電力: 8x H100/H200 SXM5ノード1台でフル稼働時約10〜12kW——2台で1ラックの実用的な空冷上限を超える。
エンタープライズAIサーバーの見積もりを取得する
エンタープライズGPUサーバーの価格は見積もりベースで、GPUの入手状況・メモリ・ストレージ・サポート・地域によって変動する——最初に連絡したベンダーで即決しないこと。まずは以下の4社の構成を比較すること。
ベンダー | 最適な用途 | アクション |
|---|---|---|
| Dell | 大規模マルチノード学習・推論クラスタ | Dell PowerEdge XE9680 構成を確認 → |
| Lenovo | 液冷対応または構成の柔軟性を求める導入 | Lenovo ThinkSystem SR675 V3 を構成 → |
| HPE | エンタープライズ学習(Cray XD670)または小規模推論構成(ProLiant DL380a) | HPE GPUサーバーを見る → |
| Supermicro | 構成の柔軟性と価格競争力 | Supermicro認定パートナーを探す → |
ユースケース別にどのGPUサーバーを選ぶべきか?
適切なベンダーはブランドの好みではなく、ワークロードとデータセンターの準備状況によって決まる。 学習クラスタ、推論専用構成、液冷対応データセンターは、それぞれ異なるプラットフォームを指し示す。
- 🏆 **総合ベスト:Dell PowerEdge XE9680。** エンタープライズAI学習と大規模推論に最適。最大8x H100/H200 SXM5、6Uフォームファクター、フル構成8GPUユニットでおおむね20万〜37.5万ドル。選ぶべき最大の理由:InfiniBand接続のマルチラッククラスタを構築する上で最も広いエンタープライズ営業・SIネットワークを持つこと。
- 💧 **液冷対応デプロイに最適:Lenovo ThinkSystem SR675 V3。** Neptuneダイレクト・トゥ・チップ液冷は高負荷GPU利用時の冷却コストを大幅に削減し、AMD EPYC CPUオプションも用意。SXM5モジュールはNVLink接続で4x H100/H200が上限——1台のサーバーで8x SXM5が必要な場合はDell、HPE Cray XD670、Supermicroを検討すること。SR675 V3の8GPU構成はPCIeとなる。
- 推論専用または小規模な初回導入に最適: HPE ProLiant DL380a Gen11——2U、空冷、PCIe GPU、8x SXM5学習機の3分の1〜半額程度。
- 構成の柔軟性と価格に最適: Supermicro SYS-821GE-TNHR——SIチャネル経由で最も幅広いビルド・トゥ・オーダーの選択肢を持ち、8x H100/H200 SXM5構成への価格競争力あるルートになることが多い。
- 大容量メモリワークロードに最適なGPU: NVIDIA H200(141GB HBM3e)——詳細は下記H100 vs H200 vs L40Sを参照。
- 低コストな推論オプション: NVIDIA L40S(48GB GDDR6、PCIe、空冷)。
- 次の場合はラックサーバーを完全に避ける: 実際の需要が小規模チーム向けの推論容量GPU1〜2基分であれば、ローカルLLMワークステーション構築の方が価格は一部で済み、データセンターの冷却計画も不要。
4社のスペックと価格をどう比較するか?
Dell、HPE、Supermicroはそれぞれ8GPU SXM5プラットフォームを持つ。LenovoのSXM5モジュールは4GPUが上限で、8GPU構成はPCIeのみで提供される。 フォームファクター・冷却オプション・販売チャネルも大きく異なる。
ベンダー / モデル | フォームファクター | 最大GPU | HGX/SXM5 | PCIe | 液冷 |
|---|---|---|---|---|---|
| Dell PowerEdge XE9680 | 6U | 8 | 8x H100/H200 | — | オプション |
| Lenovo SR675 V3 | 3U | 8 | 4x H100/H200(NVLinkモジュール) | 最大8x(H100/L40S) | Neptune(オプション) |
| HPE Cray XD670 | 5U | 8 | 8x H100/H200 | — | オプション(DLC) |
| HPE ProLiant DL380a Gen11 | 2U | 8 | — | ダブルワイド4 / シングル8 | 空冷のみ |
| Supermicro SYS-821GE-TNHR | 8U | 8 | 8x H100/H200 | — | 構成による |
Dell PowerEdge XE9680は何を提供するか?
Dell PowerEdge XE9680は、NVLink接続の8基のNVIDIA HGX H100またはH200 SXM5 GPUを搭載する6Uラックサーバーで、大規模モデルの学習・推論専用に設計されている。 第4/第5世代Intel Xeon Scalableプロセッサ(各最大56コア)2基、最大32枚のDDR5 DIMMスロット(最大4TB、4800 MT/s)、ネットワークとストレージ拡張用の10基のPCIe Gen5 x16スロットを組み合わせる。
標準では空冷で出荷される。ラックあたり約20〜30kWを超え、空冷が実用的でなくなるデータセンター向けにDellは液冷オプションを用意している。
価格は非公開——フル構成の8x H100/H200ユニットに対するリセラー・SI見積もりは、GPUメモリ階層・RAM・ストレージ・サポートレベルによりおおむね20万〜37.5万ドルの範囲で推移している。予算策定前にDell.comで正式見積もりを取得すること。
Lenovo ThinkSystem SR675 V3は何を提供するか?
Lenovo ThinkSystem SR675 V3は3Uラックサーバーで、2つの異なるGPU構成を選択できる:NVIDIA HGX H100/H200を4基搭載したNVLink接続SXM5モジュール(Lenovo Neptuneハイブリッド液冷付き)、または最大8基のダブルワイドPCIe GPU(H100またはL40S、標準空冷)だ。 いずれの構成も第5世代AMD EPYC 9004/9005プロセッサ2基、24 DIMMスロットで最大6TBのDDR5-4800メモリと組み合わされる。
ベンダー比較で正しく理解すべき唯一のポイントがここにある:SR675 V3の「8GPU」という数字とSXM5/NVLinkの数字は同じ構成を指していない。 Dell、HPE Cray XD670、Supermicroはいずれも単一のNVLinkドメイン内で8x H100/H200 SXM5を提供するが、LenovoのSXM5モジュールは4GPUが上限だ。1台のサーバーでNVLink接続の8GPUが必要な場合、Lenovoはその選択肢にならない——同社の8GPU構成はPCIeとなる。
最大の特徴はLenovo Neptune——ダイレクト・トゥ・チップおよびハイブリッド液空冷システムで、SXM5モジュール上の構成オプションとして選択可能。既に液冷ループを運用している、あるいは導入予定の施設を持つ購入者にとって、空冷単独と比較して持続的な高GPU利用時の冷却コストを大幅に削減できる点で意味がある。
この2系統設計により、SR675 V3は液冷の学習ティアと空冷の推論ティアの両方を1つのシャーシファミリーでカバーしたい購入者にとって、本比較の中で最も構成の柔軟性が高いプラットフォームとなる。構成はLenovo.comから。
HPE Cray XD670とProLiant DL380a Gen11は何を提供するか?
HPEは2つの異なるGPUサーバー階層を販売している:大規模学習向けのCray XD670と、推論・小規模導入向けのProLiant DL380a Gen11だ。
Cray XD670は、第4世代Intel Xeonプロセッサ2基と8基のNVIDIA H100またはH200 SXM5 GPUを搭載する5Uシャーシ。最大の特徴はファブリック選択の自由度——8基のPCIe Gen5ハーフハイトスロットがHPE Slingshot 11、InfiniBand NDR、標準Ethernetに対応する。既存のHPE Cray スーパーコンピューティング基盤でSlingshotに標準化済みの購入者に意味がある。
ProLiant DL380a Gen11は、4基のダブルワイドまたは8基のシングルワイドGPU(L40SまたはH100 PCIe)、最大3TBのDDR5、PCIe 5.0に対応する2Uサーバー——8GPU SXM5プラットフォームを正当化できない推論ワークロードや初回GPU購入向けの、空冷・低密度オプション。両モデルともHPE.comで確認できる。
Supermicro SYS-821GE-TNHRは何を提供するか?
Supermicro SYS-821GE-TNHRは、最大8基のNVIDIA HGX H100(80GB)またはHGX H200(141GB)GPU、第4/第5世代Intel Xeon Scalableプロセッサ2基、32枚のDIMMスロットで最大8TBのDDR5-5600メモリに対応する8Uラックサーバー——本比較の4プラットフォーム中最大のRAM容量を持つ。
Supermicroは直接のエンタープライズ営業チームではなく、主にSI・リセラーチャネル経由で販売している。これは通常、より高いビルド・トゥ・オーダーの柔軟性(ドライブベイ、ネットワークカード、電源冗長性)を意味し、現行のリセラー掲載情報によれば8x H100構成に対して競争力のある開始価格になることが多い——ベース構成の見積もりはおおむね20万〜32万ドルで推移しており、フル構成はさらに高くなる。
ストレージが強み:最大19基のホットスワップ2.5インチNVMe/SATA/SASベイに加え、M.2スロット2基——推論やファインチューニングと並行して大規模なローカルデータセットを運用する購入者に有用。ベース構成はSupermicro.comで確認できる。
H100、H200、L40Sのどれを買うべきか?
H200はメモリと帯域幅で優位、H100はより入手しやすく多くの場合安価なSXM5オプション、L40Sは推論専用向けの空冷PCIe選択肢だ。 2026年9月時点で3種すべてが現行のNVIDIAデータセンター向けGPUであり、いずれも近く廃止される予定はない——選択基準は陳腐化リスクではなくワークロード適合性だ。
- H200を選ぶ場合: 大コンテキストワークロードを配信する、あるいは80GB/GPUでは避けたいクロスGPUシャーディングが必要になる大きなモデルを学習する場合。
- H100を選ぶ場合: マルチノードNVLink/InfiniBand学習クラスタで最も広いベンダー・リセラー入手性が必要で、80GB/GPUがモデルサイズに十分な場合。
- L40Sを選ぶ場合: ワークロードが推論専用で、データセンターが空冷のみで、想定する量子化レベルで最大モデルが48GB/GPUに収まる場合。
GPU | VRAM | メモリ帯域幅 | 最適な用途 |
|---|---|---|---|
| NVIDIA H100 SXM5 | 80GB HBM3 | 3.35 TB/s | マルチノード学習、最も広い入手性 |
| NVIDIA H200 SXM | 141GB HBM3e | 4.8 TB/s | 大コンテキスト配信、より大きなバッチ学習 |
| NVIDIA L40S | 48GB GDDR6 | 864 GB/s | 空冷PCIe推論、低予算 |
エンタープライズGPUサーバーの実際の費用はいくらか?
8x H100/H200サーバーのハードウェア項目は予算の一部にすぎない。サポート、ネットワーク、ラック電力、冷却、ストレージ、導入作業は通常別見積もりとなり、サーバー本体に対して15〜30%程度が追加されるのが一般的だ——サーバーの見積もりだけでなく、導入全体の総コストを見積もること。
- これらはリセラー・SI見積もりに基づく目安レンジであり、リアルタイム価格ツールではない——4社いずれも8GPU構成の定価は公開していない。予算策定に使える数字を得るには上記ベンダーから見積もりを取得すること。
項目 | 目安コスト |
|---|---|
| 8x H100/H200 SXM5サーバー(ハードウェア) | 20万〜40万ドル以上 |
| エンタープライズサポート契約(3〜5年) | 別途加算——見積もりのみ |
| ネットワーク(マルチノードの場合、InfiniBand NDRまたはRoCE v2) | 別途加算——見積もりのみ |
| ラック電力インフラのアップグレード(必要な場合) | 別途加算——サイト依存 |
| 冷却(空冷密度を超える場合の液冷改修) | 別途加算——サイト依存 |
| ストレージ(データセット・チェックポイント用NVMe) | 別途加算——見積もりのみ |
| 導入・統合作業 | 別途加算——見積もりのみ |
| 一般的な導入総額 | ハードウェア価格+15〜30% |
GPU高密度ラックにはどれだけの電力・冷却が必要か?
8GPU H100/H200 SXM5サーバー1台はフル稼働時約10〜12kWを消費する——700WのGPU8基だけでCPU・メモリ・ファンを除いても5.6kWに達する。 この種のサーバーが1ラックに2〜3台入るだけで、空冷の実用的な上限を超えてしまう。
業界の目安では空冷の実用上限は1ラックあたり約20〜40kW。それを超えると液冷(ダイレクト・トゥ・チップまたは液浸)が必要になり、1ラックあたり100〜200kW以上を支えられる。参考までに、NVIDIA GB200 NVL72ラックスケールシステムの総消費電力は約120〜130kW——これはAIラック密度が向かう方向を示すデータポイントであり、本記事で比較したいずれのサーバーの仕様でもない。
購入者にとっての実務的な含意:1ラックに8GPU SXM5サーバーを2台以上設置するなら、標準的なデータセンター空調が対応できると想定するのではなく、ダイレクト・トゥ・チップ液冷(Lenovo Neptune、または施設レベルの液冷ループ)を計画すべきだ。
InfiniBandと標準Ethernet、どちらが必要か?
シングルノード推論の展開にはInfiniBandは不要——標準の100/200GbE Ethernetで十分だ。 複数サーバーのGPU同士が絶えず勾配を同期する必要があるマルチノード学習・ファインチューニングクラスタには、専用の高帯域幅・低遅延ファブリックが必要になる。
そのファブリックの選択肢は2つ:InfiniBand NDR(400Gb/sのリンク、伝統的なHPCの選択肢で、フラッグシップ機ではGPU1基あたり1NIC)とRoCE v2(Converged Ethernet上のRDMA——例えばNVIDIA Spectrum-X——ネットワークチームが既に運用している可能性のある標準Ethernetファブリック上で同等のスループットを提供)。
- InfiniBand NDRを使う場合: 専用のマルチノード学習クラスタを構築しており、その規模で最も成熟し広く普及しているRDMAファブリックを求める場合。
- RoCE v2(Ethernet)を使う場合: チームが既にコンバージドEthernetネットワークを運用しており、別途InfiniBandファブリックとスキルセットを維持したくない場合。
- 両方とも不要な場合: シングルノード推論のみを運用している場合——標準ネットワークで十分であり、追加ファブリックのコストは正当化されない。
AIサーバーを購入すべきか、GPUクラウドをレンタルすべきか?
高く持続的な利用率では購入が有利、変動的・スポット的なワークロードではレンタルが有利。 分岐点は企業規模ではなく利用率だ——資金が潤沢な企業でも利用が波打つ場合は、レンタルの方が有利なままのことがある。
- この表は概要にすぎず、完全なモデルではない——判断前にGPUクラウドレンタル vs オンプレ購入:エンタープライズAI TCO比較でcapex対opexの完全なTCO分析を参照すること。
要素 | サーバー購入 | GPUクラウドレンタル |
|---|---|---|
| 初期費用 | 非常に高い(6桁) | 低い/なし |
| 高稼働時の長期コスト | 低くなる可能性 | 高くなる可能性 |
| 元を取るのに必要な稼働率 | 高く持続的である必要 | 柔軟——時間単位課金 |
| インフラの制御 | 最大 | 低い |
| データ主権 | 完全に自社管理 | プロバイダー・地域次第 |
| 導入スピード | 数週間〜数か月(納期) | 数分〜数時間 |
| 最適な用途 | 高く予測可能な稼働率 | 変動的・短期的なワークロード |
ワークロードに合わせてGPUサーバー購入をどう規模設定するか?
購入規模はワークロードに合わせて決めるべきで、入手可能な最大構成に合わせるべきではない。 推論専用の展開と学習・ファインチューニングの展開では、GPU・メモリ・ネットワークの要件が根本的に異なる。
- 1まずワークロードを分類する
Why it matters: 推論専用(固定モデルをユーザーに提供する)は、モデル重みに加えて勾配とオプティマイザ状態を保持する必要がある学習・ファインチューニングと比べて、必要なGPUメモリがはるかに少なく、マルチノードファブリックも不要。 - 2モデルサイズと量子化からGPUメモリ需要を見積もる
Why it matters: 70Bパラメータのモデルは FP16でオーバーヘッド前に約140GBのVRAMが必要——これだけでシングルGPUのL40S(48GB)は選択肢から外れ、マルチGPU H100/H200シャーディングか、より小さい・量子化されたモデルのいずれかを検討することになる。 - 3シングルノードかマルチノードかを決める
Why it matters: 8GPUサーバー1台の合計VRAMがモデルと想定同時実行数をカバーできるなら、InfiniBand/RoCEは完全にスキップしてファブリックコストを節約できる。カバーできない場合は最初から専用ネットワークファブリックの予算を組むこと。 - 4発注前に冷却をラック密度に合わせる
Why it matters: 1ラックに8GPU SXM5サーバーを2台以上導入する前に、対象ラックが液冷に対応できるか施設チームと確認すること——納品後の冷却改修は事前計画よりはるかに高コストになる。 - 5正式見積もりと納期を確認する
Why it matters: これらのベンダーはいずれも8GPU構成の定価を公開しておらず、GPU高密度サーバーの納期はGPUの割当状況によって数週間から数か月まで幅がある——価格だけでなくスケジュールも予算に組み込むこと。
どの保証・サポート階層を選ぶべきか?
4社すべてが基本的なハードウェア保証を超えた階層型のエンタープライズサポートを提供しているが、階層名・応答時間・含まれるサービスは異なる——プログラムは変更されるため、購入前に必ずベンダーに直接最新条件を確認すること。
- DellはXE9680と併せてProSupport階層(より迅速なミッションクリティカル対応を含むオプションも)を販売している——標準のPowerEdge階層ではなく、GPUサーバー適格サポートを具体的に確認すること。
- LenovoはThinkSystemライン向けにPremier Support階層を販売しており、オンサイト対応や予防的モニタリングのオプションがある。
- HPEはPointnext Complete Care経由でサポートを販売し、6桁の初期費用を避けたい購入者向けに、資本購入の代替として従量課金型のHPE GreenLakeも用意している。
- Supermicroのサポート条件は、他の3社よりもリセラー・SIごとの差が大きい。その理由は、直接のエンタープライズ営業よりもこのチャネル経由の販売量が多いためだ——Supermicroのベースとなる保証ページだけでなく、具体的なリセラーからサポート条件を書面で入手すること。
- どのベンダーでも共通して確認すべき点:GPU故障時に何が起こるか具体的に聞く(交換SLA、ノード全体を送る必要があるのかGPUトレイだけでよいのか)——これはGPU高密度サーバーで実際に最も起こりやすい故障モードだ。
エンタープライズGPUサーバー購入チェックリスト
見積もり依頼の前にこれらを確定させておくこと——どのみちベンダーやリセラーがほとんどの項目を尋ねてくるため、事前に用意しておくと見積もりサイクルが短縮される。
- GPUモデル(H100 / H200 / L40S)
- 必要なGPU台数
- 自社モデルのVRAM要件
- モデルサイズと量子化レベル
- 推論 vs 学習 vs ファインチューニング
- 想定利用率(持続的 vs スポット的)
- シングルノード vs マルチノード
- 必要なネットワーク速度(100/200/400/800GbE)
- InfiniBand vs RoCE v2
- 自社施設のラック電力の余裕
- 空冷 vs 液冷の対応可否
- ストレージ要件(データセットサイズ、チェックポイント頻度)
- バックアップ・災害復旧計画
- GPU交換SLA
- オンサイトサポートの有無
- 保証期間
- 納期
- 導入・統合の作業範囲
- ソフトウェアスタック(オーケストレーション、サービングフレームワーク)
- ハードウェア価格だけでなく総所有コスト
エンタープライズ購入者が犯しがちなミスは?
- 推論専用ワークロードに対して8GPU SXM5容量を購入する。 固定モデルをユーザーに提供するだけなら、ProLiant DL380a Gen11のような2U PCIeプラットフォームで、価格と複雑さの一部でカバーできる。
- ラックの冷却容量を確認する前に発注する。 同じラックに2台目・3台目の8GPU SXM5サーバーを入れると空冷の実用上限を超える可能性がある——ハードウェア到着前に施設チームと確認すべきで、後からでは遅い。
- 「後で拡張するかもしれない」クラスタでネットワークファブリック予算を省く。 既に展開済みのシングルノード群に後からInfiniBandやRoCEを追加する方が、当初購入時に予算化するより破壊的になる。
- 定価を総コストと見なす。 サポート契約、ネットワークファブリック、冷却改修、電力インフラのアップグレードは、サーバーハードウェアの項目に対して定常的に15〜30%を上乗せする。
- H200が常にH100からの正しいアップグレードだと仮定する。 モデルとバッチサイズが80GB/GPUに余裕を持って収まるなら、H200の追加メモリと追加コストは何も生まない——プレミアムを支払う前に実際のVRAM需要を確認すること。
よくある質問
エンタープライズの推論と学習それぞれ、H100またはH200は何基必要か?
中程度の同時ユーザー数に固定モデルを提供する推論専用の展開は、多くの場合1〜4基で足り、8GPU SXM5プラットフォームは全く必要ない。大規模モデル(70B以上のパラメータ)の学習・ファインチューニングでは、通常GPU間でモデル・勾配・オプティマイザ状態を分散するためフル8GPU NVLink構成が必要になる。購入規模は「最大プラットフォームを買う」というデフォルトではなく、ワークロードから決めること。
8GPU H100ラックサーバーの実際の総コストはいくらか?
フル構成の8x H100ユニットに対するリセラー・SI見積もりは、ハードウェアのみでおおむね20万〜37.5万ドルの範囲。これにサポート契約、ネットワークファブリック、冷却インフラのアップグレードが加わり、通常さらに15〜30%上乗せされる。4社いずれも定価を公開していないため、予算策定前に正式見積もりを取得すること。
GPU高密度ラックには液冷が必要か?
1ラックに8GPU H100/H200 SXM5サーバーを2台以上設置するなら必要——各サーバーがフル稼働時約10〜12kWを消費し、空冷の実用上限は1ラックあたり約20〜40kW程度とされる。この密度以下であれば標準の空冷でも機能する可能性があるため、発注前に施設チームと確認すること。
ネットワークにはInfiniBandとEthernet(RoCE)のどちらを選ぶべきか?
シングルノード推論であればどちらも不要——標準Ethernetで十分。マルチノード学習クラスタでは、InfiniBand NDRがより成熟し広く普及した高帯域幅RDMAファブリック。ネットワークチームが別途InfiniBandファブリックとスキルセットを維持したくない場合の代替がEthernet上のRoCE v2だ。
Dell vs Lenovo vs HPE vs Supermicro——どのベンダーのエンタープライズサポートが最も優れているか?
Dell、Lenovo、HPEはそれぞれ直接のアカウントチーム経由で階層型のエンタープライズサポート(それぞれProSupport、Premier Support、Pointnext Complete Care)を販売している。Supermicroは主にシステムインテグレーターとリセラー経由で販売するため、サポート条件は単一のSupermicro全社階層よりもリセラーごとの差が大きい——購入前に具体的なリセラーからサポート条件を書面で入手すること。
H100 vs H200 vs L40S——どのGPUを買うべきか?
大コンテキスト配信、または80GB/GPUでは避けたいクロスGPUシャーディングが必要な学習にはH200(141GB HBM3e)。80GBで十分なマルチノード学習クラスタで最も広いベンダー・リセラー入手性を求めるならH100(80GB HBM3)。低予算での推論専用にはL40S(48GB GDDR6、PCIe、空冷)を選ぶ。
同じラックやサーバー内でGPUモデルを混在できるか?
1台のサーバー内では不可——8GPU SXM5プラットフォームは単一のGPUモデル(すべてH100、またはすべてH200)を中心にNVLink接続で構築されており、混在はできない。ラック内では可能——学習用にH100/H200を構成したサーバーと、推論用にL40Sを構成した別のサーバーを、各サーバーの冷却と消費電力を個別に考慮する限り併設できる。
エンタープライズ購入者はどの保証・サポート階層を選ぶべきか?
最低限、GPU故障に特化したベンダーの交換SLAを確認すること(一般的なハードウェア故障ではなく)——GPU故障はGPU高密度サーバーで最も起こりやすい故障モードであり、交換ロジスティクス(GPUトレイのみの発送かノード全体か)はベンダーと階層によって異なる。応答時間の階層は、ワークロードが実際に許容できるダウンタイムに合わせて選ぶこと。
エンタープライズ規模では、オンプレミスハードウェアはクラウドGPUレンタルより安いか?
これは定価だけでなく稼働率に左右される——オンプレミスハードウェアは初期費用が高いが稼働後の時間あたりコストは低い一方、クラウドレンタルは初期費用がないが時間あたりのレートははるかに高い。分岐点は通常、持続的でほぼ一定の稼働率にある。散発的・バースト的なワークロードは通常レンタルの方が安くつく。詳しいコスト比較はクラウドGPUレンタルガイドを参照。
8x H100またはH200構成の納期はどのくらいか?
GPU高密度サーバーの納期は、GPUの割当状況と現在の需要によって数週間から数か月まで幅がある——ほとんどのベンダーにとって8GPU構成は在庫品ではない。正式見積もりの一部として納期を確認し、価格だけでなくプロジェクトのスケジュールもそれに合わせて予算化すること。
2026年のベストなエンタープライズGPUサーバーはどれか?
唯一の最適なサーバーというものは存在せず、ワークロード次第だ。Dell PowerEdge XE9680は大規模学習・推論向けに最も広いエンタープライズサポート網を持つ。Lenovo ThinkSystem SR675 V3は、データセンターが液冷対応であれば最適な選択肢となる。HPE ProLiant DL380a Gen11は、推論専用の小規模な初回購入に最適だ。Supermicro SYS-821GE-TNHRは、SIチャネル経由で8x H100/H200構成への価格競争力ある選択肢になることが多い。
700億パラメータのモデルには何基のGPUが必要か?
700億パラメータのモデルはFP16でオーバーヘッド前に約140GBのVRAMが必要——これだけで単一GPUは選択肢から外れ、コンテキスト長とバッチサイズによっては通常最低でも2x H100(各80GB)または1〜2x H200(各141GB)でのシャーディングが必要になる。8ビットまたは4ビットへの量子化は、精度を多少犠牲にしつつ、必要量をおおむね比例して削減する。
エンタープライズGPUサーバーでローカルLLMを運用できるか?
できる——これらはローカルLLMワークステーション・マルチGPU構成で使われているのと同じGPU(H100、H200、L40S)であり、違いはラックマウント型でエンタープライズサポート付きのマルチユーザー向けフォームファクターであるという点だけだ。規模とデプロイモデルの違いであり、基盤となるAI能力の違いではない。
AI推論にInfiniBandは必要か、それとも学習だけか?
複数サーバーのGPUが絶えず勾配を同期する必要があるマルチノード学習・ファインチューニングの場合のみ必要。シングルノード推論であれば——8GPUサーバーであっても——InfiniBandは不要で、標準の100/200GbE Ethernetで十分だ。
出典
- Dell PowerEdge XE9680 製品ページ -- dell.com/en-us/shop/ipovw/poweredge-xe9680
- Lenovo ThinkSystem SR675 V3 Product Guide -- lenovopress.lenovo.com/lp1611-thinksystem-sr675-v3-server
- HPE Cray XD670 QuickSpecs -- hpe.com/us/en/hpe-cray-xd670.html
- HPE ProLiant DL380a Gen11 データシート -- hpe.com/us/en/compute/hpe-proliant-compute/dl380a-gen11.html
- Supermicro SYS-821GE-TNHR データシート -- supermicro.com/en/products/system/datasheet/SYS-821GE-TNHR
- Supermicro認定パートナー検索 -- supermicro.com/en/wheretobuy
- NVIDIA H100/H200 Tensor Core GPU仕様 -- nvidia.com