重要なポイント
- 稼働率が最大の変数。 持続的でほぼ一定の利用は購入向き、変動・予測困難な利用はレンタル向き——料金比較の前に実際の想定稼働率をモデル化すること。
- オンプレハードウェアは8x H100/H200サーバーで設備投資が約20万-40万+米ドル、さらに見積書に含まれない電力・冷却・サポートで15-30%が上乗せされる。
- 予約型クラウドGPU契約はAWS・Azure・GCP・CoreWeaveで1-3年契約時にオンデマンド比30-55%の割引——ただし早期解約は通常、割引と前払い金を失う。
- 例示的な3年TCOモデルでは損益分岐点が持続稼働率約55-65%付近——自社の電力コスト、人員配置、交渉レートで検証すること。
- 多くの企業はハイブリッド構成に落ち着く： 定常負荷にはオンプレハードウェア、季節変動や予測困難なピークにはクラウド容量。
- これはハードウェア選定ではなく財務モデリングの意思決定であり、最初の一歩はベンダー選定ではなくTCOモデルの構築である。
クイックファクト
- 8x H100/H200オンプレサーバー設備投資： GPUメモリ階層と構成により約20万-40万+米ドル。
- オンプレ消費電力： 8GPU H100/H200 SXM5ノードはフル稼働時に約10-12kWを消費。
- クラウド予約割引幅： AWS・Azure・GCP・CoreWeaveの1-3年契約は通常オンデマンド比30-55%割引。
- 例示的な損益分岐稼働率： 下記モデルで3年間持続約55-65%。
- GPUハードウェアの一般的な減価償却期間： 一般的な企業会計慣行では3年定額法——GPU世代交代が速いため、より長い期間は残存耐用年数を過大評価しがち。
- オンプレの隠れオーバーヘッド： サポート契約・ネットワークファブリック・冷却改修が通常サーバー本体価格に15-30%上乗せされる。
オンプレ購入か予約型クラウドGPUレンタルか？
正直な答えは「稼働率次第」であり、以下の判断ガイドはそれを具体的なテストに落とし込んだものである。 両方のリストを読み、稼働率を正直に見積もれば大半の組織はどちらか一方により当てはまる。
オンプレが向くケース／クラウドが向くケース
ローカルLLMを使うべき場合：
- •ワークロードがほぼ常時稼働——24/7トラフィックを処理する本番推論サービスで稼働率が一貫して約55-65%超
- •ハードウェアのライフサイクル・冷却・障害対応を担う社内インフラ/運用スタッフが確保できる（または育成できる）
- •データレジデンシーやエアギャップ要件により、クラウド処理がコストだけでなくコンプライアンス上の問題になる
- •大規模な設備投資なしで十分な電力・冷却能力を既に持つ、または追加できる施設がある
クラウドモデルを使うべき場合：
- •ワークロードが変動的・季節的、またはまだR&D/実験段階——自社所有ハードウェアでの稼働率は50%を大きく下回る見込み
- •ハードウェア調達・納品サイクルより速いペースでGPU容量を増減させる必要がある
- •長期的な形がまだ不確かなワークロードのために複数年の人員・施設コミットメントを避けたい
- •マルチリージョン展開が純粋なGPU時間単価より重要——クラウドリージョンは今すぐ利用可能だが、新規データセンターは違う
クイック判断：
- →判断がつかず、かつワークロードが本当に新規なら：まずクラウドの予約またはオンデマンド容量で開始し、2-3カ月実際の稼働率を計測してから、予測ではなく実データで購入案をモデル化する。
レンタルと購入の損益分岐点はどう計算するか？
稼働率——GPU容量が実際に生産的な作業をしている時間の割合——が、この比較を決定づける最大の変数である。 稼働率20%のサーバーは80%の時間が遊休状態のハードウェアに対してフルの減価償却費と電力コストを払い続けるが、使用時のみ課金されるクラウド容量にはその問題がない一方、プロバイダー側の稼働リスクを吸収するため時間単価にプレミアムが上乗せされる。
損益分岐点の計算式は概念的には、フル負荷の3年間オンプレコスト（設備投資＋電力＋冷却＋人件費）を、100%稼働率でのフル負荷3年間クラウドコストで割ったもの。この比率が両者のコストが等しくなるおおよその稼働率であり、それを下回ればクラウドが安く、上回ればオンプレが安い。
これは自社の電力コスト、人件費オーバーヘッド、交渉したクラウドレートに固有のモデリング演習であり、次のセクションの試算はそのままコピーする数値ではなく、自社数値で再構築するための枠組みとして扱うこと。
- 持続稼働率約65%超： 下記モデルではほぼ常にオンプレが有利——どちらにせよ遊休容量には対価を払っており、所有ハードウェアの遊休コストはクラウドの時間課金より低い。
- 稼働率35-65%： 本当の「場合による」ゾーン——決定前に実際の電力単価、人員配置、交渉したクラウド割引でモデルを再構築すること。
- 稼働率約35%未満： クラウドがほぼ常に有利——ほとんどの時間遊休するハードウェアにフルの設備投資と減価償却を払うのは通常見合わない。
12・24・36カ月でTCOは実際どうなるか？
例示的な8x H100比較では、オンプレコストは年ごとにほぼ横ばいなのに対し、クラウドコストは利用量に直接比例して増加する——分岐点は経過時間ではなく稼働率の関数である。 これらの数値は中央値25万米ドルのオンプレ設備投資と、混合予約クラウドレート3.50米ドル/GPU時間を例示的な基準として使用しており、予算編成前に自社ベンダー見積もりに置き換える必要がある。
100%稼働率では、クラウドコストは急速に積み上がる：8GPUを1年間連続稼働させると約70,080GPU時間となり、予約レート3.50米ドル/GPU時間では年間約24.5万米ドル——3年間フル稼働のクラウド契約は70万米ドルを超え、オンプレ設備投資＋オーバーヘッドを大きく上回る。
- この表は期間ではなく稼働率の列で読むこと。 持続稼働率100%では、示したすべての期間でオンプレが安い。稼働率30%では36カ月時点でもクラウドが安いままであり、この例示モデルでの分岐点は固定の期間ではなく稼働率約55-65%付近にある。
- 予算判断に使う前に、自社ベンダー見積もり・電力単価（米ドル/kWh）・人員配置でこの表を再構築すること——ここにある数値は枠組みであり見積もりではない。
| 期間 | オンプレTCO（例示） | クラウド予約TCO（稼働率100%） | クラウド予約TCO（稼働率30%） |
|---|---|---|---|
| 12カ月 | 約29万米ドル（設備投資＋1年オーバーヘッド） | 約24.5万米ドル | 約7.4万米ドル |
| 24カ月 | 約32.5万米ドル（設備投資＋2年オーバーヘッド） | 約49万米ドル | 約14.7万米ドル |
| 36カ月 | 約36万米ドル（設備投資＋3年オーバーヘッド） | 約73.5万米ドル | 約22.1万米ドル |
オンプレ購入を選んだ場合、どのハードウェアを買うべきか？
稼働率計算が購入を示す場合、具体的なハードウェア選定は本記事が改めて論じない別の論点である。 Dell PowerEdge XE9680、Lenovo ThinkSystem SR675 V3、HPE Cray XD670、Supermicro SYS-821GE-TNHRの4社が約20万-40万+米ドルの8GPU H100/H200 SXM5ラックプラットフォームを提供している——ベンダー別の仕様、冷却要件、ネットワークファブリックの選択はエンタープライズGPUサーバー購入ガイドを参照。
そちらのガイドは「どのサーバーか」を詳しく扱っており、本記事は「そもそもサーバーを買うべきか」に答えるもの——予算を確定する前に両方を読むこと。
エンタープライズ向け予約型クラウドGPUにはどのような選択肢があるか？
AWS・Microsoft Azure・Google Cloud・CoreWeaveはそれぞれオンデマンド価格から割引された複数年コミット型GPU契約を提供しており、割引率と契約構造は直接比較する価値があるほど異なる——既存のクラウドベンダーを既定で選ぶべきではない。
- AWSまたはAzureを選ぶべき場合： 中核インフラが既にそこで稼働している——コミット割引は既存のエンタープライズ契約と請求関係の上に積み重なる。
- Google Cloudを選ぶべき場合： ML/データパイプラインが既にGCP上にある——ほとんどの構成でCUDは別途の予約購入なしに該当利用量に自動適用される。
- CoreWeaveを選ぶべき場合： ワークロードがGPUファーストで、汎用ハイパースケーラーではなくGPU容量に特化して構築されたプロバイダーを望む場合——価格は見積もりのみのため、現在のH100/H200/GB200可用性と契約条件を直接確認すること。
- これらのプロバイダーはいずれもエンタープライズコミット契約の価格を公開していない——上記の割引幅は公開情報を参考にした概算であり、予算編成前に正式な見積もりを取得すること。
| プロバイダー | コミット製品 | GPUオプション | 一般的な割引幅 | 最適な用途 |
|---|---|---|---|---|
| AWS | EC2 Capacity Blocks for ML / Reserved Instances / Savings Plans | P5 (H100)、P5e (H200) | オンデマンド比約30-50% | 既にAWSインフラで標準化しているチーム |
| Microsoft Azure | Reserved VM Instances（1年/3年） | ND H100 v5、ND H200 v5 | 従量課金比約30-45% | 既存のMicrosoft Enterprise Agreementを持つ企業 |
| Google Cloud | Committed Use Discounts (CUD) | A3 (H100)、A3 Mega (H100) | 約37%（1年）〜約55%（3年） | データ/MLツール群が既にGCP上にあるチーム |
| CoreWeave | 予約容量契約 | H100、H200、GB200 | 交渉制・見積もりのみ | ハイパースケーラー依存を避けたいGPUファーストのワークロード |
ワークロードパターン別にどの選択肢が適合するか？
調達判断は予算規模ではなくワークロードの実際の形に合わせること。 以下の4パターンで大半のエンタープライズAIデプロイメントをカバーする。
| ワークロードパターン | 推奨パス | 理由 |
|---|---|---|
| 大規模な24/7推論 | オンプレ（またはハイブリッドの基礎部分） | TCOモデルでは持続稼働率約55-65%超で一貫して所有ハードウェアが予約クラウドより有利 |
| 季節的・変動的な需要 | クラウド（オンデマンドまたは短期予約） | 年間の大半遊休するハードウェアにフル設備投資を払うのは、時間課金のクラウドに勝ることは稀 |
| R&D・実験 | クラウド（オンデマンド） | ワークロードの形と規模がまだ未確定——複数年契約は推測を固定化してしまう |
| マルチリージョン・コンプライアンス駆動 | クラウド（マルチリージョン予約） | 複数法域で準拠したデータセンター容量を構築するのは、既存クラウドリージョンを利用するより遅く高コスト |
オンプレ＋クラウドのハイブリッド構成とはどのようなものか？
持続的なAIワークロードを持つ多くの企業は、定常的な基礎負荷に合わせたオンプレハードウェアと、季節的・予測困難なピークを吸収するクラウド容量を組み合わせた構成に落ち着く——どちらか一方を選ぶオールオアナッシングの判断ではない。 これにより、予測可能な高稼働率でのオンプレのコスト優位を活かしつつ、年間の大半で遊休容量になりがちなトラフィック向けにクラウドの弾力性を確保できる。
実践的なバージョンとしては、オンプレ購入を自信を持って予測できる24/7基礎負荷（稼働率の下限）に合わせて規模設定し、その基礎を超えるバーストトラフィックはオンデマンドまたは短期予約のクラウド容量にルーティングする。これにより、年間の一部にしか発生しないピーク負荷のためにオンプレハードウェアを過剰に購入することを避けられる。
- 基礎負荷の見積もり： オンプレ購入の規模を決める前に、2-3カ月かけて実際の中央値または低パーセンタイルの持続負荷を計測すること——ピーク負荷に合わせて規模設定するとハイブリッド構成の目的が失われる。
- バーストトラフィックのルーティング： オンプレ容量が飽和した際に超過トラフィックをクラウド推論エンドポイントへルーティングできるAPIゲートウェイやロードバランサーがあれば、アーキテクチャの運用をシンプルに保てる。
- 契約期間の整合： クラウド側は同等の複数年予約契約ではなく、より短期またはオンデマンド価格のままにしておく——ハイブリッド構成の狙いはクラウド側の柔軟性であり、コミットメントを二重にすることではない。
- 年次で再評価： ワークロードが成熟し稼働率データが蓄積するにつれ、適切な基礎対バーストの比率は変化する——ハイブリッド構成は恒久的なアーキテクチャではなく毎年見直すモデルとして扱うこと。
この判断で企業はどのような調達ミスを犯しがちか？
- フル負荷TCOではなく表示価格を比較する。 電力・冷却・人件費オーバーヘッドを含まないオンプレ設備投資見積もりと、予約割引を含まないクラウドオンデマンド価格を比較すると、どちらのオプションにも公正でない比較になる。
- 測定した基礎負荷ではなく予測ピーク負荷にオンプレハードウェアの規模を合わせる。 これは年間大半遊休する過剰容量を生み、まさにハイブリッド構成が避けようとする罠そのものである。
- ワークロードの形が判明する前に3年予約クラウド契約に署名する。 予約契約はレートにコミットするものであり、ワークロードが大きく変化すれば割引と契約期間は節約ではなく負債になる。
- レートだけでクラウドプロバイダーを比較し、エグレスとロックインのコストを無視する。 最も安いGPU時間単価が最も安い総コストとは限らない——後でプロバイダーを切り替える際にデータパイプラインの再構築が必要になる場合はなおさらである。
- オンプレ対クラウドの判断を恒久的なものとして扱う。 製品が成熟するにつれ利用パターンは変化する——立ち上げ時に正しかった答えが18カ月後には正しくないことが多い——モデルを一度きりで固定せず見直すこと。
よくある質問
購入とレンタルの損益分岐点はどの稼働率になるか？
25万米ドルのオンプレサーバーと3.50米ドル/GPU時間の混合予約クラウドレートを用いた例示的な3年TCOモデルでは、損益分岐点は持続稼働率約55-65%付近にある——それを下回れば通常クラウドが安く、上回れば通常オンプレが安い。自社の数値として扱う前に、自社の電力コスト・人員配置・交渉したクラウドレートでモデルを再構築すること。
オンプレのエンタープライズGPUサーバーはオーバーヘッドを含めて実際いくらかかるか？
ハードウェア本体は8x H100/H200構成で約20万-40万+米ドル、さらにサポート契約・ネットワークファブリック・冷却改修が通常15-30%上乗せされる——ベンダー別価格はエンタープライズGPUサーバー購入ガイドを参照。
予約型クラウドGPU契約はオンデマンド価格に対して実際どれくらい割引されるか？
公開情報を参考にすると、AWS・Azure・Google Cloudでの1-3年コミット割引は約30-55%程度で、CoreWeaveの予約価格は交渉制・見積もりのみ。いずれのプロバイダーも正確なエンタープライズ契約価格を公開していないため、予算編成前に正式な見積もりを取得すること。
予約型クラウドGPU契約を早期解約したらどうなるか？
ほとんどの予約・コミット型クラウド契約は早期解約時に交渉した割引を遡って失い、契約構造によっては前払い金の未償却分も失う。署名前に具体的な解約条件を確認すること——これは細則ではなく判断の重要な一部である。
エンタープライズ規模ではオンプレハードウェアの方がクラウドレンタルより安いか？
これは規模ではなく持続稼働率だけで決まる。高く予測可能でほぼ一定の稼働率はオンプレに有利、変動的・季節的・実験的なワークロードはクラウドに有利——遊休する所有ハードウェアはフルの減価償却費がかかり続け、遊休する予約クラウド容量もコミットしたレートがかかり続けるため、両者の差は双方のマーケティングが示唆するより小さい。
オンプレ＋クラウドのハイブリッド構成とはどのようなもので、いつ有効か？
ハイブリッド構成は予測可能な24/7基礎負荷にオンプレハードウェアの規模を合わせ、季節的・予測困難なピークトラフィックはピーク向けにオンプレを過剰構築するのではなくクラウド容量にルーティングするものである。有意な需要変動を伴う持続的なエンタープライズAIワークロードの大半に適しており、これは本番推論デプロイメントの大多数に当てはまる。
エグレス料金は購入対レンタルの判断にどう影響するか？
クラウドプロバイダーのネットワークからのデータ転送料金は軽量なAPIトラフィックでは無視できるが、大規模な学習データセットやモデルチェックポイントを環境間で定期的に移動するチームには無視できないコストになる——プロバイダー比較の前にGPU時間単価とは別に想定エグレス量をモデル化すること。
マルチリージョンやコンプライアンス駆動のデプロイメントはデフォルトでクラウドを選ぶべきか？
通常はそうである。複数法域で準拠したデータセンター容量を構築するのは、プロバイダーが維持するデータレジデンシーとコンプライアンス認証を既に備えた既存クラウドリージョンを利用するより遅く、大幅に高コストである——コンプライアンス面についてはデータレジデンシーとソブリンAIガイドを参照。
オンプレGPUサーバーの発注から本番稼働まではどれくらいかかるか？
8GPU構成の納期はGPU割当状況により数週間から数カ月と幅があり、これに加えて社内調達・ラック設置・電力/冷却準備が必要である——クラウドのほぼ即時プロビジョニングと比較する際は、ベンダー納期だけでなく全工程を見積もること。
AWS・Azure・Google Cloudはすべて同じ種類のコミット割引を提供しているか？
メカニズムはプロバイダーごとに異なる——AWSはEC2 Capacity Blocks・Reserved Instances・Savings Plans、AzureはReserved VM Instances、Google CloudはほとんどのCUDが該当利用量に自動適用されるCommitted Use Discountsを使用する。割引幅は概ね同程度（1-3年で約30-55%）だが、契約メカニズムの違いが柔軟性に影響するため、見出しの割引率だけでなく実際の契約条件を比較すること。
出典
- AWS EC2 Capacity Blocks for ML 料金 -- aws.amazon.com/ec2/capacityblocks
- Microsoft Azure Reserved VM Instances 料金 -- azure.microsoft.com/en-us/pricing/reserved-vm-instances
- Google Cloud Committed Use Discounts ドキュメント -- cloud.google.com/docs/cuds
- CoreWeave 料金 -- coreweave.com/pricing
- Dell PowerEdge XE9680 製品ページ -- dell.com/en-us/shop/ipovw/poweredge-xe9680
- Enterprise GPU Server Buying Guide 2026（PromptQuorum、社内）-- ハードウェア価格および電力/冷却の数値は本記事の姉妹記事から引用。