重要なポイント
- 総ビルド費用：約$1,940。 RTX 5060 Ti 16GBを2枚（合計$860）、Ryzen 7 9700X（$330）、64GB DDR5-6000（$180）、2TB Gen4 NVMe（$130）、x8/x8対応B650 ATXボード（$180）、850W 80+ Gold電源（$130）、ATXケース（$90）。
- 16GB GPU2枚は24GB GPU1枚よりVRAM単価で優れます。 合計32GBのVRAMが約$860で得られ、中古RTX 3090 24GB（VRAM総量は少なく約$700〜750）を上回り、単体32GBワークステーションカードよりはるかに安価です。
- 70Bモデルは両カードにまたがるllama.cppのテンソル分割で12〜18 tok/sで収まり動作します — これこそGPU1枚ではなく2枚を使う理由そのものです。
- マザーボードはx8/x8のPCIe分岐に対応している必要があります。単に物理的なx16スロットが2本あるだけでは不十分です。2本目のスロットがx4動作になるボードは、テンソル分割推論に実際の帯域幅ボトルネックを生みます。
- 単一GPUへのフォールバックも十分機能します： より小さいモデルの場合、RTX 5060 Ti 1枚だけで32Bを25〜30 tok/sで実行でき、すでに1枚に収まるモデルを分割するより高速です。
- 避けるべき： 異なるGPUの組み合わせ（例：5060 Ti 1枚＋4060 Ti 1枚）— テンソル分割の性能は遅い方のカードに制限され、GPU世代間のドライバの不一致は不安定さを引き起こします。
なぜ大きなGPU1枚ではなくGPU2枚を選ぶのか
$2,000では、単一GPUビルドは中古RTX 3090 24GBかRTX 5070 Ti 16GB止まりで、どちらも70Bクラスのモデル容量には届きません。 llama.cppとvLLMはどちらもテンソル分割推論をサポートしており、同じマザーボードに接続された複数GPUにモデルのレイヤーを分割し、合計VRAMを1つのプールとして扱います。RTX 5060 Ti 16GBを2枚使うと、単体24GBカードより安く合計32GBのVRAMが得られ、70Bモデルが必要とする容量（Q4で両カード合計約38〜40GB）を快適に上回ります。
これが機能するのは両カードが同一モデルである場合に限られます — VRAMや計算性能が異なるカードの組み合わせは分割が弱い方のカードに律速され、GPU世代間でドライバ要件が異なると不安定さを引き起こすことがあります。
📍 一文で説明
テンソル分割推論でプールされたマッチする16GB GPU2枚は、同じ予算内でより大きな単体GPU1枚よりも実用的なVRAMを円単価で多く提供します。
💬 簡潔に説明
テンソル分割＝モデルのレイヤーを2枚のGPUに分散させ、VRAMを合算するソフトウェア機能。グラフィックスメモリ版のRAIDのようなもの。
完全パーツリスト
価格は2026年7月時点の実勢価格です。地域や販売店により変動します。
| パーツ | 選択 | 価格 | 理由 |
|---|---|---|---|
| GPU（2枚） | RTX 5060 Ti 16GB ×2 | $860 | テンソル分割による合計32GB VRAM — このビルドの核心 |
| CPU | AMD Ryzen 7 9700X | $330 | 8コアがGPU2枚分のPCIe/ドライバオーバーヘッドとCPUオフロードレイヤーを処理 |
| RAM | 64GB DDR5-6000（32GB×2） | $180 | 大きなモデルとデュアルGPUのドライバオーバーヘッドは単一GPUビルドより多くの余裕を必要とする |
| ストレージ | 2TB NVMe Gen4 SSD | $130 | 70BモデルだけでQ4で約40GBを使用。マルチモデルライブラリには追加容量が必要 |
| マザーボード | x8/x8 PCIe対応のB650 ATX | $180 | テンソル分割の帯域幅ボトルネックを避けるため、x16/x4ではなくx8/x8でのレーン分割が必須 |
| 電源 | 850W 80+ Gold | $130 | RTX 5060 Ti 2枚で合計約360Wを消費。850Wは瞬間的な負荷ピークに余裕を残す |
| ケース | ATXミドルタワー（デュアルGPUクリアランス） | $90 | 2枚のダブルスロットGPUの間に十分なエアフロー用スペースが必要 |
| CPUクーラー | ミドルレンジ空冷クーラー | $40 | 持続的なデュアルGPU推論負荷下では、Ryzen 7 9700Xは純正以上の冷却の恩恵を受ける |
多くのビルダーが見落とすマザーボード要件
物理的に2本のPCIe x16スロットがあっても、2本とも電気的にx16接続とは限りません。 多くのコンシューマー向けマザーボードは、物理的にはx16サイズでも2本目のスロットを電気的にx4で配線しています。テンソル分割LLM推論では、フォワードパスのたびに両方のGPUがアクティブにデータを転送するため、x4の2本目のスロットは理論上ではなく実際のボトルネックになります。
マザーボードを購入する前に、仕様表で「PCIeレーン割り当て」や「x8/x8モード」の記載を確認してください — これに対応するボードでは通常明示的に記載されています。均等に分割するのに十分なネイティブPCIeレーンを持つチップセットが必要だからです。このビルドはx8/x8対応を明示的に記載しているB650 ATXボードを前提としています。
- x16/x4ではなくx8/x8を確認する： 物理スロットの本数だけでなく、マザーボードのマニュアルにあるPCIeレーン図を確認してください。
- スロット間隔も物理的に重要： 2枚のダブルスロットGPUには、エアフローのために少なくとも1本分の空きスロットの間隔が必要です — レーン割り当てだけでなく、ボードのレイアウト上のスロット間隔も確認してください。
- このワークロードではPCIe世代よりレーン数が重要： PCIe 4.0 x8はテンソル分割の転送に実際に必要な帯域幅をすでに上回っています。ここでPCIe 5.0スロットを追求する価格プレミアムは見合いません。
モデルサイズ別の期待パフォーマンス
すべての数値はQ4_K_M量子化で、RTX 5060 Ti 16GB2枚にわたるllama.cppのテンソル分割で計測されています。シングルGPUの数値は1枚のみを使用しています。
| モデルサイズ | セットアップ | VRAM使用量（Q4） | トークン/秒 |
|---|---|---|---|
| 7B〜14B | シングルGPU（分割不要） | 約4.5〜9GB | 55〜65（7B）／28〜35（14B） |
| 32B | シングルGPU | 約14.5〜15.5GB | 25〜30（$1,000ビルドに対しコンテキストに十分な余裕） |
| 32B | テンソル分割（GPU2枚） | 約15GB分割 | 30〜38（1枚に収まる場合でも分割が有利になる） |
| 70B | テンソル分割（GPU2枚、必須） | 約38〜40GB分割 | 12〜18 |
テンソル分割推論のセットアップ
llama.cppは両方のGPUがドライバに認識されていれば、1つのコマンドラインフラグだけでテンソル分割を処理します。 `nvidia-smi`で両方のRTX 5060 Tiカードが表示されることを確認した後、`--tensor-split 1,1`でモデルを起動するとレイヤーが均等に分割されます。片方のカードがディスプレイも駆動していてモデル用に予約するVRAMをわずかに減らしたい場合は、比率（例：`--tensor-split 1,1.2`）を調整してください。
Ollamaは最近のバージョンで自動的にマルチGPUをサポートしており、インストール済みのすべてのGPUのVRAMを検出して手動設定なしで大きなモデルを分割します。ただし、分割比率をより精密に制御したい場合はllama.cppの手動フラグの方が優れています。
- 両方のGPUが検出されているか確認： `nvidia-smi`で、分割を試みる前に両方のカードが一致するドライババージョンでリストされているか確認してください。
- 均等な分割から始める： llama.cppの`--tensor-split 1,1`は同一の2枚のカードに対する正しいデフォルトです。
- PCIe帯域幅の飽和に注意： トークン/秒が期待範囲を大きく下回る場合、マザーボードが実際にx8/x8で動作しており、静かにx4にフォールバックしていないか確認してください。
アップグレードパス
このビルドから最も分かりやすいアップグレードは、マザーボードに実用的な帯域幅を持つ3本目のPCIeスロットがある場合、3枚目のRTX 5060 Ti 16GBを追加することです。これにより合計VRAMが48GBに達し、70Bモデルのより大きな量子化や、より長いコンテキストウィンドウへの快適な余裕が得られます。
より高価だがシンプルなアップグレードは、後で両方のRTX 5060 TiカードをRTX 5070 Ti 16GBカード2枚に交換することです。同じ32GBのVRAM上限を維持しながら、生の計算性能とメモリ帯域幅を高め、収まるモデルサイズを変えずにトークン/秒を向上させます。
この予算でよくある失敗
- 「SLI/CrossFire対応」というブランディングだけでマザーボードを購入すること — そのマーケティング用語はゲーミング向けマルチGPUレンダリングを指し、計算ワークロード向けのPCIeレーン割り当てとは無関係で、x8/x8を保証しません。
- 節約のためにGPU世代を混在させること（例：RTX 5060 Ti 1枚＋RTX 4060 Ti 1枚）— テンソル分割の性能は遅い方／古い方のカードに制限され、新しい方のカードの利点のほとんどが失われます。
- 電源の余裕を過小評価すること — 長時間の生成中に2枚のGPUが合計定格TDP付近を同時に消費すると、瞬間的に360Wを大きく上回るスパイクが発生することがあります。容量不足の電源は緩やかな減速ではなくランダムなシャットダウンを引き起こします。
- GPUを2倍にすればトークン/秒も2倍になると想定すること — テンソル分割はレイヤー間のPCIe転送オーバーヘッドを追加するため、すでに1枚のGPUに収まるモデルでは、合計スループットは単一カードの速度の2倍を大きく下回ります。
よくある質問
$2,000のPCで70Bのローカルllmを実行できますか？
はい、RTX 5060 Ti 16GBを2枚テンソル分割構成で使用すると、合計32GBのVRAMがプールされます — これはQ4量子化での70Bモデルに十分で、12〜18トークン/秒で動作します。
なぜ24GBや32GBのGPU1枚ではなく16GB GPU2枚を使うのですか？
同じ予算内では、マッチした16GB GPU2枚の方が単体の大きなカード1枚より合計VRAM単価に優れており、llama.cppのテンソル分割機能により両カードのVRAMが1つのプールとして推論に機能します。
デュアルGPUのローカルLLMビルドにマザーボードは重要ですか？
はい、非常に重要です。ボードは両方のGPUスロットにわたりx8/x8のPCIeレーン割り当てをサポートする必要があります — 2本目のスロットが電気的にx4で動作するボードは、テンソル分割推論中に理論上ではなく実際の帯域幅ボトルネックを生みます。
デュアルGPUビルドで異なるGPUモデルを混在させられますか？
推奨されません。テンソル分割の性能はペアの中で遅い方または古い方のカードに制限され、GPU世代間でドライバ要件が異なると不安定さを引き起こすことがあります。同一のGPUを2枚使ってください。
テンソル分割マルチGPU推論にはOllamaとllama.cppのどちらが優れていますか？
Ollamaは複数のGPUを自動的に検出し、手動設定を必要としないため、ほとんどのユーザーにはよりシンプルです。llama.cppの手動`--tensor-split`フラグは分割比率をより精密に制御でき、片方のGPUがディスプレイも駆動していて予約するVRAMを減らしたい場合に有用です。
PCIe帯域幅は実際にテンソル分割の性能にどれほど影響しますか？
スロットがx8ではなくx4で動作している場合、大きく影響します。PCIe 4.0 x8はテンソル分割推論が通常必要とする帯域幅をすでに上回っていますが、x4は両方のGPUがフォワードパスのたびにアクティブにデータを転送するため実際のボトルネックになります。
GPUを2倍にするとトークン毎秒も2倍になりますか？
いいえ。テンソル分割はカード間で分割されたレイヤー間のPCIe転送オーバーヘッドを追加するため、すでに1枚のGPUに収まるモデルの合計スループットは、その単一カードの速度の2倍を大きく下回ります。利点はモデルを大きくできることであり、線形の速度向上ではありません。
RTX 5060 Ti2枚の総消費電力はどれくらいですか？
フル負荷で合計約360W（定格TDPは各180W）に加え、瞬間的にそれを上回るスパイクがあります。850W 80+ Gold電源は、そうしたスパイクと合わせてシステムの残りの部分にも十分な余裕を残します。
このビルドはGPU1枚だけを使って小さいモデルをより高速に実行できますか？
はい — すでに16GBに収まるモデル（Q4で最大32Bまで）の場合、RTX 5060 Ti 1枚での実行はテンソル分割のPCIeオーバーヘッドを完全に回避し、分割の必要がないモデルを分割するより高速です。
このビルドを超えるアップグレードパスは何ですか？
3本目のマッチしたRTX 5060 Ti 16GBを追加すると（マザーボードに使用可能な3本目のPCIeスロットがある場合）、合計VRAMが48GBに上がります。あるいは、後で両方のカードをRTX 5070 Ti 16GBユニットに交換すると、同じ32GBの上限を維持しながら計算性能とメモリ帯域幅を高められます。