重要なポイント
- RTX 4090は2026年のローカルAI向け最良コンシューマーGPU:24GB VRAM、約1TB/s帯域幅
- 70B Q4モデルは40GB以上のVRAMが必要——デュアルRTX 3090またはCPUオフロードが必須
- Ryzen 9 9950X(Zen 5、16コア)は大型レイヤーのCPUオフロードに最適なCPU
- DDR5-6000 64GBが最低限;128GBで70B CPUオフロードが実用速度で動作
- PCIe Gen 4/5 NVMeは7Bモデルを2秒未満でロード
第1段階:約16万円バジェットAIワークステーション
16万円バジェットビルドは中古RTX 3090(24GB VRAM)を中心に構成。Llama 3.3 8B Q8を45〜60 tok/s、Qwen3 14B Q8を20〜28 tok/s、Qwen3 32B Q4を12〜18 tok/sでGPUのみで動作。
- フルGPU速度対応モデル: 7B(全量子化)、13B、14B Q4/Q8、30B Q4
- 70Bサポート: CPUオフロード必要 — 約5〜8 tok/s
- 最大消費電力: 約450W
| コンポーネント | モデル | 価格(2026年5月) |
|---|---|---|
| GPU | NVIDIA RTX 3090(中古、24GB) | 約6万2000円 |
| CPU | AMD Ryzen 7 7700X | 約2万5000円 |
| マザーボード | MSI MAG X670E Tomahawk WiFi | 約2万4000円 |
| RAM | 64GB DDR5-5600(2×32GB) | 約1万5000円 |
| ストレージ | 2TB PCIe Gen 4 NVMe | 約1万2000円 |
| 電源 | 850W 80+ゴールド | 約1万2000円 |
| ケース | ミドルタワーATX | 約1万円 |
| CPUクーラー | 240mm AIOまたはタワー | 約8000円 |
| 合計 | 約16万8000円 |
第2段階:約33万円推奨AIワークステーション
33万円推奨ビルドはRTX 4090(24GB、約1TB/sメモリ帯域幅)とAMD Ryzen 9 9950X(Zen 5、16コア)を中心に構成。4090は3090よりVRAM単位で30〜40%高速で、トークンあたりの消費電力も低い。
- 7B Q4速度: 約105〜125 tok/s
- 14B Q8速度: 約48〜60 tok/s
- 30B Q4速度: 約28〜38 tok/s
- 70B Q4(CPUオフロード): 約10〜15 tok/s(64GB RAM時)
- 最大消費電力: 約550W
| コンポーネント | モデル | 価格(2026年5月) |
|---|---|---|
| GPU | NVIDIA GeForce RTX 4090 24GB | 約23万円 |
| CPU | AMD Ryzen 9 9950X(16C/32T、Zen 5) | 約5万8000円 |
| マザーボード | ASUS ProArt X870E-Creator WiFi | 約4万9000円 |
| RAM | 64GB DDR5-6000 CL30(2×32GB) | 約2万円 |
| ストレージ | 4TB PCIe Gen 5 NVMe | 約2万8000円 |
| 電源 | 1000W 80+プラチナ | 約2万1000円 |
| ケース | フルタワーATX | 約1万7000円 |
| CPUクーラー | 360mm AIO | 約1万2000円 |
| 合計 | 約43万5000円 |
第3段階:約66万円プロ70Bワークステーション
デュアルRTX 3090(合計48GB VRAM)でGPU速度(25〜40 tok/s)の70Bモデル推論を実現。Ryzen Threadripper 7960X(24コア)と256GB DDR5で大型レイヤーのCPUオフロードも高速化。
- 70B Q4速度: 25〜40 tok/s(両RTX 3090でテンソル並列処理)
- 256GB RAM CPUオフロード: 140B以上を4〜6 tok/sで実行
- 最大消費電力: 約900W
| コンポーネント | モデル | 価格(2026年5月) |
|---|---|---|
| GPU ×2 | 2× NVIDIA RTX 3090 24GB(中古) | 約12万4000円 |
| CPU | AMD Ryzen Threadripper 7960X(24C) | 約18万2000円 |
| マザーボード | ASUS Pro WS TRX50-SAGE WiFi | 約9万1000円 |
| RAM | 256GB DDR5-5200 ECC(8×32GB) | 約9万1000円 |
| ストレージ | 8TB PCIe Gen 4 NVMe(2×4TB) | 約5万円 |
| 電源 | 1600W プラチナ | 約3万9000円 |
| ケース | フルタワーHEDT ATX | 約2万5000円 |
| CPUクーラー | 360mm AIO + 追加ファン | 約1万7000円 |
| 合計 | 約61万9000円 |
ワークステーションを自作するべきか、クラウドGPUを借りるべきか?
定期利用(1日2時間以上)の場合:ワークステーションを構築。RunPodのA40 48GBは1時間0.44ドル——1日4時間で年間約9万円。300〜400万円のプロビルドは5〜6年で元が取れます。偶発的な利用(1日1時間未満)の場合:クラウドが安い。
OllamaをデュアルGPUで動かすためにNVLinkは必要ですか?
いいえ。OllamaはPCIe経由のCUDAテンソル並列処理を使用します——NVLinkは不要。デュアルRTX 3090のセットアップはNVLinkなしで完全に動作します。
プロビルドにRTX 4090の代わりにデュアルRTX 3090を使う理由は?
VRAMが決め手です。2枚のRTX 3090で合計48GB——Llama 3.3 70B Q4(約40GB)を収容できます。単体のRTX 4090は24GBのみ——70BはCPUオフロードなしでは収まりません。GPU速度での70B推論にはデュアル3090がVRAM/円で優れています。
関連記事
- ローカルLLM最適GPU購入ガイド2026 -- 各ワークステーション段階向けGPU購入ガイド
- 低スペックPCでもAIを動かす最高のローカルAIアプリ -- フルワークステーションに踏み切る前のソフトウェア選択肢
- ローカルAI向け最高のMac 2026 -- GPU ワークステーションに代わるApple Silicon選択肢
- ローカルLLM向けノートパソコンのおすすめ:購入ガイド2026 -- ワークステーション購入前のモバイル選択肢
- Qwenローカルデプロイ完全ガイド2026:Docker・APIサーバー・マルチGPU -- ワークステーション構築後の本番環境デプロイ