日本でコスパ最強のローカルLLM用GPUは?
クイック回答
日本ではRTX 3060 12 GBがコスパ最強(新品~¥40,000、中古~¥25,000)。12 GB VRAMで全7Bモデルを20~25 tok/sで動かせ、CUDA設定も不要です。
- ▸RTX 3060 12 GB:新品¥40K/中古¥25K — 7Bモデルに最高のコスパ(20~25 tok/s)。
- ▸RTX 4060 Ti 16 GB:新品¥65K/中古¥50K — 13Bモデルへのステップアップ(18~22 tok/s)。
- ▸RTX 3090 24 GB 中古¥90K — 日本のアパートでは非推奨:340W、電気代約¥8,000/月。
更新: 2026-05
重要なポイント
- ✓コスパ最強:RTX 3060 12 GB 新品~¥40,000/中古~¥25,000(2026年5月)— 7Bモデルを20~25 tok/sで実行
- ✓ミドルレンジ:RTX 4060 Ti 16 GB 新品¥65,000 — 13Bモデルを18~22 tok/s、16 GBのコンテキスト余裕
- ✓AMD代替:RX 7800 XT 16 GB 新品¥70,000 — 16 GB VRAM、Vulkan/ROCm、Linuxユーザー向け
- ✓要注意:RTX 3090 24 GBは日本のアパートでは非推奨 — 340W TDP、¥31/kWhで月約¥8,000の電気代
- ✓中古購入先:メルカリ、Yahoo!オークション、秋葉原のじゃんぱら
価格帯別GPU一覧(日本)
2026年5月時点で、日本のGPU価格は輸入コストと10%消費税の影響により、米国価格より15〜20%高くなっています。以下の4枚は中古¥25,000から中古¥90,000まで、ローカルLLM推論のあらゆる現実的な予算をカバーします。
以下の表は、ツクモ・ドスパラ・ヨドバシカメラの2026年5月時点の新品店頭価格と、メルカリ/Yahoo!オークションの中古相場中央値を使用しています。価格は変動しますので、購入前に必ず確認してください。
| GPU + VRAM | 新品 / 中古価格(¥) | 最適な用途 |
|---|---|---|
| RTX 3060 12 GB | ¥40,000 / ¥25,000 | 7Bモデル、コスパ最強 |
| RTX 4060 Ti 16 GB | ¥65,000 / ¥50,000 | 13Bモデル、ミドルレンジ |
| RX 7800 XT 16 GB | ¥70,000 / ¥55,000 | AMD/Vulkan/ROCm(Linux向け) |
| RTX 3090 24 GB | — / ¥90,000 | 30B+モデル(非推奨:340W、アパートには不向き) |
- ▸日本でGPU不要のミニPCによる推論については、日本ミニPCガイドをご覧ください。
- ▸これらのGPUで動かすのに最適な日本語モデルについては、日本語LLMモデルガイドをご覧ください。
日本での購入ガイド
日本のGPU購入には2つの信頼できるチャネルがあります:正規販売店での新品(Amazon.co.jp、ツクモ、ドスパラ、ヨドバシカメラ)と、メルカリ・Yahoo!オークション・秋葉原のじゃんぱらでの中古購入です。初めて買う方には秋葉原に大きなメリットがあります:実機を手に取って確認でき、スタッフに互換性を相談でき、当日持ち帰れます。
新品GPUの販売店(2026年5月時点の価格):Amazon.co.jpは全国にPrime翌日配送。秋葉原の1丁目にあるツクモ(ツクモ)はLLMビルドに詳しいスタッフが揃い、最も豊富な在庫を誇ります。ドスパラ(ドスパラ)秋葉原店はNVIDIAカードが充実。ヨドバシカメラ マルチメディアAkibaは全主要ブランドを扱い、ヨドバシポイントも貯まります。
中古GPUの購入先:メルカリ(メルカリ)とYahoo!オークション(Yahoo!オークション)は最大の品揃えと最低価格が魅力です。秋葉原のじゃんぱら(じゃんぱら)は30日返品保証付きの信頼できる中古専門店です。メルカリで購入する際のチェックポイント:出品ページの保証ステータスを確認し、マイニング(マイニング)使用歴を必ず確認、販売者評価は95%以上のもの、実際のカードが複数枚鮮明に写った写真があるものを選んでください。マイニングGPUは24時間フル負荷で動作しており、寿命が大幅に短くなっています。
予算別購入フローチャート:¥30,000以下 → メルカリで中古RTX 3060 12 GB。¥30,000〜50,000 → ツクモまたはドスパラで新品RTX 3060 12 GB。¥50,000〜70,000 → RTX 4060 Ti 16 GB(中古)またはRX 7800 XT(新品)。¥70,000超 → RX 7800 XT新品、またはRTX 3090中古(専用部屋と良好な換気がある場合のみ)。
日本の電気代:日本の平均電気代は¥31/kWh(2026年)。1日8時間の推論使用で:RTX 3060 12 GB(170W)は月約¥3,200。RTX 4060 Ti 16 GB(165W)は月約¥3,100。RTX 3090 24 GB(350W)は月約¥6,600。RTX 3090購入でのRTX 3060比¥15,000の節約も、電気代の差額で2〜3ヶ月で消えてしまいます。総所有コストで考えてください。
全予算帯のGPU選び概要:[ローカルLLM向けベストバジェットGPUガイド](/local-llms/best-budget-gpus-local-llm)。AMD GPU特化の選び方:[ローカルLLM向けベストAMD GPUガイド](/local-llms/best-amd-gpus-local-llm)。
開示:当ページは特定商取引法に基づき、アフィリエイトリンクを含みます。リンク経由での購入により収益が発生することがあります。
FAQ:日本でローカルLLM用GPUを購入する
RTX 3060の12 GB版と8 GB版の違いは何ですか?▾
OllamaはRX 7800 XTなどのAMD GPUで動作しますか?▾
メルカリ(メルカリ)で購入する際に確認すべき点は?▾
MacBookにeGPUを接続してローカルLLM推論に使えますか?▾
日本でGPUを動かすときの電気代はいくらですか?▾
詳しく読みたいですか?
コンプリートガイドを読む →関連する Prompt Bites