Skip to main content
PromptQuorumPromptQuorum

日本でコスパ最強のローカルLLM用GPUは?

クイック回答

日本ではRTX 3060 12 GBがコスパ最強(新品~¥40,000、中古~¥25,000)。12 GB VRAMで全7Bモデルを20~25 tok/sで動かせ、CUDA設定も不要です。

  • RTX 3060 12 GB:新品¥40K/中古¥25K — 7Bモデルに最高のコスパ(20~25 tok/s)。
  • RTX 4060 Ti 16 GB:新品¥65K/中古¥50K — 13Bモデルへのステップアップ(18~22 tok/s)。
  • RTX 3090 24 GB 中古¥90K — 日本のアパートでは非推奨:340W、電気代約¥8,000/月。

更新: 2026-05

Hardware Guides中級

重要なポイント

  • コスパ最強:RTX 3060 12 GB 新品~¥40,000/中古~¥25,000(2026年5月)— 7Bモデルを20~25 tok/sで実行
  • ミドルレンジ:RTX 4060 Ti 16 GB 新品¥65,000 — 13Bモデルを18~22 tok/s、16 GBのコンテキスト余裕
  • AMD代替:RX 7800 XT 16 GB 新品¥70,000 — 16 GB VRAM、Vulkan/ROCm、Linuxユーザー向け
  • 要注意:RTX 3090 24 GBは日本のアパートでは非推奨 — 340W TDP、¥31/kWhで月約¥8,000の電気代
  • 中古購入先:メルカリ、Yahoo!オークション、秋葉原のじゃんぱら

価格帯別GPU一覧(日本)

2026年5月時点で、日本のGPU価格は輸入コストと10%消費税の影響により、米国価格より15〜20%高くなっています。以下の4枚は中古¥25,000から中古¥90,000まで、ローカルLLM推論のあらゆる現実的な予算をカバーします。

以下の表は、ツクモ・ドスパラ・ヨドバシカメラの2026年5月時点の新品店頭価格と、メルカリ/Yahoo!オークションの中古相場中央値を使用しています。価格は変動しますので、購入前に必ず確認してください。

GPU + VRAM新品 / 中古価格(¥)最適な用途
RTX 3060 12 GB¥40,000 / ¥25,0007Bモデル、コスパ最強
RTX 4060 Ti 16 GB¥65,000 / ¥50,00013Bモデル、ミドルレンジ
RX 7800 XT 16 GB¥70,000 / ¥55,000AMD/Vulkan/ROCm(Linux向け)
RTX 3090 24 GB— / ¥90,00030B+モデル(非推奨:340W、アパートには不向き)
RTX 3060 12 GB — 最適:初めてのGPUビルド、7Bモデル、予算重視の方。見送り条件:13B以上のモデルが必要な場合。
RTX 4060 Ti 16 GB — 最適:13Bモデル、3060からのステップアップ。見送り条件:予算が厳しく7Bで十分な場合。
RX 7800 XT 16 GB — 最適:AMDファン、Linux上でのVulkan/ROCm。見送り条件:CUDAエコシステムを好む場合。
RTX 3090 24 GB — 日本のアパートには非推奨。340W TDPで¥31/kWhの電気代が月約¥8,000かかります。専用の部屋と十分な換気がある場合のみ購入を検討してください。

日本での購入ガイド

日本のGPU購入には2つの信頼できるチャネルがあります:正規販売店での新品(Amazon.co.jp、ツクモ、ドスパラ、ヨドバシカメラ)と、メルカリ・Yahoo!オークション・秋葉原のじゃんぱらでの中古購入です。初めて買う方には秋葉原に大きなメリットがあります:実機を手に取って確認でき、スタッフに互換性を相談でき、当日持ち帰れます。

新品GPUの販売店(2026年5月時点の価格):Amazon.co.jpは全国にPrime翌日配送。秋葉原の1丁目にあるツクモ(ツクモ)はLLMビルドに詳しいスタッフが揃い、最も豊富な在庫を誇ります。ドスパラ(ドスパラ)秋葉原店はNVIDIAカードが充実。ヨドバシカメラ マルチメディアAkibaは全主要ブランドを扱い、ヨドバシポイントも貯まります。

中古GPUの購入先:メルカリ(メルカリ)とYahoo!オークション(Yahoo!オークション)は最大の品揃えと最低価格が魅力です。秋葉原のじゃんぱら(じゃんぱら)は30日返品保証付きの信頼できる中古専門店です。メルカリで購入する際のチェックポイント:出品ページの保証ステータスを確認し、マイニング(マイニング)使用歴を必ず確認、販売者評価は95%以上のもの、実際のカードが複数枚鮮明に写った写真があるものを選んでください。マイニングGPUは24時間フル負荷で動作しており、寿命が大幅に短くなっています。

予算別購入フローチャート:¥30,000以下 → メルカリで中古RTX 3060 12 GB。¥30,000〜50,000 → ツクモまたはドスパラで新品RTX 3060 12 GB。¥50,000〜70,000 → RTX 4060 Ti 16 GB(中古)またはRX 7800 XT(新品)。¥70,000超 → RX 7800 XT新品、またはRTX 3090中古(専用部屋と良好な換気がある場合のみ)。

日本の電気代:日本の平均電気代は¥31/kWh(2026年)。1日8時間の推論使用で:RTX 3060 12 GB(170W)は月約¥3,200。RTX 4060 Ti 16 GB(165W)は月約¥3,100。RTX 3090 24 GB(350W)は月約¥6,600。RTX 3090購入でのRTX 3060比¥15,000の節約も、電気代の差額で2〜3ヶ月で消えてしまいます。総所有コストで考えてください。

全予算帯のGPU選び概要:[ローカルLLM向けベストバジェットGPUガイド](/local-llms/best-budget-gpus-local-llm)。AMD GPU特化の選び方:[ローカルLLM向けベストAMD GPUガイド](/local-llms/best-amd-gpus-local-llm)。

開示:当ページは特定商取引法に基づき、アフィリエイトリンクを含みます。リンク経由での購入により収益が発生することがあります。

FAQ:日本でローカルLLM用GPUを購入する

RTX 3060の12 GB版と8 GB版の違いは何ですか?
8 GB版はQ4_K_M量子化での7Bモデル実行ができません。7BモデルをQ4_K_Mで動かすには約6 GBのVRAMが必要で、ランタイムのオーバーヘッドが加わると8GBの上限を超えてしまいます。12 GB版なら5〜6 GBの余裕を持って余裕でクリアできます。ローカルLLMには必ず12 GB版を購入してください。
OllamaはRX 7800 XTなどのAMD GPUで動作しますか?
はい。OllamaはLinuxではROCm、WindowsではVulkanを通じてRX 7800 XTおよびRDNA3カードのGPUアクセラレーションをサポートしています。Linux + ROCmではNVIDIA CUDAに近いパフォーマンスが出ます。Windowsでも動きますが、手動でのセットアップが必要で速度はCUDAより落ちます。Windowsでセットアップの手間を省きたいなら、RTX 3060 12 GBのほうが楽です。
メルカリ(メルカリ)で購入する際に確認すべき点は?
出品ページの保証(保証)ステータスを確認してください。できればメーカー保証が1ヶ月以上残っているものが理想です。マイニング(マイニング)使用歴を必ず出品者に直接確認してください。マイニングGPUは24時間フル負荷で動くため、寿命が大幅に短くなっています。販売者評価は95%以上のものを選び、実際のカードの鮮明な写真が複数枚掲載されている出品のみ購入してください。
MacBookにeGPUを接続してローカルLLM推論に使えますか?
はい、Thunderbolt 3または4経由で可能です。RTX 3060 12 GBまたはRTX 4060 Ti 16 GBを搭載したeGPUでOllamaやllama.cppをGPUアクセラレーションで動かせます。Thunderboltの帯域制限により、内蔵PCIe接続と比べ約80%のパフォーマンスになります。eGPUエンクロージャー(Razer Core X、Sonnet eGPU Breakaway Boxなど)はヨドバシカメラやAmazon.co.jpで購入できます。セットアップの詳細は[eGPU + MacBook Ollamaガイド](/ja/prompt-bites/best-egpu-ollama-macbook)をご覧ください。
日本でGPUを動かすときの電気代はいくらですか?
日本の電気代は平均約¥31/kWh(2026年)。1日4時間の推論使用で:RTX 3060 12 GB(170W)は月約¥1,600。RTX 4060 Ti 16 GB(165W)は月約¥1,550。RTX 3090 24 GB(350W)は月約¥3,300。1日8時間ならこれらを2倍にしてください。購入前に総所有コストに電気代も含めて計算することをお勧めします。