2026年版 70Bモデルをローカルで動かす最も安い実用的な方法

最も安い実用構成：中古RTX 3090 ×2

中古のRTX 3090カード（各24GB VRAM）2枚は、llama.cppのテンソル並列分割により合計で約48GBの使用可能なVRAMになります——70B Q4_K_Mモデルを、CPUへのフォールバックなしで完全にオフロードするのに十分です。デュアルx16 PCIeスロット対応のマザーボードと1000W以上の電源が必要です。

中古RTX 3090の価格は状態や冷却方式、販売者によって大きく変動します——固定の数字を信頼せず、現在の出品状況を確認してください。カードの写真が明確で、できればマイニングやゲーム用途としての使用履歴を開示している販売者から購入してください。

購入すべき場合： PC自作が好きで、コストパフォーマンスに優れた推論速度が欲しい場合。避けるべき場合： 静かでシンプルな単一機を求める場合——下記のMacの選択肢を参照してください。

70Bハードウェア比較

以下のすべての選択肢は、70B Q4_K_Mモデル（約42GB）を実用的な品質で収容できます。決める前に、それぞれの現在の価格を確認してください——中古GPUとRAMの価格は頻繁に変動します。

最も簡単：64GB以上のApple Silicon Mac

デュアルGPUのPCを組みたくない場合、Apple Siliconの方がはるかに簡単です。モデルはユニファイドメモリに直接収まるため、システムメモリとVRAMの間でモデルを分割する必要がなく、マルチGPUのドライバ設定も不要です。64GBのユニファイドメモリが、レイヤーをディスクにオフロードせずに70B Q4を快適に動かす目安です。

Appleは2026年8月25日のハードウェア刷新で、Mac Studioに加えてMac miniも更新しました。ベースのM6チップ搭載Mac miniは899ドルからですが、ユニファイドメモリは最大32GBに制限されており、70B Q4モデルには不十分です——この用途には向きません。M5 Proチップ搭載Mac miniは1,699ドルから、最大64GBのユニファイドメモリまで構成可能で、必要な基準を満たします——70Bモデルを動かせる最も安い新しいApple Silicon機です。どちらも2026年9月22日に発売予定です。新しいハードウェアの価格は変動する可能性があるため、購入前に現在の価格を確認してください。

Appleは同じ2026年8月の発表で、Mac StudioシリーズをM5 Max/M5 Ultraへと刷新し、2,499ドルから、最大128GBのユニファイドメモリまで構成可能です——64GB構成の現在の価格を確認し、古い数字に頼らないようにしてください。64GB以上のユニファイドメモリを持つMacBook Proは、デスクトップに対して価格上乗せのあるポータブル版に相当します。

ゼロから始める場合——GPUを追加できる既存のPCがない場合——マザーボードや電源、ケースまで含めるとGPU2枚だけでなく、1,699ドルのM5 Pro Mac miniの方がデュアルRTX 3090を自作するよりも総額で安くなることが多いです。すでに高性能なPCを持っている場合は、中古RTX 3090を2枚追加する方がおそらく依然として安く、速いでしょう。

購入すべき場合： 生の速度よりもシンプルさ、低い消費電力、静かな動作を重視する場合。避けるべき場合： ドルあたりの最大トークン毎秒を求める場合——その指標ではデュアル3090構成が勝ります。

絶対的な最安ハードウェア：CPU + 64〜128GB RAM

技術的にはGPUは一切不要です——70B Q4_K_Mモデルはシステムメモリだけで完全に動作します。速度はおよそ1〜3トークン毎秒で、バッチ処理やテストには使えますが、対話的なチャットには苛立たしいほど遅く感じられます。

純粋なコストが速度よりも本当に重要でない限り、対話的な70Bチャット専用に128GBのCPU専用マシンを購入しないでください——上記のデュアル3090やMacの選択肢はより高額ですが、日常的には格段に使いやすいです。

代替案：購入せずレンタルする

70Bモデルをたまにしか使わないなら、そもそもハードウェアを購入しないでください。クラウドGPUのレンタルは、たまにしか使わない場合、1,500〜3,000ドルのハードウェア購入より大幅に安いことが多いです——RunPodのCommunity Cloud A40 48GB（70B Q4を完全に収容できる最小のGPU）は、この確認時点で1時間あたり約0.44ドルで利用でき、Llama 3.3 70Bを提供するホスト型推論APIもハードウェア一切不要でトークン単位の従量課金で存在します。

購入ばかりを勧めるページはすべての人にハードウェアを売り込もうとしているように見えるため、これは曖昧にせずはっきり述べておく価値があります——たまにしか使わない、または不定期な利用には、レンタルが正直な答えです。

70Bの量子化

70Bモデルの場合、Q4_K_Mがサイズと品質の標準的なバランスです。以下の品質パーセンテージは目安です——実際の品質低下は、普遍的な定数ではなく、具体的なモデルと評価方法によって異なります。

フル速度の70Bを期待して単体の24GB GPUを買わない

• ▸単体の24GBカード（RTX 3090やRTX 4090）は70B Q4モデル全体を収容できません——CPUオフロードで動かすことはできますが、速度はおよそ8〜12 tok/sまで落ちます。
• ▸24GB GPU単体 → 部分的なオフロード、より遅い
• ▸48GBの合計VRAM（24GB×2） → 70B Q4の完全オフロード
• ▸64GB以上のユニファイドメモリ（Mac） → 快適、オフロード不要
• ▸ベースのM6 Mac mini（最大32GB）→ こちらも完全な70Bモデルは動かせない、単体24GB GPUと同じカテゴリー

関連ガイド

• ▸70Bモデルに必要なVRAMは？ — how much VRAM for a 70B model
• ▸DeepSeek R1 Distill VRAMチートシート — DeepSeek R1 distill VRAM cheatsheet
• ▸お使いのGPUに最適なDeepSeek Distill — best DeepSeek distill for your GPU
• ▸2026年版 クラウドGPUの時間あたりコスト — cloud GPU cost per hour