ローカルLLM向けRTX 3090（2026年）：購入かレンタルか

どちらの道でも同じGPU、同じ24GBのVRAMが手に入ります。本当に重要な問いは、実際に何時間使うか、そしてデータをネットワークの外に出せるかどうかです。

RTX 3090が重要な理由はひとつだけです。24GBのVRAMを、誰よりも安い価格で提供している点です。 それ以外の点では、2026年時点でこのカードに特筆すべきところはありません。2020年設計で350Wを消費し、効率面では現行世代のカードすべてに劣ります。しかし、それでもモデルの重みがビデオメモリに収まるかどうかという事実は変わりません。

VRAMは坂道ではなく崖です。収まるモデルはフルスピードで動きますが、1GBでもオーバーすればシステムRAMにあふれ出し、速度は一気に落ち込みます。これにより24GBはパフォーマンスの数値ではなく能力のしきい値となり、3090はそのしきい値を超える最も安いカードです。

2つ目に重要な数値はメモリ帯域幅です。量子化モデルのトークン生成はコンピュート律速ではなくメモリ律速なので、CUDAコア数よりも936GB/sの方が体感速度を予測しやすい指標です。これが、コンピュート性能は高いがメモリバスが狭い新しいミドルレンジカードに対して、3090が依然として競争力を保てる理由でもあります。

実際には: 4bit量子化の27Bクラスモデルには余裕があり、長いコンテキストの7B〜14Bモデルは高速に推論でき、さらにカードを2枚使えば70BクラスモデルをオフロードなしでフルにVRAM内に収められます。

「24GBに収まる」と「対話的な用途で快適に動く」は別の主張であり、両者を混同する購入ガイドは誤った期待を抱かせます。 モデルは技術的にはロードできてもコンテキストの余地がまったく残らないことがあり、その場合は短い単発プロンプトでは動いても、会話が長くなった瞬間に破綻します。以下の表はこの2つを区別しています。

モデルをこれらの列の間で動かす変数はコンテキスト長です。会話履歴のトークンも生成されるトークンも、重み自体に加えてKVキャッシュに空間を必要とします。4Kコンテキストの4bit量子化27Bモデルは快適に収まりますが、同じモデルを32Kコンテキストまで押し上げると、量子化で得た余裕を食いつぶすことがあります。

RTX 3090の24GBはOllamaとLM Studioに特に有効です。両方とも、モデルが収まる場合はデフォルトでGPUメモリに全体をロードし、収まらない場合はより遅いCPU/GPUオフロードにフォールバックするためです。 24GBあれば、どちらのツールも27Bクラスのモデルを分割せずカード上で完全に動かせます。

実際のトークン毎秒の速度は、モデルそのもの、量子化レベル、コンテキスト長、使用中のバックエンドビルド（どちらも内部はllama.cpp）、プロンプトのうちまだ処理が必要な部分とすでにキャッシュ済みの部分の割合、同じマシン上で他に何が動いているかに左右されます。どちらのツールも公式のRTX 3090ベンチマークは公開していないため、他所で見かける単発の「X トークン/秒」という数値は、あくまで一人の環境の結果であり自分の環境を保証するものではないと考えてください。

実際には: どちらかのツールをインストールし、4bit量子化の27Bクラスモデルをロードし、実行中にnvidia-smi（またはツール自体の表示）でGPUメモリ使用量を確認してください。使用量が24GBを余裕を持って下回っていれば、モデルは完全にカード上にあり、RTX 3090のメモリ帯域幅をフルに活用できています。

どのRTX 3090も同じ24GBのVRAMを搭載しているため、モデル対応の問題は「RTX 3090」を選んだ時点で解決しています。カードごとに違うのは、所有していてどれだけ快適かという点です。 特定メーカーの冷却設計がすべての出品にわたって客観的に最良ということはなく、中古市場での状態は設計そのものより大きくばらつきます。ただし購入前に確認する価値がある要素は次のとおりです。

レンタルを推す理由は「常に安いから」ではなく、「アイドル状態のGPUも稼働中のGPUと同じコストがかかるから」です。 週末しか使わないデスクトップに入ったカードは、すでに購入価格全額を消費しています。レンタルしたGPUはセッションの合間には何もコストがかかりません。

レンタルする理由は哲学的ではなく具体的です。初期費用なし、5年前のカードの値下がりリスクなし、電源やケースや冷却の制約なし、ファンが壊れて週末を無駄にすることもありません。決して買わないようなカードもレンタルできます。70Bクラスのモデルをレンタルした2枚のGPUで半日試すコストは数ドルですが、中古2枚を買えば約1,700ドルかかります。

正直な反論は、レンタルには実際の摩擦があるということです。他人のマシンにデータをアップロードし、インスタンスの確保を待ち、マーケットプレイス型のプロバイダーでは作業途中にホストが消えることもあります。これはレンタルを退ける理由ではなく、時間単価だけでなくワークロード次第で判断すべき理由です。

1時間0.15ドルの中央値レンタルと比較すると、850ドルのカードは元を取るのに約12,300 GPU時間かかります。1日8時間利用で約4年、1日2時間利用で約17年です。 これは多くの購入ガイドが省略する数字であり、購入を決めるべき数字です。

この計算はカードの運用コストを差し引いています。コンセント側450W、2026年の米国平均0.18ドル/kWhでは、ローカル推論の電気代は1時間約0.08ドルです。つまり850ドルと1時間0.15ドルを比較しているのではなく、実際に節約できる約1時間0.07ドルと比較しているのです。

前提条件: 850ドルのカード、システム消費450W、0.18ドル/kWh。自分の電気料金に置き換えてください。表の中で他のどの要素よりも結果を左右し、0.30ドル/kWhを超える市場では購入の根拠はほぼ消えます。

モデルが16GBに収まるなら避けてください。 4bitの7Bや14Bモデルを使い、それより大きなものに触れないのであれば、より安い現行世代の16GBカードの方が静かで消費電力もはるかに少なく、保証も付きます。使わない余裕のために24GBの上乗せ費用を払うのは、この購入で最もよくある失敗です。

推論ではなく学習用に購入するなら、それも避けてください。24GB単体カードでの本格的なファインチューニングは積極的な量子化と長い待ち時間を意味します。数時間だけ大きなカードをレンタルする方が速く、かつ安く済みます。

電気代が高い場合も避けてください。0.30ドル/kWh以上では、運用コストだけで安いクラウド料金に近づき、所有の根拠はほぼ消えます。

今後2年間、1日約4時間以上使う予定がある、またはデータを建物の外に出せない場合は、中古のRTX 3090を購入してください。24GBのVRAMを所有する最も安い方法であることは変わりません。利用が単発的・突発的な場合、またはローカル推論が自分のワークロードに合うかまだ検討中の場合はレンタルしてください。迷ったらまずレンタルしましょう。

頻繁なローカルLLM利用とプライバシーには購入を。時々の実験にはレンタルを。不確かな、または変化する利用状況には、まずレンタルし、実際の利用時間がわかった半年後に判断を見直してください。特に安価な24GB VRAMを求める人にとって、状態の良い中古RTX 3090は2026年も依然として魅力的な選択です。メモリ不足による値上がりはその点を変えず、損益分岐点を先送りしただけです。効率、保証、現行世代の機能が初期価格より重要な新規購入なら、代わりに現行世代のカードと比較してください。

結論として、RTX 3090の強みは中古市場価格での24GBのVRAMです。コストは経年、高い消費電力、発熱、騒音、保証の欠如です。このトレードオフのどちらの側も2026年に変わっていません。変わったのは購入価格だけで、それは購入に不利な方向に動きました。