メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。

Radeon RX 6800M でローカル LLM を実行できますか?

著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

重要なポイント

  • ✓RX 6800M はモバイル RDNA 2 チップ(Navi 22、12 GB VRAM)— デスクトップ RX 6800(Navi 21、16 GB VRAM)ではない
  • ✓Windows・Linux では Vulkan が確実な経路。ROCm は 6800M を公式サポートせず、Windows では Ollama の ROCm 対応が RX 7600 以降から
  • ✓推定速度:8B(Q4_K_M)で約 45~60 tok/s、14B で 25~35 tok/s — 同じダイの RX 6700 XT のベンチマークからの外挿であり、PromptQuorum の実測ではない
  • ✓電源に接続して使用:ノート PC の GPU はバッテリー時に電力制限が厳しくなり、推論が遅くなる
Radeon RX 6800M でローカル LLM を実行できますか?

クイック回答

はい。Radeon RX 6800M は 12 GB GDDR6 VRAM を備え、Windows と Linux で Ollama または llama.cpp の Vulkan バックエンド経由でローカル LLM を問題なく実行できます。ROCm はこのチップを公式サポートしておらず、Linux では非公式のオーバーライドでのみ動作します。8B モデル(Q4_K_M)は推定 45~60 tok/s で、同じダイの RX 6700 XT のベンチマークからの推定値であり、PromptQuorum の実測ではありません。

  • ▸Windows と Linux:Vulkan が確実な経路(Ollama はデフォルトで有効化)
  • ▸ROCm:6800M は AMD と Ollama のサポート一覧に載っておらず、Linux では HSA_OVERRIDE_GFX_VERSION=10.3.0 が必要で不安定な場合あり
  • ▸12 GB VRAM は適度なコンテキスト長で Q4_K_M の 14B までのモデルに対応
Hardware-Specific

Radeon RX 6800M が実際に実行できること

Radeon RX 6800M はモバイル RDNA 2 チップ(Navi 22、gfx1031)で 12 GB GDDR6 VRAM を搭載 — より大きな Navi 21 ダイと 16 GB を使うデスクトップ RX 6800 ではありません。 12 GB あれば、Q4_K_M で 14B までのモデルをレイヤーオフロードなしで実行でき、デスクトップ RTX 3060 12 GB と同等の容量です。コンテキストが長いと、モデルの重みに加えて KV キャッシュのメモリが必要になります。

単一ユーザーの生成速度は主にメモリ帯域で決まります。6800M はデスクトップ RX 6700 XT と同じ Navi 22 ダイ・12 GB メモリ構成で、llama.cpp Vulkan スコアボードでは Vulkan バックエンドの Llama 2 7B Q4_0 で約 84 tok/s です。この値を大きなモデルファイルに合わせてスケールしたものが下の推定値です。ノート PC の電力制限や冷却により、6800M はデスクトップカードより低くなる場合があります。

これらの速度はこの公開ベンチマークから導いた推定値であり、PromptQuorum が 6800M で実施したテストではありません。実際の数値はお使いのマシンで llama-bench を実行して確認してください。8 GB VRAM の CUDA 環境との比較はAMD 5700X + RTX 3070 Ti リグ比較を参照。

モデルVRAM(Q4_K_M)推定速度(Vulkan)
Llama 3.1 8B~5 GB~45~60 tok/s
Qwen3 8B~5 GB~45~60 tok/s
Phi-4 14B~9 GB~25~35 tok/s
Qwen3 14B~9 GB~25~35 tok/s

6800M でのローカル LLM 設定

Windows と Linux では Ollama をインストールします — AMD GPU では ROCm なしで Vulkan バックエンドを使用します。Ollama の GPU ドキュメントによると、バックエンドがインストールされていれば Vulkan はデフォルトで有効です。Linux では追加の Vulkan パッケージが必要な場合があります。llama.cpp のビルド済み Vulkan バイナリを使い、-ngl 99 で GGUF を読み込んで全レイヤーを GPU にオフロードすることもできます。

ROCm はより難しい経路です。RX 6800M は AMD の ROCm サポート表にも Ollama の AMD 一覧にも載っておらず、Windows では Ollama の ROCm 対応は RX 7600 以降のみです。Linux ではコミュニティの報告で HSA_OVERRIDE_GFX_VERSION=10.3.0 を使い、ROCm にこのチップを gfx1030 として扱わせています。これは非公式でクラッシュや CPU フォールバックの可能性があるため、まず Vulkan を試してください。

常に電源に接続 — ノート PC の GPU はバッテリー時に電力制限が厳しくなり、推論が遅くなります。NVIDIA と AMD の GPU 比較全体はローカル LLM 向けベスト GPU ガイドを参照。

セットアップをテスト:ollama run llama3.1:8b を実行し、ollama ps を確認 — PROCESSOR 列が 100% GPU と表示されるはずです。CPU と表示される場合は、Ollama サーバーログで GPU 検出のメッセージを確認してください。

Radeon RX 6800M とデスクトップ RX 6800 の違い

「RX 6800」の検索はモバイルチップに行き着くことが多いですが、2 つのカードは別物です。デスクトップ RX 6800 は 16 GB VRAM とより広いメモリ帯域を持ち、より大きなモデルに対応し高速に生成します。llama.cpp Vulkan スコアボードでは、デスクトップ RX 6800 が約 101 tok/s、RX 6700 XT が約 84 tok/s です(Llama 2 7B Q4_0、Vulkan)。

デスクトップ RX 6800 は Ollama の Linux AMD サポート一覧に載っていますが、6800M は載っていません。このページの Vulkan に関する内容はその他すべて両カードに当てはまります。

項目RX 6800M(ノート)RX 6800(デスクトップ)
GPU チップNavi 22 (gfx1031)Navi 21 (gfx1030)
VRAM12 GB GDDR616 GB GDDR6
メモリ帯域384 GB/s512 GB/s
Ollama Linux AMD サポート一覧記載なし記載あり
Windows の Ollama ROCm記載なし記載なし

関連ガイド

Radeon 6800M とローカル LLM に関するよくある質問

Radeon 6800M は ROCm を公式にサポートしていますか?▾
いいえ。RX 6800M(gfx1031)は AMD の ROCm サポート表にも Ollama の AMD 一覧にも載っていません。Linux では HSA_OVERRIDE_GFX_VERSION=10.3.0 で動くことがありますが、非公式の回避策です。このカードでは Vulkan がサポートされた経路です。
Radeon RX 6800M の VRAM 容量は?▾
192 ビットバスの 12 GB GDDR6 です。8B モデルは余裕で、14B モデルも適度なコンテキスト長の Q4_K_M なら収まります。12 GB は専用 GPU メモリで、システム RAM は加算されません。
Ollama は RX 6800M で動作しますか?▾
はい、Vulkan 経由で動作します。Ollama のドキュメントによると、バックエンドがインストールされていれば Vulkan はデフォルトで有効です。Ollama の ROCm 経路には 6800M が載っていないため、非公式の Linux オーバーライドを使わない限り ROCm ではなく Vulkan になります。
ローカル LLM ではデスクトップ RX 6800 の方が 6800M より優れていますか?▾
はい、容量と帯域で優れます:VRAM は 16 GB 対 12 GB、帯域は約 512 GB/s 対 384 GB/s。Ollama の Linux AMD サポート一覧にも載っています。上の比較表を参照してください。
6800M はローカル LLM で RTX 3070 Mobile より高速ですか?▾
6800M の 12 GB VRAM と、ほとんどの RTX 3070 Mobile 構成の 8 GB の差は、生の速度よりモデルの収まりやすさに効きます。同じモデルサイズなら RTX 3070 Mobile は成熟した CUDA サポートの恩恵があります。実際の結果は自分のマシンで llama-bench を使って比較してください。
6800M は継続的な LLM 推論でどのくらい熱くなりますか?▾
継続的な推論はゲームプレイと同様に GPU に負荷をかけ、冷却次第ではノート PC の温度が 80℃台に達することがあります。ご自身で温度を監視し、通気口を確保し、スロットリングが起きる場合は Radeon Software(Windows)または CoreCtrl(Linux)で控えめなアンダーボルトを検討してください。undervolt は自己責任で行ってください。不安定になったり保証に影響したりする可能性があります。
MCP