Radeon RX 6800M でローカル LLM を実行できますか?
Hans Kuepper 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン
重要なポイント
- ✓RX 6800M はモバイル RDNA 2 チップ(Navi 22、12 GB VRAM)— デスクトップ RX 6800(Navi 21、16 GB VRAM)ではない
- ✓Windows・Linux では Vulkan が確実な経路。ROCm は 6800M を公式サポートせず、Windows では Ollama の ROCm 対応が RX 7600 以降から
- ✓推定速度:8B(Q4_K_M)で約 45~60 tok/s、14B で 25~35 tok/s — 同じダイの RX 6700 XT のベンチマークからの外挿であり、PromptQuorum の実測ではない
- ✓電源に接続して使用:ノート PC の GPU はバッテリー時に電力制限が厳しくなり、推論が遅くなる

クイック回答
はい。Radeon RX 6800M は 12 GB GDDR6 VRAM を備え、Windows と Linux で Ollama または llama.cpp の Vulkan バックエンド経由でローカル LLM を問題なく実行できます。ROCm はこのチップを公式サポートしておらず、Linux では非公式のオーバーライドでのみ動作します。8B モデル(Q4_K_M)は推定 45~60 tok/s で、同じダイの RX 6700 XT のベンチマークからの推定値であり、PromptQuorum の実測ではありません。
- ▸Windows と Linux:Vulkan が確実な経路(Ollama はデフォルトで有効化)
- ▸ROCm:6800M は AMD と Ollama のサポート一覧に載っておらず、Linux では HSA_OVERRIDE_GFX_VERSION=10.3.0 が必要で不安定な場合あり
- ▸12 GB VRAM は適度なコンテキスト長で Q4_K_M の 14B までのモデルに対応
Radeon RX 6800M が実際に実行できること
Radeon RX 6800M はモバイル RDNA 2 チップ(Navi 22、gfx1031)で 12 GB GDDR6 VRAM を搭載 — より大きな Navi 21 ダイと 16 GB を使うデスクトップ RX 6800 ではありません。 12 GB あれば、Q4_K_M で 14B までのモデルをレイヤーオフロードなしで実行でき、デスクトップ RTX 3060 12 GB と同等の容量です。コンテキストが長いと、モデルの重みに加えて KV キャッシュのメモリが必要になります。
単一ユーザーの生成速度は主にメモリ帯域で決まります。6800M はデスクトップ RX 6700 XT と同じ Navi 22 ダイ・12 GB メモリ構成で、llama.cpp Vulkan スコアボードでは Vulkan バックエンドの Llama 2 7B Q4_0 で約 84 tok/s です。この値を大きなモデルファイルに合わせてスケールしたものが下の推定値です。ノート PC の電力制限や冷却により、6800M はデスクトップカードより低くなる場合があります。
これらの速度はこの公開ベンチマークから導いた推定値であり、PromptQuorum が 6800M で実施したテストではありません。実際の数値はお使いのマシンで llama-bench を実行して確認してください。8 GB VRAM の CUDA 環境との比較はAMD 5700X + RTX 3070 Ti リグ比較を参照。
| モデル | VRAM(Q4_K_M) | 推定速度(Vulkan) |
|---|---|---|
| Llama 3.1 8B | ~5 GB | ~45~60 tok/s |
| Qwen3 8B | ~5 GB | ~45~60 tok/s |
| Phi-4 14B | ~9 GB | ~25~35 tok/s |
| Qwen3 14B | ~9 GB | ~25~35 tok/s |
6800M でのローカル LLM 設定
Windows と Linux では Ollama をインストールします — AMD GPU では ROCm なしで Vulkan バックエンドを使用します。Ollama の GPU ドキュメントによると、バックエンドがインストールされていれば Vulkan はデフォルトで有効です。Linux では追加の Vulkan パッケージが必要な場合があります。llama.cpp のビルド済み Vulkan バイナリを使い、-ngl 99 で GGUF を読み込んで全レイヤーを GPU にオフロードすることもできます。
ROCm はより難しい経路です。RX 6800M は AMD の ROCm サポート表にも Ollama の AMD 一覧にも載っておらず、Windows では Ollama の ROCm 対応は RX 7600 以降のみです。Linux ではコミュニティの報告で HSA_OVERRIDE_GFX_VERSION=10.3.0 を使い、ROCm にこのチップを gfx1030 として扱わせています。これは非公式でクラッシュや CPU フォールバックの可能性があるため、まず Vulkan を試してください。
常に電源に接続 — ノート PC の GPU はバッテリー時に電力制限が厳しくなり、推論が遅くなります。NVIDIA と AMD の GPU 比較全体はローカル LLM 向けベスト GPU ガイドを参照。
ollama run llama3.1:8b を実行し、ollama ps を確認 — PROCESSOR 列が 100% GPU と表示されるはずです。CPU と表示される場合は、Ollama サーバーログで GPU 検出のメッセージを確認してください。Radeon RX 6800M とデスクトップ RX 6800 の違い
「RX 6800」の検索はモバイルチップに行き着くことが多いですが、2 つのカードは別物です。デスクトップ RX 6800 は 16 GB VRAM とより広いメモリ帯域を持ち、より大きなモデルに対応し高速に生成します。llama.cpp Vulkan スコアボードでは、デスクトップ RX 6800 が約 101 tok/s、RX 6700 XT が約 84 tok/s です(Llama 2 7B Q4_0、Vulkan)。
デスクトップ RX 6800 は Ollama の Linux AMD サポート一覧に載っていますが、6800M は載っていません。このページの Vulkan に関する内容はその他すべて両カードに当てはまります。
| 項目 | RX 6800M(ノート) | RX 6800(デスクトップ) |
|---|---|---|
| GPU チップ | Navi 22 (gfx1031) | Navi 21 (gfx1030) |
| VRAM | 12 GB GDDR6 | 16 GB GDDR6 |
| メモリ帯域 | 384 GB/s | 512 GB/s |
| Ollama Linux AMD サポート一覧 | 記載なし | 記載あり |
| Windows の Ollama ROCm | 記載なし | 記載なし |
関連ガイド
Radeon 6800M とローカル LLM に関するよくある質問
Radeon 6800M は ROCm を公式にサポートしていますか?▾
HSA_OVERRIDE_GFX_VERSION=10.3.0 で動くことがありますが、非公式の回避策です。このカードでは Vulkan がサポートされた経路です。Radeon RX 6800M の VRAM 容量は?▾
Ollama は RX 6800M で動作しますか?▾
ローカル LLM ではデスクトップ RX 6800 の方が 6800M より優れていますか?▾
6800M はローカル LLM で RTX 3070 Mobile より高速ですか?▾
llama-bench を使って比較してください。