重要なポイント
- AMD RX 6800 XT（16GB、中古 ¥35,000-40,000）と RX 7900 XTX（24GB、中古 ¥50,000-65,000）は、ローカル LLM のための唯一の実用的なオプションです。
- コスト・パフォーマンス：AMD は NVIDIA より 20-30% 安いですが、ソフトウェアの摩擦により 5-10 時間のセットアップ時間が必要です。
- Ollama：AMD サポート限定（ROCm パスにはバグあり、CPU フォールバックが遅い）。非推奨です。
- vLLM：v0.6.0 起完全サポート AMD ROCm。セットアップには手動ドライバーが必要です。セットアップを乗り越えれば動作します。
- Text Generation WebUI：AMD への優れたサポート。AMD 上での最高のユーザー体験。
- Llama.cpp：ネイティブ AMD サポート（HIP バックエンド）。堅牢なパフォーマンス。推奨される AMD パス。
- セットアップコスト：ROCm ドライバー、HIPCC コンパイル、カーネル互換性のデバッグに 5-10 時間を計画してください。
- 評決（2026 年 4 月）：既に AMD ハードウェアを所有しているか、優れた中古取引（16GB カード ¥35,000）を見つけた場合にのみ AMD を使用してください。それ以外は NVIDIA CUDA がシンプルです。
実際に価値のある AMD GPU は？
- RX 6800 XT（16GB GDDR6）：AMD のコスト・パフォーマンス王。2020 年リリース。7B-22B 推論に堅牢です。中古：¥35,000-40,000。
- RX 6900 XT（16GB GDDR6）：6800 XT よりわずかに高速。レア。中古：¥40,000-45,000。価格上昇の価値がありません。
- RX 7900 XT（20GB GDDR6）：新型 RDNA 3 アーキテクチャ。6800 XT より 20% 高速。中古：¥50,000-55,000。70B Q4 に適しています。
- RX 7900 XTX（24GB GDDR6）：AMD トップ・コンシューマー GPU。24GB VRAM は 70B に大きな違いをもたらします。中古：¥55,000-65,000。RTX 4090 の速度に匹敵します。
- Radeon Pro W6800（32GB）：エンタープライズ・カード、中古で安い（～¥25,000-35,000）。遅いですが、32GB は 70B Q8 に優秀です。ニッチです。
AMD GPU と RTX の価格・性能対比
| GPU | VRAM | TFLOPS | 中古価格 | 性能/円 vs RTX | 等効 RTX |
|---|---|---|---|---|---|
| RX 6800 XT | 16GB | 1.952 | ¥35,000-40,000 | +25% | RTX 3080（遅い） |
| RX 7900 XT | 20GB | 2.540 | ¥50,000-55,000 | +20% | RTX 4080（相当） |
| RX 7900 XTX | 24GB | 2.750 | ¥55,000-65,000 | +15% | RTX 4090（相当速度） |
| RTX 3080 | 10GB | 1.456 | ¥40,000-45,000 | -- | -- |
| RTX 4090 | 24GB | 2.752 | ¥120,000-150,000 | -- | -- |
ROCm セットアップの課題
1. AMD ROCm ドライバーをインストール：`apt-get install rocm-dkms`（Ubuntu）。Windows では手動 .exe インストーラー。30 分かかります。
2. HIP コンパイラーを検証：`hipcc --version`。通常第一試行で失敗します。GPU のカーネル互換性をデバッグします。
3. HIPCC（AMD HIP-to-C++ コンパイラー）をインストール：`apt-get install hip-runtime-amd`。別の依存関係チェーン。
4. 小型 LLM でテスト：推論を実行して GPU アクセラレーションが動作することを検証します。CPU フォールバックが頻繁です。
5. ドライバー・バージョン不整合を解決：ROCm v5.7 はカーネル 5.15 で動作しますが、6.x では動作しません。2-4 時間のデバッグが必要です。
注意： NVIDIA CUDA との比較：`nvidia-cuda-toolkit` → 1 つの apt-get、即座 GPU アクセス。AMD は 5-10 倍の努力が必要です。
Ollama と vLLM を AMD で実行できるか
Ollama on AMD： 2026 年 4 月時点で実験的/バグあり。ROCm パスは機能することもありますが、CPU フォールバックが遅い。非推奨。
vLLM on AMD： v0.6.0 以降で完全 ROCm サポート。動作しますが、手動 ROCm/HIP ドライバー設定が必要です。セットアップを乗り越えれば良好です。
Text Generation WebUI： 優れた AMD ROCm サポート。AMD 上での最高の体験。推奨。
Llama.cpp： ネイティブ HIP バックエンド。堅牢なパフォーマンス。最も簡単な AMD パス。推奨。
LM Studio： NVIDIA のみ。AMD サポートなし。
2026 年 4 月起： vLLM + llama.cpp があなたの AMD パスです。Ollama は信頼できません。
AMD を NVIDIA の代わりに購入すべき場合
AMD を購入すべき場合：
- 中古 RX 7900 XTX を ¥55,000 未満で見つけた場合（RTX 4090 に対して過小評価）。
- 既に AMD ハードウェアを所有していて、エコシステムの一貫性を望む場合。
- クラスターを構築していて、利便性よりも性能当たりコストを優先する場合。
AMD を購入すべきではない場合：
- プラグ・アンド・プレイ体験を望む場合。NVIDIA CUDA の方が速く機能します。
- Ollama が必要な場合。AMD サポートは不安定です。
- 時間が限定されている場合。ROCm デバッグに 10+ 時間かかることがあります。
AMD 導入における一般的な過ちと注意点
- ⚠️ RX 6700（12GB）を 3060 12GB 同等と誤認して購入 -- 20% 遅く、中古でも見つけにくい。
- ⚠️ ROCm が CUDA のように「即座に機能する」と仮定 -- ドライバーとカーネル互換性のデバッグに 5-10 時間を計画してください。
- ⚠️ Ollama で AMD を使用しシームレスな統合を期待 -- ROCm パスはバグあり。llama.cpp または vLLM の方が優れた選択肢です。
よくある質問
ローカル LLM に AMD RX 6800 XT または NVIDIA RTX 3080 を購入すべきか？
シンプルさを優先する場合は RTX 3080（CUDA「即座に機能」）。25% 優れたコスト・パフォーマンスで 5-10 時間の ROCm セットアップを厭わない場合は RX 6800 XT。
AMD RX 7900 XTX は RTX 4090 より優れているか？
速度は同等、VRAM は同じ（24GB）。RX 7900 XTX は中古 ¥55,000-65,000 対 ¥120,000-150,000。ROCm セットアップはトレードオフです。
AMD GPU を Ollama で使用できるか？
技術的には可能です。ただしバグのある動作を予期してください。CPU フォールバックが一般的です。AMD には代わりに vLLM または llama.cpp を使用してください。
2026 年のローカル LLM に最適な AMD パスは何か？
Llama.cpp（HIP バックエンド）+ Text Generation WebUI。両方とも AMD に堅実なサポートがあります。Ollama を避けてください。
AMD ROCm に Ubuntu が必要か、それとも Windows でも機能するか？
Windows サポートが存在（Windows 上の HIP）しますが、より新しくバグあり。Ubuntu が推奨パスです。
7B モデル用に RX 6700 または 6750 は適切か？
RX 6700（12GB）は動作しますが、RX 6800 XT より 20% 遅い。¥25,000 以下の場合のみ購入してください。それ以外は 6800 XT に拡張してください。
1 つのシステムで AMD と NVIDIA GPU を混合できるか？
理論的には可能です。ただし管理は悪夢です。各 GPU に独自の CUDA/HIP ランタイムが必要です。非推奨。
AMD ROCm セットアップにはどのくらい時間がかかるか？
ドライバー・デバッグ、HIPCC コンパイル、カーネル互換性の解決に 5-10 時間を計画してください。一回限りです。その後、AMD は安定して生産的です。
日本企業は AMD ROCm を採用すべきか？
はい。特に金融、医療、法律。データは完全にオンプレミスに留まり、METI AI ガバナンス 2024 ガイドラインに準拠します。セットアップの努力はそれだけの価値があります。
METI AI ガバナンス 2024 とは何か、AMD ROCm とどう関連するか？
日本政府の METI（経産省）AI ガバナンス・フレームワーク。監査ログ、バージョン管理統合、文書化 API インターフェースの確認を要求します。AMD ROCm は完全ローカル処理であるため自動的に準拠し、IT セキュリティチームが管理できます。
関連資料
参考資料
- AMD ROCm ドキュメントおよび GitHub：HIP コンパイラー、ドライバー互換性マトリックス、LLM 推論例
- vLLM GitHub：AMD/ROCm バックエンド実装およびサポート状態（v0.6.0+）
- Llama.cpp GitHub：AMD GPU サポート用 HIP バックエンド