クイック回答:ノートPCで動くローカルLLMは?(8GB・16GB・Apple Silicon)
RAM 8 GBのノートPCでもローカルLLMは動きます。Q4_K_Mの3B–4Bモデルが、デュアルチャネル RAMで推定15–30 tok/sです。 下の表で、お使いのハードウェアに合うモデルを確認できます。速度はメモリ帯域から導いたPromptQuorumの推定値(tok/s ≈ 帯域 ÷ モデルのファイルサイズ)で、実測ではありません。
お使いのノートPC | おすすめモデル | 推定tok/s | ハードウェアの前提 |
|---|---|---|---|
| 8 GB RAM、CPUのみ | Llama 3.2 3B / Phi-4-mini、Q4_K_M | 15–30 | デュアルチャネル DDR4/DDR5 |
| 16 GB RAM、CPUのみ | Qwen3 8B / Llama 3.1 8B、Q4_K_M | 8–15 | デュアルチャネル DDR4/DDR5 |
| Apple M3、16 GB | Qwen3 8B、Q4_K_M | 13–17 | 100 GB/sのユニファイドメモリ |
| Apple M5、16 GB | Qwen3 8B、Q4_K_M | 21–26 | 153 GB/sのユニファイドメモリ |
| Intel Iris Xe / AMD内蔵GPU | Llama 3.2 3B / Phi-4-mini、Q4_K_M | 15–30 | システムRAMを共有。ollama psで確認 |

一文で言うと
ローカルLLMは量子化モデルを使えばノートPCで動かせます。Q4_K_Mはファイルサイズを約FP16の31%に縮め(Llama 3.1 8BでFP16の14.96 GiBが4.58 GiB)、品質低下はわずかです。
やさしく言うと
ローカルでLLMを動かすとは、プロバイダーのサーバーではなく自分のノートPC上でチャットボットを動かすことです。プライバシーを守れてオフラインでも使えますが、クラウドサービスより低速です。
ノートPCでLLMを動かすのはどんなときか?
- ✅ ローカルLLMが向くケース: データを端末内にとどめたい、オフラインで作業する、トークン単位のAPI費用をかけたくない
- ❌ 向かないケース: 最高水準の推論品質が必要、非常に長いコンテキスト(100K+トークン。コンテキストが長くなるほどKVキャッシュが増えるため)が必要、高速なバッチ処理が必要 — ローカルLLMの制限を参照
ノートPCでローカルLLMを実行できますか?
はい。ただし、適切なサイズのモデルを選ぶことが条件です。 RAM 8 GBのノートPCでは、Q4_K_Mの3B–4Bモデルがデュアルチャネル RAMで推定15–30 tok/sで動きます(Llama 3.2 3B:18–30、Phi-4-mini:15–25)。16 GBのApple Siliconノートなら、チップによって8Bモデルが推定13–26 tok/sで動きます。多くのクラウドAPIより遅いものの、読みながら使える速さです。
8 GBのノートPCで現実的な上限は3B–4Bモデルです。7B–8Bのファイル(4.4–5.2 GB)では、OSとブラウザに回すメモリがほとんど残りません。Q4_K_Mの14Bモデル(Qwen3 14B:ファイル9.3 GB)は、コンテキストを短くして他のアプリを閉じた場合に限り、16 GBのマシンに収まります。Macの場合、macOSが少なくとも8 GBを必要とするため、16 GBのMacで使えるのは約8 GBで、14Bモデルは収まりません。
ここでの速度は、メモリ帯域から導いたPromptQuorumの推定値で、実測ではありません。8 GB未満の構成と帯域の考え方の全体は 低スペックPC向け最速ローカルLLM を、GPUのないノートPCについては CPUのみで動くおすすめローカルLLM 2026 を参照してください。
ノートPCでRAG(検索拡張)を実行できますか?
はい。ノートPCでもRAGは動作します。制約になるのは検索層ではなく、チャットモデルのほうだからです。 ノートPCのRAG構成は、小さな埋め込みモデル、ローカルのベクトルストア、チャットモデルの3つです。
埋め込みモデルは小さく、nomic-embed-textはOllamaで274 MB(コンテキストウィンドウ2K)なので、RAMへの負担はわずかです。8 GBのノートPCなら3Bのチャットモデルと埋め込みモデルを併用でき、16 GBなら8Bのチャットモデルと検索を並行する余裕があります。
RAM 2 GBで動くのは、ごく小さな構成だけです。 Qwen3 0.6B(523 MB)とnomic-embed-textを合わせてファイルは約0.8 GBで、2 GBが実際に空いていれば収まります。一般的なノートPCではOSが2–3 GBを使い、ディスクへのスワップで生成が大きく遅くなるため、現実的な下限は8 GBと考えてください。
用途別に、ノートPCはどんな構成が必要ですか?
- 初心者向け — 8 GB RAM、3B–4Bモデル、CPUのみ。推定15–30 tok/sで、チャット、要約、簡単なコーディングには十分です。
- 開発者向け — 16 GB RAM、8B–9Bモデル、GPUは任意。他のアプリを閉じなくてもマルチタスクが可能です(CPUで推定8–15 tok/s)。
- パワーユーザー向け — ProまたはMaxチップのApple Silicon、あるいはVRAM 8 GB以上のノートPC用GPUで、8B–14Bモデル。Qwen3 8Bの推定値は、M5 Pro(307 GB/s)で41–53 tok/s、RTX 4060 ノートPC用GPU(約256 GB/s)で34–44 tok/sです。
ノートPCでローカルLLMを動かせるのはどんな人?
- 初心者 → LM Studio + 3Bモデル
- 中級者 → Ollama + 8Bモデル
- 上級者 → 14B + 量子化のチューニング
- ❌ ノートPCが向かないケース: リアルタイムAPIが必要(vLLMサーバーを使用)、大規模データセットを処理する(クラウドGPUを使用)
必要なローカルLLMのモデルサイズは?
ファイルサイズは、2026-10-23にollama.comで確認したOllamaのダウンロードサイズで、Q4_K_M相当の量子化(FP16より約70%小さい)です。最小RAMは、ファイルサイズに約0.5 GBのオーバーヘッドを加えた値です。OSとブラウザ用に、さらに2–4 GBの余裕を残してください。
モデル | ファイル(Ollama) | 最小RAM | 推定tok/s | 主な用途 |
|---|---|---|---|---|
| Llama 3.2 3B | 2.0 GB | 2.5–3 GB | 18–30 | 基本タスク、チャット、要約 |
| Phi-4-mini 3.8B | 2.5 GB | 3 GB | 15–25 | 8 GBでの推論とコーディング |
| Qwen3 8B | 5.2 GB | 6 GB | 8–15 | 一般用途、多言語、コーディング |
| Qwen3 14B | 9.3 GB | 10 GB | 4–8 | 16 GBでの難しいタスク(短いコンテキスト) |
推定値はPromptQuorumによる推定で、実測ではありません。デュアルチャネル DDR4-3200〜DDR5-5600(51.2–89.6 GB/s)のノートPCが前提で、シングルチャネル RAMでは半分になります。Q4_K_Mの例:Llama 3.1 8BはFP16で14.96 GiB、Q4_K_Mで4.58 GiB(llama.cpp quantize README)で、約69%小さくなります。→ VRAM計算ツール
RAM 8 GBと16 GBのノートPC:実用上の違いは?
シナリオ | 8 GB RAM | 16 GB RAM |
|---|---|---|
| 最大モデルサイズ | 3B–4Bなら余裕あり。7B–8B(ファイル4.4–5.2 GB)はぎりぎり | 8B–9Bなら余裕あり。14B(9.3 GB)は短いコンテキストなら可 |
| ブラウザを開いたままのモデル | 3B–4B(ぎりぎり) | 8B–9Bでも余裕あり |
| 最初におすすめのモデル | llama3.2:3b または phi4-mini | qwen3:8b または llama3.1:8b |
| 同時に使うアプリ | 8Bモデルを読み込む前にブラウザを閉じる | 8Bモデルでも通常のマルチタスクが可能 |
ノートPCで最も快適に動くローカルLLMモデルは?
ノートPCの制約に合うのは、小さなファイルのモデルです。同じメモリ帯域でも、ファイルが小さいほど毎秒のトークン数が増えます。 速度は、デュアルチャネル DDR4-3200〜DDR5-5600(51.2–89.6 GB/s)のノートPCを前提に、帯域の上限(帯域 ÷ Ollamaのファイルサイズ)から導いたPromptQuorumの推定値で、実測ではありません。シングルチャネル RAMでは半分になります。ファイルサイズは2026-10-23に確認したOllamaのダウンロードサイズです。モデルやノートPC構成ごとのVRAM要件は、VRAM要件ガイド →を参照してください。Ollamaをインストールすれば、どのモデルもコマンド1つで実行できます。GPUがない場合は CPUのみで動くおすすめローカルLLM 2026 を参照してください。これらはオープンウェイトのモデルです。ライセンスは各モデルカードで確認してください。
モデル | ファイル(Ollama) | 最小RAM | 推定tok/s | おすすめ用途 |
|---|---|---|---|---|
| Llama 3.2 3B | 2.0 GB | 2.5–3 GB | 18–30 | 8 GBノートPC、手早いタスク |
| Phi-4-mini 3.8B | 2.5 GB | 3 GB | 15–25 | 8 GBノートPC、推論とコーディング |
| Qwen3 8B | 5.2 GB | 6 GB | 8–15 | 16 GBノートPC、多言語、コーディング |
| Llama 3.1 8B | 4.9 GB | 5.5 GB | 8–14 | 16 GBノートPC、一般用途 |
| Qwen3.5 9B | 6.6 GB | 7–8 GB | 6–12 | 16 GBノートPC、新世代、画像入力対応 |

ノートPCでは、どのローカルLLM環境から始めるべきですか?
ノートPCのハードウェアではモデルサイズに限りがありますが、明確で構造化されたプロンプトを使えば、小さなモデルの出力を改善できます。小さなモデル向けの手法はプロンプトエンジニアリングガイドを参照してください。
Apple SiliconとWindowsノートPC:ローカルLLMに向くのはどちら?
Apple SiliconのMacBookは、ユニファイドメモリによってGPUがメモリ全体に高帯域でアクセスできるため、ローカルLLMに適した選択肢です。 速度を決めるのはメモリ帯域で、AppleはM3を100 GB/s、M5を153 GB/s、M5 Proを307 GB/s、M5 Maxを460または614 GB/s(GPUコア数による)と公表しています。2026年3月3日に発表されたM5 ProおよびM5 Max搭載のMacBook Proは、最大64 GBおよび128 GBのユニファイドメモリを搭載できます。
NVIDIAの単体GPUを搭載したWindowsノートPCは、モデルがVRAMに収まれば、より高速になることがあります。RTX 4060 ノートPC用GPUは、128ビットバスのGDDR6を8 GB搭載しています(NVIDIA)。16 Gbps(第三者のスペック)では約256 GB/sとなり、Qwen3 8B(5.2 GB)の上限は約49 tok/sです。その代わり、消費電力と発熱は大きくなります。
Intel Iris XeまたはAMD Radeonの内蔵グラフィックスのみのWindowsノートPCは、システムRAMの帯域に制約されます。Ollamaのドキュメントによると、バックエンドがインストールされていればVulkan GPUサポートは既定で有効ですが、Intelの内蔵グラフィックスはサポート表に記載されていません。そのため、`ollama ps` のPROCESSOR列で確認してください。内蔵GPUは同じRAMを共有するため、効果は通常わずかです。
内蔵グラフィックス(Intel Iris Xe / AMD Radeon)に向くモデル: RAM 16 GBなら、速度重視でQ4_K_Mの3B–4Bモデル(Llama 3.2 3B、デュアルチャネル RAMで推定18–30 tok/s)、品質重視でQwen3 8B(推定8–15 tok/s)を選びます。RAMに余裕を持って収まるモデルを優先してください。低スペックPCの手順は低スペックPC向け最速ローカルLLMを参照してください。
表の算出方法:各推定値は、上限(帯域 ÷ Qwen3 8Bのファイル5.2 GB)の約70–90%です。PromptQuorumの推定値で、実測ではありません。
ノートPCの種類 | メモリ帯域 | Qwen3 8Bの推定tok/s | 実用上の最大モデル |
|---|---|---|---|
| Apple M3、16 GB | 100 GB/s | 13–17 | 約9B(14Bはぎりぎり) |
| Apple M5、16 GB | 153 GB/s | 21–26 | 約9B(14Bはぎりぎり) |
| Apple M5 Pro | 307 GB/s | 41–53 | メモリ容量が上限(最大64 GB) |
| Apple M5 Max | 460–614 GB/s | 62–106 | メモリ容量が上限(最大128 GB) |
| RTX 4060 ノートPC(VRAM 8 GB) | 約256 GB/s | 34–44 | VRAM内で約8B |
| デュアルチャネル DDR5-5600のノートPC | 89.6 GB/s | 12–15 | 約9B(16 GB RAM) |
| シングルチャネル DDR4-3200のノートPC | 25.6 GB/s | 3–4 | 3B–4Bを推奨 |
ローカルLLMはノートPCで十分ですか?デスクトップと比べると?
ノートPCでも3B–14Bのモデルは十分に動かせますが、デスクトップは冷却性能が高く、メモリ帯域がはるかに広い専用GPUを使えるため、さらに大きなモデルに対応できます。 デスクトップ版RTX 4090はVRAM 24 GB、帯域1,008 GB/s(NVIDIA)で、Gemma 4 31B(Ollamaで19–20 GB)など、約20 GBまでのモデルファイルをVRAMに載せられます。Q4の70Bモデルは、Ollama上で43 GBのファイル(llama3.3:70b)となり、24 GBには収まらず、はるかに低速なシステムRAMに分割して載せる必要があります。
ノートPCは持ち運びと試用に、デスクトップは大型モデル(14B以上)、継続的な負荷、本番の推論に使いましょう。プラットフォーム選びに迷う場合は、コストと性能を詳しく比べたローカルLLM向けノートPCとデスクトップの購入ガイドを参照してください。
ノートPCのサーマルスロットリングにはどう対処しますか?
サーマルスロットリングとは、CPUやGPUが温度の上限に達し、冷却のためにクロック周波数を下げる現象です。 ローカル推論は負荷が続く処理なので、薄型のノートPCでは一定時間後に遅くなることがあります。どの程度、どれくらい早く遅くなるかは、冷却設計しだいです。実際の速度は、`ollama run <model> --verbose` で10分間にわたって確認してください。
- 通気スペースのあるノートPCスタンドを使う -- 本体を持ち上げると排気の流れが良くなり、スロットリングを遅らせられる場合があります。
- 低電力モードを試す -- トークン生成の速度はクロックよりメモリ帯域で決まるため、バランスまたは低電力プラン(macOSでは低電力モード)で発熱を抑えられ、速度の低下も思ったより小さい場合があります。お使いのマシンで試してください。
- 生成の長さとコンテキストを制限する -- 長いタスクは短いプロンプトに分け、非常に長い応答の再生成は避けます。
- Q8_0ではなくQ4_K_Mを使う -- ファイルが約1.7倍小さく(Llama 3.1 8Bで4.58 GiB対7.95 GiB)、トークンごとに読み込むデータが減るため、チップに負荷がかかる時間が短くなります。
ローカルLLMの実行でバッテリーはどれくらい減りますか?
ローカル推論中のバッテリー消費は大きくなります。生成のあいだ、CPUやGPUが高負荷で動き続けるためです。 駆動時間(時間)は、おおよそバッテリー容量(Wh)÷ 平均消費電力(W)で決まります。60 Whのバッテリーなら、20 Wで約3時間、30 Wで約2時間です。これはあくまで例示的な計算で、実測ではありません。実際の消費電力は、ノートPC、モデル、電源モードによって変わります。
公称のバッテリー駆動時間は、推論時の駆動時間を表すものではありません。14インチMacBook Pro(M5、バッテリー72.4 Wh)でAppleが公表している「ワイヤレスWeb閲覧で最大16時間」は軽い作業の値であり、生成を続けた場合の値ではありません。
長時間使うときは電源につなぎましょう。バッテリーを節約したいなら、小さなモデルを選び(3Bのファイルは8Bの半分未満なので、応答が早く終わります)、コンテキストを短くします。
ノートPCではどの量子化レベルを選ぶべきですか?
量子化はモデルの精度を下げて、必要なRAMと帯域を減らす手法です。ノートPCでは、Q4_K_Mが通常の既定値になります。下の表のサイズは、llama.cpp quantize READMEにあるLlama 3.1 8B(FP16で14.96 GiB)のものです。他のモデルも同様の比率で変わります。
量子化 | FP16比のサイズ | 品質低下 | 用途 |
|---|---|---|---|
| Q2_K | 約20%(2.95 GiB) | 大きい -- 劣化がはっきり分かる | 他に収まらない場合のみ |
| Q3_K_S | 約23%(3.41 GiB) | 中程度 | 大きめのモデルをRAMに押し込みたいとき |
| Q4_K_M | 約31%(4.58 GiB) | 小さい -- 一般的な既定値 | ほとんどのノートPC、バランスが良い |
| Q5_K_M | 約36%(5.33 GiB) | わずか | 速度に余裕がある16 GBノートPC |
| Q8_0 | 約53%(7.95 GiB) | ごくわずか | RAMに余裕があり、速度を重視しないとき |
ノートPCでローカルLLMを動かすとき、どのプライバシー法が関係しますか?
欧州連合(GDPR): モデルを自分のノートPC上で動かすと、プロンプトや文書を端末の外に出さずに済む場合があり、個人データを第三者の処理者に送ることを避けられる可能性があります。GDPR、EU AI Actなどの義務が適用されるかどうかは、システムを誰が何の目的で運用するかによって決まります。本ガイドは法的助言ではなく、コンプライアンスは推論をどこで実行するかではなく、構成全体で決まります。
ドイツ: ドイツの事業者にとって、文書を端末内にとどめることはデータ保護上の検討を簡素化できますが、ローカル構成が義務を満たすかどうか(例えば機密性の高い顧客データの場合)は、個別に判断されます。データ保護責任者に相談してください。
日本(個人情報保護法): 日本の個人情報の保護に関する法律は、個人データの国外移転を規制しています。ノートPC上で推論を実行すれば、プロンプトを海外のAPIに送らずに済み、移転に関する検討を簡素化できる場合があります。ただし、法的な評価の代わりにはなりません。
米国: 連邦レベルの包括的なAIデータ法はなく、HIPAA(医療)、FERPA(教育)などの分野別ルールや州のプライバシー法が、用途に応じて適用されます。データをローカル端末にとどめれば、データを扱う第三者を減らせる場合がありますが、端末とデータの保護の責任は引き続きあなたにあります。
ノートPCでのローカルLLMに関するよくある質問
RAM 16 GBのIntel Iris Xeに向くOllamaモデルは?
Intel Iris Xeグラフィックスで16 GB RAMのノートPCでは、速度はシステムRAMの帯域に制約されます。OllamaがiGPUを使うかどうかはドライバーとバックエンドの対応しだいで(`ollama ps` のPROCESSOR列で確認)、iGPUは同じRAMを共有するため、効果は通常わずかです。速度重視なら、Q4_K_Mの3B–4Bモデルとして、`ollama run llama3.2:3b` でLlama 3.2 3B(デュアルチャネル RAMで推定18–30 tok/s)を、品質重視なら `ollama run qwen3:8b` でQwen3 8B(推定8–15 tok/s)を選びます。速度はPromptQuorumの推定値で、実測ではありません。
ノートPCでローカルにRAGを実行できますか?
はい。ノートPCのRAG構成は、小さな埋め込みモデル、ローカルのベクトルストア、チャットモデルの組み合わせです。埋め込みモデルは小さい(nomic-embed-textはOllamaで274 MB)ので、RAMの制約になるのはチャットモデルです。8 GBのノートPCなら3Bのチャットモデルと検索を併用でき、16 GBなら8Bモデルを動かす余裕があります。RAMの内訳は、前述のノートPCでのRAGのセクションを参照してください。
ノートPC向けのCPUのみで動くローカルLLMでおすすめは?
CPUのみのガイドで比較したモデルのうち、総合力で選ぶならPhi-4 Mini(3.8B、ファイル2.5 GB)で、デュアルチャネル RAMで推定15–25 tok/sです。Llama 3.2 3B(ファイル2.0 GB)はファイルが最小で、推定18–30 tok/sです。いずれもQ4_K_Mです。比較の全体とOllamaのコマンドは、CPUのみで動くおすすめローカルLLM 2026を参照してください。
ローカルLLMを動かし続けると、ノートPCが傷みますか?
状態の良いノートPCで、すぐに故障することは想定されません。チップは熱くなるとクロック周波数を下げるため、推論を続けると本体は傷むのではなく遅くなります。ただし、高温が続くとファンやバッテリーは時間とともに消耗するため、スタンドや冷却パッドを使い、通気口をふさがず、適度に休ませてください。熱とバッテリーの扱いは、メーカーの案内に従ってください。
RAM 4 GBのノートPCでローカルLLMを動かせますか?
ぎりぎりです。Qwen3 1.7B(ファイル1.4 GB)やLlama 3.2 1B(ファイル1.3 GB)のような小さなモデルなら収まりますが、OSが2–3 GBを使うため、合計4 GBではスワップが発生しやすく、生成が大きく遅くなります。快適に使える現実的な下限は8 GBです。低スペックPC向け最速ローカルLLMを参照してください。
ローカルLLMを動かすのに、ノートPCに専用GPUは必要ですか?
いいえ。Ollama、LM Studio、GPT4AllはCPUのみでも動作します。メモリ帯域の広いGPUがあれば生成は速くなりますが、3B–4Bモデルなら、デュアルチャネル RAMのCPUで推定15–30 tok/sと実用的です。CPUで使いやすいモデルは、初心者向けおすすめローカルLLMモデルを参照してください。
8 GBのMacBookで動かせる最速のローカルLLMは?
このガイドのモデルでは、Q4_K_MのLlama 3.2 3B(ファイル2.0 GB)が、8 GBのMacBookで最も実用的な最速の選択肢です。M2またはM3(Appleによればどちらも100 GB/s)では、帯域の上限は約50 tok/sで、PromptQuorumの推定値は35–45 tok/sです。8Bのファイル(5.2 GB)は、macOSやアプリにもメモリが必要なため、8 GBではぎりぎりです。
LLMの推論中に、ノートPCのサーマルスロットリングを抑えるには?
4つの手順があります。(1) 通気スペースのあるスタンドで本体を持ち上げる、(2) 生成の速度はクロックよりメモリ帯域で決まるため、バランスまたは低電力モードを試す、(3) 生成の長さとコンテキストを制限する、(4) Q8_0ではなくQ4_K_Mを使い、トークンごとに読み込むデータを減らす。速度は `ollama run <model> --verbose` で10分間にわたって確認してください。
ChromebookでローカルLLMを動かせますか?
Linux(Crostini)を有効にしたChromebookで、小さなモデルに限られます。多くのChromebookはRAMが4–8 GBでメモリ帯域も控えめなため、Q4_K_Mの1B–3Bモデルが現実的な上限で、速度は低くなります。Linuxに対応しないChromebookではOllamaを実行できません。
ローカルLLMでは、Apple SiliconはNVIDIAのノートPC用GPUより優れていますか?
メモリしだいです。速度はメモリ帯域と容量に左右されます。M5(153 GB/s)搭載の16 GB MacBookでは、Qwen3 8Bの上限は約29 tok/sです。一方、RTX 4060 ノートPC用GPU(約256 GB/s、VRAM 8 GB)の上限は約49 tok/sですが、8 GBに収まるモデルしか載せられません。メモリの多いM5 Pro(307 GB/s)やM5 Max(460–614 GB/s)なら、より大きなモデルを高速なメモリに載せられます。消費電力は機種によって異なるため、お使いのノートPCで確認してください。
モデルがノートPCのRAMに対して大きすぎるとどうなりますか?
OSがディスクへのスワップを始めるか、モデルの読み込みに失敗し、ファンが全開で回るなか、生成が極端に遅くなることがあります。対処は、小さなモデルにする、量子化レベルを下げる(Q8_0ではなくQ4_K_M)、またはコンテキストを短くする(`OLLAMA_CONTEXT_LENGTH`、既定は4096)ことです。
ローカルLLMを動かすと、ノートPCのバッテリーはどれくらい持ちますか?
駆動時間は、おおよそバッテリー容量(Wh)÷ 平均消費電力(W)です。60 Whのバッテリーなら、20 Wで約3時間、30 Wで約2時間です(例示的な計算で、実測ではありません)。実際の消費電力は、ノートPC、モデル、電源モードによって変わります。1日中使うなら、電源につないでください。
ノートPCでローカルLLMを動かすのに、インターネット接続は必要ですか?
いいえ。モデルのダウンロード時はインターネットが必要ですが、その後の推論は完全にオフラインで動きます。モデルはノートPCのCPUまたはGPUだけで動作します。そのため、出張先、セキュアな環境、接続が不安定な場所でもローカルLLMを使えます。
RAM 8 GBでローカルLLMを動かせますか?
はい。RAM 8 GBのノートPCでは、Q4_K_Mの3B–4Bモデル(ファイル2.0–2.5 GB)が、デュアルチャネル RAMで推定15–30 tok/s、Apple M2またはM3で推定28–45 tok/sで動きます。7B–8Bモデル(ファイル4.4–5.2 GB)は、8 GBではぎりぎりです。
ローカルLLMに最速のノートPCは?
ローカルLLMで重要なスペックは、メモリ帯域と十分なメモリ容量です。Appleは、M5 Proを307 GB/s(最大64 GB)、M5 Maxを460または614 GB/s(最大128 GB)と公表しています。Qwen3 8BのPromptQuorumの推定値は、M5 Proで41–53 tok/s、M5 Maxで62–106 tok/sです。Windowsでは、モデルをVRAMに載せられるNVIDIA GPU搭載のノートPCが高い上限を持ちます。例えば、VRAM 8 GBのRTX 4060 ノートPC用GPUは約256 GB/sです。
CPUでのローカルLLMはどれくらい遅いですか?
速度は最大でもメモリ帯域 ÷ モデルのファイルサイズです。デュアルチャネル DDR4/DDR5では、Q4_K_Mの3B–4Bモデルが推定15–30 tok/s、Qwen3 8Bが推定8–15 tok/sで、シングルチャネル RAMではその半分になります。読みながら使える程度に遅く、チャットや要約には十分な速さです。Apple Siliconはユニファイドメモリの帯域が広いため、Qwen3 8Bで推定13–26 tok/s(M3〜M5)に達します。
出典
- Apple MacBook Pro 技術仕様 -- M5(153 GB/s)、M5 Pro(307 GB/s)、M5 Max(460および614 GB/s)のメモリ帯域と、公称のバッテリー駆動時間。apple.com/macbook-pro/specs
- Apple MacBook Air(15インチ、M3、2024)技術仕様 -- M3のメモリ帯域は100 GB/s。support.apple.com
- Apple Newsroom:M2 -- 100 GB/sのユニファイドメモリ帯域。apple.com/newsroom
- Apple Newsroom:M5 ProおよびM5 Max搭載のMacBook Pro(2026年3月3日) -- 最大64 GBおよび128 GBのユニファイドメモリ。apple.com/newsroom
- NVIDIA GeForce ノートPC比較 -- RTX 4060 ノートPC用GPU:GDDR6 8 GB、128ビットバス。nvidia.com
- Notebookcheck:RTX 4060 ノートPC用GPU -- メモリ速度16 Gbps(第三者情報。約256 GB/sの算出根拠)。notebookcheck.net
- NVIDIA GeForce RTX 4090 仕様 -- VRAM 24 GB、1,008 GB/s。nvidia.com
- Ollamaライブラリ -- ファイルサイズは2026-10-23に確認:llama3.2、phi4-mini、qwen3、qwen3.5、llama3.1、llama3.3、gemma4。
- Ollama FAQ -- 既定のコンテキスト長4096、OLLAMA_CONTEXT_LENGTH、KVキャッシュのタイプ、keep-alive、`ollama ps`。docs.ollama.com/faq
- Ollama GPUドキュメント -- Apple SiliconのMetal、Vulkan、対応GPU。docs.ollama.com/gpu
- llama.cpp quantize README -- Llama 3.1 8Bの量子化タイプ別ファイルサイズ。github.com/ggml-org/llama.cpp
- Apple MLXフレームワーク -- Apple Silicon搭載MacのGPU高速化。github.com/ml-explore/mlx
- LM Studio -- システム要件、GPU互換性、ローカル推論のセットアップ。lmstudio.ai
ノートPCでローカルLLMを動かすときのよくある間違いは?
- 使えるRAMに対して大きすぎるモデルを動かす → システムがディスクへスワップし、生成が大きく遅くなります。小さなモデルか、低めの量子化を選んでください。
- サーマルスロットリングを無視する → チップが温度の上限に達すると、持続的な速度が落ちることがあります。`ollama run <model> --verbose` で10分後の速度を確認してください。
- Q4_K_Mではなく、Q8_0を使う → ファイルが約1.7倍大きく(Llama 3.1 8Bで4.58 GiB対7.95 GiB)、より多くのRAMが必要で、帯域に制約のあるノートPCでは生成が遅くなります。得られる品質向上はわずかです。
- RAMスティック1枚で動かす → シングルチャネルのメモリは、ピーク帯域と速度の上限を半分にします。ノートPCが対応していれば、同じ仕様の2枚を使ってください。
- LM StudioでGPUオフロードを切ったままにする → モデルがGPUではなくCPUで動きます。モデルがGPUメモリに収まるなら、GPUオフロードの設定を上げてください。
- 既定のコンテキストウィンドウのまま使う → Ollamaの既定は4096トークンのため、複数ページの文書は切り詰められます。`OLLAMA_CONTEXT_LENGTH=8192` または `/set parameter num_ctx 8192` で引き上げられますが、メモリ使用量も増えます。
