重要なポイント
- 制約となるのはメモリであり、GPU名ではありません。 VRAMやunified memoryに収まらないモデルは、読み込みに失敗するか、スワップにあふれて対話的な利用には遅すぎる状態になります。対象モデルが必要とするメモリで選び、その後に速度を最適化してください。
- 携帯性の高いメモリ：Apple MacBook Pro。 Apple SiliconはCPUとGPUの間で1つのunified memoryプールを共有するため、大容量メモリの構成は同等のゲーミングノートパソコンよりも大きなモデルを収め、しかも最良の電力効率を実現します。
- 7B～13Bで最速：VRAMの大きいNVIDIAゲーミングノートパソコン。 RTX GPUを搭載したLenovo ThinkPadワークステーションやASUS ROGノートパソコンは、電源に接続したときに7B～13Bモデルを最も速く実行します。RTX 4060（8 GB）搭載ノートパソコンは7Bモデルをおよそ60～90トークン/秒で実行し、RTX 4070（12 GB）搭載ノートパソコンは13Bを余裕をもって処理します。
- 修理可能な選択肢：Framework Laptop 16。 アップグレード可能なRAMとストレージ、そしてモジュール式の設計を備えているため、機器全体を買い替える代わりに後からメモリを増やせます — 最初の構成では足りなくなる事態への備えになります。
- メモリの最低ライン： 8 GBはQ4_K_Mで7Bモデルを実行し、16 GBは13Bを余裕をもって実行し、大容量のMacBook Pro構成ははるかに大きなモデルに届きます。OS用に常に2～4 GBの余裕を残してください。
- デスクトップとの差を見込んでください。 ノートパソコンは、熱的な制約により持続的な負荷でクロックが下がるため、同じチップを搭載したデスクトップよりおよそ20～30%遅く動作します。
- Windowsではバッテリーがすべてを変えます。 ゲーミングノートパソコンは通常、バッテリー駆動時に専用GPUを無効化または抑制し、推論を這うような速度まで落とします — 電源に接続して使う前提で計画してください。Apple Siliconはバッテリー駆動でも使用でき、はるかに効率的です。
- 価格は2026年7月時点のスナップショットです。 ノートパソコンの価格はモデル更新サイクルやセールに伴って変動します — ここのすべての数値を幅として扱い、購入前にリアルタイムの価格を確認してください。
クイックファクト
- Apple MacBook Pro： CPUとGPUが共有するunified memory — 大容量構成は最大のモデルを携帯して収めます。
- Lenovo ThinkPad / ワークステーション： NVIDIA RTX GPUオプションを備えた堅牢な作り — 電源接続での7B～13B推論に強いです。
- ASUS ROGゲーミングノートパソコン： VRAMの大きいRTX GPUとゲーミング水準の冷却 — 電源接続時に最も速い7B～13Bの選択肢です。
- Framework Laptop 16： アップグレード可能なRAMとストレージを備えたモジュール式・修理可能な設計 — 後から増やせるメモリを買えます。
- Q4_K_Mでのメモリの目安： 8 GBは7Bモデルを実行し、16 GBは13Bを実行します。OS用に常に2～4 GBを空けておいてください。
- 速度の目安： 7Bモデルは、ノートパソコンのCPUで10～25トークン/秒、Apple Siliconで30～80トークン/秒、RTX 4060搭載ノートパソコンのGPUで60～90トークン/秒で動作します。
- デスクトップとの差： 熱によるスロットリングのため、ノートパソコンの持続速度は同じチップのデスクトップよりおよそ20～30%低いと見込んでください。
編集部のおすすめ：大容量のunified memoryを搭載したApple MacBook Pro
ローカルLLMを快適に実行しつつ携帯性を保つノートパソコンを1台ほしい大半の購入者にとって、大容量のunified memoryを搭載したApple MacBook Proがバランスの取れた選択肢です。 Apple SiliconはCPUとGPUの間で1つのメモリプールを共有するため、大容量メモリ構成は、同じメモリをVRAMとシステムRAMに分割したゲーミングノートパソコンよりも大きなモデルを収めます。さらにバッテリー駆動でも使用でき、はるかに効率的に動作します — MシリーズのMacBook Proは7B推論時におよそ12～18 Wを消費するのに対し、Windowsノートパソコンは25～45 Wです。最速の7B～13B推論が特に必要で、ノートパソコンを電源に接続したまま使うのであれば、VRAMの大きいNVIDIAゲーミングノートパソコンの方が速いです。修理・アップグレードできるハードウェアがほしい場合は、Framework Laptop 16を選んでください。MacBook Proは予算が許す限り多くのunified memoryで構成してください — メモリは購入後にアップグレードできません。価格は幅広いため、購入前に現在の価格を確認してください。
📌Note: この編集部のおすすめは、目的への適合性のみを反映しています。PromptQuorumはいかなるアフィリエイトプログラムにも登録しておらず、以下のリンクにはアフィリエイトタグは付いていません — これらは手数料を一切生まない単なる参照リンクです。
ローカルLLM向けに4つのノートパソコン系統を比較する
速度の数値は、PromptQuorum自社のノートパソコンテストから引用しています — 7Bモデルは、ノートパソコンのCPUで10～25トークン/秒、Apple Siliconで30～80トークン/秒、RTX 4060搭載ノートパソコンのGPUで60～90トークン/秒で動作します。「最適な用途」の列は購入スタイルを反映しており、単一のSKUではありません。価格は2026年7月時点のスナップショットを幅として表しています — ノートパソコンの価格はモデルサイクルやセールに伴って変動するため、購入前に確認してください。
📍 一文で説明
ローカルLLM向けのノートパソコンでは、メモリプール（WindowsのVRAMまたはApple Siliconのunified memory）がどのモデルが収まるかを決め、冷却が熱スロットリング前にどれだけ速く動かせるかを決めます。
💬 簡潔に説明
メモリを作業台の広さ、モデルをその上の作業対象だと考えてください。チップが速ければ作業は早く終わりますが、作業対象がそもそも作業台に乗らなければ、速度は決して意味を持ちません。ノートパソコンはデスクトップより冷却システムが小さいため、長時間の処理では遅くなります。
| ノートパソコン系統 | メモリモデル | 7B速度（引用データ） | 最適な用途 | 価格（2026年7月） |
|---|---|---|---|---|
| Apple MacBook Pro | unified memory（CPU + GPU共有） | Apple Siliconで30～80トークン/秒 | 最大のモデルを携帯、最良のバッテリー寿命 | 中位～プレミアム。現在の価格を確認 |
| Lenovo ThinkPad / ワークステーション | NVIDIA RTX VRAM + システムRAM | RTX 4060 GPUで60～90トークン/秒 | 堅牢な作り、電源接続での7B～13B作業 | 中位～プレミアム。現在の価格を確認 |
| ASUS ROGゲーミングノートパソコン | NVIDIA RTX VRAM + システムRAM | RTX 4060 GPUで60～90トークン/秒 | 電源接続時に最も速い7B～13B | 中位の価格帯。現在の価格を確認 |
| Framework Laptop 16 | アップグレード可能なシステムRAM + GPUモジュール | 電源接続時、RTXノートパソコンと同等 | 修理性、後からのメモリ増設 | 中位の価格帯。現在の価格を確認 |
どのノートパソコンを買うべきか？
購入スタイルが系統を決め、対象とする最大のモデルがメモリ構成を決めます。 あなたの状況に合う行を見つけてください。
| あなたの状況 | これを買う |
|---|---|
| 優れたバッテリーを備えた携帯できる筐体で最大のモデルを使いたい | 大容量のunified memoryを搭載したApple MacBook Pro |
| 最速の7B～13B推論がほしく、電源に接続したまま使う | VRAMの大きいNVIDIA RTX GPUを搭載したASUS ROGノートパソコン |
| RTX GPUを備えた堅牢でビジネス向けの作りがほしい | RTX GPUを搭載したLenovo ThinkPadワークステーション |
| 時間をかけてノートパソコンを自分で修理・アップグレードしたい | Framework Laptop 16 |
| おもに7Bモデルを実行し、バランスの取れた日常用ノートパソコンがほしい | 中容量のunified memoryを搭載したMacBook Pro |
| 迷っていて、最も無難な最初の1台がほしい | Apple MacBook Pro — メモリ・効率・バッテリーの最良のバランス |
Apple MacBook Pro：最も携帯性の高いメモリ
Apple MacBook Proは、Apple SiliconがCPUとGPUの間で1つのunified memoryプールを共有するため、携帯できる筐体に最大のローカルLLMを収めるための選択肢です。 つまり、大容量メモリ構成は、同じ総メモリ量を別々のVRAMとシステムRAMに分割したゲーミングノートパソコンよりも大きなモデルを実行します。
- 買う理由： unified memoryは同等のVRAM分割よりも大きなモデルを収め、Apple Siliconはバッテリー駆動でも使用でき、最も電力効率に優れた選択肢です — 7B推論時におよそ12～18 Wで、Windowsノートパソコンの25～45 Wに対する数値です。
- MacBook Proを使うべき場合： 最大のモデル向けに携帯できるノートパソコンを1台ほしい、バッテリー寿命を重視する、推論のために電源に接続する必要のない静かな機器を好む場合です。
- 引用した速度データ： 7Bモデルはチップの段階とメモリに応じてApple Siliconで30～80トークン/秒で動作し、大容量のunified memory構成は13Bモデルを高速メモリに完全に収めます。
- 慎重に構成する： unified memoryは購入後にアップグレードできません。予算が許す限り多くのメモリを買ってください — それはあなたの最大のモデルを恒久的に決める仕様です。
- 見送る理由： 電源接続で可能な限り速い7B～13B推論には、VRAMの大きいNVIDIAゲーミングノートパソコンの方が速く、またMacBook Proはユーザー自身が修理できません。
💡Tip: MacBook Proでは、unified memoryが後から変更できない唯一の仕様です。ストレージよりも優先してください — 外付けSSDはモデルライブラリを保持できますが、unified memoryを追加できる外付け部品はありません。
Lenovo ThinkPadとワークステーションノートパソコン：堅牢なNVIDIAの選択肢
NVIDIA RTX GPUを搭載したLenovo ThinkPadモバイルワークステーションは、堅牢でビジネス向けの作りでNVIDIAの推論速度を求める購入者のための選択肢です。 ThinkPadのワークステーションモデルは、RTX GPUを頑丈な筐体と保守しやすい内部構造と組み合わせています。
- 買う理由： NVIDIA RTX GPUはOllamaやLM StudioでCUDAアクセラレーションされた推論をそのまま実行でき、交換可能な部品とともに何年もの日常使用に耐える筐体に収まっています。
- ThinkPadワークステーションを使うべき場合： NVIDIA GPUの速度を求め、堅牢な作りと優れたキーボードを重視し、ノートパソコンが業務用マシンも兼ねる場合です。
- 引用した速度データ： RTX 4060（8 GB）搭載ノートパソコンのGPUは7Bモデルをおよそ60～90トークン/秒で実行し、RTX 4070（12 GB）搭載ノートパソコンは13Bモデルを余裕をもって処理します。速度は同等のデスクトップGPUよりおよそ20～30%低くなります。
- メモリ重視で構成する： 13Bの余裕がほしい場合は、システムRAMを少なくとも16 GB、GPUは12 GBのVRAMを選んでください。GPUははんだ付けされているため、購入時にVRAMを正しく選んでください。
- 見送る理由： 専用GPUはバッテリー駆動時に通常抑制されるため、電源に接続して使う前提で計画してください。また価格対速度の純粋な比較では、ASUS ROGゲーミングノートパソコンの方が安いことが多いです。
📌Note: ノートパソコンのGPUは基板にはんだ付けされており、アップグレードできません。実行する予定の最大のモデルに合わせてVRAM量を選んでください — 8 GBのGPUは7Bを余裕をもって収め、12 GBのGPUは13Bにとってより安全な下限です。
ASUS ROGとゲーミングノートパソコン：電源接続時に最も速い7B～13B
VRAMの大きいNVIDIA RTX GPUを搭載したASUS ROGゲーミングノートパソコンは、ノートパソコンを電源に接続したままにする場合、7B～13BのローカルLLMにとって最速の選択肢です。 ゲーミングノートパソコンはRTX GPUを、持続的な負荷向けに設計された冷却と組み合わせており、薄型軽量の筐体よりも長くクロックを保ちます。
- 買う理由： VRAMの大きいRTX GPUとゲーミング水準の冷却が、Windowsの選択肢の中で最も速い持続的な7B～13B推論を提供し、しかもワークステーションノートパソコンより低価格であることが多いです。
- ASUS ROGノートパソコンを使うべき場合： 最大限の7B～13B速度を求め、ノートパソコンを電源に接続したまま使い、ファンの大きめの音とゲーミング寄りの外観を許容できる場合です。
- 引用した速度データ： RTX 4060（8 GB）搭載ノートパソコンは7Bモデルを60～90トークン/秒で実行し、RTX 4070（12 GB）搭載ノートパソコンは13Bを余裕をもって実行します。冷却が優れていると熱スロットリングが遅れ、それは通常、持続的な生成を10～15分続けた後に始まります。
- メモリ重視で構成する： 13Bの余裕のために、システムRAMを少なくとも16 GB、GPUは12 GBのVRAMを選んでください。7Bが上限であれば、8 GBのVRAMのモデルでも問題ありません。
- 見送る理由： 専用GPUはバッテリー駆動時に無効化または抑制され、推論を這うような速度まで落とします。またファンの音とバッテリーの消耗はMacBook Proより明らかに大きくなります。
⚠️Warning: Windowsゲーミングノートパソコンは通常、電力を節約するためにバッテリー駆動時に専用GPUを無効化するため、推論はCPUのみの速度まで落ちます。電源コンセントから離れてモデルを実行する必要がある場合は、Apple MacBook Proの方が適しています。
Framework Laptop 16：修理可能でアップグレードできる選択肢
Framework Laptop 16は、時間をかけて自分で修理・アップグレードできるノートパソコンを求める購入者のための選択肢です。 モジュール式の設計はアップグレード可能なRAMとストレージ、交換可能な部品を採用しており、最初のメモリ構成では足りなくなっても、機器をまるごと新調する必要はありません。
- 買う理由： ユーザーがアップグレードできるRAMとストレージ、そしてモジュール式で修理可能な設計 — MacBook Proやゲーミングノートパソコンのはんだ付けメモリの制約に対する備えになります。
- Framework Laptop 16を使うべき場合： 修理性と後からメモリを増やせる選択肢を重視し、ニーズが拡大したときにノートパソコン全体を買い替えるのを避けたい場合です。
- メモリの利点： RAMがアップグレード可能なため、7Bモデル向けの小さめの構成で始め、後から13B作業のためにメモリを追加できます — ここでそれが可能な唯一の系統です。
- 今のために構成し、将来のために計画する： 増やせると分かったうえで、現在の対象モデルに十分なメモリを買ってください。購入前に、現在のGPUモジュールの選択肢と対応RAM容量をメーカーのサイトで確認してください。
- 見送る理由： 携帯できる筐体で絶対的に最大のunified memoryがほしい場合は、大容量メモリのMacBook Proの方が大きなモデルを収めます。またゲーミングノートパソコンは1ドルあたりの純粋なGPU速度がより高いことがあります。
💡Tip: Framework Laptop 16は、本ガイドでRAMがアップグレード可能な唯一の系統です。モデルがどれくらい大きくなるか分からない場合、控えめに始めて後からメモリを追加でき、前もって使いすぎずに済みます。
ノートパソコンにどれくらいのメモリが必要か？
Q4_K_M量子化では、ローカルLLMはパラメータ10億あたりおよそ0.6 GBのメモリと、OSおよびツール用の2～4 GBを必要とします。 ノートパソコンでは、「メモリ」はWindowsではVRAMとシステムRAMの合計、Apple Siliconではunified memoryを意味します。
📍 一文で説明
ローカルLLM向けのノートパソコンでは、モデルのパラメータ10億あたりおよそ0.6 GBのメモリに2～4 GBのオーバーヘッドを加えて計画してください — 8 GBは7Bモデルを、16 GBは13Bをカバーします。
💬 簡潔に説明
どのモデルも読み込むのに一定量のメモリが必要で、OSはその上にさらに自分の分を必要とします。モデルが収まらないと、ノートパソコンはディスクベースのスワップに頼り、這うような速度まで落ちます。最大のモデルに数ギガバイトの余裕を加えた十分なメモリを買ってください。
- 8 GB — 3Bおよび7Bモデル： Q4_K_Mの7Bモデルは約4.5 GBを必要とし、OS用の余地が残ります。8 GBは実用上の下限です。7Bモデルを読み込む前にブラウザを閉じてください。
- 16 GB — 7Bおよび13Bモデル： Q4_K_Mの13Bモデルはおよそ9 GBを必要とし、通常のマルチタスクで16 GBに収まります。16 GBが推奨される出発点です。
- 32 GB以上 — マルチタスクの多い13B、またはより大きなモデル： 他のアプリと並行しての13Bに余裕があり、13Bを超えて踏み出すための入り口です。
- 大容量のMacBook Pro unified memory — 携帯できる最大のモデル： GPUがメモリプール全体を共有するため、大容量メモリのMacBook Proは16 GBのWindowsノートパソコンをはるかに超えるモデルを収めます。
- 8 GBを使うべき場合： 7Bモデルがあなたの作業をカバーする場合。16 GB以上を選ぶべき場合： 13Bモデルを使いたい、または推論と並行してブラウザとエディタを動かす場合です。
意思決定フローチャート：3つの質問でノートパソコンを選ぶ
順番に3つの質問を進めると、大半の購入者は1つの系統にたどり着きます。
📍 一文で説明
ローカルLLM向けのノートパソコンは、まず修理性のニーズ、次にバッテリーと携帯できるメモリのニーズ、最後に堅牢な作りと1ドルあたりの純粋な速度のどちらかを答えて選んでください。
💬 簡潔に説明
まず、ノートパソコンを自分でアップグレードしたいかどうかから始めてください — そうであればFrameworkを選びます。電源につながずにモデルを実行する必要がある、または最大のメモリがほしいなら、MacBook Proを選びます。それ以外の場合は、堅牢さと価格対速度のどちらが重要かに基づいて、ゲーミングノートパソコンかワークステーションノートパソコンを選んでください。
- 1. ノートパソコンを自分で修理・アップグレードする必要がありますか？ はい：Framework Laptop 16。いいえ：次へ。
- 2. バッテリー駆動でモデルを実行する必要がありますか、または携帯できる最大のメモリがほしいですか？ はい：大容量のunified memoryを搭載したApple MacBook Pro。いいえ：次へ。
- 3. 堅牢な作りで、電源接続時に最速の7B～13B速度がほしいですか？ 堅牢な作りが最も重要：Lenovo ThinkPadワークステーション。1ドルあたりの純粋な速度が最も重要：ASUS ROGゲーミングノートパソコン。
ローカルLLM向けのノートパソコンをどこで買うか
ノートパソコンの価格はモデル更新サイクルやセールに伴って変動します — 米国の価格が通常最も安く、EUの価格には付加価値税が加わります。 以下のリンクは地域別の単なる製品検索リンクおよびメーカーリンクであり、アフィリエイトタグは付いておらず、手数料を一切生みません。
- 米国： Amazonとメーカーストア（Apple、Lenovo、ASUS、Framework）が最も幅広い構成の選択肢を扱っています。メーカーストアでは正確なメモリを選べます。
- ドイツ： Amazon.deとメーカーのドイツ向けストア。表示価格にはおよそ19%の付加価値税が含まれていると見込んでください。
- フランス： Amazon.frとメーカーのフランス向けストア。価格設定はドイツと同様で、20%の付加価値税が含まれています。
- 日本： Amazon.co.jpとメーカーの日本向けストア。構成の選択肢は米国に準じます。
- モデル更新の近くで買うべき場合： 待てるのであれば — 新しい世代が登場すると前の世代はしばしば値下がりし、中古または整備済みのゲーミングノートパソコンは新モデルのプレミアムの多くを回避できます。
⚠️Warning: 本ガイドのすべての価格帯は2026年7月時点のスナップショットです。ノートパソコンの価格はモデルサイクルやセールイベントに伴って変動します — 購入前に必ず現在の小売店またはメーカーの掲載ページを開いてください。
ローカルLLM向けノートパソコンを買うときによくある間違い
- メモリではなくGPU名で選ぶ。 あなたのモデルに必要なVRAMを欠いた速いGPUは役に立ちません。まずモデルが2～4 GBの余裕をもってメモリに収まることを確認し、その後に速度を比較してください。
- 薄型のウルトラブックを買い、7Bモデルを快適に実行できると期待する。 統合グラフィックスと小さな熱容量のウルトラブックは、軽い3B～7BのCPU推論しか扱えません。代わりにMacBook Proか、適切に冷却されたノートパソコンを選んでください。
- ノートパソコンにデスクトップの速度を期待する。 熱的な制約が持続的な負荷でクロックを下げ続けます — ノートパソコンは同じチップのデスクトップよりおよそ20～30%遅く動作します。
- ゲーミングノートパソコンをバッテリーで使う計画を立てる。 Windowsゲーミングノートパソコンはバッテリー駆動時に専用GPUを抑制または無効化し、推論をCPUのみの速度まで落とします。電源に接続して使う計画にするか、MacBook Proを買ってください。
- はんだ付けメモリを少なく構成する。 MacBook Proやゲーミングノートパソコンでは、メモリは後からアップグレードできません。購入時に最大の対象モデルに十分な量を買ってください。
- 熱管理を無視する。 閉じたバッグの中で、または通気のためのスタンドなしで推論を実行すると、数分以内にGPUは強く抑制されます。スタンドを使い、通気口をふさがないでください。
- 7Bモデルのために買いすぎる。 7Bモデルがあなたの作業をカバーするなら、最上位の構成は無駄な出費とバッテリーの浪費です。たまたま持っている予算ではなく、モデルにメモリを合わせてください。
出典
- ローカルLLM向けノートパソコンのおすすめ — PromptQuorum自社のノートパソコンガイド：GPUの段階、モデルサイズの上限、ここで引用したデスクトップとノートパソコンの速度差。
- ノートパソコンでローカルLLMを実行する：RAM、速度、熱 — ここで引用した7B速度の数値（CPU、Apple Silicon、RTXノートパソコンGPU）、バッテリーと熱のデータのPromptQuorum自社の出典。
- Apple MacBook Pro 技術仕様 — Apple Siliconのunified memory構成の公式リファレンス。
- Framework Laptop 16 — アップグレード可能なRAMとGPUモジュールのモジュール式設計の公式リファレンス。
よくある質問
2026年にローカルLLMを実行するのに最適なノートパソコンは何ですか？
唯一の最適なノートパソコンというものはなく、あなたの購入スタイルによります。大容量のunified memoryを搭載したApple MacBook Proは、携帯できる効率的な筐体に最大のモデルを収め、最良の万能な選択肢です。VRAMの大きいNVIDIAゲーミングノートパソコン、たとえばASUS ROGやLenovo ThinkPadワークステーションは、電源に接続したときに7B～13Bモデルを最も速く実行します。Framework Laptop 16は、修理・アップグレードできるハードウェアがほしい場合の選択肢です。まずメモリ、次に速度で選んでください。
ローカルLLM向けのノートパソコンにはどれくらいのRAMが必要ですか？
実用上の最低ラインとして8 GB、推奨される出発点として16 GBを見込んでください。Q4_K_M量子化では、7Bモデルは約4.5 GBを必要とし、他のアプリを軽く保てば8 GBのノートパソコンで動作します。13Bモデルはおよそ9 GBを必要とし、16 GBに余裕をもって収まります。OS用に常に2～4 GBの余裕を残してください。
ローカルLLMにはMacBook Proとゲーミングノートパソコンのどちらが良いですか？
あなたの優先順位によります。MacBook ProはCPUとGPUの間で1つのunified memoryプールを共有するため、より大きなモデルを収め、はるかに効率的に動作し、バッテリー駆動でも使用できます。VRAMの大きいNVIDIA RTX GPUを搭載したゲーミングノートパソコンは、電源に接続したときに7B～13Bモデルをより速く実行します。携帯性と大きなモデルにはMacBook Pro、電源接続での純粋な速度にはゲーミングノートパソコンを選んでください。
ノートパソコンはローカルLLMをデスクトップと同じ速さで実行できますか？
いいえ。ノートパソコンは、小さな冷却システムが持続的な負荷でクロックを下げさせるため、同じチップのデスクトップよりおよそ20～30%遅く動作します。熱スロットリングは通常、連続生成を10～15分続けた後に始まります。ノートパソコンは携帯性のための正しい選択肢であり、デスクトップは持続的または大きなモデルのワークロードでより速いです。
Framework Laptop 16はローカルLLMに向いていますか？
修理性とアップグレードがあなたにとって重要であれば、はい。Framework Laptop 16はアップグレード可能なRAMとストレージ、そしてモジュール式の設計を備えているため、7Bモデル向けのメモリ構成で始め、後から13B作業のために増やせます。本ガイドで、メモリがユーザーによってアップグレード可能な唯一の系統です。携帯できる筐体で最大のunified memoryには、大容量メモリのMacBook Proの方が依然として大きなモデルを収めます。
バッテリー駆動でノートパソコンでローカルLLMを実行できますか？
ノートパソコンによります。Apple SiliconのMacBookはバッテリー駆動でも使用でき、効率的に動作します — 7B推論時におよそ12～18 Wです。Windowsゲーミングノートパソコンは通常、バッテリー駆動時に専用GPUを無効化または抑制し、推論を遅いCPUのみの速度まで落とします。電源コンセントから離れてモデルを実行することが重要なら、MacBook Proを選んでください。
ノートパソコンで7Bモデルはどれくらい速く動作しますか？
速度はハードウェアによります。Q4_K_Mの7Bモデルは、ノートパソコンのCPUで毎秒約10～25トークン、unified memoryを使うApple Siliconで毎秒30～80トークン、NVIDIA RTX 4060ノートパソコンGPUで毎秒60～90トークンで動作します。これらの数値はPromptQuorum自社のノートパソコンテストによるものです。
後からノートパソコンのGPUをアップグレードできますか？
ほぼすべてのノートパソコンでできません — GPUはマザーボードにはんだ付けされており、変更できません。そのためVRAMは購入時に正しく決めなければならない恒久的な選択になります：8 GBのGPUは7Bモデルを収め、12 GBのGPUは13Bにとってより安全な下限です。Framework Laptop 16はRAMと一部のコンポーネントがモジュール式ですが、GPUは依然として構成時に選びます。