速览要点
- 入门配置（约 2,000 美元）： GPU RTX 4060 Ti 16 GB——可跑 7B 及大多数 13B 模型。
- 中端配置（约 3,100 美元）： GPU RTX 4070 Ti Super 16 GB——从容运行 14B,可做轻量 22B-33B 工作。
- 发烧配置（约 9,600 美元）： GPU RTX 5090 32 GB——从容运行 33B,以 Q4 运行 70B。
- Q4_K_M 下的显存经验法则： 每十亿参数约 0.6 GB,另加 2-4 GB 用于上下文和工具链。
- 系统内存建议： 入门配置 32 GB,中端配置 64 GB,发烧配置 128 GB。
- 各档电源： 入门 650 W、中端 850 W、发烧 1000 W——RTX 5090 单卡就需 575 W。
- 2026 年价格现实： 受存储短缺影响,GPU、DDR5 内存和 SSD 价格都大幅上涨——请确认实时价格,并对比全新与二手。
编辑推荐：中端配置（约 3,100 美元）
对大多数为本地 AI 装机的购买者来说,中端配置是在能力、成本和余量之间取得平衡的那一档。 它围绕 RTX 4070 Ti Super 16 GB 构建,能在保有上下文空间的情况下运行每个 14B 模型,可应付轻量 22B-33B 工作,并让 7B-14B 模型即时响应——整机约 3,100 美元。这套配置不会在几个月内让你失望,也不需要在一年内更换。只有当你的上限明确停留在 7B-13B 模型时,才降到入门配置;只有当你确实需要 70B 工作负载时,才升到发烧配置。中端配置是一台你想长期保留的机器的稳妥默认选择。
📌注: 本编辑推荐仅反映价格与能力之比。PromptQuorum 未加入任何联盟营销计划,以下链接不带任何联盟标签——它们只是普通的参考链接,不产生佣金。
2026 年三档配置如何对比
GPU 显存和功耗数字为厂商规格。推理速度是基于 PromptQuorum 对各档 GPU 的测试所得的模型族级别估计值。配置总价为美国市场的估算值，由各配置章节所列每个价格区间的中点相加得出，并按当前的挂牌最低价计算——2026 年的存储短缺把 GPU、DDR5 内存和 SSD 推到远高于平时的价位,因此 GPU 和内存这两项主导每套总价,且逐周变动。请对比全新与二手 GPU 的挂牌价:二手不再必然更便宜。
📍 简单一句话
对于本地 AI PC 配置,GPU 的显存决定这台机器能跑哪些模型,部件清单的其余部分按支撑这块 GPU 来确定规格——先按模型规模选档位。
💬 简单来说
把这套配置想象成一支围绕一位明星球员——GPU——组建的球队。CPU、内存和电源是辅助阵容:有用,但它们的存在是为了让 GPU 持续得到供给。先选你的模型所需的 GPU,再围绕它组装其余部分。
配置档位 | GPU | 显存 | 可运行 | 电源 | 总价（2026 年） |
|---|---|---|---|---|---|
| 入门 | RTX 4060 Ti 16 GB | 16 GB | 7B-13B 模型 | 650 W | 约 2,000 美元 |
| 中端 | RTX 4070 Ti Super 16 GB | 16 GB | 从容跑 14B,轻量 22B-33B | 850 W | 约 3,100 美元 |
| 发烧 | RTX 5090 32 GB | 32 GB | 从容跑 33B,以 Q4 跑 70B | 1000 W | 约 9,600 美元 |
你该选哪套配置？
你目标中最大的模型决定档位,你的预算予以确认。 找到与你情况相符的那一行。
你的情况 | 装这套 |
|---|---|
| 我跑 7B-13B 模型,想要最便宜的完整整机 | 入门配置（约 2,000 美元） |
| 我想要第一台本地 AI PC,不确定会走多远 | 入门配置,或为留余量选中端配置 |
| 我持续运行 14B 模型,希望它们即时响应 | 中端配置（约 3,100 美元） |
| 我做轻量 22B-33B 工作,想要一台耐用的机器 | 中端配置（约 3,100 美元） |
| 我大量运行 33B 模型,或想要充裕的未来余量 | 发烧配置（约 9,600 美元） |
| 我需要一台能以 Q4 跑 70B 模型的单 GPU 机器 | 发烧配置（约 9,600 美元） |
| 尽管有 2026 年涨价,我仍想压低总价 | 任意档位——对比全新与二手 GPU 的挂牌价 |
| 我拿不定主意,想要最稳妥、能用多年的配置 | 中端配置——编辑推荐 |
入门配置（约 2,000 美元）：RTX 4060 Ti 16 GB
入门配置是最便宜的完整本地 AI PC,可运行每个 7B 模型以及大多数 13B 模型——对大多数首次使用者来说能力足够。 它围绕 RTX 4060 Ti 16 GB 构建,这是本指南中价格最低的 16 GB 显卡,从而把总价压到 2026 年短缺所允许的最低水平。
- GPU——RTX 4060 Ti 16 GB（约 650-800 美元）： 16 GB 显存,165 W。以约 20-25 tok/s 运行 7B 模型,并能在保有上下文余量的情况下容纳 14B 模型。16 GB 容量正是选它而不选 8 GB 版的理由。该区间从最便宜的二手挂牌价到最便宜的全新挂牌价。
- CPU——AMD Ryzen 7 7700（约 250-280 美元）： 8 核心,功耗适中。GPU 推理期间 CPU 工作量很小,因此这一档用中端芯片是正确的——不要在这一档的 CPU 上超额花钱。
- 主板——B650 芯片组（约 130-160 美元）： 支持 Ryzen 7 和一块 PCIe 全尺寸 GPU。这一档不需要高端供电。
- 内存——32 GB DDR5（约 430-575 美元）： 足以应付操作系统、工具链和一个在显存中运行的 7B-13B 模型。内存不能替代显存——这一档 32 GB 足够,但 DDR5 如今是这套配置中的第二大成本项。
- 存储——1 TB NVMe SSD（约 145-240 美元）： 可容纳操作系统和数个模型（一个 7B Q4 模型约 4-5 GB）。
- 电源——650 W 80+ 金牌（约 80-100 美元）： 为一块 165 W 的 GPU 和一颗 8 核 CPU 提供从容余量。
- 机箱与散热——配塔式风冷散热器的中塔机箱（约 80-120 美元）： 入门档发热很少,风冷已足够。
- 为何装这一档: 最低的入门成本、低功耗,以及涵盖通用对话、编程辅助和摘要的 7B-13B 模型所需的足够能力。为何跳过它: 如果你已经想要 14B 或更大的模型,请从中端配置起步。
💡提示: 请专门购买 RTX 4060 Ti 的 16 GB 版本。8 GB 版使用相同的 GPU 核心、运行速度相近,但 8 GB 容纳不下 14B 模型——多出来的显存正是此选择的全部意义。
中端配置（约 3,100 美元）：RTX 4070 Ti Super 16 GB
中端配置是编辑推荐——它即时运行 14B 模型,可应付轻量 22B-33B 工作,是你为长期保留而装的那一档。 它围绕 RTX 4070 Ti Super 16 GB 构建,速度足够快,以至于在 14B 级别模型上响应延迟不再被察觉。
- GPU——RTX 4070 Ti Super 16 GB（约 900-1,000 美元）： 16 GB 显存,285 W。与入门档相同的模型容量,但快得多——7B-14B 模型即时响应,轻量 22B-33B 工作可用。
- CPU——AMD Ryzen 9 7900X（约 330-370 美元）： 12 核心。在数据准备和推理同时运行工具链方面,比入门 CPU 有更多余量。
- 主板——B650 或 X670 芯片组（约 180-240 美元）： 为 12 核 CPU 和一块 285 W GPU 提供稳固供电。
- 内存——64 GB DDR5（约 815-1,200 美元）： 为操作系统、更大的上下文窗口以及在模型旁运行的 RAG 流水线等工具链留出空间。这是仅次于 GPU 的最大成本项——如果预算紧张,32 GB（约 430-575 美元）仍能运行这一档的所有模型,因为模型存放在显存中。
- 存储——2 TB NVMe SSD（约 255-355 美元）： 可容纳相当规模的模型库——一个 33B Q4 模型约 18-20 GB。
- 电源——850 W 80+ 金牌（约 120-150 美元）： 在持续负载下为 285 W GPU 和 12 核 CPU 提供从容余量。
- 机箱与散热——配 240-280 mm 一体式水冷或高端风冷散热器的中塔机箱（约 150-220 美元）： 中端档发热中等,优质散热器在长时间推理中保持 CPU 稳定。
- 为何装这一档: 你持续运行 14B 模型且希望即时响应,或你做轻量 22B-33B 工作且想要余量。为何跳过它: 若 7B-13B 已足够,入门配置可省下 1,000 多美元;若你需要 70B,没有 16 GB 的 GPU 装得下它——请上发烧配置。
💡提示: 中端配置容纳的模型与入门配置相同——你付的是速度,而非容量。如果 14B 模型将成为日常工作负载且等待它会让你恼火,就装这一档。
📌注: 一块二手 RTX 4090 24 GB 如今的挂牌价远高于这一档（最便宜的二手挂牌价约 2,800 美元）,因此它不再是捷径。RTX 4070 Ti Super 本身的二手挂牌价也不低于最便宜的全新品——购买前请两者对比。
发烧配置（约 9,600 美元）：RTX 5090 32 GB
发烧配置是唯一能以 Q4 容纳 70B 模型的单 GPU 机器——它的 RTX 5090 32 GB 是核心部件。 装这一档是为了显存容量,而非纯粹的速度;速度只是副产物。2026 年涨价对这一档冲击最重——RTX 5090 的挂牌价远高于其 1,999 美元的发布价——因此 GPU 和内存这两项占主导且逐周变动。
- GPU——RTX 5090 32 GB（约 4,900-5,900 美元）： 32 GB GDDR7 显存,575 W。这是唯一一块无需双 GPU 配置即可以 Q4 跑 70B 模型的消费级单卡。它从容运行 33B 模型,还有富余。该区间从最便宜的全新挂牌价到最便宜的二手挂牌价;部分零售商的标价更高。
- CPU——AMD Ryzen 9 7950X（约 450-520 美元）： 16 核心。足以在繁重推理之外运行数据准备、微调实验和工具链。
- 主板——X670E 芯片组（约 280-380 美元）： 强劲供电和 PCIe 5.0,按一块 575 W GPU 和 16 核 CPU 来定规格。
- 内存——128 GB DDR5（约 1,650-2,400 美元,估算）： 为大上下文窗口、同时加载多个模型和工具链留出空间——并在需要时留有把模型部分溢出到内存的余量。很少有 128 GB 套装能稳定供货,因此这一区间是 64 GB 区间的两倍;64 GB 套装（约 815-1,200 美元）是省钱的替代方案。
- 存储——4 TB NVMe SSD（约 700-1,000 美元）： 一个 70B Q4 模型约 40 GB;一块 4 TB 硬盘可容纳一个大型模型的大库。4 TB 硬盘是 2026 年涨幅最大的 SSD 容量。
- 电源——1000 W 80+ 白金（约 180-240 美元）： 必需,因为单是 RTX 5090 就需 575 W——一只 750 W 的电源会在负载下塌陷。不要把这个部件选小。
- 机箱与散热——配 360 mm 一体式水冷的全尺寸机箱（约 280-380 美元）： 575 W GPU 加 16 核 CPU 产生真实的热量;360 mm 液冷在持续 70B 推理中保持 CPU 稳定。
- 为何装这一档: 你需要 33B 或 70B 模型、你运行繁重的批量推理,或你想要一台多年无需更换的机器。为何跳过它: 对 7B-14B 模型来说它属于过度配置——中端配置在这些规模上以不到一半的成本提供即时响应。
⚠️警告: RTX 5090 单卡就需 575 W。请把它与本部件清单中的 1000 W 电源搭配——更小的电源会在负载下出现电压骤降。装机前请确认你的墙面电路能够供给全部功耗。
📌注: 一个 70B Q4 模型约需 39-42 GB 显存,因此即便是 RTX 5090 32 GB,也只能在采用激进量化或部分溢出到系统内存的情况下以 Q4 跑 70B。本配置中的 128 GB 内存为这种溢出提供了所需的空间。
2026 年价格上涨如何改变装机的算账方式
2026 年的存储芯片短缺把 GPU、DDR5 内存和 SSD 的价格推到远高于平时的水平,而由于 GPU 和内存是每套配置中最大的两项,它们把每套总价都抬到了远高于去年的水平。 请围绕当前挂牌价而非发布时价格来规划装机。
📍 简单一句话
2026 年的存储短缺把 GPU、DDR5 内存和 SSD 价格推到远高于平时的水平,抬高了每套本地 AI 配置的总价,因为 GPU 和内存是部件清单中最大的两项。
💬 简单来说
GPU 是这台机器最贵的部件,而在 2026 年内存也变贵了。在存储短缺缓解之前,请把发布时价格当作历史,购买前对比全新与二手,并且不要买超过你模型所需的显存或内存。
- GPU 和内存主导总价。 在每一档中,GPU 都是最大的一项,DDR5 内存如今排第二——涨价主要通过这两个部件改变配置总价,影响超过任何其他部件。
- 根源是存储,而非 GPU 本身。 GDDR、HBM 和 DRAM 的供应短缺抬高了每块配备高速显存的卡以及系统内存本身的成本;显存越大,卡受冲击越重。RTX 5090 从 1,999 美元的发布价涨到最便宜全新挂牌价约 4,900 美元——涨幅超过一倍。
- 低端 GPU 更扛得住。 16 GB 的中端显卡涨幅小于 RTX 5090——RTX 4070 Ti Super 全新价约 900 美元——这正是入门和中端配置总价在百分比上变动最小的原因。
- 二手不再是可靠的折扣。 2026 年末,最便宜的二手 RTX 4070 Ti Super 和 RTX 5090 挂牌价不低于最便宜的全新品,二手 RTX 4090 的挂牌价约为 2,800 美元。每块显卡都要对比全新与二手的挂牌价;经验证可用的二手卡只有在明显更便宜时才值得买。
- 内存和 SSD 涨幅很大;CPU、主板和电源变动很小。 一套 32 GB DDR5 如今约 430-575 美元,64 GB 约 815-1,200 美元,是 2025 年价格的数倍,而 4 TB SSD 涨得最多。本指南中 CPU、主板和电源的价格区间沿用上一轮定价,未作变动,因此也请重新核对。
决策流程图:用四个问题选定你的配置
按顺序回答的四个问题,会把大多数装机者引向某一档。
📍 简单一句话
选择本地 AI PC 配置时,先回答最大模型规模,其次预算上限,第三 GPU 是新还是二手,最后是电力与空间规划。
💬 简单来说
从你真正想运行的最大模型入手,让它来决定你的档位。然后核对预算,决定是否买二手 GPU,并确认电源和机箱与部件匹配。按这个顺序来,可以避免装出一台跑不了你模型的机器。
- 1. 你想运行的最大模型是多大？ 7B-13B:入门配置。14B-33B:中端配置。70B:发烧配置。
- 2. 你的硬性预算上限是多少？ 约 2,000 美元:入门配置。约 3,100 美元:中端配置。约 9,600 美元:发烧配置。
- 3. 全新还是二手 GPU？ 两者都要对比——2026 年末二手卡的挂牌价常常不低于最便宜的全新品,因此只有当二手卡明显更便宜时,它才是正确的选择。
- 4. 你的电力和空间计划站得住脚吗？ 在订购部件之前,确认电源与档位匹配（650 W／850 W／1000 W）、机箱能容纳 GPU 和散热器。
在哪里购买部件
大型零售商备有这些配置中的每个部件;请专门针对 GPU 对比全新与二手的挂牌价。 下方链接为普通的产品搜索链接,不带任何联盟标签,也不产生佣金。
- Amazon 和 Newegg： CPU、内存、SSD、电源和机箱的库存最齐全。全新 GPU 和 DDR5 库存较少,且按 2026 年涨价水平定价。
- 二手 GPU 市场： 值得一看,但不再是必然的省钱途径——2026 年末二手 RTX 4070 Ti Super 和 RTX 5090 的挂牌价常常不低于最便宜的全新品。只有当二手卡明显更便宜且经验证可用时才买。
- Micro Center（美国,实体店）： 若有门店可达,通常是全新 GPU 和 CPU 价格最优的去处;也适合购买 CPU 加主板的套装。
- 先买 GPU。 它是最大、最易波动的一项——以你能接受的价格锁定 GPU,再围绕它购买辅助部件。
⚠️警告: 由于 2026 年价格上涨,本指南中每套总价都按变动迅速的挂牌最低价计算。装机前请务必打开 GPU 和内存当前的零售商商品页——它们的价格逐周变动,二者合计主导着配置成本。
装本地 AI PC 时的常见错误
- 在选 GPU 之前先选 CPU。 GPU 决定这台机器跑哪些模型;推理期间 CPU 工作量很小。先选 GPU,再按支撑它来定 CPU 规格。
- 用系统内存代替显存。 内存能让模型溢出显存,但从内存运行的模型对交互式使用来说太慢。为模型买足显存;内存只为操作系统和工具链而买。
- 电源选小了。 单是 RTX 5090 就需 575 W。一只在负载下塌陷的电源,比一块更慢但运行稳定的 GPU 更糟——把电源与档位匹配。
- 死盯发布时价格。 2026 年的涨价意味着 GPU 的建议零售价和去年的内存价格都不再反映现实。请按实时零售价为 GPU 和内存做预算,并对比二手市场,而不是想当然地认为二手更便宜。
- 为入门配置买了 8 GB 版 RTX 4060 Ti。 它与 16 GB 版同名,却容纳不下 14B 模型。请在商品页确认是 16 GB 版本。
- 为 7B 模型过度配置。 如果 7B 模型已覆盖你的用例,发烧配置会浪费数千美元和数百瓦。把档位与模型匹配,而非与你恰好手头的预算匹配。
- 略过机箱与散热的规划。 一块 575 W GPU 加一颗 16 核 CPU 会产生真实的热量。订购部件前,确认机箱能容纳 GPU 和散热器并具备风道。
资料来源
- 2026 本地 LLM 最佳 GPU 购买指南 — PromptQuorum：GPU 购买建议,以及本指南配置总价背后的 2026 年涨价背景。
- 搭建本地 LLM 工作站 — PromptQuorum：发烧档之外的双 GPU 70B 工作站部件清单、散热和电源指南。
- NVIDIA GeForce RTX 40 与 50 系列规格 — RTX 4060 Ti、4070 Ti Super 和 5090 的官方显存容量与功耗（TGP）数据。
- PCPartPicker — AMD Ryzen CPU、DDR5 内存、NVMe SSD 和电源的实时部件价格。
常见问题
单GPU配置用1000W电源是否过剩?
对RTX 5090并不过剩:它的额定功耗为575W,还可能出现短时峰值,因此NVIDIA的参考规格建议1000W电源。对本指南中的入门和中端配置则属过剩:650W和850W(80+ Gold)已为RTX 4060 Ti 16GB和RTX 4070 Ti Super 16GB留出充足余量。与其盲目加大瓦数,不如选择带原生12V-2x6接口的ATX 3.1电源。
2026 年装一台本地 AI PC 要花多少钱？
一台入门本地 AI PC 约 2,000 美元,中端配置约 3,100 美元,发烧级 70B 配置约 9,600 美元。这些总价按当前的挂牌最低价计算——2026 年的存储芯片短缺把 GPU、DDR5 内存和 SSD 的价格推到远高于去年的水平,而由于 GPU 和内存是每套配置中最大的两项,它们把每套总价都抬到了远高于一年前同样部件的水平。
本地 AI PC 配置该用哪块 GPU？
按你目标中最大的模型来选 GPU。RTX 4060 Ti 16 GB 适合面向 7B-13B 模型的入门配置,RTX 4070 Ti Super 16 GB 适合面向 14B-33B 模型的中端配置,RTX 5090 32 GB 适合面向 70B 工作负载的发烧配置。GPU 决定这台机器能跑哪些模型,因此它最先选定,部件清单的其余部分围绕它来构建。
本地 AI PC 需要多少内存？
入门配置规划 32 GB,中端配置 64 GB,发烧配置 128 GB。系统内存不能替代显存——从内存运行的模型对交互式使用来说太慢。内存用于操作系统、上下文和工具链;模型本身则需在 GPU 上买足显存。
本地 AI PC 需要什么样的电源？
把电源与档位匹配:入门配置 650 W,中端配置 850 W,发烧配置 1000 W。发烧档需要 1000 W,因为 RTX 5090 单卡就需 575 W。电源选小会在负载下导致不稳定,所以不要削减这个部件。
2026 年 GPU 部件该买全新还是二手？
购买前先对比全新与二手,不要想当然地认为二手更便宜。2026 年末,有几款二手显卡——包括 RTX 4070 Ti Super 和 RTX 5090——的挂牌价不低于最便宜的全新品,二手 RTX 4090 的挂牌价约为 2,800 美元。经验证可用的二手卡只有在明显更便宜时才值得买。CPU、内存、SSD 和电源则最好买全新。
单 GPU 配置能跑 70B 模型吗？
能,发烧配置可以。RTX 5090 32 GB 是唯一一块能以 Q4 容纳 70B 模型的消费级单卡,该模型约需 39-42 GB 显存——因此它在采用激进量化或部分溢出到系统内存的情况下运行 70B。发烧配置中的 128 GB 内存为这种溢出提供了所需空间。
中端配置相比入门配置,多花的钱值得吗？
值得,如果你经常运行 14B 级别的模型。入门配置和中端配置容纳的模型相近,但中端配置的 RTX 4070 Ti Super 快得多——14B 模型从迟缓变为即时响应,轻量 22B-33B 工作变得可用。如果你的上限明确停留在 7B-13B 模型,入门配置能省下 1,000 多美元,性价比更高。
本地 AI PC 需要 Threadripper CPU 吗？
不需要。本指南三套配置用消费级 Ryzen CPU 都已足够——入门档用 Ryzen 7,中端和发烧档用 Ryzen 9。Threadripper 只有在一台同时运行微调和推理的双 GPU 机器上才值得它的成本,而这超出了单 GPU 配置的范围。