适合购买 / 建议跳过
快速决策指南。PromptQuorum 的结论:只要你主动管理存储和额度,它是按秒租用 GPU 的一个很强的默认选择。
- 适合选择 RunPod 的情形:
- 你想要按秒计费的 GPU 且无需合同
- 你需要很宽的 GPU 选择范围,从 24 GB 消费级显卡到 H100、H200 和 B200
- 你想要可缩减到零的自动扩缩推理端点
- 你想要有文档说明、兼容 OpenAI API 的 vLLM 工作节点
- 你可以在 Community Cloud 上运行非敏感工作负载,或为 Secure Cloud 付费
- 建议跳过 RunPod 的情形:
- 你需要可退款的额度,或小额度下的发票结算(额度不可退款)
- 你需要按地区列明的数据中心位置(文档只写了“欧洲数据中心区域”)
- 你处理敏感个人数据,并需要 Community Cloud 的安全保证(文档没有描述)
- 你只是偶尔运行 7B 模型,而本地 GPU 已经够用
RunPod 评分卡
PromptQuorum 评估,依据 RunPod 自己的定价页和文档(核实于 2026-11-22),并非对该服务的实机测试。 评分反映其用于运行或微调开源权重 LLM 的适配程度。
价格
- 评分:
- 8/10
- 原因:
- Community Cloud 与按秒计费很便宜;闲置存储会累积
可靠性
- 评分:
- 7.5/10
- 原因:
- Secure Cloud 在 T3/T4 数据中心;Community Cloud 由个人提供
上手难度
- 评分:
- 9/10
- 原因:
- 预付额度、Pod 和有文档的 vLLM 工作节点
GPU 选择
- 评分:
- 9.5/10
- 原因:
- 定价页列出 RTX 3090 至 B300
支持与文档
- 评分:
- 8.5/10
- 原因:
- 计费、存储和 Serverless 文档详细
综合
- 评分:
- 8.5/10
- 原因:
- GPU 租用灵活;需管理存储、额度和数据敏感性
这些评分是 PromptQuorum 依据 RunPod 公布的价格和文档作出的编辑评估(见下文“我们的评测方法”)。它们不是 PromptQuorum 对该服务运行基准测试或长期测试的结果。
结论:谁应该使用 RunPod
如果你想按秒租用指定型号的 GPU,并愿意留意存储费用和额度余额,就选 RunPod。 其定价页(核实于 2026-11-22)列出从 RTX 3090 到 B300 的 GPU,Community Cloud 上 RTX 4090 为 $0.34/小时。对于一次性微调或周末测试,按秒计费意味着你只为实际用到的分钟付费。
选择 RunPod 并不是因为它每一项都最便宜;而是当 GPU 种类、按秒计费和有文档的 Serverless vLLM 路径比退款政策更重要时,它才是合适的选择。 额度不可退款,文档也没有描述 Community Cloud 的安全性,因此敏感数据应放在 Secure Cloud 上,或不要放在该平台。
如果主要问题是与点对点市场比价,请在充值前先阅读 RunPod 与 Vast.ai 价格对比。
RunPod 的工作方式:Pod、Serverless 与云层级
RunPod 有两种计算产品和两个硬件层级:Pod 或 Serverless,运行在 Secure Cloud 或 Community Cloud 上。 据文档所述,Pod 和 Serverless 工作节点各自运行在独立容器中,与其他工作负载隔离,两者均按秒计费。
- Pod 与 Serverless: 交互式工作、微调和长期运行的服务用 Pod;请求突发到来、空闲时间不应产生费用时用 Serverless。
- 冷启动: 工作节点在冷启动期间和空闲超时期间都会计费。RunPod 的文档说明 FlashBoot 会在节点缩容后保留其状态,以便更快恢复;文档没有给出时间数据,并称它在流量稳定的端点上效果最好。
- 活跃工作节点: 默认值为 0。设为 1 或更多可消除冷启动,但据文档所述会持续计费,包括没有任务的时候。核实的默认值:空闲超时 5 秒(控制台),最大工作节点数 3。
- Serverless 上的 vLLM: RunPod 文档介绍了可从 RunPod Hub 部署的 vLLM 工作节点,称其可直接替换 OpenAI API(更改端点 URL 和 API 密钥即可)。设置细节见 RunPod vLLM 工作节点文档。关于该引擎的背景,请参阅 vLLM 详解。
- 网络卷: 把模型权重保存在任何单个 Pod 之外,这样每次都不必重新下载。
选项 | 说明 |
|---|---|
| Pod | 由你控制的 GPU 容器;运行期间计费 |
| Serverless | 可缩减到零的工作节点;节点运行时计费 |
| Secure Cloud | T3/T4 数据中心,面向生产使用 |
| Community Cloud | 经审核的个人算力提供者,价格更低 |
| 容器磁盘 | 临时;Pod 停止或删除后丢失 |
| 卷磁盘 | 停止或重启后保留;挂载在 /workspace |
| 网络卷 | 独立存储,可挂载到 Pod 或端点 |
价格与真实成本
Pod 按每张 GPU 每小时定价、按秒计费;表中每款 GPU 的 Community Cloud 价格都低于 Secure Cloud。 所有价格均为美元,来自 RunPod 定价页,核实于 2026-11-22,可能变动。
- Serverless(按小时,同一页面): 24 GB GPU(L4、A5000、3090)$0.75;4090 $1.34;48 GB 的 L40/L40S/6000 Ada $1.89;A100 80 GB $2.99;H100 80 GB $5.89。该页面没有单独列出 flex 和 active 的按秒费率。
- 存储: 容器磁盘每月每 GB $0.10;卷磁盘运行时 $0.10、闲置时 $0.20;网络存储在 1 TB 以下每月每 GB $0.07,超出部分 $0.05(高性能版 $0.14)。
- 算术示例,不是报价: 8 小时的 RTX 4090 会话在 Secure Cloud 为 8 × $0.89 = $7.12,在 Community Cloud 为 8 × $0.34 = $2.72。100 GB 的网络卷按 $0.07 计算,无论 Pod 是否运行,每月都是 $7.00。
- 额度: 预付制;计费文档称最低 $10 即可开始,预付卡每笔至少充值 $100,新建 Pod 至少需要一小时的额度。额度不可退款,也不能提现。
- 余额为零: 运行中的 Pod 会被停止。带网络卷的 Pod 保留数据;没有网络卷的 Pod 会被终止,数据无法恢复。Pod 停止期间,网络卷存储仍会继续计费。
- 流量与限额: 文档称不收入站或出站流量费。默认消费上限为所有资源合计每小时 $80,并随账户历史而提高。
- 各服务商的每小时费率请参阅云 GPU 每小时成本。
RTX 3090
- Secure:
- $0.50/小时
- Community:
- $0.22/小时
RTX 4090
- Secure:
- $0.89/小时
- Community:
- $0.34/小时
RTX A6000
- Secure:
- $0.69/小时
- Community:
- $0.33/小时
L40S
- Secure:
- $1.09/小时
- Community:
- $0.79/小时
A100 PCIe
- Secure:
- $2.09/小时
- Community:
- $1.19/小时
H100 SXM
- Secure:
- $4.39/小时
- Community:
- $2.69/小时
H200
- Secure:
- $5.29/小时
- Community:
- $3.59/小时
哪些模型适配哪种 GPU
单张 24 GB 显卡可覆盖约 32B 以内的 Q4 模型,70B 的 Q4 模型约需 44 GB 显存,因此需要 48 GB 或更大的显卡。 数据来自 PromptQuorum 的 DeepSeek-R1 蒸馏模型显存速查表(Q4_K_M)。本评测未做测量,因此不给出每秒 token 速度。
- PromptQuorum 评估:70B 的 Q4 模型在 48 GB 显卡上留给上下文的内存很少;80 GB 显卡能为更长的提示词留出余量。
- Serverless 价格表中 A100 和 H100 为 80 GB,L40/L40S 为 48 GB,因此这些是在端点上运行 70B 的入门选择。
- 要检查其他模型,请使用本地 LLM 显存指南。要比较租用与自购,请使用自建与租用成本计算器。
- 在 Pod 上,你可以自行安装 Ollama 或 vLLM;PromptQuorum 没有在 RunPod 硬件上对二者做过基准测试。
7B–8B
- 所需显存:
- ~5.5–6 GB
- RunPod GPU 级别:
- 任意 16–24 GB 显卡(A4000、L4、3090)
14B
- 所需显存:
- ~9.5 GB
- RunPod GPU 级别:
- 16–24 GB 显卡
32B
- 所需显存:
- ~20.5 GB
- RunPod GPU 级别:
- 24 GB 显卡(4090,较紧)或 32–48 GB
70B
- 所需显存:
- ~44 GB
- RunPod GPU 级别:
- 48 GB 显卡(较紧)或 A100/H100 80 GB
可以用它来做什么
RunPod 适合需要 GPU 连续用几小时或几天的工作,或是在两次突发请求之间闲置的端点。
- 适合: 微调任务、7B–32B 模型的实验,以及只在运行期间计费的批处理任务。参见每小时低于 $1 的最佳微调云 GPU。
- 适合: 流量突发时,在 Serverless 上用 vLLM 工作节点提供推理 API。生产规模的服务器选择,请参阅企业级 LLM 推理服务器。
- 有限适用: 常驻端点,因为活跃工作节点会持续计费,专用 Pod 可能更简单。
- 不适合: 在 Community Cloud 上处理敏感个人数据的工作负载,或任何需要可退款预付余额的场景。
风险与信任
仅陈述事实,来自 RunPod 文档(核实于 2026-11-22):付款方式是预付额度,Secure Cloud 托管在 T3/T4 数据中心,Community Cloud 使用个人算力提供者。 PromptQuorum 未对 RunPod 或其主机方进行审计。
- 计费模式: 预付额度;计算和存储均按秒计费;额度不可退款,也不能提现;自动支付需要保存的银行卡。
- 硬件来源: Secure Cloud 运行在 T3/T4 数据中心。Community Cloud 通过 RunPod 所称经审核的点对点系统,把个人算力提供者与用户连接起来。
- 隔离: 文档称每个 Pod 或工作节点都运行在自己的容器中,与其他工作负载严格隔离。
- 主机访问: RunPod 的条款禁止主机方查看 Pod 或工作节点的数据;文档没有说明如何从技术上落实这一点。
- 认证: 文档称 Secure Cloud 的基础设施合作伙伴符合 SOC 2、ISO 27001 和 PCI DSS。这是归于合作伙伴的说法,并非 RunPod 自身的认证。文档没有描述 Community Cloud 的安全性。
- GDPR: 文档称在欧洲数据中心区域处理的数据符合 GDPR,但没有列出具体地点。隐私政策涵盖网站数据,并称 RunPod 总部位于美国。
- 退款与额度: 除上述不可退款的说明外没有其他规定;计费页上也没有找到储蓄计划条款。
- 实用规则(PromptQuorum 评估): 敏感个人数据不要放在 Community Cloud 上,用于受监管数据之前请先审阅 RunPod 的数据处理条款。这不构成法律意见;具体使用是否合法,应由你与你的数据保护顾问判断。
优点与缺点
RunPod 用退款灵活性换来了 GPU 多样性和按秒计费。 以下为均衡的看法。
- 优点
- 按秒计费,无承诺,无入站或出站流量费
- GPU 范围广,定价页上从 RTX 3090 到 B300
- 每款列出的 GPU,Community Cloud 价格都远低于 Secure Cloud
- Serverless 可缩减到零;有文档说明的 vLLM 工作节点提供兼容 OpenAI 的 API
- 网络卷让权重独立于任何 Pod
- 缺点
- 预付额度不可退款
- 闲置卷磁盘每月每 GB $0.20;即使没有 Pod 运行,网络存储也会持续计费
- 没有网络卷的 Pod 在余额归零时被终止,数据无法恢复
- 文档没有描述 Community Cloud 的安全性,也没有列出数据中心位置
- FlashBoot 没有公布时间数据
在哪里注册
在 runpod.io 创建账户,充值预付额度,然后选择 Pod 模板或部署 Serverless 端点。 在决定之前请查看最新价格;这里的数字核实于 2026-11-22。
- 第 1 步:创建 RunPod 账户并充值(文档称最低 $10 即可开始;预付卡每笔需充值 $100)。
- 第 2 步:根据数据敏感性选择 Secure Cloud 或 Community Cloud,然后参照上面的模型适配表选择 GPU。
- 第 3 步:如果希望权重或检查点在 Pod 停止或终止后仍然保留,请挂载网络卷。
- 第 4 步:在计费设置中开启低余额邮件提醒,避免余额归零导致 Pod 意外停止。
- 第 5 步:使用 Serverless 时,从 RunPod Hub 部署 vLLM 工作节点,除非需要消除冷启动,否则把活跃工作节点保持为 0。
可考虑的替代方案
请根据计费模式和数据敏感性来选择,而不要只看标价。
- 提供按需与可中断定价的点对点市场 → Vast.ai 评测。
- 以加密货币计价的 GPU 市场 → Clore.ai 评测;在决定发送哪些数据之前请先阅读其风险部分。
- 大型服务商的 GPU 实例 → 请直接查看 AWS、Google Cloud 和 Lambda;这里没有比较它们的价格。
- 改为自购硬件 → 用上面链接的成本计算器与本地显卡对比,因为每天稳定使用时,自购可能更划算。
我们的评测方法
本评测未经 PromptQuorum 实机测试。 PromptQuorum 没有为本页租用 GPU、运行基准测试,也没有测量每秒 token 数或冷启动时间。内容基于 RunPod 自己的页面,获取于 2026-11-22。
- 厂商声明: 价格、计费粒度、存储类型、默认值和安全声明,来自 RunPod 定价页、计费文档、Pod 概览、Serverless 端点配置、安全与合规文档和隐私政策。
- PromptQuorum 评估: 评分卡、模型适配判断和购买/跳过建议,是把上述厂商声明的事实套用后的结果。显存数据来自模型适配部分链接的 PromptQuorum 速查表。
- 未核实: 数据中心位置、Community Cloud 的安全状况、Serverless 按秒费率和冷启动时间。
- 评分标准:价格、可靠性、上手难度、GPU 选择、支持与文档。
常见问题
RunPod 是什么?
RunPod 是一项按秒计费的 NVIDIA GPU 云租用服务。它提供 Pod(由你控制的 GPU 容器)和 Serverless(可缩减到零的自动扩缩工作节点),分为 Secure Cloud 和 Community Cloud 两个层级。
RunPod 上的 RTX 4090 多少钱?
RunPod 定价页(核实于 2026-11-22)列出 RTX 4090 在 Secure Cloud 为每小时 $0.89,在 Community Cloud 为每小时 $0.34。Serverless 单独列出 24 GB 级 GPU;4090 在那里为每小时 $1.34。价格可能变动,请查看最新页面。
Secure Cloud 和 Community Cloud 有什么区别?
据 RunPod 文档,Secure Cloud 运行在面向生产使用的 T3/T4 数据中心,而 Community Cloud 通过经审核的点对点系统把个人算力提供者与用户连接起来,价格更低。文档没有描述 Community Cloud 的安全性,因此敏感数据不要放在上面。
RunPod 如何计费?
计算和存储均按秒从预付额度中扣费,不收入站或出站流量费。计费文档称最低 $10 即可开始,预付卡每笔至少充值 $100,额度不可退款。
我的 RunPod 余额归零会怎样?
运行中的 Pod 会被停止。带网络卷的 Pod 保留数据;没有网络卷的 Pod 会被终止,数据无法恢复。Pod 停止期间,网络卷存储仍会继续计费,因此请设置低余额提醒。
RunPod Serverless 支持 vLLM 吗?
支持。RunPod 文档介绍了一个 vLLM 工作节点,可从 RunPod Hub 部署,也可基于 worker-vllm 仓库自定义。文档称它可直接替换 OpenAI API:更改端点 URL 和 API 密钥即可。
FlashBoot 有什么作用?
文档称 FlashBoot 通过在缩容后保留工作节点状态来减少冷启动,恢复速度比全新启动更快。它在流量稳定的端点上效果最好。RunPod 没有公布时间数据,PromptQuorum 也没有测量过。
活跃工作节点空闲时也会收费吗?
会。文档称活跃工作节点会持续计费,包括没有任务的时候。默认值为 0 个活跃工作节点;设为 1 或更多可消除冷启动,但会增加固定成本。
RunPod 的存储免费吗?
不免费。定价页(核实于 2026-11-22)列出容器磁盘每月每 GB $0.10,卷磁盘运行时 $0.10、闲置时 $0.20,网络存储在 1 TB 以下每月每 GB $0.07,超出部分 $0.05。
RunPod 能运行 70B 模型吗?
能,只要显卡内存足够。据 PromptQuorum 速查表,70B 的 Q4 模型约需 44 GB 显存,因此请使用 48 GB 显卡(较紧)或 80 GB 的 A100 或 H100。本评测没有测量速度。
RunPod 的文档对 GDPR 是怎么说的?
RunPod 的安全与合规页称,在欧洲数据中心区域处理的数据符合 GDPR,但没有列出具体地点。PromptQuorum 未对此进行审计;使用个人数据之前请先审阅数据处理条款。你的使用是否合规,取决于你自己的合法性基础、数据处理协议以及任何跨境传输机制,因为 RunPod 总部位于美国。
未使用的 RunPod 额度可以退款吗?
计费文档称额度不可退款,存入后不能提现,只能用于 RunPod 的服务。请只充值你预计会用到的金额。
