适合购买 / 建议跳过
快速决策指南。PromptQuorum 评估:非常适合以成本为导向的实验,不适合在非 Secure Cloud 主机上运行机密或生产关键的工作负载。
- 适合在 Vast.ai 租用的情形:
- 你想从众多 GPU 型号中选择,从 RTX 3060 到 B200(Vast.ai 列出 68 种以上 GPU)
- 你的任务能容忍中断(批量推理、带检查点的微调、实验)
- 你熟悉 Docker 镜像和 SSH
- 你想要按秒计费且不向上取整
- 建议跳过 Vast.ai 的情形:
- 你需要运行个人、受监管或机密数据,又无法使用 Secure Cloud 层级
- 你想要固定、可预测的每小时费率和统一的环境
- 你需要为生产端点提供有保障的容量,又不想先逐一测试主机
Vast.ai 评分卡
PromptQuorum 评估,依据 Vast.ai 自己的文档和公开声明。这不是实机测试,也没有测量过正常运行时间或速度。 评分反映其用于租用 GPU 运行本地式开源权重模型的适配程度。
价格
- 评分:
- 9/10
- 原因:
- 市场加可中断层级瞄准低价端
可靠性
- 评分:
- 6/10
- 原因:
- 因主机而异;可中断实例可能被暂停
上手难度
- 评分:
- 7/10
- 原因:
- Docker、SSH 和主机搜索;步骤多于托管 Pod
GPU 选择
- 评分:
- 9.5/10
- 原因:
- 据 Vast.ai,68 种以上 GPU,RTX 3060 至 B200
支持 / 文档
- 评分:
- 7.5/10
- 原因:
- 文档详细;有计费和安全 FAQ 页面
数据信任
- 评分:
- 6.5/10
- 原因:
- 声明 SOC 2 Type 2;各层级主机不同
综合
- 评分:
- 7.6/10
- 原因:
- 市场价格低、GPU 选择广;统一性较弱
PromptQuorum 评估,依据 Vast.ai 官方页面(见“我们的评测方法”)。不是 PromptQuorum 在 Vast.ai 上运行工作负载的结果。
结论:谁应该在这里租用
当价格和 GPU 选择比统一性更重要,并且中断或主机较慢造成的损失很小时,就在 Vast.ai 租用。 它适合带检查点的微调、批处理任务、基准测试,以及在购买显卡之前先试用某个模型。如果你在权衡租用与自购,本地 LLM 成本计算器可以给出盈亏平衡视角。
不要把便宜的市场主机当作私有环境。 Vast.ai 自己的安全 FAQ 称个别主机的安全措施可能不够正式。对于敏感数据,请筛选 Secure Cloud,或选择只有单一运营方的服务商。
要与托管型替代方案并排比较,请阅读 RunPod 评测和 RunPod 与 Vast.ai 价格对比。
市场如何运作
Vast.ai 汇集了许多提供者的 GPU 机器;你搜索报价、挑选一台,并在其上启动 Docker 容器。 各主机在硬件、位置、带宽价格和信任层级上各不相同,因此搜索筛选条件比单一运营方的云更重要。
- 报价: 你可以按 GPU 型号、显存、价格、可靠性和位置筛选(Vast.ai CLI 页面介绍了这些筛选条件)。
- 实例类型: 按需是“固定价格,有保障的资源(高优先级)”;可中断是“最低成本,可能被暂停(低优先级)”;预留是“预付可获得折扣价”(Vast.ai 定价文档)。
- 主机层级: Secure Cloud 来自经审核的数据中心;已验证主机“经过人工可靠性与性能测试”,并采用 Docker 级别的租户隔离(Vast.ai 合规页面)。
- 运行环境: 据 Vast.ai,每个工作负载都运行在无特权的 Docker 容器中,与其他租户隔离。
- 访问方式: 文档中的接入方式有 SSH、Jupyter 以及 API/CLI。
价格与计费
按实际用量按秒计费,任何实例启动之前都必须先充值。 核实于 2026-11-22。各 GPU 的每小时费率是市场实时数值,因主机而异,本评测未核实,因此不引用任何单卡价格。
- $0.14/小时和 $0.50/小时是 Vast.ai 在其 CLI 页面上宣传的“起”价(核实于 2026-11-22),并非某款具体 GPU 的价格。
- 来源:Vast.ai 定价、实例定价文档、计费文档。
- 计费文档中的付款方式:通过 Stripe 的主流信用卡,以及通过 BitPay 和 Crypto.com 的加密货币。自动扣费仅支持已保存的银行卡。
- 余额归零时实例会停止;有已保存的银行卡则会从卡中扣款,没有则实例和数据会被销毁。
- 当前各 GPU 的费率请参阅我们的云 GPU 每小时成本页面以及 Vast.ai 的实时搜索。
计费单位
- Vast.ai 的说明:
- 按秒;“无最低小时数,不向上取整”
按需
- Vast.ai 的说明:
- 固定价格,有保障的资源
可中断
- Vast.ai 的说明:
- 比按需“便宜 50% 以上”;可能被暂停
预留
- Vast.ai 的说明:
- 最高优惠 50%;1、3 或 6 个月期限
宣传的起价
- Vast.ai 的说明:
- Spot 起价 $0.14/小时,按需 $0.50/小时(CLI 页面)
存储
- Vast.ai 的说明:
- 实例存在期间计费,即使已停止
带宽
- Vast.ai 的说明:
- 因主机而异;上传和下载按字节计费
最低充值
- Vast.ai 的说明:
- 所查阅的文档中未说明
哪些开源权重模型放得下
先按显存选择 GPU。 下表数字是 Q4_K_M 的显存估算,来自我们的 DeepSeek-R1 蒸馏模型显存速查表;方法请参阅本地 LLM 需要多少显存。它们不是 Vast.ai 的测量结果,也不声称任何每秒 token 数。
7B
- 所需显存:
- ~5.5 GB
- 典型显卡级别:
- 12 GB 显卡
14B
- 所需显存:
- ~9.5 GB
- 典型显卡级别:
- 16 GB 显卡
32B
- 所需显存:
- ~20.5 GB
- 典型显卡级别:
- 24 GB 显卡(较紧)
70B
- 所需显存:
- ~44 GB
- 典型显卡级别:
- 48 GB 或多 GPU
应用场景
最适合成本重要、中断代价低的工作负载。
- 适合: 带定期检查点的微调、批量推理、购买硬件前对模型做基准测试、图像或视频生成实验。
- 视情况适合: 需要多 GPU 报价的 70B 级模型;请确认报价列出了你所需的 GPU 数量。
- 不适合: 在非 Secure Cloud 主机上处理机密或受监管数据,以及没有冗余的常驻生产端点。
- 在租用与购买显卡之间做决定:参见 RTX 3090:买还是租和运行 70B 模型最便宜的方式。
风险与信任
Vast.ai 是一个市场,因此运行硬件的一方取决于你选择的报价。 以下说明来自 Vast.ai 自己的页面,核实于 2026-11-22。
- 主机安全性各不相同:安全 FAQ 称“个别主机的安全措施可能不够正式”,并建议加密敏感数据,不要在实例中存放凭据。
- 文档没有说明主机方能否读取你的数据: 文档称客户只能访问自己的数据且受容器隔离,但没有涉及主机方的访问,因此应把非 Secure Cloud 的主机视为不可信。
- 不同页面对合作方认证的表述不一致:合规页面称鼓励但不强制 Secure Cloud 合作方具备 ISO 27001 或 SOC 2,而安全 FAQ 则在 Secure Cloud 提供者的特征中列出了 ISO 27001。依赖任何一种说法之前,请先核实当前要求。
- 计费: 计算按秒计费,停止期间存储仍会计费;没有已保存银行卡且余额为负时,实例和数据会被销毁。来源:计费文档。
- Vast.ai 的 SOC 2 Type 2 声明涉及公司自身的控制措施,并不保证任何单个主机的情况。这不是法律或合规建议。
硬件来源
- Vast.ai 的说明:
- 独立主机方和经审核的数据中心(Secure Cloud)
Secure Cloud
- Vast.ai 的说明:
- 面向受监管和企业需求;合作方签署 DPA
已验证主机
- Vast.ai 的说明:
- 人工测试;Docker 隔离;用于非受监管工作
SOC 2
- Vast.ai 的说明:
- “已完成 SOC 2 Type 2 认证”;报告需签 NDA
数据删除
- Vast.ai 的说明:
- 删除实例时立即销毁
传输加密
- Vast.ai 的说明:
- API 和控制台流量使用 TLS 1.2+
退款
- Vast.ai 的说明:
- 已花费额度:不退。未花费:通常可退,经聊天申请
优点与缺点
一边是低价的灵活性,另一边是主机之间的差异。
- 优点
- 按秒计费,不向上取整
- 可中断定价据称比按需便宜 50% 以上
- 68 种以上 GPU,从 RTX 3060 到 B200
- 定位于敏感工作负载的 Secure Cloud 层级
- 声明已通过 SOC 2 Type 2 认证
- 缺点
- 质量和安全性因主机而异
- 可中断实例可能被暂停
- 实例停止期间仍收取存储费用
- 已花费的额度不可退款
- 各 GPU 价格不断变化;预算需要查看实时价格
在哪里注册
创建账户、充值,然后在启动前筛选报价。
- 1在 Vast.ai 网站创建账户并充值(任何实例启动前都必须先充值)
- 2按 GPU 型号、显存、可靠性和价格搜索报价;如果数据敏感,请启用 Secure Cloud 筛选
- 3需要有保障的资源选按需,追求最低成本选可中断
- 4启动 Docker 镜像(Ollama 或 vLLM),并通过 SSH 连接
- 5用完后删除实例,以停止存储计费
可考虑的替代方案
如果市场主机的差异是问题,下一步通常是改用单一运营方的云。
- 划分 Secure/Community 的托管 Pod:RunPod 评测。
- 另一个社区 GPU 市场:Clore.ai 评测,以加密货币计价。
- 自购硬件: 在承诺租用之前,先用成本计算器对比自购。
- Lambda 和 CoreWeave 等较大的服务商是单一运营方的云;本评测没有核实它们的价格。
我们的评测方法
本评测未经 PromptQuorum 实机测试。 内容基于 Vast.ai 自己的页面,获取于 2026-11-22。
- 厂商声明: 计费单位、实例类型、主机层级、SOC 2 声明、退款和存储规则,来自 vast.ai 和 docs.vast.ai。
- 未核实: 各 GPU 的每小时价格、最低充值、正常运行时间和速度。
- PromptQuorum 评估: 评分卡、购买/跳过建议和模型适配说明,属于编辑判断,不是测量结果。
常见问题
Vast.ai 是什么?
Vast.ai 是一个 GPU 租用市场,独立主机方和经审核的数据中心在其中挂出机器,按秒计费。据其定价页,它提供按需、可中断和预留三种定价。
Vast.ai 如何计费?
计算按实际用量按秒计费,启动任何实例前都必须先充值。存储在实例存在期间计费,即使已停止(核实于 2026-11-22)。
按需和可中断有什么区别?
按需是固定价格、有保障的资源。可中断是最低成本,可能被暂停;Vast.ai 称它通常比按需便宜 50% 以上。
什么是预留实例?
预留实例通过预付获得折扣;Vast.ai 在其定价页列出最高优惠 50%,期限为 1、3 或 6 个月。
Vast.ai 安全吗?
Vast.ai 声明已完成 SOC 2 Type 2 认证,每个工作负载都运行在无特权的 Docker 容器中。其官方文档同时也说个别主机的安全措施可能不够正式。Vast.ai 将 Secure Cloud 定位于敏感数据;请根据自身情况确认其 DPA 和认证。
什么是 Secure Cloud 层级?
Secure Cloud 是由经审核的数据中心合作方组成的层级,面向受监管和企业需求。据其合规页面,合作方与 Vast.ai 签署数据处理协议。
什么是已验证主机?
已验证主机经过人工可靠性与性能测试,并采用 Docker 级别的租户隔离。Vast.ai 将其定位于非受监管的工作负载。
在 Vast.ai 上可以退款吗?
据计费文档,已花费的额度不可退款,而未花费的额度通常可通过网站聊天联系客服退款。旧版 Coinbase Commerce 额度无法退款。
余额用完会怎样?
余额归零时实例会自动停止。有已保存的银行卡时会从卡中扣款以补足;没有已保存银行卡时,实例和存储的数据会被销毁。
有最低充值金额吗?
所查阅的计费和定价文档没有说明最低金额,只说明启动任何实例前必须先充值。
Vast.ai 接受哪些付款方式?
计费文档列出通过 Stripe 的主流信用卡,以及通过 BitPay 和 Crypto.com 的加密货币。自动扣费仅支持信用卡。
能在 Vast.ai 上运行 70B 模型吗?
据我们的速查表,70B 的 Q4_K_M 模型约需 44 GB 显存,因此需要 48 GB 显卡或多 GPU 报价。启动前请确认该报价的 GPU 数量和显存。
