跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Overview & Reference

Vast.ai 评测(2026):市场价格与可靠性的取舍

·阅读约9分钟 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

Vast.ai 是按秒计费的 GPU 租用市场,价格取决于你选择的主机;它适合对成本敏感、能容忍中断的工作。Vast.ai 将其 Secure Cloud 层级定位于受监管和企业需求;依赖之前,请自行核实数据处理协议(DPA)和认证。 Vast.ai 声明“无最低小时数,不向上取整”,并列出按需、可中断(“便宜 50% 以上”)和预留(“最高优惠 50%”)三种定价(核实于 2026-11-22)。PromptQuorum 评估:综合 7.6/10,并非实机测试。关键在于差异:已验证主机经过测试,但 Vast.ai 的文档指出“个别主机的安全措施可能不够正式”,因此不要把受监管数据放在非 Secure Cloud 的主机上。→ 查看 Vast.ai GPU 价格

关键要点

  • Vast.ai 是按秒计费的 GPU 市场;它声明“无最低小时数,不向上取整”(核实于 2026-11-22)
  • 三种定价类型:按需(有保障)、可中断(可能被暂停,据 Vast.ai“便宜 50% 以上”)、预留(预付,最高优惠 50%)
  • 两个信任层级:Secure Cloud(经审核的数据中心)和已验证主机(人工测试,用于非受监管工作负载)
  • Vast.ai 声明已完成 SOC 2 Type 2 认证;报告需签署保密协议后提供
  • 实例停止后存储仍会计费;删除实例才会结束存储费用
  • 据 Vast.ai 计费文档,已花费的额度不可退款;未花费的额度通常可通过客服聊天退款
  • 各 GPU 的每小时价格是市场实时数值,本评测未核实

Vast.ai 是一个 GPU 市场:独立主机方和经审核的数据中心挂出机器,你按秒租用。本评测是我们最佳云 GPU 服务商总览中的一篇,涵盖市场的运作方式、Vast.ai 自己对价格、主机层级和数据处理的说明,以及低廉的市场价格与参差不齐的主机质量之间的取舍。下文的每个价格和安全声明都来自 Vast.ai 自己的页面(核实于 2026-11-22);无法核实的数字,页面中会明确说明。

本页包含指向第三方产品的参考链接。PromptQuorum 未加入任何联盟计划——这些是不产生佣金的普通链接。点击链接和后续步骤由您自行承担责任。本页的任何推荐均基于我们对各服务商公开页面的自行解读,并非服务商的背书,也不是测试结果。

Vast.ai 评测(2026):市场价格与可靠性的取舍

Vast.ai 评分卡

PromptQuorum 评估,依据 Vast.ai 自己的文档和公开声明。这不是实机测试,也没有测量过正常运行时间或速度。 评分反映其用于租用 GPU 运行本地式开源权重模型的适配程度。

价格

评分:
9/10
原因:
市场加可中断层级瞄准低价端

可靠性

评分:
6/10
原因:
因主机而异;可中断实例可能被暂停

上手难度

评分:
7/10
原因:
Docker、SSH 和主机搜索;步骤多于托管 Pod

GPU 选择

评分:
9.5/10
原因:
据 Vast.ai,68 种以上 GPU,RTX 3060 至 B200

支持 / 文档

评分:
7.5/10
原因:
文档详细;有计费和安全 FAQ 页面

数据信任

评分:
6.5/10
原因:
声明 SOC 2 Type 2;各层级主机不同

综合

评分:
7.6/10
原因:
市场价格低、GPU 选择广;统一性较弱

PromptQuorum 评估,依据 Vast.ai 官方页面(见“我们的评测方法”)。不是 PromptQuorum 在 Vast.ai 上运行工作负载的结果。

结论:谁应该在这里租用

当价格和 GPU 选择比统一性更重要,并且中断或主机较慢造成的损失很小时,就在 Vast.ai 租用。 它适合带检查点的微调、批处理任务、基准测试,以及在购买显卡之前先试用某个模型。如果你在权衡租用与自购,本地 LLM 成本计算器可以给出盈亏平衡视角。

不要把便宜的市场主机当作私有环境。 Vast.ai 自己的安全 FAQ 称个别主机的安全措施可能不够正式。对于敏感数据,请筛选 Secure Cloud,或选择只有单一运营方的服务商。

要与托管型替代方案并排比较,请阅读 RunPod 评测和 RunPod 与 Vast.ai 价格对比。

查看 Vast.ai GPU 价格 →产品链接 · 已披露

市场如何运作

Vast.ai 汇集了许多提供者的 GPU 机器;你搜索报价、挑选一台,并在其上启动 Docker 容器。 各主机在硬件、位置、带宽价格和信任层级上各不相同,因此搜索筛选条件比单一运营方的云更重要。

  • 报价: 你可以按 GPU 型号、显存、价格、可靠性和位置筛选(Vast.ai CLI 页面介绍了这些筛选条件)。
  • 实例类型: 按需是“固定价格,有保障的资源(高优先级)”;可中断是“最低成本,可能被暂停(低优先级)”;预留是“预付可获得折扣价”(Vast.ai 定价文档)。
  • 主机层级: Secure Cloud 来自经审核的数据中心;已验证主机“经过人工可靠性与性能测试”,并采用 Docker 级别的租户隔离(Vast.ai 合规页面)。
  • 运行环境: 据 Vast.ai,每个工作负载都运行在无特权的 Docker 容器中,与其他租户隔离。
  • 访问方式: 文档中的接入方式有 SSH、Jupyter 以及 API/CLI。

价格与计费

按实际用量按秒计费,任何实例启动之前都必须先充值。 核实于 2026-11-22。各 GPU 的每小时费率是市场实时数值,因主机而异,本评测未核实,因此不引用任何单卡价格。

  • $0.14/小时和 $0.50/小时是 Vast.ai 在其 CLI 页面上宣传的“起”价(核实于 2026-11-22),并非某款具体 GPU 的价格。
  • 来源:Vast.ai 定价、实例定价文档、计费文档。
  • 计费文档中的付款方式:通过 Stripe 的主流信用卡,以及通过 BitPay 和 Crypto.com 的加密货币。自动扣费仅支持已保存的银行卡。
  • 余额归零时实例会停止;有已保存的银行卡则会从卡中扣款,没有则实例和数据会被销毁。
  • 当前各 GPU 的费率请参阅我们的云 GPU 每小时成本页面以及 Vast.ai 的实时搜索。

计费单位

Vast.ai 的说明:
按秒;“无最低小时数,不向上取整”

按需

Vast.ai 的说明:
固定价格,有保障的资源

可中断

Vast.ai 的说明:
比按需“便宜 50% 以上”;可能被暂停

预留

Vast.ai 的说明:
最高优惠 50%;1、3 或 6 个月期限

宣传的起价

Vast.ai 的说明:
Spot 起价 $0.14/小时,按需 $0.50/小时(CLI 页面)

存储

Vast.ai 的说明:
实例存在期间计费,即使已停止

带宽

Vast.ai 的说明:
因主机而异;上传和下载按字节计费

最低充值

Vast.ai 的说明:
所查阅的文档中未说明

哪些开源权重模型放得下

先按显存选择 GPU。 下表数字是 Q4_K_M 的显存估算,来自我们的 DeepSeek-R1 蒸馏模型显存速查表;方法请参阅本地 LLM 需要多少显存。它们不是 Vast.ai 的测量结果,也不声称任何每秒 token 数。

  • 在 Docker 镜像中提供模型服务,可以使用 Ollama 或 vLLM,二者都能在容器中运行。
  • 市场上某款 GPU 是否有货每小时都在变化;启动前请确认该报价及其显存。

7B

所需显存:
~5.5 GB
典型显卡级别:
12 GB 显卡

14B

所需显存:
~9.5 GB
典型显卡级别:
16 GB 显卡

32B

所需显存:
~20.5 GB
典型显卡级别:
24 GB 显卡(较紧)

70B

所需显存:
~44 GB
典型显卡级别:
48 GB 或多 GPU

应用场景

最适合成本重要、中断代价低的工作负载。

  • 适合: 带定期检查点的微调、批量推理、购买硬件前对模型做基准测试、图像或视频生成实验。
  • 视情况适合: 需要多 GPU 报价的 70B 级模型;请确认报价列出了你所需的 GPU 数量。
  • 不适合: 在非 Secure Cloud 主机上处理机密或受监管数据,以及没有冗余的常驻生产端点。
  • 在租用与购买显卡之间做决定:参见 RTX 3090:买还是租和运行 70B 模型最便宜的方式。

风险与信任

Vast.ai 是一个市场,因此运行硬件的一方取决于你选择的报价。 以下说明来自 Vast.ai 自己的页面,核实于 2026-11-22。

  • 主机安全性各不相同:安全 FAQ 称“个别主机的安全措施可能不够正式”,并建议加密敏感数据,不要在实例中存放凭据。
  • 文档没有说明主机方能否读取你的数据: 文档称客户只能访问自己的数据且受容器隔离,但没有涉及主机方的访问,因此应把非 Secure Cloud 的主机视为不可信。
  • 不同页面对合作方认证的表述不一致:合规页面称鼓励但不强制 Secure Cloud 合作方具备 ISO 27001 或 SOC 2,而安全 FAQ 则在 Secure Cloud 提供者的特征中列出了 ISO 27001。依赖任何一种说法之前,请先核实当前要求。
  • 计费: 计算按秒计费,停止期间存储仍会计费;没有已保存银行卡且余额为负时,实例和数据会被销毁。来源:计费文档。
  • Vast.ai 的 SOC 2 Type 2 声明涉及公司自身的控制措施,并不保证任何单个主机的情况。这不是法律或合规建议。

硬件来源

Vast.ai 的说明:
独立主机方和经审核的数据中心(Secure Cloud)

Secure Cloud

Vast.ai 的说明:
面向受监管和企业需求;合作方签署 DPA

已验证主机

Vast.ai 的说明:
人工测试;Docker 隔离;用于非受监管工作

SOC 2

Vast.ai 的说明:
“已完成 SOC 2 Type 2 认证”;报告需签 NDA

数据删除

Vast.ai 的说明:
删除实例时立即销毁

传输加密

Vast.ai 的说明:
API 和控制台流量使用 TLS 1.2+

退款

Vast.ai 的说明:
已花费额度:不退。未花费:通常可退,经聊天申请

优点与缺点

一边是低价的灵活性,另一边是主机之间的差异。

  • 优点
  • 按秒计费,不向上取整
  • 可中断定价据称比按需便宜 50% 以上
  • 68 种以上 GPU,从 RTX 3060 到 B200
  • 定位于敏感工作负载的 Secure Cloud 层级
  • 声明已通过 SOC 2 Type 2 认证
  • 缺点
  • 质量和安全性因主机而异
  • 可中断实例可能被暂停
  • 实例停止期间仍收取存储费用
  • 已花费的额度不可退款
  • 各 GPU 价格不断变化;预算需要查看实时价格

在哪里注册

创建账户、充值,然后在启动前筛选报价。

  1. 1
    在 Vast.ai 网站创建账户并充值(任何实例启动前都必须先充值)
  2. 2
    按 GPU 型号、显存、可靠性和价格搜索报价;如果数据敏感,请启用 Secure Cloud 筛选
  3. 3
    需要有保障的资源选按需,追求最低成本选可中断
  4. 4
    启动 Docker 镜像(Ollama 或 vLLM),并通过 SSH 连接
  5. 5
    用完后删除实例,以停止存储计费
查看 Vast.ai GPU 价格 →产品链接 · 已披露打开 Vast.ai →产品链接 · 已披露

可考虑的替代方案

如果市场主机的差异是问题,下一步通常是改用单一运营方的云。

  • 划分 Secure/Community 的托管 Pod:RunPod 评测。
  • 另一个社区 GPU 市场:Clore.ai 评测,以加密货币计价。
  • 自购硬件: 在承诺租用之前,先用成本计算器对比自购。
  • Lambda 和 CoreWeave 等较大的服务商是单一运营方的云;本评测没有核实它们的价格。

我们的评测方法

本评测未经 PromptQuorum 实机测试。 内容基于 Vast.ai 自己的页面,获取于 2026-11-22。

  • 厂商声明: 计费单位、实例类型、主机层级、SOC 2 声明、退款和存储规则,来自 vast.ai 和 docs.vast.ai。
  • 未核实: 各 GPU 的每小时价格、最低充值、正常运行时间和速度。
  • PromptQuorum 评估: 评分卡、购买/跳过建议和模型适配说明,属于编辑判断,不是测量结果。

常见问题

Vast.ai 是什么?

Vast.ai 是一个 GPU 租用市场,独立主机方和经审核的数据中心在其中挂出机器,按秒计费。据其定价页,它提供按需、可中断和预留三种定价。

Vast.ai 如何计费?

计算按实际用量按秒计费,启动任何实例前都必须先充值。存储在实例存在期间计费,即使已停止(核实于 2026-11-22)。

按需和可中断有什么区别?

按需是固定价格、有保障的资源。可中断是最低成本,可能被暂停;Vast.ai 称它通常比按需便宜 50% 以上。

什么是预留实例?

预留实例通过预付获得折扣;Vast.ai 在其定价页列出最高优惠 50%,期限为 1、3 或 6 个月。

Vast.ai 安全吗?

Vast.ai 声明已完成 SOC 2 Type 2 认证,每个工作负载都运行在无特权的 Docker 容器中。其官方文档同时也说个别主机的安全措施可能不够正式。Vast.ai 将 Secure Cloud 定位于敏感数据;请根据自身情况确认其 DPA 和认证。

什么是 Secure Cloud 层级?

Secure Cloud 是由经审核的数据中心合作方组成的层级,面向受监管和企业需求。据其合规页面,合作方与 Vast.ai 签署数据处理协议。

什么是已验证主机?

已验证主机经过人工可靠性与性能测试,并采用 Docker 级别的租户隔离。Vast.ai 将其定位于非受监管的工作负载。

在 Vast.ai 上可以退款吗?

据计费文档,已花费的额度不可退款,而未花费的额度通常可通过网站聊天联系客服退款。旧版 Coinbase Commerce 额度无法退款。

余额用完会怎样?

余额归零时实例会自动停止。有已保存的银行卡时会从卡中扣款以补足;没有已保存银行卡时,实例和存储的数据会被销毁。

有最低充值金额吗?

所查阅的计费和定价文档没有说明最低金额,只说明启动任何实例前必须先充值。

Vast.ai 接受哪些付款方式?

计费文档列出通过 Stripe 的主流信用卡,以及通过 BitPay 和 Crypto.com 的加密货币。自动扣费仅支持信用卡。

能在 Vast.ai 上运行 70B 模型吗?

据我们的速查表,70B 的 Q4_K_M 模型约需 44 GB 显存,因此需要 48 GB 显卡或多 GPU 报价。启动前请确认该报价的 GPU 数量和显存。

← 返回 本地LLM进阶

MCP