跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Overview & Reference

Novita AI 评测(2026):模型 API 与 Serverless GPU

·阅读约9分钟 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

Novita AI 是一个按量付费的平台,主打产品是模型 API:其官方定价页列出 OpenAI GPT OSS 120B 输入每 100 万 token $0.05、输出每 100 万 token $0.25,Llama 3.3 70B Instruct 输入 $0.135、输出 $0.4(核实于 2026-11-22)。 它还出租按秒计费的 GPU 实例,并提供 Serverless GPU。PromptQuorum 的评估基于官方页面和文档,而非实机测试:综合 7.8/10。本次核查未能从官方页面读到各 GPU 的每小时费率,请在控制台中确认。退款被描述为一般不可用。

关键要点

  • Novita AI 在一个账户下出售三类产品:模型 API、GPU 实例和 Serverless GPU
  • GPT OSS 120B 标价输入 $0.05 / 输出 $0.25(每 100 万 token);Llama 3.3 70B Instruct 为 $0.135 / $0.4(核实于 2026-11-22)
  • GPU 实例按秒计费、每小时结算;容器磁盘超出前 60 GB 的部分每 GB 每天 $0.005
  • 付款通过 Stripe 处理;不支持加密货币;退款一般不可用
  • 本次核查中官方页面上读不到各 GPU 的每小时费率:未核实
  • Together AI 和 Fireworks 在各自定价页上,把 GPT OSS 120B 标为输入 $0.15 / 输出 $0.60(每 100 万 token)

Novita AI 是一个按量付费的平台,一个账户下有三类产品:按 token 计费的模型 API 目录、按需 GPU 实例和 Serverless GPU。它与我们的最佳云 GPU 服务商指南中那些出租 Pod 的服务商定位不同,因为多数读者只用它的模型 API,根本不会碰 GPU。本评测查看了 Novita AI 官方定价页、计费文档和 LlamaIndex 指南(均核实于 2026-11-22),并把模型 API 费率与 Together AI 和 Fireworks 作了对比。

本页包含指向第三方产品的参考链接。PromptQuorum 未加入任何联盟计划——这些是不产生佣金的普通链接。点击链接和后续步骤由您自行承担责任。本页的任何推荐均基于我们对各服务商公开页面的自行解读,并非服务商的背书,也不是测试结果。

Novita AI 评测(2026):模型 API 与 Serverless GPU

Novita AI 评分卡

PromptQuorum 评估,依据 Novita AI 官方页面和文档(核实于 2026-11-22)。这不是实机实验室测试。 评分反映其对想使用托管开放模型并按需使用 GPU 的开发者的适配程度。

价格

评分:
8.5/10
原因:
按 token 费率低;GPU 小时费率无法读取

可靠性

评分:
未评分
原因:
未核实可用率数据;仅按其所述设计评分

上手难度

评分:
8.5/10
原因:
API 密钥加模型名;有 LlamaIndex 步骤文档

GPU 选择

评分:
7/10
原因:
核查的页面上读不到 GPU 型号和费率

支持与文档

评分:
8/10
原因:
文档涵盖计费、实例和集成

综合

评分:
7.8/10
原因:
API 产品很强;请在控制台核实 GPU 费率

每项评分都是 PromptQuorum 依据官方页面作出的评估(见“我们的评测方法”),而不是 PromptQuorum 在该平台上运行负载的结果。

结论:谁应该使用它

如果你想要的是模型 API,就选 Novita AI:开放权重模型、较低的按 token 费率、类 OpenAI 的接口。 在 2026-11-22 核查的定价页上,GPT OSS 120B 标价为每 100 万输入 / 输出 token $0.05 / $0.25,而 Together AI 和 Fireworks 为 $0.15 / $0.60(Together AI 的输入费率标注为“(cached)”)。

不要仅凭价格就选它来做 GPU 工作,因为核查的官方页面没有给出各 GPU 的每小时费率。 请先打开控制台,读取具体显卡的实时费率,并与云 GPU 每小时成本中的数字对比,再做决定。默认不可退款,因此合理的第一步是小额充值试用。

Novita AI 的工作方式

一个账户,三类产品:按 token 计费的模型 API、按秒计费的 GPU 实例,以及按使用秒数计费的 Serverless GPU。 以下描述来自 Novita AI 自己的页面。

  • 模型 API: 开放模型与合作模型的目录(Llama、DeepSeek、Qwen、Gemma、GLM、Kimi、GPT OSS),按 token 标价,另有按请求列价的嵌入和搜索 API。
  • GPU 实例: 你选择 GPU 型号、区域和镜像,实例进入 Pulling 状态时开始计费,停止实例时结束计费。
  • Serverless GPU: Novita 称按秒计费、只为消耗的资源付费、30 秒内缩减到零,预热后亚秒级启动;对于未预热的实例,它没有给出冷启动数据。
  • LlamaIndex: 官方 LlamaIndex 指南要求你从 Model Library 复制模型名,在平台设置中创建 API 密钥,并使用 NovitaAI 类;llama-index-llms-novita 包已在 PyPI 上架。
  • 批量推理: 定价页描述了针对受支持模型的输入和输出 token 的 50% 入门折扣。

价格与计费

模型 API 费率公开且较低;核查的官方页面读不到 GPU 小时费率,因此此处不引用任何一个。 所有数字均为每 100 万 token 的美元价格,来自官方定价页,核实于 2026-11-22。

  • GPU 实例计费(文档,核实于 2026-11-22): 单价 × 时长 × 显卡数量,精确到秒、每小时结算;参见 GPU 实例定价文档。
  • 存储(同一文档): 容器磁盘前 60 GB 免费,之后每 GB 每天 $0.005;卷磁盘每 GB 每天 $0.005;网络卷每 GB 每天 $0.002。
  • GPU 小时费率: 未核实。实时费率表在 GPU 定价页和控制台中;Novita 还注明 GPU 价格调整自 2026-03-16 起生效,因此其他地方的旧数字可能已过时。
  • Serverless 费率: 未核实;Novita 称 Spot 定价最多可节省“up to 50%”,但页面文本中没有列出费率。
  • 付款: 由 Stripe 处理;按计费常见问题,不支持加密货币。部分地区可能提供本地钱包。
  • 价格经常变动:请把每个数字视为快照,并在实时页面上确认。

OpenAI GPT OSS 120B

输入 / 输出:
$0.05 / $0.25
上下文:
131K

Llama 3.1 8B Instruct

输入 / 输出:
$0.02 / $0.05
上下文:
16K

Llama 3.3 70B Instruct

输入 / 输出:
$0.135 / $0.4
上下文:
12K

Gemma 3 27B

输入 / 输出:
$0.119 / $0.2
上下文:
98K

Qwen3.5 27B

输入 / 输出:
$0.3 / $2.4
上下文:
262K

DeepSeek R1 0528

输入 / 输出:
$0.7 / $2.5
上下文:
164K
查看 Novita AI GPU 价格 →产品链接 · 已披露

模型 API 与 Together AI、Fireworks 对比

对三家都列出的同一个模型 GPT OSS 120B,在 2026-11-22 核查的页面上 Novita AI 的按 token 价格最低(Together AI 的输入费率标注为“(cached)”)。 该对比只涵盖标价,不涉及延迟、质量或限额,本评测没有测量这些。

  • Together AI 把 GPT OSS 120B 的输入费率标为“(cached)”,因此请在模型页上确认未命中缓存时的输入费率。
  • H100 的数字是不同的产品:Together AI 列的是专用推理,Fireworks 列的是按需部署。它们不是同口径的报价。
  • Fireworks 称限定区域的部署按 1.5 倍计价。

Novita AI

GPT OSS 120B 输入 / 输出:
$0.05 / $0.25
H100 每小时:
未核实

Together AI

GPT OSS 120B 输入 / 输出:
$0.15 / $0.60
H100 每小时:
$5.49 专用

Fireworks

GPT OSS 120B 输入 / 输出:
$0.15 / $0.60
H100 每小时:
$8.00 按需

是否适合本地 LLM 工作

Novita AI 是运行你自己显卡放不下的模型的一种方式,而无需租用整张 GPU。 我们的 DeepSeek-R1 蒸馏模型显存速查表指出,在 Q4_K_M 下,32B 蒸馏模型约需 20.5 GB,70B 约需 44 GB,因此大模型往往交给 API 或多 GPU 租用。

  • 模型放得进你的显卡: 在本地运行;参见本地 LLM 需要多少显存。
  • 模型放不进: 改为通过 Novita 模型 API 按 token 调用,而不是按小时租 Pod。
  • 自定义权重或代码: 使用 GPU 实例或 Serverless 端点,并根据上面的显存数据选择显卡。
  • 这里不给出每秒 token 数:Novita 在核查的页面上没有公布经过核实的吞吐量表,PromptQuorum 也没有对它做基准测试。

使用场景

Novita AI 产品与常见任务的匹配程度,从适配度高到低(PromptQuorum 评估)。

  • 适配度高: 用类 OpenAI 的客户端和按 token 计费,针对开放权重模型做应用原型。
  • 适配度高: 在 LlamaIndex 中使用有文档说明的 NovitaAI 类和 BGE-M3 等嵌入模型(每 100 万 token $0.01)搭建 RAG 流程。
  • 适配度较好: 通过 Serverless GPU 对你自己的模型做突发推理,只在请求运行期间付费。
  • 适配度较弱: 需要公布的固定小时费率的长时间训练;请先确认实时 GPU 费率,或参阅我们的 vLLM 详解了解自托管服务选项。
  • 适配度差: 需要加密货币付款,或需要可退回的预付资金的负载。

风险与信任

以下事实来自 Novita AI 自己的文档,核实于 2026-11-22。未核实的项目均已标明。

  • 计费模式: 美元,按量付费。GPU 算力按秒计费、每小时结算;模型 API 按 token 计费。
  • 付款: 所有付款由 Stripe 处理;接受银行卡,常见问题称不支持加密货币付款。
  • 退款: 常见问题称“Refunds are generally not available”。在完全无法使用服务等特殊情况下,你可以向客服申请。
  • 额度: 当检测到可疑的注册行为(例如同一设备注册多个账户)时,注册赠送的额度券可能被撤销。
  • 硬件来源: Novita 称其拥有自己的 GPU 云和全球区域。其各页面上的区域数量不一致,因此这里不引用具体数字。
  • 数据处理: 核查的页面中读不到关于提示词存储或保留的说明:未核实。发送敏感数据之前,请先阅读隐私政策和条款。
  • 账户余额: 常见问题称 Coding Plan 要求账户余额为正。未找到其他欠费和停服规则:未核实。

优点与缺点

低成本的 API,外加可选的 GPU;短板在于 GPU 费率和退款的公开程度。

  • 优点
  • GPT OSS 120B 标价每 100 万 token $0.05 / $0.25
  • GPU 按秒计费,不按小时取整
  • 有文档说明的 LlamaIndex 集成
  • 定价页描述了批量推理折扣
  • 缺点
  • 核查的页面上读不到 GPU 小时费率
  • 退款一般不可用
  • 不支持加密货币付款
  • 未找到经过核实的数据保留说明

在哪里注册

先小额充值并从模型 API 入手,读过实时费率后再添加 GPU。 链接指向 Novita AI 的官方页面。

  1. 1
    在 Novita AI 创建账户并打开控制台。
  2. 2
    在平台设置中创建 API 密钥。
  3. 3
    在 Model Library 中选择模型并复制其模型名。
  4. 4
    通过 Stripe 小额充值,并运行一次测试调用。
  5. 5
    做 GPU 工作时,启动实例之前先读取你所选显卡的实时每小时费率。
打开 Novita AI →产品链接 · 已披露查看 Novita AI 模型价格 →产品链接 · 已披露查看 Novita AI Serverless GPU →产品链接 · 已披露

可考虑的替代方案

合适的替代方案取决于你想要 API、租用 Pod,还是自有硬件。

我们的评测方法

本评测不是实机测试:PromptQuorum 没有在 Novita AI 上运行负载。 内容基于 2026-11-22 获取的官方页面和文档。

  • 官方来源,核实于 2026-11-22: 定价页、GPU 实例定价文档、计费常见问题、LlamaIndex 指南、Serverless 页面。
  • 未核实: 各 GPU 的每小时费率、Serverless 费率、可用率、吞吐量、数据保留。获取的页面中读不到实时 GPU 费率表。
  • PromptQuorum 评估: 评分卡、适配度评级和建议,是基于上述来源的编辑判断。
  • Together AI 和 Fireworks 的对比价格来自它们各自的定价页,于同一天核查。

常见问题

Novita AI 是什么?

Novita AI 是一个开发者平台,提供按 token 计费的模型 API 目录、按秒计费的 GPU 实例和 Serverless GPU。付款由 Stripe 处理。该回答反映的是 Novita AI 官方页面(核实于 2026-11-22)的内容。

Novita AI 模型 API 的价格是多少?

在 2026-11-22 核实的官方定价页上,GPT OSS 120B 输入每 100 万 token $0.05、输出每 100 万 token $0.25,Llama 3.1 8B Instruct 为 $0.02 / $0.05,Llama 3.3 70B Instruct 为 $0.135 / $0.4。价格会变动,请在实时页面上确认。

Novita AI 的 GPU 实例如何计费?

算力费用为单价 × 时长 × 显卡数量,精确到秒、每小时结算。实例进入 Pulling 状态时开始计费,停止实例时结束计费。容器磁盘超出前 60 GB 的部分每 GB 每天 $0.005。

Novita AI 的 GPU 每小时价格是多少?

未核实。官方文档指向实时 GPU 定价页,而本次核查无法读取其费率表。请打开控制台,查看你所选具体 GPU、区域和产品的当前费率。

Novita AI 提供 Serverless GPU 吗?

提供。Novita 称按秒计费、30 秒内缩减到零,预热后亚秒级启动。对于未预热的实例,它没有给出冷启动数据,本次核查中也读不到 Serverless 费率。

Novita AI 能与 LlamaIndex 配合使用吗?

可以。官方指南要求你从 Model Library 复制模型名,在平台设置中创建 API 密钥,安装 LlamaIndex 并使用 NovitaAI 类。llama-index-llms-novita 包已在 PyPI 上架。

可以用加密货币向 Novita AI 付款吗?

不可以。计费常见问题称不支持加密货币付款。付款由 Stripe 处理,使用信用卡和借记卡,部分地区可能提供本地钱包。

Novita AI 提供退款吗?

退款被描述为一般不可用。在完全无法使用服务等特殊情况下,你可以向客服申请。测试期间请从小额充值开始。

Novita AI 比 Together AI 和 Fireworks 便宜吗?

对 GPT OSS 120B,在 2026-11-22 核查的页面上,Novita AI 标价每 100 万 token $0.05 / $0.25,而 Together AI 和 Fireworks 均为 $0.15 / $0.60。这只比较了标价,不涉及速度或质量。GPU 费率没有比较。

我的数据在 Novita AI 上是私密的吗?

未核实。核查的页面中读不到关于提示词存储或保留的说明。请阅读隐私政策和条款,在未书面确认条款之前,不要向任何托管 API 发送敏感数据。

Novita AI 适合用来运行本地 LLM 吗?

当模型放不进你自己的显卡时,它是不错的选择:按 token 调用,而不是租 Pod。对于本地放得下的模型,请在本地运行。没有核实过吞吐量数据,因此本评测不引用任何数字。

← 返回 本地LLM进阶

MCP