关键要点
- LiteLLM的开源代理在任何用量下都免费 — 一个兼容OpenAI的端点背后接入100多个提供方API,支出跟踪、预算和限流都包含在免费版中。
- OpenRouter不收订阅费,但对Stripe充值收取约5.5%(最低0.80美元)、加密货币5%,并在每月超过25,000美元(按量付费)或200,000美元(企业版)后收取5%的BYOK费用。
- Portkey已被Palo Alto Networks收购(2026年5月29日完成),正并入Prisma AIRS——现在请把它当作企业安全采购。
- 截至2026年8月,LiteLLM的GitHub仓库约有5.75万星和1.1万个分支,是三者中最清晰的公开采用信号。
- OpenRouter列出380多个模型,是从注册到跑通多模型调用最快的路径。
- 真实的盈亏平衡点:当每月模型支出的5.5%超过运维代理的成本时,自托管就更便宜。
- 完全不用网关的情况:你只调用一个提供方,用量低且可预测,且没有接入第二家的计划。
🏆 最佳选择:自托管还是租用网关?
有地方跑就自己运维LiteLLM;没有就用OpenRouter。 这一个问题比任何功能清单都更可靠地决定了这笔采购,因为三款工具都已覆盖网关的核心职责:统一API、故障转移、成本跟踪。
自托管还是托管网关?
以下情况使用本地LLM:
- •你本来就在运维服务,能够为代理打补丁——LiteLLM在任何用量下都不加价
- •你每月的模型支出足够高,5%已是实打实的钱(超过约500美元/月时,就超过了多数小型托管账单)
- •你需要精确控制由哪个提供方处理失败请求——例如必须留在欧盟数据驻留边界内
- •你需要气隙部署(LiteLLM Enterprise明确支持)
以下情况使用云端模型:
- •你没有DevOps人力,也不想背负一个在跑的服务
- •你想在一小时内调用380多个模型——OpenRouter只需要一个API密钥
- •你的支出足够小,相比省下的时间,约5.5%微不足道
- •你本来就在采购Palo Alto Networks的安全产品,希望在Prisma AIRS内统一治理网关
快速决策:
- →免费且自托管 → LiteLLM(Apache许可的开源核心,约5.75万星)
- →零基础设施、今天就要模型 → OpenRouter(380多个模型,充值约5.5%)
- →企业级AI安全治理 → Portkey / Prisma AIRS(Production每月49美元,Enterprise需咨询)
- →一个提供方、低用量 → 不用网关 — 直接调用SDK
什么是LLM API网关?
LLM API网关是位于你的应用与多个模型提供方之间的路由层,对外暴露一个统一一致的API。 你无需为OpenAI、Anthropic、Google以及其他每一家分别编写集成代码,只需调用网关一次,由它处理各提供方特有的格式、认证、故障转移,以及在多数实现中还包括成本跟踪与限流。
只有当生产环境中的提供方超过一家时,这种收益才真正存在。在只有单一提供方的应用里,网关只是一层没有回报的抽象。如果提供方分散已经在消耗你的胶水代码和值班精力,就引入网关;否则不必。
📍 简单一句话
LLM API网关通过一个兼容OpenAI的统一接口,把你的应用调用路由到多个模型提供方,并在原始API之上补充故障转移、成本跟踪与限流。
💬 简单来说
可以把它想成AI模型的电源转换插头。你的代码只插一个插口,各提供方插头形状不同的问题由转换头吸收。如果你只用一种插头,就不需要转换头。
LiteLLM vs OpenRouter vs Portkey:完整对比
没有哪个网关能在所有维度取胜:成本与控制力上LiteLLM领先,上手速度上OpenRouter领先,企业治理上Prisma AIRS领先。 价格与计划细节于2026年8月27日在各厂商官网核实;若本页上线已超过90天请重新核对,因为今年网关价格已多次变动。
| 维度 | LiteLLM | OpenRouter | Portkey (Prisma AIRS) |
|---|---|---|---|
| 最适合 | 希望完全掌控且不付手续费的自托管团队 | 无基础设施、快速开展多模型工作 | 已在采购Palo Alto安全产品的企业 |
| 价格 | 免费(开源);Enterprise按年、需咨询 | 无订阅;Stripe约5.5%,加密货币5% | 免费版每月1万条日志;Production每月49美元;Enterprise需咨询 |
| 自托管 | 支持——本就是核心设计,另有托管代理可选 | 不支持——仅托管API访问 | Enterprise提供私有云部署 |
| 提供方/模型 | 100多个提供方API | 列出380多个模型 | 其仓库曾宣称超过1,600个LLM |
| 故障转移 | 支持——开源版可配置链路 | 支持——平台层自动处理 | 支持——所有档位均有回退与负载均衡 |
| 成本跟踪 | 支持——开源版含支出跟踪与预算 | 支持——按请求的额度面板 | 支持——成本归因与虚拟密钥预算 |
| 限流 | 支持——开源版 | 账户级全局限流(用户不可配置) | Enterprise提供细粒度控制 |
| 联盟计划 | 未发现 | 未发现 | 未发现(Palo Alto的是B2B合作) |
⚠️Warning: 2026年5月之前记录的价格已不再适用于Portkey。在引用旧文章或截图中的数字之前,请向Palo Alto Networks确认Prisma AIRS的现行条款。
自托管路线:LiteLLM为何是默认选择
LiteLLM成为社区默认,是因为免费版就是完整产品,而不是试用版。 支出跟踪、预算、限流和故障转移链路全都在开源核心里——Enterprise增加的是SSO、SCIM、专属支持和气隙部署,而不是路由本身。
📍 简单一句话
LiteLLM的开源代理通过一个兼容OpenAI的接口调用100多个LLM提供方API,没有许可费用,也不对每次请求加价,任何请求量下都是如此。
LiteLLM — 综合最佳网关
免费、自托管、GitHub约5.75万星——最接近事实标准的存在
LiteLLM的核心代理免费且开源,通过一个兼容OpenAI的端点路由100多个提供方API。它是这里唯一不对模型支出按比例加价的选项,这正是它在有意义的用量下按绝对金额算最便宜的原因。约5.75万星和1.1万个分支(2026年8月)是三款工具中最强的维护信号——当你要把生产环境的路由层押注在一个两年后仍需有人维护的项目上时,这一点很重要。你确实要付出的成本是运维层面的:服务由你来跑、来监控、来升级。
优点
- +没有按请求收费,也没有比例加价——任何用量下都免费
- +故障转移链路、预算和限流全部包含在免费的开源版中
- +完全掌控路由逻辑与数据驻留
- +Enterprise明确支持气隙部署
缺点
- –可用性、补丁与监控都由你自己负责
- –Enterprise价格需询价——没有可用于做预算的公开数字
- –对完全没有DevOps人力的团队并不合适
托管路线:OpenRouter与Prisma AIRS
选择租用网关而非自己运维,有实实在在、并非营销话术的理由。你可以省下真实的基础设施工作:可用性、升级、密钥管理,以及任何位于请求路径上的服务都免不了的值班。托管网关还带来一份你本来需要逐一对接的提供方覆盖面。
代价是一笔随支出增长的比例费用,以及对故障转移更粗的控制粒度。 在中等用量下这是划算的交易,在高用量下则不然——下方的成本一节给出了盈亏平衡点的确切算法。
OpenRouter — 零配置的最佳网关
一个API密钥调用380多个模型,无需运维任何服务器
OpenRouter是从零到跑通一个多模型应用最快的路径:注册、拿到API密钥,当天就能调用其列出的380多个模型。这里没有订阅费——费用发生在给账户充值时,通过Stripe购买额度约收5.5%(最低0.80美元),用加密货币则为5%。5%的BYOK费用只有在每月经BYOK路由的支出超过25,000美元(按量付费)或200,000美元(企业版)后才开始计收,因此轻度使用不会产生额外费用。故障转移是自动的,但发生在平台层:某个提供方报错时,OpenRouter可以在你不配置任何链路的情况下转到等效模型。
优点
- +完全无需基础设施——一个API密钥就是全部准备工作
- +列出380多个模型,远超你手工能对接的数量
- +无订阅费;轻度BYOK使用仍在免费额度内
- +提供方之间自动故障转移,无需配置
缺点
- –约5.5%的费用会累积,用量大时开销可观
- –限流是账户级全局设置,用户无法自行配置
- –对由哪个提供方处理失败请求控制较弱——在严格的数据驻留要求下会成为问题
Portkey / Prisma AIRS — 企业安全采购
现为Palo Alto Networks安全平台内的AI网关
Portkey依然在做网关该做的事:所有档位都提供自动回退、负载均衡、成本归因和虚拟密钥预算,免费的Developer版每月1万条日志,Production版每月49美元、10万条日志。变化的是品类:自Palo Alto Networks于2026年5月29日完成收购以来,它被定位为Prisma AIRS安全平台内的AI网关,而不再是一个独立路由器。如果你本就在采购企业级AI治理,这很合适;如果你想要的是一款灵活独立的工具,就并不匹配。
优点
- +所有档位(包括免费版)都提供回退与负载均衡
- +内置成本归因与按虚拟密钥的预算管理
- +Enterprise可用私有云部署
- +把网关路由与更广泛的AI安全治理整合在一起
缺点
- –不再独立——路线图与定价现在跟随一家大型安全厂商
- –2026年5月之前的价格与档位结构可能已经过时
- –如果厂商中立性正是你想要网关的原因之一,那就不合适
规模化后每个网关要花多少钱?
LiteLLM的开源核心无论用量多大都免费;OpenRouter的成本是你每充一美元的一个百分比;Portkey的成本随日志量与合同条款增长。 下表是对OpenRouter公开的约5.5% Stripe费率所做的直接算术——不是估算,而是决定这笔采购的那个数字。
我们刻意不给出运维LiteLLM的美元金额:这个代理是一个常驻的小服务,其成本完全取决于你把它放在哪里跑。把你自己的托管账单填进最后一列,答案自然浮现。
给中文读者的提示:三家厂商均以美元计费,没有人民币价目表,因此你的账单还会叠加汇率以及可能的境外交易手续费。
| 每月模型支出 | OpenRouter费用(约5.5%) | LiteLLM许可费 | 自托管更划算的门槛 |
|---|---|---|---|
| 200美元 | 约11美元/月(约132美元/年) | 0美元 | 低于11美元/月 |
| 500美元 | 约27.50美元/月(约330美元/年) | 0美元 | 低于27.50美元/月 |
| 2,000美元 | 约110美元/月(约1,320美元/年) | 0美元 | 低于110美元/月 |
| 10,000美元 | 约550美元/月(约6,600美元/年) | 0美元 | 低于550美元/月 |
如果你的每月模型支出高到让5%以上的加价在绝对金额上显著,就选LiteLLM。如果这笔费用低于运维一个代理所需的工程工时,就选OpenRouter。把同样的算术套用到硬件上,见本地LLM成本计算器。
•Info: 该费用针对你购买的额度,而非每一次请求——OpenRouter另行计算的5%的BYOK费用,也只有在每月经BYOK路由的支出超过25,000美元(按量付费)或200,000美元(企业版)后才开始。在额度以内,BYOK不产生额外费用。
Portkey易主为何影响这个决定
Portkey已不再是独立产品:Palo Alto Networks于2026年5月29日完成收购,正将其并入Prisma AIRS安全平台。 这不是简单的改名。今天作为轻量工具引入的网关,可能在一个产品周期内被重新定价、重新定位,或只能作为更大安全套件的一部分购买。
如果你正是因为Portkey是一家灵活的初创产品才在评估它,这个前提已经不成立。在做出承诺前,请直接向Palo Alto Networks确认现行条款——被收购的产品在整合的头6到12个月里,价格、档位结构和支持模式经常发生变化。
📍 简单一句话
Palo Alto Networks于2026年5月29日完成对Portkey的收购,正将其作为AI网关并入Prisma AIRS安全平台。
各网关如何处理故障转移?
三者都支持提供方故障时的自动转移,区别在于由谁来写这条故障转移策略。 LiteLLM和Portkey都允许你在自己掌控的配置中定义故障转移链路与负载均衡规则。OpenRouter在平台层处理:某个提供方报错时,它可以自动转到等效模型,但你对具体转到哪一个控制得更粗。
- LiteLLM — 在你自己的配置中定义故障转移链路;对由哪个备用模型承接失败请求的控制最细
- Portkey / Prisma AIRS — 所有档位均提供自动回退与负载均衡,在平台上配置
- OpenRouter — 平台层的提供方自动故障转移;没有链路需要配置,也不保证由哪个提供方接手
谁该用哪个网关?
有基础设施的开发者应默认选择LiteLLM;想要免运维多模型访问的团队选OpenRouter;已处在Palo Alto技术栈内的企业应评估Prisma AIRS。 在此之外,团队规模、合规要求以及对运维负担的容忍度决定其余部分。
- 跨多个模型做原型的独立开发者与小型初创 → OpenRouter。一个API密钥、380多个模型、没有服务器要照看。如果你用量大且对成本极敏感就别用,费用会累积。
- 在生产环境运行多模型应用的平台团队 → 自托管LiteLLM。免费、社区默认,路由与数据驻留的控制权都留在你手上。没有运维服务的人力就别选。
- 已在采购Palo Alto Networks产品的企业 → Prisma AIRS内的Portkey。它现在是作为治理与安全层交付的,因此卖点与一年前不同。
- 需要气隙部署的受监管行业 → LiteLLM Enterprise明确支持;请直接向Palo Alto Networks确认Prisma AIRS当前的部署选项,因为收购后的整合会在短期内改变可提供的内容。另见本地LLM的企业合规。
- 只调用一个提供方且用量低的团队 → 不用网关。直接调用SDK,等到真正接入第二家时再重新评估。
欧盟、日本与中国的LLM网关
网关在哪里运行,决定了你的提示词去往何处。这使得在三大市场中,网关选型是一个合规决策,而不只是成本问题。
选择LLM网关时的常见错误
- 1以为“网关”在三款工具中是同一个意思
Why it matters: LiteLLM是自托管代理,OpenRouter是托管API,而Portkey现在是安全平台的一部分。在比较功能清单之前,请阅读各厂商当前的产品页——不要假定它们对等。 - 2没算清费用就为高用量生产环境选择OpenRouter
Why it matters: 当每月模型支出为10,000美元时,约5.5%的费用约合每月550美元、每年6,600美元。请用你的真实支出去算这笔账,而不只看便利性。 - 3在第二个提供方进入生产之前就引入网关
Why it matters: 网关的核心价值是带故障转移的多提供方路由。只有一家提供方的一个模型时,你增加的只是一层抽象、一个新的故障点和一条学习曲线,暂时没有任何回报。 - 4引用2026年5月之前记录的Portkey价格
Why it matters: Palo Alto收购之前的价格页与博客文章,可能已不反映Prisma AIRS的现行条款。在依据旧截图做采购决定之前,请向厂商确认。 - 5把GitHub星标当作功能对比
Why it matters: LiteLLM约5.75万星表明的是社区信任度,以及该项目两年后仍被维护的可能性,而不是它的功能比Portkey或OpenRouter更多。请看对比表,而不是采用度信号。
完全不用网关的情况
如果你只调用一个LLM提供方,用量低且可预测,短期内也没有接入第二家的计划,那就把这三者都放一边。 网关带来的是运维复杂度(自托管)或比例费用(托管),换来的却是你尚未使用的多提供方能力。
直接调用提供方的SDK,等到真正接入第二个模型或提供方的那天再重新判断。同样的逻辑在下一层同样成立:如果你还在犹豫要不要调用托管API,请先读本地LLM vs 云API——最便宜的网关是你从未需要的那个。
💡Tip: 一个实用的触发条件:当你第一次在自己的代码里写下针对某个提供方的分支时,就该引入网关了。那段条件判断正是网关存在的意义所在——把这类胶水代码消灭掉。
常见问题
什么是LLM API网关?
它是一个路由层,为你的应用提供调用多个LLM提供方的统一一致API,通常还在原始API之上补充故障转移、成本跟踪与限流。你调用网关,由它处理各提供方特有的格式与认证。只有当生产环境中有不止一个提供方时,这份收益才会真正体现。
LiteLLM真的免费吗?
根据LiteLLM自家价格页在2026年8月的说明,开源核心免费且可自托管,没有许可费用,任何用量下也不对每次请求加价。Enterprise档位(SSO、SCIM、专属支持、气隙部署)按你的请求量以年度定制报价,并包含30天试用。
OpenRouter按请求收费吗?
并非直接按请求收费。OpenRouter的费用发生在给账户充值时:通过Stripe购买额度约收5.5%,最低0.80美元;用加密货币则为5%。另有5%的BYOK费用,仅当每月经BYOK路由的支出在按量付费下超过25,000美元、或在企业版下超过200,000美元时才适用。
Portkey还是一家独立公司吗?
不是。根据Palo Alto Networks自己的新闻稿,该公司已于2026年5月29日完成对Portkey的收购,并正将其作为核心AI网关并入Prisma AIRS安全平台。请把2026年5月之前的任何价格或路线图信息视为可能已经过时。
哪个网关支持的提供方最多?
截至2026年8月,OpenRouter在自家网站上列出380多个模型。LiteLLM的文档描述了100多个提供方集成——这是不同的计量单位,因为一个提供方会暴露许多模型。Portkey的网关仓库此前曾宣称超过1,600个LLM,但考虑到此次收购,这个数字应当重新核实。
可以自托管Portkey吗?
根据收购前的价格页,Portkey/Prisma AIRS在Enterprise档位提供私有云部署。请直接向Palo Alto Networks确认当前的自托管条款,因为收购后的整合常常在第一年内改变部署选项。
这三家有联盟计划吗?
截至2026年8月,未发现LiteLLM、Portkey或OpenRouter有公开且可核查的联盟或推荐计划。本页所有产品链接都是普通的、已声明的链接,不会为PromptQuorum带来任何收益。若情况变化,本页会更新为与实际计划条款一致的披露说明。
如何在自托管与托管网关之间做选择?
把每月模型支出的5.5%与运维一个常驻小服务的成本相比较。低于这个盈亏平衡点时,把你的时间算进去后OpenRouter更便宜;高于它时,自托管的LiteLLM在绝对金额上取胜。再加一条合规判据:如果你必须能够说明由哪个提供方处理了某次请求,那么无论算术结果如何都应自托管。
最终结论
- 选择LiteLLM,如果你能自托管,并且想要零经常性费用与完全的路由控制权——下一步:部署开源代理,把应用的基础URL指向它。
- 选择OpenRouter,如果你想在没有基础设施的情况下今天就获得多模型访问能力——下一步:创建API密钥并给账户充值,同时把约5.5%的费用计入预算。
- 选择Portkey / Prisma AIRS,如果你本就在采购或评估Palo Alto Networks的安全产品,并希望把网关能力一并纳入——下一步:直接联系Palo Alto Networks,重新核实收购后的现行条款。
- 三者都不选,如果你只调用一个提供方、用量低,且短期内没有多提供方计划——下一步:等到接入第二个提供方时再重新评估。