什么是令牌？
令牌是AI模型处理的最小文本单位，大约3-4个字符或3/4个英文单词。 在英文文本中，"ChatGPT"计为2个令牌，"Hello, how are you?"大约是5-6个令牌。其他语言的令牌化效率较低——相同的短语用德语或日语可能会消耗20-40%的额外令牌。您需要为提示（输入）中的每个令牌和模型输出的每个令牌付费。理解令牌对于了解什么是提示工程——构造输入以获得可靠输出的实践——是基础。
模型不会用文字或字符"思考"。在内部，它们将您的文本转换为令牌ID并进行数值处理。这就是为什么令牌化很重要：单个字符更改有时会影响令牌边界，而包含冗余单词的组织不当的提示可能会浪费数百个令牌而不会改善输出质量。
一句话：令牌是AI模型处理的最小文本单位，大约3-4个字符或3/4个英文单词，您需要为每个输入令牌和输出令牌付费。
令牌计数在实践中的工作原理
API调用的每个元素——系统提示、对话历史、新消息、文件和模型自身的输出——都从您的配额中消耗令牌。 这就是为什么以小消息开始的对话在五次往返后可能会突然变得昂贵。您为所有内容付费，累计。理解系统提示和用户提示之间的区别至关重要，因为两者在每次调用时都会计费。
- 系统提示： 每条消息计算一次。200字系统提示=每次API调用约250个令牌。
- 完整对话历史： 除非明确汇总或删除，否则包含在每个请求中。一个有10轮、每轮500个令牌的对话=第11轮再次计算5000个令牌。
- 您的输入消息： 按原样计算。
- 附加文件或图像： 图像根据大小和分辨率消耗100-2000个令牌。大型PDF可能消耗数千个。
- 模型输出： 生成的响应以输出令牌速率（通常比输入速率高2-5倍）完全计算。
- 工作示例： 一个3轮的研究对话：系统提示（300个令牌）+用户Q1（150个令牌）+模型A1（200个令牌）+用户Q2（200个令牌）+模型A2（300个令牌）+用户Q3（100个令牌）=到目前为止1250个令牌。当您发送Q3时，您再次为整个历史（1250个令牌）加上A3的输出付费。一个"短"后续可能花费与整个先前对话一样多。
2026年GPT-5.6、Claude和Gemini每百万令牌的费用是多少？
价格因模型功能而异。以下所有数据是截至2026年3月的公开价格。请注意，输出令牌通常比输入令牌多费用2-5倍——这是成本累积最快的地方。正确的模型选择是最大的成本杠杆——详细比较请参见如何在GPT-5.6、Claude和Gemini之间选择。
2026年3月起价格。验证当前费率：OpenAI价格·Anthropic价格·Google价格
| 模型 | 输入（每百万令牌） | 输出（每百万令牌） |
|---|---|---|
| OpenAI GPT-5.6 | $5.00 | $15.00 |
| Anthropic Claude Opus 4.8 | $3.00 | $15.00 |
| Google Gemini 3.1 Pro | $3.50 | $10.50 |
| OpenAI GPT-5.6 mini | $0.15 | $0.60 |
| Anthropic Claude Haiku 4.5 | $0.25 | $1.25 |
| Google Gemini 3.5 Flash | $0.075 | $0.30 |
什么是速率限制——为什么存在？
速率限制是您可以每分钟进行的请求数（RPM）、可以每分钟处理的令牌数（TPM）或每天令牌数（TPD）的上限。 提供商设置限制以防止滥用、确保用户间的公平资源分配并创建价格层。免费层用户面临最严格的限制；付费层解锁更高的吞吐量。
- 每分钟请求数（RPM）： 您在60秒窗口内可以进行的API调用数。超过此限制，请求将排队或被拒绝。
- 每分钟令牌数（TPM）： 总令牌吞吐量。单个大型提示可以在几秒内消耗整个TPM配额。
- 您遇到限制的常见场景： 进行快速顺序调用（每秒50+）的自动化管道、大型批处理作业或免费层用户在突发情况下。
- 典型限制： 免费：3-15 RPM、40k-100k TPM。付费层1：500 RPM、200k-500k TPM。企业：3000+ RPM、数百万TPM。
- 解决方法： 将小任务批处理为较大的请求（较少API调用）、在请求之间添加延迟或升级到更高层的帐户。
我如何将LLM API成本降低30-50倍？
在PromptQuorum中测试——在GPT-5.6、Claude Opus 4.8和Gemini 3.1 Pro上执行的20个相同的研究摘要提示，系统提示详细程度不同： 使用500令牌系统提示，平均输出为450令牌，每次调用平均成本为$0.032。对于相同说明的修剪200令牌提示，平均输出为460令牌，每次调用为$0.025——相同输出质量下成本降低18%。这与如何为速度提示一致——效率降低了延迟和成本。
提示中的每个不必要的令牌都浪费金钱——成本累积更快，因为整个提示在对话中的每次API调用时都会重新包含。 将500令牌系统提示修剪到300令牌可以节省每次调用$0.001，但在每天1000次调用时，这是$1/天或$365/年。
- 积极修剪上下文： 不要重复模型已经知道的内容。不要说"用户问了X。我告诉他们Y。现在他们问Z"，只需包括Z。
- 使用明确的长度限制： "用3个要点回答"或"最多100个单词"强制简洁性并防止冗长输出（成本更高）。
- 避免系统提示中的填充： 每个填充字都花钱。"您是一个可以帮助用户的有用的AI助手"是10个令牌。"您是一个有用的AI助手"是6个令牌。两者都传达相同的含义。
- 示例：膨胀vs。修剪系统提示：
- 不好的提示"您是一个具有跨许多领域广泛知识的有用AI助手。您通过提供详细、全面的答案来帮助用户。始终彻底并逐步解释您的推理。避免简洁——用户欣赏全面的解释。"
- 好的提示"您是一个有用的AI助手。提供准确、详细的答案。解释您的推理。"
- 令牌差异：不好=55个令牌，好=13个令牌。每天100次调用：42×100×30天×（$0.005/1M输入令牌）≈通过仅一个修剪提示节省$0.63/月。
如何在5个步骤中降低LLM API成本
- 1将模型与任务复杂性匹配：对于简单分类和问答使用GPT-5.6 mini或Claude Haiku 4.5——比前沿模型便宜33倍
- 2每5轮汇总对话历史：防止每次调用都重新计费整个历史（与思维链提示一致的技术——预先构造您的推理）
- 3明确限制输出长度："用3个要点回答"或"最多100个单词"可防止冗长的令牌密集响应
- 4将系统提示修剪到要点：删除填充短语；每个冗余字都在每个API调用时重新计费
- 5通过Ollama测试本地LLM用于大量私有工作流：每令牌零API成本，代价是前沿模型能力
为正确的任务选择正确的模型
并非每项任务都需要OpenAI GPT-5.6或Anthropic Claude Opus。 简单分类、事实性问答和许多自动化任务在更便宜的模型上运行完美——成本差异很大。
| 任务类型 | 推荐模型 | 与GPT-5.6成本 |
|---|---|---|
| 简单分类/是或否 | GPT-5.6 mini、Claude Haiku 4.5或Gemini Flash | 便宜33倍 |
| 简短的事实问答 | GPT-5.6 mini或Claude Haiku 4.5 | 便宜10-33倍 |
| 复杂分析或代码 | GPT-5.6或Claude Opus 4.8 | 基准线 |
| 长篇创意写作 | Claude Opus 4.8或GPT-5.6 | 基准线 |
| 大容量私有工作流 | 通过Ollama的本地模型 | 零API成本 |
本地LLM（Ollama）vs云API之间的权衡是什么？
通过Ollama或LM Studio的本地模型具有零令牌API成本——您仅为硬件（VRAM和电力）付费。 这使它们非常适合大容量工作流、隐私敏感应用程序和成本关键管道。权衡是能力（本地模型落后于前沿模型）和延迟（在消费者VRAM上运行较慢）。在规划本地部署时，理解上下文窗口至关重要——您的VRAM限制您可以支持的上下文窗口大小。
- 硬件成本： Ollama模型LLaMA 3.1 7B需要约8GB VRAM、13B模型需要约16GB、70B模型需要40GB+。GPU内存是限制因素。
- 能力权衡： 本地模型在分类、摘要和重复任务中表现出色。与GPT-5.6或Claude Opus 4.8相比，他们在多步骤推理、代码生成和创意写作方面苦苦挣扎。
- 延迟权衡： 云模型在500ms-2s内响应。消费者硬件上的本地模型：2-10s，取决于模型大小和系统规格。
- 何时使用本地： 大容量自动化（1000+次调用/天）、GDPR敏感数据（在GDPR下处理个人数据的欧盟用户受益于设备上的处理）或质量"足够好"的成本关键工作流。
- 何时使用云： 延迟敏感应用程序、需要推理的任务或API成本可忽略的一次性分析。
区域背景
欧盟 / GDPR 对于通过AI API处理个人数据的欧盟组织而言，令牌成本包含了价目表中看不见的合规成本：发送到云API的每个令牌都是由第三方处理的个人数据，根据GDPR第28条要求，非欧盟提供商还需要数据处理协议和第46条规定的传输机制。
通过Ollama使用本地LLM可以完全消除这一问题。对于处理客户数据、支持工单或内部文档的欧盟团队而言，云API调用的真实成本包括外部数据传输的合规开销。在规模化之后，即使考虑到硬件投资，本地推理在经济上也可能更具竞争力。
根据BSI IT-Grundschutz准则，德国组织必须记录AI处理成本和数据流——只要以适当的访问控制方式保留，来自云API的令牌日志即可满足此要求。
日本（经济产业省） 由于分词器在CJK文字上的效率较低，日语文本所需的令牌比同等英语文本多20-40%。一份1000字的日语文档在GPT-5.6上的费用约为$0.007，而相同的英语内容为$0.005。对于日语AI工作流，通过Ollama使用Qwen3模型的令牌效率显著更高——原生CJK分词将日语令牌数量减少30-40%，直接降低了每次调用的成本。
中国 根据中国的《数据安全法》，将业务数据发送到境外云AI API需要进行数据本地化合规审查。对于中国企业团队，通过Qwen3（阿里巴巴）进行本地推理可同时消除跨境数据传输成本和合规风险。每天1000次以上的API调用，本地推理服务器的硬件摊销成本通常在6-12个月内低于API费用。
PromptQuorum如何帮助您管理令牌成本
PromptQuorum使用两个LLM：后端LLM和前端LLM（回答提示问题的您选择的模型）。 后端LLM优化您的提示并在多个前端模型中运行Quorum共识分析。与单模型聊天界面不同，PromptQuorum使令牌使用可见且可操作。
后端LLM令牌始终可见。 前端令牌可见性取决于您如何访问模型：
- 公共界面（Copilot、公共Claude网络聊天）：前端令牌不可见——仅显示后端令牌。
- 本地模型（LM Studio、Ollama）：前端令牌可见——在您的硬件上运行，PromptQuorum直接看到令牌使用情况。
- API（OpenAI、Anthropic）：这取决于。使用直接API集成，前端令牌可见。通过第三方端点或公共界面，前端令牌不可见。
在PromptQuorum中测试——20个相同的研究摘要提示发送到GPT-5.6和GPT-5.6 mini： 输出质量在20个任务中的17个匹配。成本差异：$0.003每个提示（GPT-5.6）对$0.00007每个提示（mini）——43倍的成本降低。在GPT-5.6表现出色的3个任务中，复杂性涉及文档间的多步推理。
令牌成本配方——常见场景
使用这些模板作为特定工作流成本优化的起点。
- "快速查找/是否任务"： 使用GPT-5.6 mini或Haiku。最小系统提示（≤50令牌）。没有对话历史。将输出限制为1-2句。每个任务的总成本：~$0.00001-0.0001。
- "长研究任务（5-10轮）"： 使用Claude Opus 4.8（在长上下文中表现出色）。每5轮后，汇总对话并用汇总替换历史（降低令牌70%）。成本：~$0.01-0.05每个研究会话。
- "自动化管道/批处理"： 使用GPT-5.6 mini进行过滤或分类（便宜33倍）。仅为边界情况的最终合成升级到GPT-5.6。批处理类似的提示以在API支持的地方重新使用上下文缓存。
- "隐私敏感工作流"： 路由到本地运行的Ollama或LM Studio。管理上下文窗口：8GB VRAM为4k-8k令牌，16GB为16k-32k。零API成本。接受稍低的质量以实现合规性。
- "比较跨模型的输出"： 将一个结构良好的提示同时发送到GPT-5.6、Claude Opus 4.8和Claude Haiku 4.5。比较质量+成本。选择满足您质量栏的最便宜的。发现成本：~$0.001。持续成本：33-43倍的节省。
导致令牌账单飙升的常见错误
避免这些令牌浪费模式。
- 每次调用都发送完整对话历史： 如果对话在10轮后为5000个令牌，您在第11轮再次为5000个令牌付费，尽管只有200个令牌是新的。解决方案：每5轮汇总或使用提示缓存（如果API支持）。
- 为简单任务使用高功能模型： 不要为"从这封电子邮件中提取日期"使用GPT-5.6。使用GPT-5.6 mini或Haiku。仅此任务的成本差异：33倍。
- 不限制输出长度： 一个模糊的"告诉我X"提示可能返回500个令牌，而"汇总为50个单词"返回60个令牌。您为冗长的响应多支付8倍。
- 每次调用都重复长系统提示： 如果您的系统提示是500个令牌，您进行100次API调用，如果您不重新使用或缓存它，那就是50000个浪费的令牌。使用系统提示模板或请求级缓存。
- 忘记图像令牌： 单个高分辨率图像可以消耗500-2000个令牌，具体取决于分辨率。在上传前向下缩放图像或裁剪到相关区域。
- 运行手动测试调用而不是批处理： 测试20个提示变体的成本是一个调用令牌成本的20倍。使用批处理API或PromptQuorum的多模型比较在一次拍摄中测试所有变体。
- 在对话中间切换模型： 云API（OpenAI、Anthropic）在模型间不转移对话上下文。在不同模型上重新启动对话会重新发送所有先前的消息。每个对话提交到一个模型。
常见问题
AI中的令牌是什么？
令牌是AI模型处理的最小文本单位，大约3-4个字符或3/4个英文单词。"ChatGPT"计为2个令牌。您需要为每个输入令牌和每个输出令牌付费，输出令牌通常比输入令牌贵2-5倍。
GPT-5.6每个令牌多少钱？
截至2026年4月：GPT-5.6每百万输入令牌收费$5.00，每百万输出令牌收费$15.00。GPT-5.6 mini每百万输入令牌收费$0.15，每百万输出令牌收费$0.60——对于不需要完整GPT-5.6性能的任务便宜33倍。
速率限制是如何运作的？
速率限制限制每分钟请求数（RPM）和每分钟令牌数（TPM）。免费层：3-15 RPM，40k-100k TPM。付费层：500 RPM，200k-500k TPM。企业级：3000+ RPM。解决方法：将小任务批量处理为更大的请求、在调用之间增加延迟，或升级到更高的层级。
典型文章或报告需要多少令牌？
1000字文章≈1200-1500令牌。10页PDF≈4000-6000令牌。单个高分辨率图像≈500-2000令牌（取决于分辨率和内容密度）。
为什么即使使用短提示我的API账单也比预期高？
三个常见原因：（1）您在每次调用时发送完整对话历史——5轮后汇总。（2）您的系统提示很长——修剪到要点。（3）您为简单任务使用高功能模型——切换到GPT-5.6 mini或Haiku进行分类或简短问答。
更长的系统提示总是意味着更好的输出吗？
不，制作精良的100令牌系统提示通常会超越一个啰嗦的500令牌提示。质量胜于数量。特异性胜过啰嗦。
什么时候应该使用本地LLM而不是云API？
在以下情况下使用本地LLM：大批量自动化（每天1000+次调用）、要求个人数据不得离开基础设施的GDPR敏感数据、或质量"足够好"的成本关键型流程。在以下情况下使用云API：延迟敏感的应用程序、复杂推理任务、或API成本可忽略的一次性分析。
如何降低我的AI API令牌成本？
七种策略：精简系统提示、限制输出长度、每5轮汇总对话历史、简单任务使用更便宜的模型、避免发送完整对话历史、上传前缩小图像、批量处理测试调用而非手动运行。
典型的AI提示使用多少令牌？
典型提示根据复杂程度使用150-500个令牌。简单问题（5-20个令牌）、中等段落（50-150个令牌）、带示例的完整研究提示（200-600个令牌）。每个提示的令牌数因语言和复杂程度而异。
提示有3000个令牌意味着什么？
3000令牌的提示大致相当于一篇2000字的文章或10页以上的文本。这表明系统提示较长、对话历史完整，或文档上下文较大。为提高效率，可考虑汇总对话历史或精简不必要的上下文。
不同模型的每个AI提示成本是多少？
成本因模型而异：GPT-5.6 mini = 每次提示约$0.00005-0.0001。GPT-5.6 = 约$0.001-0.01。Claude Haiku = 每次提示约$0.00003。Claude Opus = 约$0.005-0.02。Gemini Flash = 约$0.00002。成本取决于提示长度和输出。
AI提示令牌是如何计算的？
令牌是通过将文本分解为3-4个字符的单位（约3/4个英文单词）来计算的。系统提示、对话历史、图像、附加文件和输出均计入其中。大多数API提供商在响应中显示确切的令牌数。较短的提示和受限的输出可减少令牌使用量。
1000字的提示是多少令牌？
1000字的提示在英语中大约是1200-1500个令牌。其他语言的分词效率较低，可能需要多20-40%的令牌。令牌数取决于所用语言的用词选择和平均词长。
令牌限制是基于单个提示还是整个对话？
令牌限制适用于整个对话历史，包括所有系统提示、之前的消息、检索到的文档和当前提示。速率限制（每分钟令牌数）会在该时间段内的所有API调用中累积，而不仅仅是一个提示。
100万个令牌可以获得多少次提示？
使用100万个令牌：如果每个提示平均150-500个令牌，则可获得2000-6667次提示。GPT-5.6 mini提示（约300个令牌）=约3333次提示。GPT-5.6提示（约500个令牌）=约2000次提示。实际数量取决于提示大小和输出长度。
提示优化能否显著降低API成本？
可以。将500令牌的系统提示精简至300令牌，每次API调用可节省约$0.001。按每天1000次调用计算，每年可节省$365。限制输出长度并每5轮汇总对话历史可将成本降低30-50%。模型选择是最大的杠杆——GPT-5.6 mini的成本比GPT-5.6低33倍。
相关阅读
- Fundamentals：更快的AI答案：如何为速度提示——提示效率直接降低令牌成本
- Fundamentals：GPT、Claude或Gemini？如何选择合适的模型——模型选择是最大的成本杠杆
- Fundamentals：上下文窗口解释：为什么AI遗忘——上下文窗口限制在击中令牌或长度限制前可以包含多少历史记录