AI 局限性：2026年大语言模型无法做什么

大语言模型有八个结构性限制，没有提示词、微调或模型大小增加可以完全克服 — 它们需要架构添加来解决。 这些限制来自 transformer 架构和训练过程本身，而非实现不佳。

这个区别对提示词工程很重要：限制需要*系统设计改变*（检索工具、内存层、验证步骤），而提示词质量差是另一个可修复的问题。混淆这两者会在真正的约束是架构时导致过度设计提示词。

八个限制是：知识截断、幻觉、弱多步推理、上下文窗口限制、无持久内存、无现实世界操作、训练数据偏见和无法自我验证输出。

深入细节前的快速查询表。

常见问题：用户通常要求LLM执行的任务，以及当前架构能否实际完成。

八个结构性限制对所有模型普遍适用——但严重程度和可用的部分解决方案因模型而异。

每个大语言模型都有训练截断日期，除非添加外部检索，否则模型对该日期后发布的事件、价格、论文或产品版本一无所知。 OpenAI GPT-4o 的截断为 2024 年 10 月。Anthropic Claude Opus 4.7 和 Google Gemini 3.1 Pro 的截断为 2025 年初。

模型对*接近*其截断的事件的了解也很少，因为训练数据收集和处理在事件发生后需要数周到数月。训练到 2024 年 10 月的模型可能对 2024 年 9 月-10 月的事件覆盖很少。

主要解决方案是检索增强生成（RAG），在查询时将实时或最近的文档注入提示词中。次要解决方案是提示词基础化：将相关当前事实直接粘贴到提示词中，并指示模型仅从该上下文回答。

大语言模型生成统计上合理的令牌，而非已验证的事实 — 当特定事实的训练信号很少时，模型生成有信心但虚假的说法。 这适用于每个模型，包括 GPT-4o、Claude Opus 4.7 和 Gemini 3.1 Pro。深入了解，请参见AI 幻觉 — 为什么 AI 编造东西。

幻觉最常发生在：特定数值（价格、日期、统计数据）、引用和论文参考、利基技术规格和接近或超过训练截断的事件。模型很少在幻觉时发出信号。

解决方案：在提示词中提供源材料，指示模型仅从中回答；要求模型标记任何无法从提供的上下文确认的声明；使用RAG将答案锚定到已验证文档；在发布前根据原始来源验证所有关键数字。

大语言模型在没有明确思维链提示词或外部计算器工具的情况下，在多步逻辑或数学推理任务上表现不佳。 要求模型在单个响应中解决 10 步算术问题的模型经常会产生有信心但错误的答案。

根本原因：大语言模型被训练来生成可能的下一个令牌，而非保持推理链中的状态。每个生成的令牌以先前的令牌为条件，但没有工作内存或保存计算中间结果的便签。

思维链提示词（"逐步思考"或编号阶段）强制模型写出中间推理，这显著改善了多步任务的准确性。对于精确算术，将任务路由到代码解释器工具而不是依赖模型输出。

每个大语言模型会话都有硬令牌限制 — GPT-4o 128,000 令牌、Claude Opus 4.7 200,000 令牌、Gemini 3.1 Pro 2,000,000 令牌 — 随着窗口填充，早期内容的性能会下降。 请参见上下文窗口详解获取完整分析。

"中间遗忘"问题：多项研究表明大语言模型从长上下文中间检索信息的准确性明显低于从开始或结束。1M 令牌窗口不意味着对所有 1M 令牌的统一注意。

解决方案：在提示词的开始或结束位置构造重要信息；使用 RAG 仅检索相关块而不是转储完整文档；将长文档分解为带摘要步骤的分块会话。

默认情况下，每个大语言模型对话都从空白上下文开始 — 模型对先前的会话、过去的指导或先前的用户偏好没有内存。 这不是功能差距；这是基础架构。

应用层（如 ChatGPT 中 OpenAI 的记忆功能或使用向量数据库构建的自定义内存系统）可以将先前对话摘要注入提示词，创建内存的*表象*。但这是应用级状态管理，不是模型本身记住。

对于提示词工程：始终在提示词中明确包含任何相关的先前上下文。不要假设模型记得您在前一个会话中设置的偏好、格式或约束。

大语言模型生成文本 — 除非工具使用层明确启用这些操作，否则它们无法浏览网络、运行代码、发送电子邮件、修改文件或与外部系统交互。 模型生成它会做什么的文本描述；支架层执行它。

工具使用（也称函数调用） — 在 GPT-4o、Claude Opus 4.7 和 Gemini 3.1 Pro 中可用 — 让模型输出应用拦截和执行的结构化函数调用。模型仍然无法独立采取行动；它只能发出触发外部执行的结构化文本。

自主代理在编排循环中包装多个工具调用，创建独立操作的*表象*。提示词注入和安全漏洞在这些架构中是重大问题 — 请参见提示词注入和安全性。

大语言模型继承其训练数据的偏见、间隙和偏斜 — 主要是英文、西方和 2025 年前的互联网内容。 非英语查询、非西方文化背景和少数民族语言主题的性能在结构上更弱。

这与国际团队相关：GPT-4o、Claude Opus 4.7 和 Gemini 3.1 Pro 都在英语中比在低资源语言中生成更强的输出。技术术语处于利基域（特定行业、本地法律制度、地区方言）可能在训练数据中的代表性很差。

解决方案：在提示词中提供领域特定的上下文、术语定义或示例。不要假设模型对您的特定行业、地区或机构有准确的了解。

大语言模型无法获取事实真相，无法检查其答案是否事实正确 — 它们只能评估答案是否与训练数据中的模式一致。 问模型"这是对的吗？"会产生模式匹配评估，而非验证。

自我一致性提示词（生成多个答案并检查一致性）改善了可靠性，但不保证准确性。模型可能在训练数据中代表性不足或代表不当的事实上一致地错误。

实际含义：将大语言模型输出视为草稿，而非最终来源。所有事实声明 — 尤其是数值、日期、引用和技术规格 — 在发布前都需要根据权威原始来源验证。

八个结构性限制按根本原因、严重程度和主要解决方案总结。

八个结构性限制是真实的，但每个至少有一个常规警告过度陈述问题的场景 — 或者 2025-2026 年的研究已部分缩小差距。 了解例外与了解规则一样重要。

这些示例展示相同的底层请求如何在忽视大语言模型限制时失败，在考虑时成功。

补偿这些限制最有效的两种技术是思维链提示词——它将推理步骤外部化并减少错误——以及RAG，通过检索新鲜上下文来补偿知识截断。请参阅思维链提示词和RAG解析。

本文中使用的核心概念定义。每个术语链接到提示词工程词汇表中的完整条目。

大语言模型限制在结构上通用，但在严重程度上因语言、地区和监管环境而异。 在 EU AI 法案（2024）下运营的欧盟组织必须在高风险使用情况的风险评估中记录 AI 限制 — 使这里的八个限制成为合规要求，而非仅技术关注。

在中国，百度 ERNIE 4.0 和阿里巴巴通义千问 2.5 共享相同的结构性限制，但训练数据加权到汉语语言来源。这改善了中文主题的性能，但相同的知识截断、幻觉和推理约束适用。

在日本，富士通 Takane 和 Line HyperCLOVA X 在日文任务上表现出比通用多语言模型更强的性能，但所有结构性限制 — 截断日期、幻觉、上下文窗口、无现实世界操作 — 相同适用。