2027本地AI趋势系列第3篇（共10篇）：小模型接管枯燥的日常任务

选择语言:

🇺🇸en 🇩🇪de 🇫🇷fr 🇯🇵ja 🇨🇳zh 🇪🇸es 🇧🇷pt 🇸🇦ar 🇰🇷ko

快速回答

因为在请求量很高的情况下,把分类、提取、意图路由等狭窄且重复的任务交给大型通用模型处理,其每次请求的成本和延迟都高于在本地硬件上运行一个专门为该任务微调的小模型。Gartner预测,到2027年企业生成式AI支出中会有越来越大的比例转向更小、更专注于任务的模型,因为各组织正在针对大规模场景下的单次请求成本进行优化,而非单纯追求原始能力。

▸这是部署模式而非智能模式的变化——转变关乎规模和成本,而非小模型追平大模型的质量
▸狭窄、高流量的任务(分类、提取、路由、单一用途代理)是目标工作负载,而非开放式对话
▸分析师(Gartner、IDC)将其描述为企业AI支出的方向性转变,而非对每家公司都成立的既定事实
▸关于"小模型是否与旧的大模型一样智能"的问题,请参阅第8篇和我们的本地大模型未来分析

更新于: 2026年7月16日

Industry Trends & Predictions中级

关键要点

✓到2027年,分析师预计企业将在本地部署大量小型、任务专属的模型来处理狭窄、高流量的任务,而不是把一切都交给一个大型通用API
✓驱动因素是大规模场景下的经济性,而非模型智能——一个为狭窄任务微调的小模型,每次请求的成本更低、响应更快,优于大规模运行的通用大模型
✓目标工作负载:分类、提取、意图路由、单一用途的内部代理——而非开放式对话使用场景
✓Gartner和IDC将此描述为企业AI支出分配的方向性预测,而非对每个组织都保证会发生的结果
✓这与小模型追平旧大模型质量是不同的趋势——该角度请参阅第8篇及独立的本地大模型未来分析

为什么请求量会改变哪种模型更合适？

**单次狭窄请求几乎无关紧要,但一项每月被执行数百万次的狭窄任务会迅速累积成本。** 工单分类器、文档字段提取器或请求路由器都是狭窄、重复、高流量任务的例子——这类任务过去常被打包进通用大语言模型API调用中,因为那是最快的上线方式。在低流量下,这种打包没有问题。但在生产规模下,每一次这样的请求仍要支付与真正需要大模型完整通用能力的请求相同的单次调用成本和延迟。

IDC和PwC都发布过企业AI采用预测,描述各组织越来越多地按任务类型拆分工作负载,而不是默认把每个请求都发给可用的最大模型——把狭窄、重复的任务路由到运行在本地或本地部署硬件上的更小、更专用的模型,同时把大型通用模型保留给真正开放式的任务。从方向上看,这反映了企业AI采用正在走向一个更成熟的成本优化阶段,继"什么都用最大的模型"这一早期阶段之后而来。

这与"小模型现在是否已具备几年前大模型的能力"这一问题不同——那是我们本地大模型的未来分析中"趋势1"部分所讨论的一个真实但独立的趋势。那个趋势关乎每参数模型质量的提升。而本趋势关乎部署架构:哪些任务会拥有自己专属的小模型,与该模型相对于旧大模型有多聪明无关。

小模型部署模式在实践中是什么样的？

**在实践中,这种模式表现为多个在本地运行的小模型,每个模型处理一项狭窄任务,由一个轻量级路由器进行协调,而不是由一个大模型处理所有请求类型。** 一个分类模型对传入的工单或文档进行分拣;一个提取模型从非结构化文本中提取结构化字段;一个路由模型决定由哪个下游系统或团队处理某个请求。这些都不需要大型前沿模型那种广泛的通用知识——每个模型只需要在一项狭窄、定义明确的任务上表现可靠。

Forrester曾将这种任务专业化描述为企业AI架构从单模型部署转向可组合、多模型架构这一更广泛转变的一部分,并预测随着各组织从生成式AI项目的初始试点阶段走向成熟,这一趋势将持续到2027年。大规模场景下的实际好处是:小模型在本地或本地部署硬件上每次请求的成本更低,由于无需往返外部API,响应更快,并且可以彼此独立地更新或替换,而无需触动流水线的其他部分。

分析师指出的权衡是运营复杂度的增加——运行和维护多个小模型而非单一API集成,需要更多的基础设施和监控。没有现有MLOps能力的组织可能会发现,即使单次请求成本更高,单一大模型API也更易于运营——至少在流量足以证明额外复杂度合理之前是如此。关于本地运行多个小模型的硬件方面,请参阅第2篇AI PC / NPU标准化。

常见问题

这和"小模型现在和旧的大模型一样好"是同一个趋势吗？▾

不是——那是一个关于模型质量随时间按参数提升的独立趋势,在我们本地大模型未来分析的"趋势1"部分讨论。本趋势关乎部署经济学:在生产规模下,哪些狭窄、高流量的任务会拥有自己专属的小模型,与该模型的原始质量相对于旧大模型如何无关。

分析师描述哪些类型的任务正在转向小型本地模型？▾

狭窄、重复、高流量的任务——分类、结构化数据提取、请求路由和单一用途的内部代理,是企业AI部署预测中最常被引用的例子。开放式对话任务不是这一转变的目标。

哪些分析机构预测了这一转变？▾

Gartner、IDC、PwC和Forrester都发布过企业AI采用研究,描述随着生成式AI支出从初始试点项目走向成熟,各组织正转向任务专业化的多模型架构。这些是关于支出分配的方向性预测,而非对每家公司的保证。

这是否意味着大型通用模型变得不那么重要了？▾

不一定——这些预测描述的是大模型被保留用于真正开放式或复杂的任务,而狭窄、高流量的任务则被剥离给更小的专用模型。这是模型规模之间的分工,而不是对大模型的全面替代。