关键要点
- 智能家居控制是一项狭窄的任务(解析指令→调用函数),小型模型能很好地胜任
- 小型模型(大约10亿-40亿参数)在配置一般的本地硬件上延迟更低——一颗给力的iGPU/NPU就够用
- 对于这项特定工作,函数调用的准确性比通识知识的广度更重要
- 更大的模型对开放式问题仍然有用——需要时系统可单独路由过去
- 具体的当前模型推荐请参见智能家居控制最佳本地LLM模型简明清单
- 对于智能家电,固定动作列表用10亿参数以下的模型(如FunctionGemma的270M)即可;10亿至40亿参数对随意的说法容忍度更高
为什么小模型在这里更胜一筹
延迟是语音控制的决定性因素——智能家居指令需要接近实时执行,而在本地硬件上,小型模型的响应速度比大型模型在相同硬件上的响应速度更快。
- 大型模型每生成一个token所需的计算量要大得多,这直接转化为在相同本地硬件上更慢的响应速度——表现为从说出指令到灯真正亮起之间可察觉的延迟。
- 智能家居指令通常简短且结构化("关闭卧室的灯""把温控器设到20度"),并不需要大型模型所提供的更广泛的推理能力或知识库。
- 在本地运行小型模型也意味着更低的硬件要求——关于适合小型模型的设备与更大模型所需设备的区别,请参见本地智能家居最佳硬件指南。
函数调用是关键能力
对智能家居控制真正重要的能力是可靠的函数调用——把自然语言转化为对特定Home Assistant服务的、结构正确的调用,而不是通用的对话能力。
- 一个经过微调或本身就擅长函数调用的模型,能够可靠地将"让客厅暖和一点"映射到正确的气候控制服务调用,这是一项比开放式聊天质量更狭窄、也更可衡量的技能。
- 这也正是智能家居特有的幻觉风险显现的地方——关于如何将模型约束到实际可用的实体,请参见减少家庭自动化中LLM幻觉的指南。
- 在小型模型之间做选择时,应根据候选模型在你具体实体列表上的函数调用准确性来评估,而不是依据通用的基准分数。
适用于智能家电的小型模型
对于智能家电,实用范围可延伸到10亿参数以下:2.7亿参数的函数调用模型可以把日常指令映射到固定的动作列表,而10亿至40亿参数的模型对随意的说法容忍度更高。 哪一种合适,取决于设备开放的动作数量和内存大小。
- FunctionGemma(Google,270M): 针对函数调用调优的Gemma 3 270M变体。Google将智能家居列为适合“具有一组既定动作”的应用,并建议通过微调获得稳定的行为;它是指令到动作的模型,而不是聊天模型。
- Home-FunctionGemma-270m(社区,270M): 针对Home Assistant的Assist API的FunctionGemma微调版,已量化,适用于Raspberry Pi等低资源硬件。其模型卡未给出准确率基准,并适用Gemma许可证。
- Qwen3 0.6B–4B(阿里巴巴): 支持工具调用的稠密模型系列;4B版本在模型推荐清单中。
- Llama 3.2 1B和3B(Meta): 为设备端运行而设计,支持工具调用;3B版本同样在推荐清单中。
- Gemma 3 1B/4B和Phi-4-mini(3.8B): 指令说法比较随意时可选的10亿至40亿参数方案;Gemma 3 4B和Phi-4-mini在推荐清单中。
- 模型接收的是文本而不是音频:先由独立的语音转文字步骤把口头指令转换成文本。
- 我们没有找到针对这些规模、专门比较智能家居指令函数调用能力的公开基准——决定之前,请用你自己的实体列表和说法测试每个候选模型。
小型模型的不足之处
小型模型是结构化指令解析的正确选择,但不适合开放式问题、复杂的多步推理,或需要广泛世界知识的任务。
- 如果你希望智能家居助手也能很好地回答一般性问题,一种常见模式是采用混合架构:将命令式输入路由给小型模型,把开放式问题路由给更大的模型(本地或其他方式)。
- 相比大型模型,小型模型更容易误解含糊不清的措辞——清晰一致的指令措辞和范围明确的实体名称,比单纯升级模型规模更能降低这一风险。
- 对于超出简单指令解析范围的自动化——跨多个传感器进行推理、判断某种异常模式是否值得发出通知——更大的模型可能确实值得付出额外的延迟,这取决于该自动化对时间的敏感程度。
这与模型推荐指南有何不同
本文解释了为什么小型模型是智能家居控制的正确架构选择;模型推荐简明清单则推荐了当前应实际使用的具体模型。
- 如果你想了解小型模型推荐背后的推理逻辑,请先阅读本文。
- 有关当前推荐的具体模型及其硬件要求,请参见智能家居控制最佳本地LLM模型指南。
- 有关移动设备专用的小型语言模型选项(一种不同的硬件场景),请参见跨系列的移动LLM模型指南。
常见问题
在智能家居控制方面,小型语言模型是否比大型模型准确性更低?
对这项特定任务而言未必如此——结构化指令的函数调用准确性,更多取决于模型对这项狭窄任务的适配程度,而非整体参数量。一个大型通用模型在解析"关灯"时,并不会自动比一个为此调优的小型模型更强。
本文所说的"小型"语言模型指多大的规模?
本文讨论的实用范围大约是10亿到40亿参数——足够小,能在迷你主机的集成显卡或NPU上响应灵敏地运行,无需独立显卡。面向设备的模型还可以更小:Google的FunctionGemma只有2.7亿参数。
我可以在树莓派上运行小型模型吗?
非常小的模型可以在树莓派上运行,但速度较慢——关于树莓派与迷你主机在这项工作负载上的权衡,请参见本地智能家居最佳硬件指南。
开放式问题和指令是否需要不同的模型?
许多系统会分别路由这两类请求——小型模型快速处理指令解析,而如果你想要更广泛的对话能力,开放式问题可以路由给更大的本地或云端模型。这是一种架构选择,而非硬性要求。
这与减少家庭自动化中的幻觉有什么关系?
一个更小、范围明确的模型,只需要将指令映射到已知的实体列表,相比被要求进行更广泛推理的通用模型,本质上更不容易凭空捏造设备或误读状态——具体技巧请参见幻觉减少指南。
我应该使用哪些具体的小型模型?
本文在“适用于智能家电的小型模型”一节列出了示例模型;如需包含Ollama标签和硬件档位、面向Home Assistant的推荐清单,请参阅智能家居控制最佳本地LLM模型指南。
小型模型需要的内存更少吗?
是的——较少的参数量直接转化为更低的内存要求,这也是小型模型能在迷你主机的集成硬件上良好运行、而无需独立显卡的部分原因。
哪些小型设备端模型能理解智能家电的日常语言指令?
常见的起点包括:适用于固定动作列表的Google FunctionGemma(270M)及其Home Assistant微调版Home-FunctionGemma-270m;以及适用于更随意说法的10亿至40亿参数模型,如Llama 3.2 1B/3B、Qwen3 1.7B/4B、Gemma 3 1B/4B和Phi-4-mini。我们没有找到针对这些规模、专门比较智能家居指令的公开基准——请用你自己的实体列表测试。
2.7亿参数的模型能在家电级设备上运行吗?
就体积而言,它适合低资源硬件:社区模型Home-FunctionGemma-270m已针对Raspberry Pi等设备做了量化。内存占用和延迟需要你在自己的硬件上自行测量;Google建议通过微调获得稳定的行为。
