关键要点
- 优先内存和一块强力的集成 GPU 或 NPU,而非纯粹的 CPU 主频
- 一台低功耗的 Intel N 系列迷你 PC 可运行 Home Assistant 和一个非常小的模型
- 一台配强力 iGPU 的 AMD Ryzen 或 Intel Core i 迷你 PC 能处理 7B 模型
- 一台迷你 PC 可同时运行 Home Assistant、Ollama、Whisper 和 Frigate
- 更多内存让你在中枢旁边运行更大的模型
- 关于 VRAM 细节,参见跨集群的 local-llms 硬件指南
在一台机器上实现 HA + LLM 需要什么
你需要足够的内存来容纳模型加 Home Assistant,以及一块强力的 iGPU 或 NPU 来保持模型灵敏。 对这类工作负载,CPU 主频是次要的。
- 内存:为你想要的模型大小,外加中枢和加载项,留出足够余量。
- 显示/NPU:一块强力的集成 GPU 或 NPU 可降低 LLM 和 Whisper 的延迟。
- 存储:若你还运行 Frigate,要为录像留出空间——参见本地 AI 安防摄像头。
迷你 PC 类别
三类涵盖大多数需求:轻量 AI 用低功耗 N 系列,7B 模型用配强力 iGPU 的 Ryzen/Core i,高效的设备端 AI 用配 NPU 的迷你 PC。 按你想要的模型大小选择。
- 低功耗 Intel N 系列: 高效又便宜;运行 Home Assistant 和一个非常小的模型,AI 上较慢。
- 配强力 iGPU 的 AMD Ryzen / Intel Core i: 更多内存和显示余量,能以可用延迟运行 7B 模型。
- 配 NPU 的迷你 PC: 配备神经处理单元的较新机器能高效加速设备端 AI。
比较
把类别匹配到你的目标模型:极小模型用 N 系列,7B 模型用配强力 iGPU 的 Ryzen/Core i。 价格为相对值。
- 关于 VRAM 和量化细节,参见跨集群的本地 LLM 的最佳迷你 PC。
| 迷你 PC 类别 | CPU | 内存建议 | 能否运行本地 LLM | 相对价格 |
|---|---|---|---|---|
| 低功耗 N 系列 | Intel N 系列 | 中等 | 仅非常小的模型,较慢 | 低 |
| Ryzen / Core i(强力 iGPU) | AMD Ryzen / Intel Core i | 充裕 | 以可用延迟最高约 7B | 中 |
| 配 NPU | 现代 CPU + NPU | 充裕 | 高效的小/中型模型 | 中–高 |
预算对性能
购买能以可接受延迟运行你目标模型的最便宜机器——通常是为 7B 模型配强力 iGPU 的 Ryzen/Core i 迷你 PC。 不要在你用不上的 CPU 上花太多。
- 预算型:为 HA 加一个极小模型选低功耗 N 系列机器。
- 均衡型:为 7B 模型选配强力 iGPU 的 Ryzen/Core i 迷你 PC。
- 关于更广泛的硬件决策(Pi 对迷你 PC 对 NAS),参见本地智能家居的最佳硬件。
配置注意事项
运行 Home Assistant OS 或容器,安装 Ollama,并确认推理使用了 iGPU/NPU。 为可靠性,把机器有线连接到你的网络。
- 安装 Home Assistant——参见入门。
- 安装 Ollama 并拉取一个小型模型——参见如何安装 Ollama。
- 把 Ollama 接入 Home Assistant——参见Ollama 集成指南。
常见问题
一台迷你 PC 能同时做 Home Assistant 和本地 LLM 吗?
能。一台内存足够、配强力集成 GPU 或 NPU 的迷你 PC 可同时运行 Home Assistant 和一个小型本地 LLM,并能加入 Whisper 和 Frigate。这种单机方式是获得本地 AI 智能家居最简单的途径。
我需要多少内存?
足以容纳你的目标模型,外加 Home Assistant 和任何加载项。小型模型只需不多的内存,而要在中枢旁边从容运行 7B 模型则受益于充裕内存。把内存匹配到你计划运行的最大模型。
Home Assistant 迷你 PC 选 Intel 还是 AMD?
两者都行。低功耗的 Intel N 系列机器在轻量使用上最便宜;配强力集成 GPU 的 AMD Ryzen 或 Intel Core i 迷你 PC 能更好地处理 7B 模型。按你想要的模型大小和延迟来选。
能运行本地 LLM 的最便宜迷你 PC 是哪台?
低功耗的 Intel N 系列迷你 PC 是能运行 Home Assistant 加一个非常小模型的最便宜机型,尽管响应较慢。要想 7B 级助手更灵敏,就升级到配强力 iGPU 的 Ryzen 或 Core i 迷你 PC。