Wichtigste Erkenntnisse
- RAM und eine leistungsfähige integrierte GPU oder NPU über die rohe CPU-Taktung priorisieren
- Ein stromsparender Mini-PC der Intel-N-Serie betreibt Home Assistant und ein sehr kleines Modell
- Ein Mini-PC mit AMD Ryzen oder Intel Core i und starker iGPU bewältigt ein 7B-Modell
- Ein Mini-PC kann Home Assistant, Ollama, Whisper und Frigate zusammen betreiben
- Mehr RAM lässt Sie ein größeres Modell neben dem Hub betreiben
- Für VRAM-Details siehe den clusterübergreifenden local-llms-Hardware-Leitfaden
Was Sie für HA + LLM auf einem Gerät brauchen
Sie brauchen genug RAM, um das Modell plus Home Assistant zu fassen, und eine leistungsfähige iGPU oder NPU, um das Modell reaktionsschnell zu halten. Die CPU-Taktung ist für diesen Workload zweitrangig.
- RAM: genug Reserve für die gewünschte Modellgröße plus Hub und Add-ons.
- Grafik/NPU: eine leistungsfähige integrierte GPU oder NPU senkt die LLM- und Whisper-Latenz.
- Speicher: Platz für Aufnahmen, wenn Sie auch Frigate betreiben – siehe lokale KI-Sicherheitskameras.
Die Mini-PC-Klassen
Drei Klassen decken die meisten Bedürfnisse ab: stromsparende N-Serie für leichte KI, Ryzen/Core-i mit starker iGPU für ein 7B-Modell und NPU-bestückte Mini-PCs für effiziente On-Device-KI. Wählen Sie nach der gewünschten Modellgröße.
- Stromsparende Intel-N-Serie: effizient und günstig; betreibt Home Assistant und ein sehr kleines Modell, langsamer bei KI.
- AMD Ryzen / Intel Core i mit starker iGPU: mehr RAM- und Grafik-Reserve für ein 7B-Modell bei nutzbarer Latenz.
- NPU-bestückte Mini-PCs: neuere Maschinen mit einer Neural Processing Unit beschleunigen On-Device-KI effizient.
Vergleich
Passen Sie die Klasse an Ihr Zielmodell an: N-Serie für ein winziges Modell, Ryzen/Core-i mit starker iGPU für ein 7B-Modell. Die Preise sind relativ.
- Für VRAM und Quantisierungs-Tiefe siehe clusterübergreifend beste Mini-PCs für lokale LLMs.
| Mini-PC-Klasse | CPU | RAM-Empfehlung | Betreibt ein lokales LLM | Relativer Preis |
|---|---|---|---|---|
| Stromsparende N-Serie | Intel N-Serie | Mittel | Sehr kleine Modelle, langsamer | Niedrig |
| Ryzen / Core i (starke iGPU) | AMD Ryzen / Intel Core i | Reichlich | Bis ~7B bei nutzbarer Latenz | Mittel |
| NPU-bestückt | Moderne CPU + NPU | Reichlich | Effiziente kleine/mittlere Modelle | Mittel–hoch |
Budget vs Leistung
Kaufen Sie das günstigste Gerät, das Ihr Zielmodell bei akzeptabler Latenz betreibt – meist ein Ryzen/Core-i-Mini-PC mit starker iGPU für ein 7B-Modell. Geben Sie nicht zu viel für CPU aus, die Sie nicht nutzen.
- Budget: ein stromsparendes N-Serie-Gerät für HA plus ein winziges Modell.
- Ausgewogen: ein Ryzen/Core-i-Mini-PC mit starker iGPU für ein 7B-Modell.
- Für die breitere Hardware-Entscheidung (Pi vs Mini-PC vs NAS) siehe beste Hardware für ein lokales Smart Home.
Einrichtungshinweise
Betreiben Sie Home Assistant OS oder einen Container, installieren Sie Ollama und bestätigen Sie, dass die iGPU/NPU für die Inferenz genutzt wird. Halten Sie das Gerät für Zuverlässigkeit per Kabel am Netzwerk.
- Installieren Sie Home Assistant – siehe Erste Schritte.
- Installieren Sie Ollama und laden Sie ein kleines Modell – siehe Ollama installieren.
- Verdrahten Sie Ollama in Home Assistant – siehe der Leitfaden zur Ollama-Integration.
FAQ
Kann ein Mini-PC sowohl Home Assistant als auch ein lokales LLM betreiben?
Ja. Ein Mini-PC mit genug RAM und einer leistungsfähigen integrierten GPU oder NPU betreibt Home Assistant und ein kleines lokales LLM zusammen und kann Whisper und Frigate hinzufügen. Dieser Ein-Geräte-Ansatz ist der einfachste Weg zu einem lokalen KI-Smart-Home.
Wie viel RAM brauche ich?
Genug, um Ihr Zielmodell plus Home Assistant und etwaige Add-ons zu fassen. Ein kleines Modell braucht nur bescheidenen RAM, während es einem 7B-Modell, das bequem neben dem Hub läuft, von reichlich RAM profitiert. Passen Sie den RAM an das größte geplante Modell an.
Intel oder AMD für einen Home-Assistant-Mini-PC?
Beides funktioniert. Ein stromsparendes Intel-N-Serie-Gerät ist für leichte Nutzung am günstigsten; ein Mini-PC mit AMD Ryzen oder Intel Core i und starker integrierter GPU bewältigt ein 7B-Modell besser. Wählen Sie nach der gewünschten Modellgröße und Latenz.
Was ist der günstigste Mini-PC, der ein lokales LLM betreibt?
Ein stromsparender Intel-N-Serie-Mini-PC ist der günstigste, der Home Assistant plus ein sehr kleines Modell betreiben kann, wenn auch mit langsameren Antworten. Für einen flotteren Assistenten der 7B-Klasse steigen Sie auf einen Ryzen- oder Core-i-Mini-PC mit starker iGPU um.