Wichtigste Erkenntnisse
- Die Smart-Home-Steuerung ist eine eng begrenzte Aufgabe (Befehl parsen → Funktion aufrufen), die kleine Modelle gut bewältigen
- Kleine Modelle (etwa 1-4 Milliarden Parameter) laufen mit geringerer Latenz auf bescheidener lokaler Hardware — eine leistungsfähige iGPU/NPU reicht aus
- Function-Calling-Genauigkeit zählt für diese spezifische Aufgabe mehr als die Breite des Allgemeinwissens
- Größere Modelle bleiben für offene Fragen nützlich — ein Setup kann bei Bedarf separat dorthin weiterleiten
- Konkrete aktuelle Modellempfehlungen findest du in der Kurzliste der besten lokalen LLM-Modelle für die Smart-Home-Steuerung
- Für Smart-Home-Geräte genügen Modelle unter 1 Milliarde Parametern (z. B. FunctionGemma mit 270M) für eine feste Aktionsliste; Modelle mit 1–4 Milliarden Parametern tolerieren lockerere Formulierungen
Warum klein hier gewinnt
Latenz ist der entscheidende Faktor bei der Sprachsteuerung — ein Smart-Home-Befehl muss nahezu in Echtzeit ausgeführt werden, und ein kleines Modell auf lokaler Hardware antwortet schneller, als ein großes Modell auf derselben Hardware es könnte.
- Ein großes Modell benötigt deutlich mehr Rechenleistung pro erzeugtem Token, was sich auf derselben lokalen Hardware direkt in langsameren Antworten niederschlägt — spürbar als Verzögerung zwischen dem Aussprechen eines Befehls und dem tatsächlichen Einschalten des Lichts.
- Smart-Home-Befehle sind typischerweise kurz und strukturiert ("Schlafzimmerlicht ausschalten", "Thermostat auf 20 Grad stellen"), was nicht das breitere Schlussfolgern oder die Wissensbasis erfordert, die ein großes Modell mitbringt.
- Ein kleines Modell lokal auszuführen bedeutet außerdem geringere Hardware-Anforderungen — siehe den Leitfaden zur besten Hardware für ein lokales Smart Home dazu, wie ein für kleine Modelle geeigneter Rechner im Vergleich zu einem für größere Modelle nötigen Rechner aussieht.
Function Calling ist die Schlüsselfähigkeit
Die Fähigkeit, die für die Smart-Home-Steuerung tatsächlich zählt, ist zuverlässiges Function Calling — natürliche Sprache in einen korrekt strukturierten Aufruf eines bestimmten Home-Assistant-Dienstes umzuwandeln, nicht allgemeine Konversationsfähigkeit.
- Ein Modell, das für Function Calling feinabgestimmt oder speziell geeignet ist, kann "mach es im Wohnzimmer wärmer" zuverlässig dem richtigen Klimasteuerungs-Dienstaufruf zuordnen — eine engere und messbarere Fähigkeit als offene Chat-Qualität.
- Genau hier zeigt sich auch das Halluzinationsrisiko speziell für Smart Homes — siehe den Leitfaden zur Reduzierung von LLM-Halluzinationen in der Hausautomation dafür, wie man ein Modell auf die tatsächlich verfügbaren Entitäten beschränkt.
- Bewerte ein Kandidatenmodell bei der Wahl zwischen kleinen Modellen anhand der Function-Calling-Genauigkeit für deine spezifische Entitätsliste, nicht anhand allgemeiner Benchmark-Werte.
Kleine Modelle für Smart-Home-Geräte
Für Smart-Home-Geräte reicht der praktische Bereich unter 1 Milliarde Parameter: Ein Function-Calling-Modell mit 270 Millionen Parametern kann alltägliche Befehle auf eine feste Liste von Geräteaktionen abbilden, während Modelle mit 1–4 Milliarden Parametern lockerere Formulierungen besser tolerieren. Welches passt, hängt davon ab, wie viele Aktionen das Gerät anbietet und wie viel Speicher es hat.
- FunctionGemma (Google, 270M): eine auf Function Calling abgestimmte Variante von Gemma 3 270M. Google nennt Smart Home als geeigneten Einsatz für Anwendungen mit „einem definierten Satz von Aktionen“ und empfiehlt Fine-Tuning für konsistentes Verhalten; es ist ein Modell für Befehl-zu-Aktion, kein Chat-Modell.
- Home-FunctionGemma-270m (Community, 270M): ein Fine-Tune von FunctionGemma für die Assist-API von Home Assistant, quantisiert für Hardware mit wenig Ressourcen wie einen Raspberry Pi. Die Modellkarte nennt keine Genauigkeits-Benchmarks; es unterliegt der Gemma-Lizenz.
- Qwen3 0.6B–4B (Alibaba): eine Familie dichter Modelle mit Tool-Calling-Unterstützung; die Größe 4B steht auf der Model-Picks-Kurzliste.
- Llama 3.2 1B und 3B (Meta): für den Einsatz auf dem Gerät konzipiert, mit Tool-Calling-Unterstützung; die Größe 3B steht ebenfalls auf der Kurzliste.
- Gemma 3 1B/4B und Phi-4-mini (3,8B): Optionen mit 1–4 Milliarden Parametern, wenn Befehle locker formuliert werden; Gemma 3 4B und Phi-4-mini stehen auf der Kurzliste.
- Das Modell erhält Text, kein Audio: Ein separater Speech-to-Text-Schritt wandelt den gesprochenen Befehl zuerst in Text um.
- Für Smart-Home-Befehle in diesen Größen haben wir keinen öffentlichen direkten Function-Calling-Vergleich gefunden — teste jeden Kandidaten vor der Entscheidung mit deiner eigenen Entitätsliste und deinen Formulierungen.
Wo kleine Modelle an ihre Grenzen stoßen
Kleine Modelle sind die richtige Wahl für strukturiertes Befehls-Parsing, nicht für offene Fragen, komplexes mehrstufiges Schlussfolgern oder Aufgaben, die breites Weltwissen erfordern.
- Wenn dein Smart-Home-Assistent auch allgemeine Fragen gut beantworten soll, ist ein Hybrid-Setup, das befehlsartige Eingaben an ein kleines Modell und offene Fragen an ein größeres Modell (lokal oder anderweitig) weiterleitet, ein gängiges Muster.
- Kleine Modelle neigen eher als größere dazu, mehrdeutige Formulierungen misszuverstehen — klare, konsistente Befehlsformulierungen und gut abgegrenzte Entitätsnamen reduzieren dieses Risiko wirksamer als eine größere Modellgröße.
- Für Automatisierungen jenseits des einfachen Befehls-Parsings — das Schlussfolgern über mehrere Sensoren hinweg, die Entscheidung, ob ein ungewöhnliches Muster eine Benachrichtigung rechtfertigt — kann ein größeres Modell die zusätzliche Latenz durchaus wert sein, je nachdem, wie zeitkritisch die Automatisierung ist.
Wie sich das vom Model-Picks-Leitfaden unterscheidet
Dieser Artikel erklärt, warum kleine Modelle die richtige Architekturwahl für die Smart-Home-Steuerung sind; die Model-Picks-Kurzliste empfiehlt konkrete, aktuell einzusetzende Modelle.
- Lies diesen Artikel zuerst, wenn du die Überlegungen hinter der Empfehlung für kleine Modelle verstehen möchtest.
- Gehe zum Leitfaden über die besten lokalen LLM-Modelle für die Smart-Home-Steuerung für konkrete, aktuell empfohlene Modelle und ihre Hardware-Anforderungen.
- Für spezifische Optionen kleiner Sprachmodelle auf Mobilgeräten (ein anderer Hardware-Kontext) siehe den Cluster-übergreifenden Leitfaden zu mobilen LLM-Modellen.
Häufig gestellte Fragen
Ist ein kleines Sprachmodell für die Smart-Home-Steuerung weniger genau als ein großes?
Nicht zwangsläufig für diese spezifische Aufgabe — die Function-Calling-Genauigkeit für strukturierte Befehle hängt stärker davon ab, wie gut ein Modell zu dieser eng begrenzten Aufgabe passt, als von der reinen Parameteranzahl. Ein großes universell einsetzbares Modell ist nicht automatisch besser darin, "mach das Licht aus" zu parsen, als ein kleines, dafür abgestimmtes Modell.
Welche Größe zählt hier als "kleines" Sprachmodell?
Etwa 1 bis 4 Milliarden Parameter ist der praktische Bereich, um den es in diesem Artikel geht — klein genug, um auf der integrierten GPU oder NPU eines Mini-PCs reaktionsschnell zu laufen, ohne eine dedizierte GPU zu benötigen. Modelle für Geräte gehen noch weiter nach unten: Googles FunctionGemma hat 270 Millionen Parameter.
Kann ich ein kleines Modell auf einem Raspberry Pi ausführen?
Sehr kleine Modelle können auf einem Pi laufen, wenn auch langsam — siehe den Leitfaden zur besten Hardware für ein lokales Smart Home für die Abwägungen zwischen einem Pi und einem Mini-PC für diese Aufgabe.
Brauche ich ein anderes Modell für offene Fragen als für Befehle?
Viele Setups leiten beides unterschiedlich weiter — ein kleines Modell übernimmt das Befehls-Parsing schnell, während offene Fragen an ein größeres lokales oder Cloud-Modell gehen können, wenn du breitere Konversationsfähigkeit möchtest. Das ist eine Architekturentscheidung, keine Pflicht.
Wie hängt das mit der Reduzierung von Halluzinationen in der Hausautomation zusammen?
Ein kleineres, gut abgegrenztes Modell, das Befehle nur einer bekannten Entitätsliste zuordnen muss, neigt von Natur aus weniger dazu, Geräte zu erfinden oder Zustände falsch zu lesen, als ein universell einsetzbares Modell, das breiter schlussfolgern soll — siehe den Leitfaden zur Halluzinationsreduzierung für die konkreten Techniken.
Welche konkreten kleinen Modelle sollte ich verwenden?
Dieser Artikel nennt Beispielmodelle im Abschnitt „Kleine Modelle für Smart-Home-Geräte“; die auf Home Assistant ausgerichtete Kurzliste mit Ollama-Tags und Hardware-Stufen findest du im Leitfaden über die besten lokalen LLM-Modelle für die Smart-Home-Steuerung.
Braucht ein kleines Modell weniger RAM?
Ja — eine geringere Parameteranzahl übersetzt sich direkt in geringere Speicheranforderungen, was mit ein Grund dafür ist, dass sie gut auf der integrierten Hardware eines Mini-PCs laufen, statt eine dedizierte GPU zu benötigen.
Welche kleinen On-Device-Modelle verstehen alltägliche Sprachbefehle für Smart-Home-Geräte?
Gängige Ausgangspunkte sind Googles FunctionGemma (270M) und dessen Home-Assistant-Fine-Tune Home-FunctionGemma-270m für feste Aktionslisten sowie Modelle mit 1–4 Milliarden Parametern wie Llama 3.2 1B/3B, Qwen3 1.7B/4B, Gemma 3 1B/4B und Phi-4-mini für lockerere Formulierungen. Einen öffentlichen direkten Vergleich für Smart-Home-Befehle in diesen Größen haben wir nicht gefunden — teste mit deiner eigenen Entitätsliste.
Kann ein Modell mit 270 Millionen Parametern auf Geräten der Haushaltsgeräte-Klasse laufen?
Die Größe macht es zu einem Kandidaten für Hardware mit wenig Ressourcen: Das Community-Modell Home-FunctionGemma-270m ist für Geräte wie den Raspberry Pi quantisiert. Miss Speicherbedarf und Latenz auf deiner eigenen Hardware; Google empfiehlt Fine-Tuning für konsistentes Verhalten.