Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
Startseite/Lokale LLMs Pro
Easiest Desktop Apps

Llama-App-Rezension: llama.cpp-Desktop-App für Mac und Windows

·6 Min. LesezeitVon Hans Kuepper · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

Llama (llama.app) ist eine kleine App für Mac und Windows 11, die offene Modelle über llama.cpp auf Ihrem eigenen Rechner ausführt – mit Modellinstallation per Klick, eingebautem Browser-Chat und lokaler API unter localhost:9931. Sie ist kostenlos und quelloffen. PromptQuorum hat sie weder installiert noch getestet; jede Angabe stammt von llama.app, den GitHub-Repositories des Projekts und der Ankündigung von Hugging Face.

Wichtigste Erkenntnisse

  • Pflege: Die jüngste Repository-Aktivität war am 22. Oktober 2026; ein Warnhinweis für veraltete Projekte entfällt daher.
  • Kosten: kostenlos unter der MIT-Lizenz ohne Konto; eine Anmeldung bei Hugging Face ist optional und nur für geschützte Modelle nötig.
  • Plattformen: Macs mit Apple Silicon ab macOS 15 sowie Windows 11 auf x64 oder ARM64.
  • Modelle: Die Empfehlungen richten sich nach Ihrem Speicher; die Website empfiehlt Gemma 4 ab 16 GB Mac-Speicher, GPT-OSS ab 24 GB und Qwen 3.8 ab 32 GB.
  • Reife: Beide Apps sind 0.x-Versionen, und die Mac-App brachte zwischen dem 2. September und dem 18. Oktober vier Releases heraus.

📍 In einem Satz

Llama ist eine kostenlose, quelloffene App für Mac und Windows 11 vom llama.cpp-Team und Hugging Face, die offene Modelle lokal ausführt und Ihren anderen Apps bereitstellt.

💬 In einfachen Worten

Sie installieren sie wie jede App, wählen im Menü ein empfohlenes Modell und chatten dann im Browser oder richten Editoren und Skripte auf die lokale API aus.

📌Hinweis: Diese Rezension basiert auf llama.app, den beiden GitHub-Repositories, den Homebrew-Cask-Daten und der Ankündigung von Hugging Face, geprüft am 24. Oktober 2026. PromptQuorum hat die App weder installiert noch getestet oder einem Benchmark unterzogen.

Lesen auf:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Llama (llama.app) ist eine kostenlose, MIT-lizenzierte Menüleisten-App für den Mac und Tray-App für Windows 11 vom llama.cpp-Team und Hugging Face. Sie installiert und verwaltet llama.cpp, empfiehlt Modelle, die zu Ihrem Rechner passen, und startet einen lokalen OpenAI-kompatiblen Server. Beide Apps sind junge 0.x-Versionen; diese Rezension beschränkt sich daher auf das, was llama.app, die beiden GitHub-Repositories und die Ankündigung von Hugging Face aussagen, geprüft am 24. Oktober 2026.

Llama-App-Rezension: llama.cpp-Desktop-App für Mac und Windows

Was ist Llama?

Llama ist eine Menüleisten-App auf dem Mac und eine Tray-App unter Windows, die offene Modelle herunterlädt, für Ihren Rechner konfiguriert und lokal bereitstellt. Mit „Open chat“ im Menü sprechen Sie im Browser mit einem Modell, oder Sie richten Coding-Agenten, Editoren und eigenen Code auf die lokale OpenAI-kompatible API aus. Die Dokumentation beschreibt sie als minimalistische Desktop-App auf Basis von llama.cpp.

Sie ist nicht die Engine llama.cpp selbst, die PromptQuorum gesondert behandelt, und auch nicht die Llama-Modellfamilie von Meta. Die Windows-App ist eine WinUI-3-Portierung der Mac-App, die Hugging Face am 13. Oktober 2026 angekündigt hat, mit nativer Unterstützung für Windows on Arm.

Bezugsquelle

Llama ist ein normaler Download für Mac und Windows 11; Linux-Nutzer erhalten nur das Kommandozeilenwerkzeug.

Punkt
Details
MacLlama.dmg: in „Programme“ ziehen
Mac (Homebrew)brew install --cask llama-app
Windows 11.msixbundle-Installer für x64 und ARM64
LinuxInstallationsskript für die llama-CLI, keine App
PreisKostenlos, MIT-Lizenz
Websitellama.app
QuellcodeLlama-macOS und Llama-Windows
DatenschutzerklärungAuf llama.app keine Seite veröffentlicht (geprüft am 24. Oktober 2026)

Geprüfte Versionen: Mac 0.45.0 / Windows 0.13.0, laut den Release-Seiten für Mac und Windows am 18. und 20. Oktober 2026 veröffentlicht; die jüngste Repository-Aktivität war am 22. Oktober 2026. Laut den Hinweisen zu Windows 0.13.0 werden Releases nun automatisch beim Microsoft Store eingereicht und der Eintrag geht nach der Zertifizierung online; PromptQuorum fand jedoch keinen aktiven Store-Eintrag. Der Linux-Befehl auf der Website leitet ein heruntergeladenes Skript direkt in die Shell.

Anforderungen

Llama benötigt einen Mac mit Apple Silicon ab macOS 15 oder einen Windows-11-PC sowie Speicherplatz und Arbeitsspeicher für das gewählte Modell.

Punkt
Laut Quellen
MacApple Silicon, ab macOS 15 (Homebrew-Cask)
WindowsWindows 11, x64 oder ARM64
App-GrößeMac 4 MB installiert; Windows etwa 86 MB
Modellgröße4,59 GB (gemma-4 E4B) bis 19,0 GB (Qwen3.8 27B)
Speicherhinweis (Mac)16 GB+: Gemma 4; 24 GB+: GPT-OSS; 32 GB+: Qwen 3.8

Die Website gibt Speicherempfehlungen nur für Macs und nennt keine Windows-Anforderung an Speicher oder GPU; Windows 0.13.0 ergänzt „Passt es?“-Hinweise, die aus dem Speicher Ihres Rechners berechnet werden.

So starten Sie

Die Schritte folgen llama.app und den READMEs; PromptQuorum hat sie nicht ausgeführt.

  1. 1
    App installieren
    Why it matters: Öffnen Sie Llama.dmg und ziehen Sie Llama in „Programme“, oder öffnen Sie unter Windows 11 die .msixbundle-Datei und klicken Sie auf Installieren.
  2. 2
    In Menüleiste oder Tray finden
    Why it matters: Llama hat kein Fenster; klicken Sie auf das Symbol in der Mac-Menüleiste bzw. im Windows-Infobereich, wo ausgeblendete Symbole hinter dem ^-Pfeil liegen.
  3. 3
    Modell wählen
    Why it matters: Wählen Sie eines der für Ihren Rechner empfohlenen Modelle oder durchsuchen Sie den Hugging-Face-Katalog und lassen Sie Llama es installieren.
  4. 4
    Chat öffnen
    Why it matters: Klicken Sie im Menü auf „Open chat“, um im Browser mit dem Modell zu sprechen.
  5. 5
    Andere Apps verbinden
    Why it matters: Richten Sie ein OpenAI-SDK, einen Editor oder einen Coding-Agenten auf `http://localhost:9931/v1` aus; laut Website fallen weder API-Schlüssel noch Nutzungsgebühren an.
  6. 6
    Einstellungen anpassen
    Why it matters: Legen Sie auf dem Mac Überschreibungen in `~/.config/llama/models.user.ini` ab; die App führt sie mit der von ihr erzeugten Konfiguration zusammen.

Durch die Quellen bestätigte Funktionen

Jeder Punkt unten stammt von llama.app, aus den READMEs oder den Release-Notes.

  • Automatische Einrichtung. Llama setzt Quantisierung, Kontextgröße, Bildeingabe und spekulatives Decoding je Modell, und jede llama.cpp-Einstellung bleibt in einer Textdatei bearbeitbar.
  • Laden bei Bedarf. Modelle werden bei Anfrage geladen und nach fünf Minuten Leerlauf entladen, so die Website.
  • Gemeinsamer Speicher. Modelle liegen im Hugging-Face-Cache, den sich die App mit llama.cpp teilt, und über llama.cpp installierte Modelle erscheinen in der App.
  • API. OpenAI- und Anthropic-kompatible Endpunkte mit Streaming, Tool-Aufrufen, strukturierter Ausgabe und Vision sowie Fernzugriff von anderen Geräten über Tailscale.
  • Neuere Ergänzungen. Mac 0.45.0 brachte Embedding-Modelle über /v1/embeddings; Windows bietet ein Chat-Overlay per Alt+Leertaste, und das Release 0.13.0 ergänzt Passt-es-Hinweise, eigene Modellordner und „Share to Llama“.

Datenfluss und Netzwerknutzung

Die Maintainer sagen, dass Prompts und Inferenz auf Ihrem Rechner bleiben: Das Mac-README nennt die App „100 % lokal“, und das Windows-README erklärt, sie sende keine Telemetrie, keine Ereignisse, keine Analysedaten und keine Installations-ID.

Das Windows-README führt den ausgehenden Datenverkehr auf: Modell-Downloads, Prüfungen auf neue Releases und Aufrufe des lokalen Servers, jeweils nur mit einem User-Agent aus App-Version, Windows-Build und Prozessorarchitektur. Das Mac-README listet seine Netzwerknutzung nicht auf, und der Homebrew-Cask kennzeichnet diese App als selbstaktualisierend. Mac 0.45.0 ergänzt eine optionale Hugging-Face-Anmeldung für geschützte Modelle, und die Website beschreibt Fernzugriff über Tailscale – einen Netzwerkweg, den Sie selbst aktivieren.

📌Hinweis: Dies sind Aussagen der Maintainer; PromptQuorum hat den Netzwerkverkehr der Apps nicht geprüft.

Für wen es sich eignet

  • Mac- und Windows-11-Nutzer, die neu bei lokalen Modellen sind und eine kostenlose App wollen, die sinnvolle Einstellungen für ihren Rechner wählt.
  • Entwickler, die einen lokalen OpenAI-kompatiblen Endpunkt wollen, für Editoren, Agenten und Skripte, ohne llama.cpp von Hand zu verwalten.
  • llama.cpp-Nutzer, die ihren Modell-Cache mit einem Menüleisten- oder Tray-Frontend teilen möchten.

Was wir nicht überprüfen konnten

  • Praxisqualität. PromptQuorum hat keine der beiden Apps ausgeführt; Geschwindigkeit, Speicherverbrauch und Modellqualität sind daher nicht bewertet.
  • Sicherheit und Netzwerkverhalten. Der Datenverkehr der Apps wurde nicht geprüft, und die ausgewerteten Quellen beschreiben weder Signierung noch Notarisierung der Mac-App.
  • Windows-Anforderungen. Die Quellen nennen Windows 11, aber keine Untergrenze für Speicher, GPU oder Treiber.
  • Roadmap. Beide Apps sind 0.x-Versionen mit schnellen Änderungen, und die Quellen nennen keinen Plan.

Alternativen und Mitbewerber

Ollama

Plattformen:
Mac, Windows, Linux
Preis / Lizenz:
Kostenlos / MIT
Wichtigster Unterschied:
Kommandozeilen-orientierte Laufzeit mit eigener Modellbibliothek
Artikel über Ollama (10)

+313 weitere nicht angezeigt

LM Studio

Plattformen:
Mac, Windows, Linux
Preis / Lizenz:
Kostenlos / proprietär
Wichtigster Unterschied:
Closed-Source-Desktop-App mit integriertem Modellbrowser
Artikel über LM Studio (10)

+149 weitere nicht angezeigt

Jan

Plattformen:
Mac, Windows, Linux
Preis / Lizenz:
Kostenlos / Apache 2.0 (Variante)
Wichtigster Unterschied:
Quelloffene Desktop-Chat-App mit Modellbibliothek
Artikel über Jan (10)

+36 weitere nicht angezeigt

GPT4All

Plattformen:
Mac, Windows, Linux
Preis / Lizenz:
Kostenlos / MIT
Wichtigster Unterschied:
Desktop-Chat-App, die Modelle lokal ausführt
Artikel über GPT4All (10)

+18 weitere nicht angezeigt

Details der Mitbewerber ändern sich häufig; prüfen Sie aktuellen Preis, Lizenz und Plattformen auf der jeweiligen Seite.

Im Verzeichnis vergleichen

Häufig gestellte Fragen

Gibt es eine Linux-App?

Laut llama.app nicht: Linux-Nutzer erhalten das Kommandozeilenwerkzeug llama über ein Installationsskript, und die Dokumentation nennt außerdem Paketmanager, vorkompilierte Binärdateien, Docker und den Bau aus dem Quellcode.

Kann sie Modelle nutzen, die ich schon habe?

Laut Mac-README erscheinen über llama.cpp installierte Modelle in der App, und die Windows-App teilt sich denselben Hugging-Face-Cache; Windows 0.13.0 erlaubt außerdem eigene Modellordner. Ob Modelle anderer Werkzeuge wie Ollama übernommen werden, sagen die Quellen nicht.

Welche Schnittstellen bietet der lokale Server?

Die Dokumentation nennt OpenAI-kompatible Endpunkte unter /v1, einen Anthropic-kompatiblen Endpunkt /v1/messages und llama.cpp-eigene Endpunkte auf Port 9931; ein API-Schlüssel ist nur nötig, wenn Sie den Server mit einem starten.

Fazit

Llama (llama.app) ist für Mac- und Windows-11-Nutzer ein kostenloser, MIT-lizenzierter Weg, offene Modelle über llama.cpp ohne Terminal auszuführen, mit Empfehlungen für ihre Hardware und einer lokalen API für andere Apps. Dagegen spricht: Beide Apps sind schnell wechselnde 0.x-Versionen, es gibt keine Linux-App, und PromptQuorum hat keine der beiden getestet. Sie passt zu Einsteigern und Entwicklern, die llama.cpp hinter einem kleinen Frontend wollen; wer einen umfangreicheren Modellbrowser möchte, kann LM Studio oder Jan vergleichen, und wer die Kommandozeile bevorzugt, Ollama.

Quellen

← Zurück zu Lokale LLMs Pro

MCP