Zum Hauptinhalt springen
PromptQuorumFür Menschen gemacht. Strukturiert für KI.
Startseite/Lokale LLMs Pro
Overview & Reference

llmfit Review: Welche lokalen LLMs zu Ihrer Hardware passen

·7 Min. LesezeitVon · Gründer von PromptQuorum · Entdeckungsplattform für Open-Weight- und Open-Source-KI

llmfit ist ein kostenloses, quelloffenes (MIT) Terminal-Tool des GitHub-Nutzers AlexsJones, das CPU, RAM, GPU und VRAM erkennt und Hunderte offener LLMs danach ordnet, wie gut sie zu Ihrem Rechner passen. Es bewertet jedes Modell nach Passung, geschätzter Geschwindigkeit, Qualität und Kontextlänge, kann Downloads an Ollama, llama.cpp, MLX, LM Studio oder Docker Model Runner übergeben und echte Tokens pro Sekunde messen. Modelle führt es selbst nicht aus. Das aktuelle Release ist v1.1.20 vom 2026-11-03; der neueste Commit im Repository stammt vom 2026-11-18.

Wichtigste Erkenntnisse

  • Kommandozeilen-Tool mit Terminal-Oberfläche, klassischer CLI-Ausgabe, Web-Dashboard und REST-API; kein Desktop-Installer
  • Bewertet Modelle nach Passung, geschätzter Geschwindigkeit, Qualität und Kontext und wählt die beste passende Quantisierung
  • Übergibt Downloads und Benchmarks an die Laufzeitumgebungen, die Sie bereits nutzen
  • Geschwindigkeitswerte sind Schätzungen, bis Sie benchmarken; gespeicherte Messungen ersetzen sie in der Tabelle
  • MIT-Lizenz, kostenlos, mit einem Befehl installierbar (winget, Scoop, Homebrew, uv, Docker)

📍 In einem Satz

llmfit ist ein kostenloses, quelloffenes (MIT) Terminal-Tool, das CPU, RAM und GPU ausliest und Hunderte offener LLMs nach Speicherpassung, geschätzter Geschwindigkeit, Qualität und Kontextlänge ordnet, ohne selbst ein Modell auszuführen.

💬 In einfachen Worten

Bevor Sie eine Stunde in den Download eines Modells stecken, das nicht lädt, starten Sie llmfit einmal: Es prüft, was Ihr Rechner hat, listet Modelle von „läuft hervorragend“ bis „zu knapp“ und kann optional die echte Geschwindigkeit über eine bereits genutzte Laufzeitumgebung messen.

llmfit ist ein kostenloses, quelloffenes (MIT) Terminal-Tool des GitHub-Nutzers AlexsJones, das CPU, RAM, GPU und VRAM erkennt und Hunderte offener LLMs danach ordnet, wie gut sie zu Ihrem Rechner passen. Es bewertet jedes Modell nach Passung, geschätzter Geschwindigkeit, Qualität und Kontextlänge, kann Downloads an Ollama, llama.cpp, MLX, LM Studio oder Docker Model Runner übergeben und echte Tokens pro Sekunde messen. Modelle führt es selbst nicht aus. Das aktuelle Release ist v1.1.20 vom 2026-11-03; der neueste Commit im Repository stammt vom 2026-11-18.

llmfit Review: Welche lokalen LLMs zu Ihrer Hardware passen

Was ist llmfit?

Das llmfit-README beschreibt ein Tool, das „CPU, Arbeitsspeicher, GPU(s), VRAM und Beschleuniger-Konfiguration prüft, um Modelle in gängigen Quantisierungen zu empfehlen“ (sinngemäß aus dem Englischen).

  • Betreut vom GitHub-Nutzer AlexsJones; das Repository wurde im Februar 2026 angelegt, das Projekt hat weder ein Unternehmen noch eine eigene Website
  • Reifegrad: rund 39.000+ GitHub-Stars zum Zeitpunkt dieser Prüfung; neuestes Release v1.1.20 (2026-11-03); neuester Commit 2026-11-18, überwiegend wöchentliche Aktualisierungen der Benchmark-Daten und eingereichte Community-Benchmarks plus ein Fix am 2026-11-17
  • Was es nicht ist: llmfit ist keine Inferenz-Engine. Es lädt nie ein Modell, sondern empfiehlt und übergibt dann an eine Laufzeitumgebung wie Ollama
  • Der Cluster-Modus für Ray-Setups ist im README als „Preview“ gekennzeichnet und bisher „nur gegen ein Mock-Ray-Dashboard getestet“
  • PromptQuorum hat llmfit nicht selbst ausgeführt; diese Review beruht auf README, Docs-Ordner, GitHub-API und Release-Seite

So funktioniert llmfit: Erkennung, Bewertung und Benchmarks

Laut README und docs/how-it-works.md arbeitet llmfit in mehreren Schritten.

  • Hardware-Erkennung — liest CPU-Kerne und Arbeitsspeicher aus und prüft dann GPUs: NVIDIA über nvidia-smi, AMD über rocm-smi, Intel Arc über sysfs/lspci, Apple Silicon über system_profiler (Unified Memory zählt als VRAM) und Ascend über npu-smi
  • Modelldatenbank — Hunderte Modelle aus der Hugging-Face-API sind beim Kompilieren in die Binärdatei eingebettet; Katalog-Updates erhalten Nutzer also durch ein Update von llmfit selbst
  • Dynamische Quantisierung — statt ein festes Format anzunehmen, geht es von Q8_0 bis Q2_K durch und wählt die höchste Qualität, die in den Speicher passt; passt nichts, versucht es mit halbem Kontext erneut
  • Bewertung und Tempo — jedes Modell erhält Werte von 0 bis 100 für Qualität, Geschwindigkeit, Passung und Kontext, gewichtet nach Anwendungsfall; die Geschwindigkeit stammt aus einem Speicherbandbreiten-Modell, und jeder Wert trägt ein Vertrauenslabel von „estimated“ bis „measured_local“
  • Oberflächen — standardmäßig eine interaktive Terminal-Oberfläche, dazu Befehle wie fit, recommend, info, bench, doctor, storage und serve; serve startet ein Web-Dashboard und eine REST-API (/api/v1/system, /api/v1/models)
  • Provider und Benchmarks — erkennt installierte Modelle und startet Downloads über Ollama, llama.cpp, MLX, Docker Model Runner und LM Studio, misst mit bench echte Tokens pro Sekunde und Zeit bis zum ersten Token und kann Ergebnisse optional mit dem Projekt teilen

llmfit bekommen

llmfit wird über ein Terminal installiert; es gibt keinen .dmg- oder .exe-Installer. Unter Windows, macOS und Linux genügt ein Befehl.

Plattform
Befehl oder Link
Windows (winget)winget install --exact --id AlexsJones.llmfit
Windows (Scoop)scoop install llmfit
macOS / Linux (Homebrew)brew install AlexsJones/llmfit/llmfit
macOS / Linux (Skript)llmfit.axjns.dev
Python (uv)uv tool install -U llmfit
Dockerdocker run -it --rm ghcr.io/alexsjones/llmfit --tui
Fertige BinärdateienReleases
Quellcode (MIT)GitHub

Aktuelle Version: v1.1.20, veröffentlicht am 2026-11-03 auf der Releases-Seite; der letzte Push ins Repository erfolgte am 2026-11-18, geprüft am 2026-11-19. Die Releases-Seite bietet nur .tar.gz- und .zip-Archive, daher ist ein Terminal nötig. Eine eigene Produktwebsite gibt es nicht: Das GitHub-Repository ist die Hauptseite, und llmfit.axjns.dev hostet lediglich das Installationsskript. Windows-Release-Binärdateien werden laut README ab v1.1.19 über SignPath signiert. Wie bei jedem curl-to-shell-Befehl gilt: Lesen Sie das Skript zuerst oder nutzen Sie einen Paketmanager.

Datenschutz und Datenverarbeitung

Laut README, geprüft am 2026-11-19, überträgt llmfit „keine Informationen an andere vernetzte Systeme, es sei denn, dies wird ausdrücklich von der Nutzerin bzw. dem Nutzer oder der installierenden oder betreibenden Person verlangt“ (sinngemäß aus dem Englischen).

  • Das README sagt, dass llmfit externe Dienste nur für Funktionen kontaktiert, die Sie aufrufen: Modell-Downloads, Abfragen bei Laufzeit-Providern und die Community-Bestenliste
  • Benchmark-Läufe werden zuerst lokal gespeichert; das Teilen ist ein separater, optionaler Schritt, der Ergebnisse laut README als Pull Request an das Projekt sendet
  • llmfit serve startet eine HTTP-API und ein Web-Dashboard; das README-Beispiel bindet es an 0.0.0.0, wodurch es von anderen Rechnern im Netzwerk erreichbar ist — wählen Sie den Host daher bewusst
  • Diese Review hat kein Unternehmen, keine Datenschutzerklärungs-Seite, keine Rechtswahlklausel und kein Impressum gefunden; die oben genannte README-Passage ist die einzige Datenschutzaussage

llmfit-Lizenz und Preis

llmfit ist kostenlos und quelloffen, laut GitHub-Repository, geprüft am 2026-11-19.

Punkt
Detail
LizenzMIT
PreisKostenlos; kein Bezahlmodell gefunden
Konto / API-SchlüsselNicht erwähnt

README und Doku erwähnen weder einen Bezahlplan noch ein Konto oder einen API-Schlüssel. Laut README stammen die mit jedem Release ausgelieferten Community-Benchmark-Daten aus eingereichten Pull Requests.

Für wen ist llmfit geeignet?

llmfit passt am besten, wenn die Frage „Was kann mein Rechner ausführen?“ lautet und nicht „Führe das für mich aus“.

llmfit nutzen, wenn

  • Sie vor jedem Download eine nach Rang sortierte Shortlist offener LLMs und Quantisierungen für Ihre CPU, Ihren RAM und Ihre GPU wünschen
  • Sie nutzen bereits eine lokale Laufzeitumgebung und möchten eine Zweitmeinung zur Passung
  • Sie JSON-Ausgabe oder eine HTTP-API brauchen, um Modellempfehlungen in Skripte oder Deployment-Pipelines einzuspeisen
  • Sie ein Multi-GPU- oder Mehr-Rechner-Setup planen und Aufteilungen vor dem Start prüfen möchten (der Cluster-Modus ist eine Vorschau)

Abwarten oder anderswo suchen, wenn

  • Sie ein Tool wollen, das Modelle tatsächlich ausführt und mit ihnen chattet: llmfit empfiehlt nur und übergibt an eine Laufzeitumgebung
  • Sie exakte Geschwindigkeitswerte ohne Benchmark brauchen: Die Werte sind Schätzungen, bis Sie bench ausführen
  • Sie Windows mit einer AMD- oder Intel-GPU nutzen: Die Plattform-Doku beschreibt dort GPU-Erkennung nur über nvidia-smi, nutzen Sie also die manuelle Speicherangabe
  • Sie eine fertige Desktop-App wollen: Das README dokumentiert Terminal-Oberfläche, CLI und Web-Dashboard, und die Releases-Seite liefert nur Archive

llmfit im Vergleich zu Alternativen

llmfit steht neben den Laufzeitumgebungen, die es unterstützt, und ersetzt sie nicht. Den vollständigen Katalog finden Sie im Local AI Directory.

  • Ollama — führt Modelle von der Kommandozeile aus und stellt sie bereit; llmfit kann auflisten, welche Modelle passen, und den Download über Ollama starten. Siehe die Ollama-Review.
  • LM Studio — eine Desktop-App, die Modelle lädt und mit Chat-Oberfläche ausführt; llmfit unterstützt sie als Provider, bietet aber selbst keinen Chat. Siehe die LM-Studio-Review.
  • Docker Model Runner — die in Docker Desktop eingebaute Modellbereitstellung; llmfit führt sie als unterstützten Laufzeit-Provider auf. Siehe die Docker-Model-Runner-Review.
  • llm-checker — im llmfit-README als Alternative genannt: ein Node.js-CLI mit Ollama-Anbindung, das Modelle benchmarkt, indem es sie tatsächlich ausführt, während llmfit aus Spezifikationen schätzt; laut README behandelt llm-checker alle Modelle als dicht statt als Mixture-of-Experts.

Im Verzeichnis vergleichen

Häufig gestellte Fragen

Führt llmfit Modelle selbst aus oder lädt sie herunter?

Nein. Es empfiehlt Modelle und kann über einen unterstützten Provider einen Download starten; der Provider führt das Modell aus.

Wie genau sind die Geschwindigkeitswerte von llmfit?

Es sind Schätzungen aus einer Speicherbandbreiten-Formel, sofern nicht anders gekennzeichnet. bench misst echte Tokens pro Sekunde, und gemessene Werte ersetzen laut Doku die Schätzungen in der Tabelle.

Welche GPUs erkennt llmfit?

Laut Plattform-Doku: NVIDIA, AMD, Intel Arc, Apple Silicon und Ascend unter Linux, Apple Silicon unter macOS und NVIDIA über nvidia-smi unter Windows; bei fehlgeschlagener Erkennung gibt es manuelle Überschreibungen.

Sendet llmfit meine Hardware-Daten irgendwohin?

Laut README kontaktiert es externe Dienste nur, wenn Sie eine Funktion nutzen, die sie braucht, etwa Downloads, Provider-Abfragen oder die Community-Bestenliste.

Gibt es eine grafische App für llmfit?

Nicht als fertiger Download: Das README dokumentiert Terminal-Oberfläche, CLI und Web-Dashboard. Das README nennt eine separate Windows-GUI eines Dritten namens llmfit-gui, die diese Review nicht geprüft hat.

Quellen

← Zurück zu Lokale LLMs Pro

MCP