Aller au contenu principal
PromptQuorumConçu pour les humains. Structuré pour l'IA.
Accueil/LLM locaux avancés
Overview & Reference

Avis llmfit : quels LLM locaux conviennent à votre matériel

·7 min de lecturePar · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source

llmfit est un outil de terminal gratuit et open source (MIT), maintenu par l'utilisateur GitHub AlexsJones, qui détecte votre CPU, votre RAM, votre GPU et votre VRAM et classe des centaines de LLM ouverts selon leur adéquation à votre machine. Il note chaque modèle sur l'adéquation, la vitesse estimée, la qualité et la longueur de contexte, peut confier les téléchargements à Ollama, llama.cpp, MLX, LM Studio ou Docker Model Runner, et peut mesurer de vrais tokens par seconde. Il n'exécute lui-même aucun modèle. La version actuelle est la v1.1.20, publiée le 2026-11-03 ; le dernier commit du dépôt date du 2026-11-18.

Points clés

  • Outil en ligne de commande avec interface de terminal, sortie CLI classique, tableau de bord web et API REST ; pas d'installeur de bureau
  • Note les modèles sur l'adéquation, la vitesse estimée, la qualité et le contexte, et choisit la meilleure quantification qui tient
  • Confie téléchargements et benchmarks aux runtimes que vous utilisez déjà
  • Les vitesses sont des estimations jusqu'à un benchmark ; les mesures enregistrées les remplacent dans le tableau
  • Licence MIT, gratuit, installable en une commande (winget, Scoop, Homebrew, uv, Docker)

📍 En une phrase

llmfit est un outil de terminal gratuit et open source (MIT) qui lit votre CPU, votre RAM et votre GPU et classe des centaines de LLM ouverts selon l'adéquation mémoire, la vitesse estimée, la qualité et la longueur de contexte, sans exécuter aucun modèle.

💬 En termes simples

Avant de passer une heure à télécharger un modèle qui ne se chargera pas, vous lancez llmfit une fois : il vérifie ce que contient votre machine, classe les modèles de « tourne très bien » à « trop juste » et peut, en option, mesurer la vitesse réelle via un runtime que vous utilisez déjà.

llmfit est un outil de terminal gratuit et open source (MIT), maintenu par l'utilisateur GitHub AlexsJones, qui détecte votre CPU, votre RAM, votre GPU et votre VRAM et classe des centaines de LLM ouverts selon leur adéquation à votre machine. Il note chaque modèle sur l'adéquation, la vitesse estimée, la qualité et la longueur de contexte, peut confier les téléchargements à Ollama, llama.cpp, MLX, LM Studio ou Docker Model Runner, et peut mesurer de vrais tokens par seconde. Il n'exécute lui-même aucun modèle. La version actuelle est la v1.1.20, publiée le 2026-11-03 ; le dernier commit du dépôt date du 2026-11-18.

Avis llmfit : quels LLM locaux conviennent à votre matériel

Qu'est-ce que llmfit ?

Le README de llmfit décrit un outil qui « inspecte votre CPU, votre RAM système, votre ou vos GPU, votre VRAM et la configuration de vos accélérateurs pour recommander des modèles dans les quantifications courantes » (traduction libre de l'anglais).

  • Maintenu par l'utilisateur GitHub AlexsJones ; le dépôt a été créé en février 2026 et le projet n'a ni entreprise ni site web dédié
  • Maturité : environ 39 000+ étoiles GitHub au moment de cette vérification ; dernière version v1.1.20 (2026-11-03) ; dernier commit le 2026-11-18, surtout des mises à jour hebdomadaires des données de benchmark et des benchmarks communautaires soumis, plus un correctif le 2026-11-17
  • Ce que ce n'est pas : llmfit n'est pas un moteur d'inférence. Il ne charge jamais de modèle ; il recommande, puis passe la main à un runtime comme Ollama
  • Le mode cluster pour les configurations Ray est signalé « Preview » dans le README et, jusqu'ici, « testé uniquement contre un faux tableau de bord Ray »
  • PromptQuorum n'a pas exécuté llmfit ; cet avis repose sur le README, le dossier docs, l'API GitHub et la page des versions

Fonctionnement de llmfit : détection, notation et benchmarks

Selon le README et docs/how-it-works.md, llmfit procède en plusieurs étapes.

  • Détection du matériel — lit les cœurs CPU et la RAM, puis sonde les GPU : NVIDIA via nvidia-smi, AMD via rocm-smi, Intel Arc via sysfs/lspci, Apple Silicon via system_profiler (la mémoire unifiée compte comme VRAM) et Ascend via npu-smi
  • Base de modèles — des centaines de modèles issus de l'API Hugging Face sont intégrés au binaire à la compilation ; les mises à jour du catalogue arrivent donc en mettant à jour llmfit lui-même
  • Quantification dynamique — au lieu de supposer un format unique, il parcourt de Q8_0 à Q2_K et retient la meilleure qualité qui tient en mémoire, puis réessaie avec la moitié du contexte si rien ne tient
  • Notation et vitesse — chaque modèle reçoit des scores de 0 à 100 pour la qualité, la vitesse, l'adéquation et le contexte, pondérés selon le cas d'usage ; la vitesse vient d'un modèle de bande passante mémoire, et chaque valeur porte un label de confiance de « estimated » à « measured_local »
  • Interfaces — une interface de terminal interactive par défaut, plus des commandes comme fit, recommend, info, bench, doctor, storage et serve ; serve démarre un tableau de bord web et une API REST (/api/v1/system, /api/v1/models)
  • Fournisseurs et benchmarks — détecte les modèles installés et lance des téléchargements via Ollama, llama.cpp, MLX, Docker Model Runner et LM Studio, mesure avec bench les vrais tokens par seconde et le délai avant le premier token, et peut partager les résultats avec le projet en option

Obtenir llmfit

llmfit s'installe depuis un terminal ; il n'existe pas d'installeur .dmg ou .exe. Une seule commande suffit sous Windows, macOS et Linux.

Plateforme
Commande ou lien
Windows (winget)winget install --exact --id AlexsJones.llmfit
Windows (Scoop)scoop install llmfit
macOS / Linux (Homebrew)brew install AlexsJones/llmfit/llmfit
macOS / Linux (script)llmfit.axjns.dev
Python (uv)uv tool install -U llmfit
Dockerdocker run -it --rm ghcr.io/alexsjones/llmfit --tui
Binaires précompilésReleases
Code source (MIT)GitHub

Version actuelle : v1.1.20, publiée le 2026-11-03 sur la page des versions ; le dernier push dans le dépôt date du 2026-11-18, vérifié le 2026-11-19. La page des versions ne propose que des archives .tar.gz et .zip, un terminal est donc nécessaire. Il n'existe pas de site web de produit dédié : le dépôt GitHub est la page principale, et llmfit.axjns.dev héberge seulement le script d'installation. Les binaires Windows sont signés via SignPath à partir de la v1.1.19, selon le README. Comme pour toute commande curl vers shell, lisez d'abord le script ou utilisez un gestionnaire de paquets.

Confidentialité et traitement des données

Selon le README, vérifié le 2026-11-19, llmfit « ne transférera aucune information vers d'autres systèmes en réseau, sauf demande expresse de l'utilisateur ou de la personne qui l'installe ou l'exploite » (traduction libre de l'anglais).

  • Le README indique que llmfit ne contacte des services externes que pour les fonctions que vous appelez : téléchargements de modèles, requêtes aux fournisseurs de runtime et classement communautaire
  • Les exécutions de benchmark sont d'abord enregistrées localement ; le partage est une étape distincte et facultative qui envoie les résultats au projet sous forme de pull request, selon le README
  • llmfit serve démarre une API HTTP et un tableau de bord web ; l'exemple du README le lie à 0.0.0.0, ce qui le rend accessible depuis d'autres machines du réseau — choisissez donc l'hôte avec soin
  • Cet avis n'a trouvé ni entreprise, ni page de politique de confidentialité, ni clause de droit applicable, ni mentions légales ; le passage du README ci-dessus est la seule déclaration sur la confidentialité

Licence et prix de llmfit

llmfit est gratuit et open source, selon le dépôt GitHub, vérifié le 2026-11-19.

Élément
Détail
LicenceMIT
PrixGratuit ; aucune offre payante trouvée
Compte / clé d'APINon mentionné

Le README et la documentation ne mentionnent ni formule payante, ni compte, ni clé d'API. Selon le README, les données de benchmark communautaires livrées avec chaque version proviennent de pull requests soumises.

À qui s'adresse llmfit ?

llmfit convient surtout quand la question est « que peut exécuter ma machine ? » plutôt que « exécute ceci pour moi ».

Utilisez llmfit si

  • Vous voulez une présélection classée de LLM ouverts et de quantifications pour votre CPU, votre RAM et votre GPU avant tout téléchargement
  • Vous utilisez déjà un runtime local et voulez un second avis sur ce qui tient
  • Vous voulez une sortie JSON ou une API HTTP pour alimenter des scripts ou des pipelines de déploiement en recommandations de modèles
  • Vous prévoyez une configuration multi-GPU ou multi-machines et voulez vérifier les répartitions avant le lancement (le mode cluster est un aperçu)

Attendez, ou cherchez ailleurs, si

  • Vous voulez un outil qui exécute réellement les modèles et discute avec eux : llmfit se contente de recommander et passe la main à un runtime
  • Vous avez besoin de vitesses exactes sans benchmark : les valeurs sont des estimations tant que vous n'avez pas lancé bench
  • Vous utilisez Windows avec un GPU AMD ou Intel : la documentation décrit la détection des GPU uniquement via nvidia-smi, utilisez donc le réglage manuel de la mémoire
  • Vous voulez une application de bureau packagée : le README documente une interface de terminal, une CLI et un tableau de bord web, et la page des versions ne fournit que des archives

llmfit face aux alternatives

llmfit se place à côté des runtimes qu'il prend en charge, sans les remplacer. Voir le Local AI Directory pour le catalogue complet.

  • Ollama — exécute et sert des modèles en ligne de commande ; llmfit peut lister ceux qui tiennent et lancer le téléchargement via Ollama. Voir l'avis sur Ollama.
  • LM Studio — une application de bureau qui télécharge et exécute des modèles avec une interface de chat ; llmfit la prend en charge comme fournisseur mais n'offre pas de chat. Voir l'avis sur LM Studio.
  • Docker Model Runner — le service de modèles intégré à Docker Desktop ; llmfit le liste comme fournisseur de runtime pris en charge. Voir l'avis sur Docker Model Runner.
  • llm-checker — cité dans le README de llmfit comme alternative : une CLI Node.js avec intégration Ollama qui évalue les modèles en les exécutant réellement, là où llmfit estime à partir des spécifications ; le README ajoute que llm-checker traite tous les modèles comme denses plutôt que comme des mixtures d'experts.

Comparer dans l'annuaire

Questions fréquentes

llmfit exécute-t-il ou télécharge-t-il des modèles lui-même ?

Non. Il recommande des modèles et, via un fournisseur pris en charge, peut lancer un téléchargement ; c'est le fournisseur qui exécute le modèle.

Quelle est la précision des vitesses de llmfit ?

Ce sont des estimations issues d'une formule de bande passante mémoire, sauf indication contraire. bench mesure de vrais tokens par seconde, et les valeurs mesurées remplacent les estimations dans le tableau, selon la documentation.

Quels GPU llmfit détecte-t-il ?

Selon la documentation des plateformes : NVIDIA, AMD, Intel Arc, Apple Silicon et Ascend sous Linux, Apple Silicon sous macOS et NVIDIA via nvidia-smi sous Windows ; des réglages manuels existent si la détection échoue.

llmfit envoie-t-il les détails de mon matériel quelque part ?

Selon le README, il ne contacte des services externes que lorsque vous utilisez une fonction qui en a besoin, comme les téléchargements, les requêtes aux fournisseurs ou le classement communautaire.

Existe-t-il une application graphique pour llmfit ?

Pas sous forme de téléchargement packagé : le README documente une interface de terminal, une CLI et un tableau de bord web. Le README cite une interface graphique Windows distincte, créée par un tiers, appelée llmfit-gui, que cet avis n'a pas examinée.

Sources

← Retour aux LLM locaux avancés

MCP