Materiel pour LLM local en 2026 : GPU, mini PC et Mac compares

Le materiel minimum pour faire tourner un LLM local en 2026 est un GPU de 8 Go de VRAM — ou un Mac Apple Silicon avec 16 Go de memoire unifiee — pour les modeles de classe 7B. Les besoins evoluent ensuite avec la taille du modele : 14B necessite 12 Go, 24B necessite 16 Go, 32B necessite 24 Go, et un modele 70B necessite ~40 Go en Q4_K_M. La VRAM du GPU est la limite stricte : elle decide quels modeles se chargent. Le CPU et la RAM systeme influent sur le temps de chargement et la vitesse de repli en CPU seul, mais pas sur le modele qui tient sur le GPU.

Utilisez ce tableau comme reponse directe a la question « quel materiel me faut-il » — reperez votre taille de modele ou votre palier de VRAM, puis passez aux choix de modeles par palier ci-dessous.

Le choix disponible pour les LLM locaux en juin 2026 est la serie NVIDIA RTX 50 (Blackwell) : 5060 Ti, 5070, 5070 Ti, 5080, 5090. La serie RTX 40 (4060, 4070 Ti, 4090) est arretee et se vend desormais rare et au-dessus de ses anciens prix sur le marche de l'occasion. Une penurie de GDDR7/memoire en 2026 a pousse meme les cartes de la serie 50 bien au-dessus du prix conseille, alors traitez chaque chiffre ci-dessous comme un prix de rue typique de juin 2026 et verifiez les annonces en direct avant d'acheter. Recommandations par cas d'usage :

Les besoins en VRAM dependent de trois facteurs : la taille du modele (parametres), la quantification (bits par poids) et le mode d'inference. Utilisez cette formule pour determiner si votre GPU dispose d'assez de memoire. Pour un calculateur interactif, voir le calculateur de VRAM pour LLM locaux.

Formule :

```text VRAM (Go) = (taille du modele x bits de quantification) / 8 ```

Valeurs de quantification : FP16 = 16 bits, Q8_0 = 8 bits, Q5_K_M = 5 bits, Q4_K_M = 4 bits. Le point ideal pratique est Q4_K_M -- il utilise des poids 4 bits avec quantification K, que les GPU NVIDIA accelerent plus efficacement que l'ancien format Q4_0.

La formule de VRAM (taille du modele x bits / 8) ne couvre que les poids du modele -- le cache KV ajoute une VRAM supplementaire importante que la plupart des guides ignorent.

Le cache KV stocke l'etat d'attention de chaque token de votre fenetre de contexte. Il croit lineairement avec la longueur du contexte et reste en VRAM pendant toute la session.

Formule de VRAM du cache KV : `cache KV ≈ couches x tetes x dim_tete x 2 x longueur_contexte x 2 octets`

En juin 2026, les GPU NVIDIA offrent le plus de tokens/sec pour l'inference LLM locale a tous les niveaux de prix. Les sections sous chaque palier donnent des recommandations de modeles precises. Pour une comparaison detaillee de benchmarks, voir le guide des meilleurs GPU pour LLM local.

Utilisez ceci comme reference rapide selon le palier de VRAM de votre GPU :

Tous les modeles listes ci-dessous sont a poids ouverts — telechargeables, ajustables et gratuits a executer en local. Si vous hesitez entre poids ouverts et API proprietaires, voir notre comparaison LLM open source vs proprietaires pour les compromis cout et performance a differents volumes de tokens.

Le materiel determine quels modeles vous pouvez executer ; l'ingenierie de prompt determine leur efficacite. Un prompt bien structure sur un modele 7B surpasse souvent un prompt paresseux sur un modele 70B. Voir le guide complet de l'ingenierie de prompt pour des techniques qui maximisent la qualite de sortie quel que soit le nombre de parametres.

Le meilleur LLM local pour un GPU de 16 Go de VRAM en 2026 est Mistral Small 3.1 24B en Q4_K_M : il utilise ~13 Go, tourne a 55 tok/sec et est le modele generaliste le plus performant qui tient avec de la marge de contexte. Les cartes de 16 Go (NVIDIA RTX 5080, RTX 5070 Ti, RTX 4080 d'occasion ou une RTX 4090 de portable) plafonnent aux modeles 14-24B — un modele 70B necessite ~40 Go et ne tient pas.

Pour le codage agentique, Devstral Small 24B Q4_K_M tient a ~16 Go ; pour le raisonnement, DeepSeek-R1 14B Q8_0 est le choix. Le Mistral Small 4 plus recent (mars 2026) est un modele unique qui integre raisonnement, vision et codage et est le successeur naturel comme defaut de la classe 16 Go. Le tableau ci-dessous montre ce qui tient et ce qui ne tient pas — les lignes « Ne tient PAS » sont l'erreur la plus courante des proprietaires de 16 Go.

Sur un GPU de 12 Go de VRAM (NVIDIA RTX 5070, RTX 4070 Ti ou RTX 3060 12 Go), vous pouvez faire tourner des modeles 7-8B en Q8 ou 14B en Q4_K_M. Note : les modeles MoE comme Llama 4 Scout NE tiennent PAS ici -- bien que Scout n'active que 17B parametres par token, les 109B experts au total doivent etre charges en memoire, necessitant ~55 Go en Q4.

Llama 3.1 8B en Q8_0 est le choix le plus fiable pour les configurations prudentes : 9 Go de VRAM, 80 tok/sec et qualite complete de suivi d'instructions. Qwen3 14B en Q4_K_M tient aussi a ~8,5 Go et offre un raisonnement nettement meilleur que le palier 8B.

Le besoin materiel pour faire tourner un modele 70B en local a une qualite Q4_K_M utilisable est de ~40 Go de VRAM — donc une seule RTX 4090 de 24 Go ne suffit pas. Vos vraies options pour le 70B en 2026 sont : 2x RTX 5090 (64 Go combines), une RTX 5090 (32 Go) avec un leger deport CPU, un GPU serveur de 48-80 Go (RTX 6000 Ada / A100), ou un Apple M5 Max / systeme a 128 Go de memoire unifiee. L'idee fausse courante est que « Q4 est petit » — a 70B parametres, meme Q4 necessite ~40 Go.

Sur une seule carte de 24 Go, la meilleure strategie est un modele 27-32B, qui offre une forte qualite et tient confortablement avec de la marge de contexte. Qwen3.6 27B en Q4_K_M est le meilleur modele de codage dense (77,2 % SWE-bench) ; DeepSeek-R1 32B est le meilleur choix raisonnement. Un GPU de 24 Go ne peut accueillir le 70B qu'en Q2_K, ou la qualite chute nettement. Voir comment faire tourner des modeles 70B sur 24 Go de VRAM pour les techniques de deport et multi-GPU.

Avec un GPU dedie, le CPU et la RAM sont des composants secondaires. Le GPU gere le calcul matriciel ; le CPU/RAM gerent la preparation du contexte. Pour une comparaison complete des vitesses d'inference GPU vs CPU vs Apple Silicon, voir le guide GPU vs CPU vs Apple Silicon.

CPU minimum : processeur 8 cœurs (Intel Core i7 14e generation, AMD Ryzen 7 7700X ou plus recent). Les CPU plus anciens ajoutent 20 %+ de latence.

RAM : 16 Go minimum (avec GPU). Sans GPU, 32 Go+ recommandes. La RAM ne limite pas directement la taille du modele lorsqu'un GPU est present.

Stockage : SSD de 500 Go pour les fichiers de modeles et l'OS. Le M.2 NVMe est prefere (chargement de modele plus rapide).

Sans GPU, une machine avec 16 Go de RAM systeme peut faire tourner des modeles 3B-7B a 8-20 tokens/sec via l'inference CPU. Le goulot d'etranglement est la bande passante memoire, pas la capacite de RAM -- les CPU ont une bande passante bien inferieure aux GPU, ce qui explique une inference 5-10x plus lente.

Sur 16 Go de RAM systeme, la regle pratique est : taille du fichier de modele + 4 Go de surcharge OS ≤ 16 Go. Un modele 7B en Q4_K_M (4,9 Go) tient, mais laisse peu de marge pour les contextes longs. Le tableau ci-dessous montre les options realistes en juin 2026.

Pour un guide complet de modeles optimises en vitesse couvrant les paliers CPU seul, 4 Go, 6 Go et 8 Go de VRAM avec de vrais benchmarks, voir **Les LLM locaux les plus rapides pour PC d'entree de gamme**.

Les fichiers de modeles sont volumineux : un modele 7B en quantification 4 bits pese 4-5 Go. Planifiez le stockage selon le nombre et la taille des modeles que vous souhaitez conserver en local.

Construire une machine LLM locale de zero signifie privilegier le GPU d'abord, puis le CPU et la RAM. Voici trois configurations realistes. Pour les configurations multi-GPU, voir le guide LLM local multi-GPU. Pour les installations domotiques, les mini PC compacts conviennent souvent mieux que les tours de bureau completes — voir le meilleur mini PC pour Home Assistant avec IA locale →.

Si un GPU a $250-400 depasse votre budget, ou si votre portable est trop ancien pour prendre en charge les moteurs d'inference modernes, les LLM locaux ne seront peut-etre pas rentables pour vous en 2026.

Calculez le cout reel :

• Local : $800-2,000 de materiel initial + electricite + maintenance sur 2-3 ans

• Cloud : $5-50/mois pour un usage developpeur typique (API Llama ou GPT-5.5 mini)

Pour les utilisateurs legers (< 100 000 tokens/mois), les API cloud coutent $5-10/mois et ne necessitent aucun materiel. Pour les utilisateurs intensifs (> 10M tokens/mois), le local est rentabilise en 6-12 mois.

Comparez tous les compromis cout et performance local vs cloud** pour trouver votre point d'equilibre. Beaucoup de developpeurs decouvrent que le cloud est moins cher pour leur usage reel.

Vous achetez deja en dessous des paliers de VRAM recommandes ? Voir Meilleure appli IA locale pour un PC d'entree de gamme pour savoir quelles combinaisons de modele et d'appli tournent vraiment sur 8 Go ou moins.

Avec les bons reglages, llama.cpp sur une RTX 4070 Ti atteint 85-95 tokens/sec sur Llama 3.1 8B Q4_K_M -- plus du double de la vitesse par defaut a la sortie de boite. Le drapeau le plus impactant est `--n-gpu-layers 99`, qui deporte toutes les couches du modele sur le GPU. Sans lui, les couches reviennent au CPU, creant un goulot d'etranglement severe.

Ces reglages s'appliquent directement a llama.cpp et a Ollama (qui utilise llama.cpp en interne). Ollama regle `--n-gpu-layers 99` automatiquement sur le materiel NVIDIA si les pilotes sont installes correctement.

Apple Silicon (serie M) fait tourner les LLM locaux efficacement grace a la memoire unifiee partagee entre CPU et GPU. Le M5 de base est sorti en octobre 2025 ; les M5 Pro et M5 Max ont suivi en mars 2026. Apple mesure jusqu'a 4x plus de rapidite dans le traitement de prompt LLM (temps jusqu'au premier token) sur M5 Pro/Max par rapport a la generation M4, bien que les gains de generation de tokens soient plus modestes.

Le M5 Max avec 128 Go de memoire unifiee (jusqu'a 614 Go/s) fait tourner les modeles 70B en Q4_K_M confortablement — environ 12-15 tok/sec — dans un portable ou un Mac Studio. Le M5 Pro (jusqu'a 64 Go unifies, 307 Go/s) gere les modeles 32B avec une marge genereuse pour le cache KV et le multitache. En juin 2026, le M5 Max est le meilleur Apple Silicon disponible ; un Mac Studio M5 Ultra est evoque mais pas encore sorti.

Sur un MacBook avec 8 Go de RAM, tenez-vous-en aux modeles 3-4B. Avec la memoire unifiee partagee entre l'OS et le modele, 8 Go accueille de facon realiste Phi-4 Mini 3.8B, Llama 3.2 3B ou Gemma 3 4B en Q4_K_M via Ollama ou llama.cpp (les deux utilisent le backend GPU Metal automatiquement). Un modele 7B est limite a 8 Go et fera du swap sous charge ; 16 Go est le minimum confortable pour les modeles 7-8B sur un Mac.

Pour un deploiement en production (fonctionnement 24h/24 et 7j/7, plusieurs utilisateurs), le materiel de classe serveur est recommande plutot que les GPU grand public. Le materiel grand public est optimise pour le jeu, pas pour l'inference soutenue.

Le NVIDIA DGX Spark ($4,699 en fevrier 2026, contre $3,999 a son lancement) est un ordinateur IA de bureau compact de 128 Go qui peut contenir entierement Llama 3.3 70B en Q8_0 en memoire unifiee. Les Apple Mac Studio / MacBook Pro a 128 Go et les systemes AMD Strix Halo 128 Go peuvent faire de meme, il n'est donc pas unique — mais il est livre avec la pile logicielle CUDA de NVIDIA.

Construit sur le superpuce GB10 Grace Blackwell, le DGX Spark est sorti en octobre 2025 avec 128 Go de memoire unifiee LPDDR5x. Note : sa bande passante memoire reelle est d'environ 273 Go/s, donc la generation de tokens en 70B dense est lente — des tests independants (LMSYS) ont mesure environ 3 tok/sec sur Llama 70B. Le chiffre de calcul FP4 affiche en titre ne se traduit pas par un decodage rapide en flux unique. Le DGX Spark convient mieux aux grands modeles mixture-of-experts (Llama 4 Scout/Maverick, Kimi K2) ou seule une fraction des parametres s'active par token.

UE (RGPD + reglement IA de l'UE) : faire tourner des LLM en local maintient toutes les donnees d'inference dans votre infrastructure, eliminant les inquietudes de transfert transfrontalier de donnees au titre de l'article 44 du RGPD. Les obligations du reglement IA de l'UE pour les systemes d'IA a haut risque autonomes (annexe III) devaient initialement s'appliquer a partir du 2 aout 2026, mais le « Digital Omnibus on AI » — convenu a titre provisoire en mai 2026 et en attente d'adoption formelle en juin 2026 — repousse cette date au 2 decembre 2027 (l'IA a haut risque integree dans des produits reglementes etant reportee au 2 aout 2028). Les obligations de transparence de l'article 50 du reglement IA s'appliquent toujours selon le calendrier initial. Le materiel local satisfait par defaut aux exigences de residence des donnees.

Japon (APPI) : la reforme APPI de 2022 du Japon a renforce les regles de notification de violation et de transfert transfrontalier mais n'impose pas d'exigence de minimisation des donnees specifique a l'IA (elle s'appuie sur les obligations generales de limitation de finalite). Plus pertinents pour l'IA sont le paquet de reforme APPI 2025 du Japon et sa premiere loi sur l'IA — la loi de promotion de l'IA (en vigueur depuis juin 2025), un cadre privilegiant l'innovation sans sanctions. Le materiel LLM sur site garde les donnees personnelles dans votre infrastructure pour le traitement de documents et l'automatisation du support client.

Chine : les mesures interimaires pour les services d'IA generative de la Cyberspace Administration of China (CAC) (en vigueur en aout 2023) exigent des fournisseurs ayant une influence sur l'opinion publique de realiser une evaluation de securite CAC et un depot d'algorithme. Depuis le 1er septembre 2025, la Chine impose aussi l'etiquetage des contenus generes par IA au titre des mesures d'etiquetage de la CAC et de la norme nationale GB 45438-2025. Faire tourner du materiel local avec des modeles a poids ouverts evite l'exposition de conformite basee sur API pour un usage interne en entreprise.