Moyen le moins cher et pratique de faire tourner un modèle 70B localement en 2026

Le moins cher et pratique : 2× RTX 3090 d'occasion

Deux cartes RTX 3090 d'occasion (24 Go de VRAM chacune) totalisent environ 48 Go de VRAM utilisable avec le tensor-parallel de llama.cpp — suffisant pour décharger entièrement un modèle 70B Q4_K_M sans repli CPU. Il vous faut une carte mère avec deux slots PCIe x16 et une alimentation de 1000 W+.

Le prix des RTX 3090 d'occasion varie énormément selon l'état, le refroidissement et le vendeur — vérifiez les annonces actuelles plutôt que de vous fier à un chiffre fixe. Privilégiez un vendeur avec des photos claires de la carte et, idéalement, une indication d'usage (minage/gaming).

Achetez-la si : vous aimez monter des PC et voulez la meilleure vitesse d'inférence par euro. Évitez-la si : vous voulez une machine simple, silencieuse, en un seul boîtier — voir l'option Mac ci-dessous.

Comparatif matériel 70B

Toutes les options ci-dessous accueillent un modèle 70B Q4_K_M (~42 Go) avec une qualité utilisable. Vérifiez les prix actuels de chaque option avant de décider — les prix des GPU d'occasion et de la RAM évoluent souvent.

Le plus simple : Mac Apple Silicon 64 Go+

Si vous ne voulez pas monter un PC dual-GPU, Apple Silicon est bien plus simple : le modèle réside directement en mémoire unifiée, donc rien à répartir entre RAM système et VRAM, et aucune configuration de pilotes multi-GPU. 64 Go de mémoire unifiée est la cible pour faire tourner un 70B Q4 confortablement sans décharger de couches sur disque.

La mise à jour matérielle d'Apple du 25 août 2026 a aussi rafraîchi le Mac mini, en plus du Mac Studio. Le Mac mini de base avec puce M6 démarre à 899 $, mais plafonne à 32 Go de mémoire unifiée — insuffisant pour un modèle 70B en Q4, à éviter pour cet usage. Le Mac mini avec puce M5 Pro démarre à 1 699 $ avec jusqu'à 64 Go de mémoire unifiée, ce qui atteint le seuil nécessaire — la machine Apple Silicon neuve la moins chère capable de faire tourner un 70B. Les deux sortent le 22 septembre 2026 ; vérifiez le prix actuel avant d'acheter, les tarifs du matériel neuf pouvant évoluer.

Apple a mis à jour la gamme Mac Studio vers M5 Max/M5 Ultra dans la même annonce d'août 2026, à partir de 2 499 $, configurable jusqu'à 128 Go de mémoire unifiée — vérifiez le prix actuel d'une configuration 64 Go plutôt que de vous fier à un ancien chiffre. Un MacBook Pro avec 64 Go+ de mémoire unifiée est l'équivalent portable, avec un supplément de prix par rapport au bureau.

Si vous partez de zéro — sans PC existant auquel ajouter des GPU —, le Mac mini M5 Pro à 1 699 $ revient souvent moins cher qu'un montage complet dual-RTX-3090 une fois la carte mère, l'alimentation et le boîtier comptés, pas seulement les deux GPU. Si vous possédez déjà un PC capable, ajouter deux RTX 3090 d'occasion reste probablement la solution la moins chère et la plus rapide.

Achetez-le si : vous privilégiez la simplicité, une faible consommation et un fonctionnement silencieux plutôt que la vitesse brute. Évitez-le si : vous voulez le maximum de tokens/seconde par euro — le montage dual-3090 gagne sur ce critère.

Le moins cher dans l'absolu : CPU + 64–128 Go RAM

Techniquement, vous n'avez pas besoin de GPU du tout — un modèle 70B Q4_K_M peut tourner entièrement en RAM système. Attendez-vous à environ 1–3 tokens par seconde, utilisable pour des tâches par lots ou des tests, mais frustrant pour un chat interactif.

N'achetez pas une machine CPU-only de 128 Go spécifiquement pour du chat 70B interactif, sauf si le coût brut compte vraiment plus pour vous que la vitesse — les options dual-3090 ou Mac ci-dessus coûtent plus cher mais sont bien plus utilisables au quotidien.

Une alternative : louer plutôt qu'acheter

Si vous n'avez besoin d'un modèle 70B qu'occasionnellement, n'achetez pas de matériel du tout. La location de GPU cloud est souvent bien moins chère pour un usage occasionnel qu'un achat matériel de 1 500 à 3 000 $ — le A40 48 Go en Community Cloud de RunPod (le plus petit GPU accueillant un 70B Q4 en entier) tourne autour de 0,44 $/heure au moment de cette vérification, et des API d'inférence hébergées pour Llama 3.3 70B existent avec une tarification au token, sans aucun matériel.

Il vaut mieux le dire clairement plutôt que de l'occulter, car une page qui ne recommande que l'achat donne l'impression de vouloir vendre du matériel à tout le monde — pour un usage occasionnel ou irrégulier, la location est la réponse honnête.

Quantisation pour un 70B

Pour un modèle 70B, Q4_K_M est le compromis standard entre taille et qualité. Les pourcentages de qualité ci-dessous sont approximatifs — la perte de qualité réelle dépend du modèle précis et de la méthode d'évaluation, pas d'une constante universelle.

N'achetez pas un seul GPU 24 Go en espérant la pleine vitesse 70B

• ▸Une seule carte 24 Go (RTX 3090 ou 4090) ne peut pas contenir un modèle 70B Q4 complet — elle peut en faire tourner un avec offload CPU, mais la vitesse chute à environ 8–12 tok/s.
• ▸GPU 24 Go seul → offload partiel, plus lent
• ▸48 Go de VRAM combinée (2× 24 Go) → offload 70B Q4 complet
• ▸64 Go+ de mémoire unifiée (Mac) → confortable, aucun offload nécessaire
• ▸Mac mini M6 de base (32 Go max) → ne peut pas non plus faire tourner un 70B complet, même catégorie qu'un seul GPU 24 Go

Guides associés

• ▸Quelle VRAM pour un modèle 70B ? — how much VRAM for a 70B model
• ▸Aide-mémoire VRAM DeepSeek R1 Distill — DeepSeek R1 distill VRAM cheatsheet
• ▸Meilleur DeepSeek Distill pour votre GPU — best DeepSeek distill for your GPU
• ▸Coût GPU cloud par heure 2026 — cloud GPU cost per hour