Aller au contenu principal
PromptQuorumConçu pour les humains. Structuré pour l'IA.

Meilleur LLM local pour 6 Go de VRAM ?

Par · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source

Points clés

  • ✓Qwen3.5 4B Q4_K_M (3,3 Go) convient le mieux à 6 Go de VRAM : il tient entièrement sur le GPU et laisse de la place au contexte
  • ✓Qwen3 8B Q4_K_M (5,2 Go) est plus capable mais laisse moins de 1 Go pour le contexte : gardez des prompts courts
  • ✓Ne tiennent pas dans 6 Go : Qwen3.5 9B (6,6 Go), Ministral 3 8B (6,0 Go) et Gemma 4 E4B (dès 6,1 Go) dépassent la limite avant tout contexte
Meilleur LLM local pour 6 Go de VRAM ?

Réponse rapide

Pour 6 Go de VRAM, Qwen3.5 4B Q4_K_M convient le mieux : un téléchargement de 3,3 Go qui laisse environ 2,7 Go pour le contexte. Qwen3 8B Q4_K_M (5,2 Go) est plus capable mais juste, et Phi-4-mini (2,5 Go) est l'option la plus légère.

  • ▸Qwen3.5 4B Q4_K_M : le plus adapté à 6 Go (3,3 Go, texte et image en entrée)
  • ▸Qwen3 8B Q4_K_M : plus capable mais juste (5,2 Go, contexte court uniquement)
  • ▸Phi-4-mini Q4_K_M : option la plus légère (2,5 Go, le plus de marge pour le contexte)
Quantization & VRAM

Top 3 des modèles pour 6 Go de VRAM

Avec 6 Go de VRAM, choisissez un modèle d'environ 4 Go ou moins, pour que le cache de contexte et votre bureau tiennent encore sur la carte. Les tailles ci-dessous sont les tailles de téléchargement de la bibliothèque Ollama ; la fenêtre de contexte demande de la mémoire en plus, et Windows réserve une partie de la VRAM pour l'affichage.

Qwen3.5 4B est une sortie de 2026 avec entrée texte et image, appel d'outils et un mode réflexion activé par défaut (il ajoute des tokens avant la réponse). PromptQuorum n'a pas mesuré ces modèles sur des cartes de 6 Go ; la vitesse dépend de votre GPU — les fichiers plus petits génèrent en général plus vite.

ModèleTailleTag OllamaIdéal pour
Qwen3.5 4B Q4_K_M3,3 Goqwen3.5:4bChat, code, images
Qwen3 8B Q4_K_M5,2 Goqwen3:8bQualité max., contexte court
Phi-4-mini Q4_K_M2,5 Gophi4-miniLéger, contexte long

Quels GPU ont 6 Go et ce qui tient

Les cartes courantes à 6 Go sont la GTX 1060 6 Go, la GTX 1660 Super, la RTX 2060 (version 6 Go), la RTX 3050 6 Go, la RTX 3060 Laptop et la RTX 4050 Laptop. Ollama fonctionne sur toutes via CUDA ; les cartes plus anciennes comme la GTX 1060 marchent mais génèrent plus lentement faute de cœurs Tensor.

Si un modèle ne tient pas, Ollama déplace certaines couches vers la RAM système et le CPU. Le modèle tourne encore, mais la génération ralentit fortement : Qwen3 8B sur une carte de 6 Go est donc un compromis, pas une mise à niveau gratuite. Lancez ollama ps pour voir la répartition GPU/CPU.

Apple Silicon est un autre cas : un Mac partage la mémoire unifiée entre CPU et GPU, et macOS laisse par défaut le GPU en utiliser environ les deux tiers sur une machine de 16 Go , mais macOS lui-même a besoin d'au moins 8 Go : un MacBook de 16 Go laisse donc environ 8 Go à un modèle, un peu plus qu'un GPU de 6 Go. Voir le meilleur LLM local pour un portable avec 16 Go de RAM.

Passer de 6 à 8 Go permet d'exécuter Qwen3 8B Q4_K_M avec de la marge pour le contexte. Pour les options 12 Go et les modèles 14B, voir les meilleurs modèles Ollama pour RTX 3060 12 Go. Pour la référence complète sur la VRAM, voir la VRAM nécessaire à un LLM local.

Meilleur modèle de code pour 6 Go de VRAM

Qwen3.5 4B Q4_K_M est le point de départ pour coder avec 6 Go de VRAM ; Qwen2.5-Coder 7B Q4_K_M (4,7 Go) est l'option spécialisée pour la complétion de code. La fiche du modèle Qwen3.5 4B indique 55,8 sur LiveCodeBench v6 (chiffre de l'éditeur, mode réflexion). Qwen2.5-Coder est une famille de 2024 avec une fenêtre de 32K ; le fichier 7B laisse donc peu de place aux longs prompts.

LM Studio charge les mêmes fichiers GGUF, et Aider ou un plugin d'éditeur peut utiliser un modèle Ollama via son API locale. Augmentez la fenêtre de contexte au-delà de la valeur par défaut — par exemple /set parameter num_ctx 8192 dans l'invite Ollama — car les prompts de code sont longs et un contexte tronqué donne des réponses fausses.

ModèleTailleUsage
Qwen3.5 4B Q4_K_M3,3 GoCode + chat, appel d'outils
Qwen2.5-Coder 7B Q4_K_M4,7 GoComplétion, contexte court
Qwen2.5-Coder 3B Q4_K_M1,9 GoAutocomplétion rapide

Guides associés

Réponses rapides sur les modèles pour 6 Go de VRAM

6 Go de VRAM suffisent-ils pour les LLM locaux ?▾
Oui, pour les modèles de 3–4B et les modèles 7–8B quantifiés avec un contexte court. Qwen3.5 4B Q4_K_M gère le chat, les résumés et l'aide au code entièrement sur le GPU. Attendez-vous à de moins bons résultats que les modèles cloud sur les tâches longues ou difficiles.
Qwen3 8B tient-il dans 6 Go de VRAM ?▾
De justesse. Le téléchargement Ollama fait 5,2 Go, auquel s'ajoutent le cache de contexte et la VRAM utilisée par l'affichage : un contexte plus long repousse des couches vers le CPU. Limitez-le avec /set parameter num_ctx 2048 ou utilisez Qwen3.5 4B (3,3 Go). Lancez ollama ps pour vérifier que le modèle est à 100 % sur le GPU.
Ministral 8B, Gemma 4 ou Qwen3.5 9B tiennent-ils dans 6 Go ?▾
Pas dans leur quantification par défaut. Dans Ollama, Ministral 3 8B fait 6,0 Go, Qwen3.5 9B Q4_K_M 6,6 Go et Gemma 4 E4B 6,1–6,6 Go : tous dépassent 6 Go avant tout contexte. Le plus petit Gemma 4 E2B QAT (gemma4:e2b-it-qat, 4,3 Go) tient.
Quel est le meilleur modèle de code pour 6 Go de VRAM ?▾
Commencez par Qwen3.5 4B Q4_K_M. Pour la complétion de code dans un éditeur, Qwen2.5-Coder 7B Q4_K_M (4,7 Go) ou Qwen2.5-Coder 3B (1,9 Go) sont les options spécialisées. LM Studio charge les mêmes fichiers GGUF, et Aider peut utiliser un modèle Ollama avec le préfixe ollama_chat/.
Quels GPU ont 6 Go de VRAM ?▾
La GTX 1060 6 Go, la GTX 1660 Super, la RTX 2060 (version 6 Go), la RTX 3050 6 Go, la RTX 3060 Laptop et la RTX 4050 Laptop. La RTX 4050 n'existe qu'en GPU pour portable.
Et si j'ai 6 Go de RAM système, pas de VRAM ?▾
La RAM système exécute les modèles sur le CPU, ce qui est plus lent, et le système d'exploitation en occupe déjà une partie. Utilisez un modèle de 1–2B comme Qwen3.5 2B Q4_K_M (qwen3.5:2b, 1,9 Go) et gardez un contexte court.
Puis-je exécuter des modèles 13B ou 14B avec 6 Go de VRAM ?▾
Non. Phi-4 (14B) en Q4_K_M demande environ 9 Go ; 12 Go est donc le minimum pratique pour les modèles 14B. Voir les meilleurs modèles Ollama pour RTX 3060 12 Go.
Puis-je aussi utiliser 6 Go de VRAM pour générer des images ?▾
Stable Diffusion 1.5 tourne avec 6 Go. SDXL demande des modes d'économie de mémoire et reste lent ; 8 Go sont plus confortables. Ne gardez pas un LLM et un modèle d'image chargés en même temps : déchargez-en un d'abord.
MCP