Meilleur LLM local pour 6 Go de VRAM ?
Par Hans Kuepper · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source
Points clés
- ✓Qwen3.5 4B Q4_K_M (3,3 Go) convient le mieux à 6 Go de VRAM : il tient entièrement sur le GPU et laisse de la place au contexte
- ✓Qwen3 8B Q4_K_M (5,2 Go) est plus capable mais laisse moins de 1 Go pour le contexte : gardez des prompts courts
- ✓Ne tiennent pas dans 6 Go : Qwen3.5 9B (6,6 Go), Ministral 3 8B (6,0 Go) et Gemma 4 E4B (dès 6,1 Go) dépassent la limite avant tout contexte

Réponse rapide
Pour 6 Go de VRAM, Qwen3.5 4B Q4_K_M convient le mieux : un téléchargement de 3,3 Go qui laisse environ 2,7 Go pour le contexte. Qwen3 8B Q4_K_M (5,2 Go) est plus capable mais juste, et Phi-4-mini (2,5 Go) est l'option la plus légère.
- ▸Qwen3.5 4B Q4_K_M : le plus adapté à 6 Go (3,3 Go, texte et image en entrée)
- ▸Qwen3 8B Q4_K_M : plus capable mais juste (5,2 Go, contexte court uniquement)
- ▸Phi-4-mini Q4_K_M : option la plus légère (2,5 Go, le plus de marge pour le contexte)
Top 3 des modèles pour 6 Go de VRAM
Avec 6 Go de VRAM, choisissez un modèle d'environ 4 Go ou moins, pour que le cache de contexte et votre bureau tiennent encore sur la carte. Les tailles ci-dessous sont les tailles de téléchargement de la bibliothèque Ollama ; la fenêtre de contexte demande de la mémoire en plus, et Windows réserve une partie de la VRAM pour l'affichage.
Qwen3.5 4B est une sortie de 2026 avec entrée texte et image, appel d'outils et un mode réflexion activé par défaut (il ajoute des tokens avant la réponse). PromptQuorum n'a pas mesuré ces modèles sur des cartes de 6 Go ; la vitesse dépend de votre GPU — les fichiers plus petits génèrent en général plus vite.
| Modèle | Taille | Tag Ollama | Idéal pour |
|---|---|---|---|
| Qwen3.5 4B Q4_K_M | 3,3 Go | qwen3.5:4b | Chat, code, images |
| Qwen3 8B Q4_K_M | 5,2 Go | qwen3:8b | Qualité max., contexte court |
| Phi-4-mini Q4_K_M | 2,5 Go | phi4-mini | Léger, contexte long |
Quels GPU ont 6 Go et ce qui tient
Les cartes courantes à 6 Go sont la GTX 1060 6 Go, la GTX 1660 Super, la RTX 2060 (version 6 Go), la RTX 3050 6 Go, la RTX 3060 Laptop et la RTX 4050 Laptop. Ollama fonctionne sur toutes via CUDA ; les cartes plus anciennes comme la GTX 1060 marchent mais génèrent plus lentement faute de cœurs Tensor.
Si un modèle ne tient pas, Ollama déplace certaines couches vers la RAM système et le CPU. Le modèle tourne encore, mais la génération ralentit fortement : Qwen3 8B sur une carte de 6 Go est donc un compromis, pas une mise à niveau gratuite. Lancez ollama ps pour voir la répartition GPU/CPU.
Apple Silicon est un autre cas : un Mac partage la mémoire unifiée entre CPU et GPU, et macOS laisse par défaut le GPU en utiliser environ les deux tiers sur une machine de 16 Go , mais macOS lui-même a besoin d'au moins 8 Go : un MacBook de 16 Go laisse donc environ 8 Go à un modèle, un peu plus qu'un GPU de 6 Go. Voir le meilleur LLM local pour un portable avec 16 Go de RAM.
Passer de 6 à 8 Go permet d'exécuter Qwen3 8B Q4_K_M avec de la marge pour le contexte. Pour les options 12 Go et les modèles 14B, voir les meilleurs modèles Ollama pour RTX 3060 12 Go. Pour la référence complète sur la VRAM, voir la VRAM nécessaire à un LLM local.
Meilleur modèle de code pour 6 Go de VRAM
Qwen3.5 4B Q4_K_M est le point de départ pour coder avec 6 Go de VRAM ; Qwen2.5-Coder 7B Q4_K_M (4,7 Go) est l'option spécialisée pour la complétion de code. La fiche du modèle Qwen3.5 4B indique 55,8 sur LiveCodeBench v6 (chiffre de l'éditeur, mode réflexion). Qwen2.5-Coder est une famille de 2024 avec une fenêtre de 32K ; le fichier 7B laisse donc peu de place aux longs prompts.
LM Studio charge les mêmes fichiers GGUF, et Aider ou un plugin d'éditeur peut utiliser un modèle Ollama via son API locale. Augmentez la fenêtre de contexte au-delà de la valeur par défaut — par exemple /set parameter num_ctx 8192 dans l'invite Ollama — car les prompts de code sont longs et un contexte tronqué donne des réponses fausses.
| Modèle | Taille | Usage |
|---|---|---|
| Qwen3.5 4B Q4_K_M | 3,3 Go | Code + chat, appel d'outils |
| Qwen2.5-Coder 7B Q4_K_M | 4,7 Go | Complétion, contexte court |
| Qwen2.5-Coder 3B Q4_K_M | 1,9 Go | Autocomplétion rapide |
Guides associés
- ▸Peut-on faire tourner RAG avec 2 Go de RAM ? -- RAG on low RAM
- ▸Meilleure quantification pour 6 Go de VRAM -- Q4_K_M vs Q5_K_M
- ▸Meilleur LLM local pour un portable avec 16 Go de RAM -- catégorie portable
Réponses rapides sur les modèles pour 6 Go de VRAM
6 Go de VRAM suffisent-ils pour les LLM locaux ?▾
Qwen3 8B tient-il dans 6 Go de VRAM ?▾
/set parameter num_ctx 2048 ou utilisez Qwen3.5 4B (3,3 Go). Lancez ollama ps pour vérifier que le modèle est à 100 % sur le GPU.Ministral 8B, Gemma 4 ou Qwen3.5 9B tiennent-ils dans 6 Go ?▾
gemma4:e2b-it-qat, 4,3 Go) tient.Quel est le meilleur modèle de code pour 6 Go de VRAM ?▾
ollama_chat/.Quels GPU ont 6 Go de VRAM ?▾
Et si j'ai 6 Go de RAM système, pas de VRAM ?▾
qwen3.5:2b, 1,9 Go) et gardez un contexte court.