Meilleurs modèles Ollama pour 4 Go de VRAM ?
Par Hans Kuepper · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source
Points clés
- ✓Phi-4 Mini et Qwen3 4B (2,5 Go chacun) sont les plus grands modèles qui laissent de la marge sur un GPU de 4 Go
- ✓La plupart des tags Ollama par défaut sont déjà en 4 bits (Q4_K_M) ; vérifiez la taille du téléchargement, pas le nombre de paramètres
- ✓Llama 3.1 8B (4,9 Go) et Gemma 4 E2B (4,6 Go) ne rentrent pas
- ✓Avec seulement 4 Go de RAM système, restez sous environ 1,5 Go : Qwen3 0.6B, Gemma 3 1B, Llama 3.2 1B

Ce qui tient dans 4 Go de VRAM
Sur un GPU de 4 Go, les modèles jusqu'à environ 4 milliards de paramètres tiennent en quantification 4 bits, et la taille du téléchargement Ollama est le chiffre à vérifier. Un modèle exige sa taille de fichier plus de la place pour le cache de contexte (cache KV), qui grandit avec la conversation. En règle générale, gardez le fichier à environ 3 Go au plus pour que tout le modèle reste sur le GPU.
Phi-4 Mini et Qwen3 4B sont les plus grands modèles du tableau à laisser cette marge, avec 2,5 Go chacun. Qwen3.5 2B est la famille la plus récente et accepte les images en plus du texte. Gemma 3 1B et Qwen3 1.7B conviennent pour un petit fichier et un long contexte. Les tailles proviennent de la bibliothèque de modèles Ollama ; la vitesse dépend de votre GPU, aucun chiffre de tokens par seconde n'est donc cité. Les générations plus récentes ne les remplacent pas à cette taille : Qwen3.6 commence à 27B (17 Go) et aucun téléchargement Gemma 4 ne fait moins de 4,3 Go.
| Modèle | Tag Ollama | Taille | Remarques |
|---|---|---|---|
| Phi-4 Mini | phi4-mini | 2,5 Go | 3,8 Md de paramètres, contexte 128K |
| Qwen3 4B | qwen3:4b | 2,5 Go | 4 Md de paramètres, mode réflexion |
| Llama 3.2 3B | llama3.2:3b | 2,0 Go | 3 Md de paramètres, famille Llama |
| Qwen3.5 2B | qwen3.5:2b-q4_K_M | 1,9 Go | Entrée texte et image |
| Qwen3 1.7B | qwen3:1.7b | 1,4 Go | Laisse l'essentiel de la VRAM libre |
| Gemma 3 1B | gemma3:1b | 0,8 Go | Option la plus petite du tableau |
📍 En une phrase
Avec 4 Go de VRAM, Phi-4 Mini (2,5 Go), Qwen3 4B (2,5 Go), Llama 3.2 3B (2,0 Go), Qwen3.5 2B (1,9 Go) et Gemma 3 1B (0,8 Go) tiennent en 4 bits ; Llama 3.1 8B (4,9 Go) non.
💬 En termes simples
Si votre GPU a 4 Go, choisissez un modèle dont le téléchargement fait environ 3 Go ou moins et commencez par phi4-mini ou qwen3:4b. Les modèles 8B demandent une carte de 6 Go ou plus.
Ce qui ne tient pas dans 4 Go
Ces modèles sont souvent demandés, mais leur téléchargement Ollama par défaut approche ou dépasse 4 Go :
Une carte de 6 Go rend les modèles 8B comme Llama 3.1 8B praticables. Voir les meilleurs LLM locaux pour 6 Go de VRAM. Pour une comparaison matérielle complète, voir les LLM locaux les plus rapides pour PC d'entrée de gamme.
- ▸Llama 3.1 8B (llama3.1:8b) — 4,9 Go de téléchargement, plus de place pour le contexte
- ▸Gemma 4 E2B (gemma4:e2b-it-q4_K_M) — 4,6 Go malgré le « 2B » du nom
- ▸Gemma 4 E4B (gemma4:e4b-it-q4_K_M) — 6,6 Go de téléchargement
- ▸Qwen3.5 4B (qwen3.5:4b-q4_K_M) et Gemma 3 4B (gemma3:4b) — 3,3 et 3,4 Go ; limite, un long contexte déporte des couches vers la RAM système
Quels modèles Ollama sont en 4 bits ?
La plupart des tags Ollama par défaut sont déjà en 4 bits : phi4-mini, qwen3:1.7b, gemma3:4b et llama3.1:8b partagent leur empreinte avec l'entrée q4_K_M, une quantification 4 bits. La page de la bibliothèque ne nomme souvent pas la quantification du tag par défaut ; pour être sûr, téléchargez le tag qui la contient, par exemple ollama run qwen3:4b-q4_K_M.
Tous les petits modèles ne sont pas en 4 bits par défaut, et le défaut peut être bien plus lourd que le fichier 4 bits :
- ▸gemma2:2b — par défaut q4_0 (1,6 Go)
- ▸smollm2:1.7b — par défaut q8_0 (1,8 Go) ; le fichier q4_K_M fait 1,1 Go
- ▸qwen3.5:2b — par défaut 2,7 Go ; qwen3.5:2b-q4_K_M fait 1,9 Go
- ▸llama3.2:1b — le défaut correspond à q8_0 (1,3 Go)