Aller au contenu principal
PromptQuorumConçu pour les humains. Structuré pour l'IA.

Meilleurs modèles Ollama pour 4 Go de VRAM ?

Par · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source

Points clés

  • ✓Phi-4 Mini et Qwen3 4B (2,5 Go chacun) sont les plus grands modèles qui laissent de la marge sur un GPU de 4 Go
  • ✓La plupart des tags Ollama par défaut sont déjà en 4 bits (Q4_K_M) ; vérifiez la taille du téléchargement, pas le nombre de paramètres
  • ✓Llama 3.1 8B (4,9 Go) et Gemma 4 E2B (4,6 Go) ne rentrent pas
  • ✓Avec seulement 4 Go de RAM système, restez sous environ 1,5 Go : Qwen3 0.6B, Gemma 3 1B, Llama 3.2 1B
Meilleurs modèles Ollama pour 4 Go de VRAM ?
Quantization & VRAM

Ce qui tient dans 4 Go de VRAM

Sur un GPU de 4 Go, les modèles jusqu'à environ 4 milliards de paramètres tiennent en quantification 4 bits, et la taille du téléchargement Ollama est le chiffre à vérifier. Un modèle exige sa taille de fichier plus de la place pour le cache de contexte (cache KV), qui grandit avec la conversation. En règle générale, gardez le fichier à environ 3 Go au plus pour que tout le modèle reste sur le GPU.

Phi-4 Mini et Qwen3 4B sont les plus grands modèles du tableau à laisser cette marge, avec 2,5 Go chacun. Qwen3.5 2B est la famille la plus récente et accepte les images en plus du texte. Gemma 3 1B et Qwen3 1.7B conviennent pour un petit fichier et un long contexte. Les tailles proviennent de la bibliothèque de modèles Ollama ; la vitesse dépend de votre GPU, aucun chiffre de tokens par seconde n'est donc cité. Les générations plus récentes ne les remplacent pas à cette taille : Qwen3.6 commence à 27B (17 Go) et aucun téléchargement Gemma 4 ne fait moins de 4,3 Go.

ModèleTag OllamaTailleRemarques
Phi-4 Miniphi4-mini2,5 Go3,8 Md de paramètres, contexte 128K
Qwen3 4Bqwen3:4b2,5 Go4 Md de paramètres, mode réflexion
Llama 3.2 3Bllama3.2:3b2,0 Go3 Md de paramètres, famille Llama
Qwen3.5 2Bqwen3.5:2b-q4_K_M1,9 GoEntrée texte et image
Qwen3 1.7Bqwen3:1.7b1,4 GoLaisse l'essentiel de la VRAM libre
Gemma 3 1Bgemma3:1b0,8 GoOption la plus petite du tableau

📍 En une phrase

Avec 4 Go de VRAM, Phi-4 Mini (2,5 Go), Qwen3 4B (2,5 Go), Llama 3.2 3B (2,0 Go), Qwen3.5 2B (1,9 Go) et Gemma 3 1B (0,8 Go) tiennent en 4 bits ; Llama 3.1 8B (4,9 Go) non.

💬 En termes simples

Si votre GPU a 4 Go, choisissez un modèle dont le téléchargement fait environ 3 Go ou moins et commencez par phi4-mini ou qwen3:4b. Les modèles 8B demandent une carte de 6 Go ou plus.

Ce qui ne tient pas dans 4 Go

Ces modèles sont souvent demandés, mais leur téléchargement Ollama par défaut approche ou dépasse 4 Go :

Une carte de 6 Go rend les modèles 8B comme Llama 3.1 8B praticables. Voir les meilleurs LLM locaux pour 6 Go de VRAM. Pour une comparaison matérielle complète, voir les LLM locaux les plus rapides pour PC d'entrée de gamme.

  • ▸Llama 3.1 8B (llama3.1:8b) — 4,9 Go de téléchargement, plus de place pour le contexte
  • ▸Gemma 4 E2B (gemma4:e2b-it-q4_K_M) — 4,6 Go malgré le « 2B » du nom
  • ▸Gemma 4 E4B (gemma4:e4b-it-q4_K_M) — 6,6 Go de téléchargement
  • ▸Qwen3.5 4B (qwen3.5:4b-q4_K_M) et Gemma 3 4B (gemma3:4b) — 3,3 et 3,4 Go ; limite, un long contexte déporte des couches vers la RAM système

Quels modèles Ollama sont en 4 bits ?

La plupart des tags Ollama par défaut sont déjà en 4 bits : phi4-mini, qwen3:1.7b, gemma3:4b et llama3.1:8b partagent leur empreinte avec l'entrée q4_K_M, une quantification 4 bits. La page de la bibliothèque ne nomme souvent pas la quantification du tag par défaut ; pour être sûr, téléchargez le tag qui la contient, par exemple ollama run qwen3:4b-q4_K_M.

Tous les petits modèles ne sont pas en 4 bits par défaut, et le défaut peut être bien plus lourd que le fichier 4 bits :

  • ▸gemma2:2b — par défaut q4_0 (1,6 Go)
  • ▸smollm2:1.7b — par défaut q8_0 (1,8 Go) ; le fichier q4_K_M fait 1,1 Go
  • ▸qwen3.5:2b — par défaut 2,7 Go ; qwen3.5:2b-q4_K_M fait 1,9 Go
  • ▸llama3.2:1b — le défaut correspond à q8_0 (1,3 Go)

Guides associés

Réponses rapides sur les modèles pour 4 Go de VRAM

4 Go de VRAM suffisent-ils pour un LLM utile ?▾
Oui, pour les tâches de base. Un modèle de 2 à 4 Md de paramètres comme Phi-4 Mini ou Qwen3 4B gère les questions-réponses, les résumés courts et une aide légère au code. Documents longs, agents multi-étapes et grands contextes sont limités par le cache de contexte ; 6 Go ou plus sont plus confortables.
Quel modèle Ollama est en quantification 4 bits ?▾
La plupart. Les tags par défaut comme phi4-mini et gemma3:4b partagent leur empreinte avec l'entrée q4_K_M (4 bits). Certains défauts diffèrent : smollm2 est en q8_0, gemma2:2b en q4_0. Téléchargez le tag avec q4_K_M dans le nom pour en être sûr.
Puis-je exécuter Llama 3 avec 4 Go de VRAM ?▾
Pas le modèle 8B : llama3.1:8b pèse 4,9 Go. Llama 3.2 3B tient en 2,0 Go si vous voulez une variante Llama. Voir le guide complet des besoins en VRAM.
Quels GPU ont 4 Go de VRAM ?▾
Les RTX 3050 et 3050 Ti (versions portables), GTX 1650 Super et AMD RX 6500 XT ont 4 Go. Les cartes NVIDIA exigent une compute capability de 5.0 ou plus. La RX 6500 XT ne figure pas sur la liste ROCm d'Ollama ; consultez la documentation GPU d'Ollama avant d'acheter.
Le mode CPU seul contourne-t-il la limite de 4 Go de VRAM ?▾
En partie. Quand un modèle dépasse la VRAM, Ollama répartit ses couches entre le GPU et la RAM système ; cela fonctionne, mais plus lentement. Sans GPU, tout tourne sur le CPU et la vitesse dépend de la RAM et du processeur.
Que lancer avec seulement 4 Go de RAM système ?▾
En règle générale, restez sous environ 1,5 Go : qwen3:0.6b (0,5 Go), gemma3:1b (0,8 Go), llama3.2:1b (1,3 Go) ou qwen3:1.7b (1,4 Go). Le système et Ollama occupent une partie des 4 Go ; les modèles plus gros commencent à swapper sur le disque.
Quelle est la configuration minimale d'Ollama ?▾
Il n'y a pas de minimum unique : il faut la taille de fichier du modèle plus le cache de contexte. Les plus petits modèles (Gemma 3 270M à 0,3 Go, Qwen3 0.6B à 0,5 Go) tournent sur presque toute machine ; les modèles de 3 à 4 Md de paramètres demandent environ 3 Go de VRAM ou RAM libre.
Gemma 4 et Qwen3.5 tiennent-ils dans 4 Go ?▾
Qwen3.5 0.8B et 2B tiennent confortablement, la version 4B (q4_K_M, 3,3 Go) est limite. Gemma 4 E2B ne tient pas : son fichier q4_K_M fait 4,6 Go.
MCP