Peut-on exécuter RAG avec 2 Go de RAM ?
Par Hans Kuepper · Fondateur de PromptQuorum · Moteur de découverte de l'IA open-weight et open source

Réponse rapide
Oui — mais uniquement pour de petites collections de documents personnels. Avec 2 Go de RAM, un pipeline RAG viable utilise Llama 3.2 1B (~810 Mo) avec les embeddings MiniLM-L6-v2 (~80 Mo) et un vector store en mémoire. Au total ~1,3–1,5 Go tient sur un appareil de 2 Go. Les modèles plus grands (7B+) et les collections de documents plus importantes (200+ pages) nécessitent 8 Go minimum.
- ▸Llama 3.2 1B Q4_K_M (~810 Mo) + embeddings MiniLM-L6-v2 (~80 Mo) tient dans 2 Go
- ▸La collection de documents doit faire moins de ~200 pages pour rester en RAM
- ▸Les modèles 7B+ ou les corpus plus volumineux nécessitent au minimum 8 Go de RAM
Oui — Mais Uniquement les Configurations Minimales Fonctionnent
Avec 2 Go de RAM, le seul pipeline RAG viable utilise un LLM de classe 1B (Llama 3.2 1B ou Qwen3 0.6B) avec un modèle d'embedding léger (MiniLM-L6-v2 à ~80 Mo) et un vector store en mémoire ou fichier plat. Cela fonctionne — mais uniquement pour de petites collections de documents personnels (moins de ~200 pages).
Le tableau ci-dessous montre l'empreinte RAM de chaque composant RAG avec les paramètres minimaux.
| Composant | Utilisation mémoire | Notes |
|---|---|---|
| LLM (Llama 3.2 1B Q4_K_M) | ~810 Mo | Plus petit modèle instruction-tuned utilisable |
| Modèle d'embedding (MiniLM-L6-v2) | ~80 Mo | Fonctionne sur CPU ; pas de GPU requis |
| Vector store (Chroma en mémoire) | ~150 Mo | Évolue avec la taille du corpus |
| Environnement Python + overhead framework | ~300 Mo | LangChain ou llama-index minimal |
| Total minimum | ~1,3–1,5 Go | Laisse ~500 Mo pour l'OS sur un appareil de 2 Go |
Ce Qui Échoue à 2 Go
L'échec le plus courant est que le LLM dépasse la RAM disponible lors de l'expansion de la fenêtre de contexte. Avec 2 Go, limitez le contexte à 2k–4k tokens (llama.cpp : -c 2048) : le cache KV de Llama 3.2 1B coûte environ 32 Ko par token en fp16 (≈128 Mo à 4k), et tout ce qui dépasse la RAM libre fait swapper l'OS. Le chargement d'un modèle 7B ou plus grand échoue immédiatement — Llama 3 8B Q4_K_M nécessite ~5 Go à lui seul.
Le second mode d'échec est la croissance du vector store. Une base de données Chroma pour 500 pages PDF utilise environ 400 à 600 Mo selon la taille des chunks. Combiné avec le LLM et le modèle d'embedding, la RAM totale dépasse 2 Go. La solution : limiter l'ingestion à moins de 150 pages, utiliser des chunks de 256 tokens et purger le store après chaque session.
Portable avec 2 Go de RAM : ce que l'OS laisse
Sur un portable de 2 Go, c'est le système d'exploitation, et non la pile RAG, qui décide si cela tient. Windows 11 exige officiellement au moins 4 Go de RAM ; un portable de 2 Go tourne donc généralement sous une distribution Linux légère ou un Windows plus ancien. Une session Linux en terminal seul laisse l'essentiel des 2 Go libres ; un bureau avec un navigateur ouvert peut en laisser moins de 1 Go.
Lancez le pipeline en ligne de commande avec llama.cpp, fermez le navigateur et activez zram ou le swap comme filet de sécurité — le swap évite les plantages mais ralentit fortement la génération.
| Configuration | RAM libre pour RAG | Ça tient ? |
|---|---|---|
| Linux, terminal seul | L'essentiel des 2 Go | Oui : modèle 1B + MiniLM |
| Bureau Linux léger | Souvent ~1 Go | Juste : Qwen3 0.6B seul |
| Windows 10 ou 11 | Moins de 1 Go | Non : appareil 4 Go+ |