Meilleurs LLMs Locaux par Palier VRAM 2026 : Ollama, LM Studio & Guide Matériel
Les LLMs locaux sont de grands modèles de langage qui s'exécutent entièrement sur votre propre ordinateur — sans connexion Internet, sans frais d'API et sans qu'aucune donnée ne quitte votre machine. Pour débuter, installez Ollama et exécutez Llama 3.2 3B ou Qwen3.5 4B avec 8 Go de RAM en moins de 10 minutes ; les guides ci-dessous classent les meilleurs modèles, GPU et outils pour chaque budget.
Commencer ici
Les questions que les lecteurs posent en premier, chacune avec le guide à ouvrir. Choisissez celle qui vous correspond.
Explorer par sujet
15 sujets, 174 guides. Un clic ouvre un sujet directement sur place.
Premiers pas 12 Guides
De zéro à prêt en moins de 10 minutes. Guides d'installation spécifiques à l'OS, démarrage avec les premiers modèles et liste de contrôle de configuration respectueuse de la vie privée. Ollama s'installe en une seule commande sur macOS, Windows et Linux. Pour 8 GB de RAM, commencez avec Llama 3.2 3B (Q4, ~2 GB).
Matériel et performances 11 Guides
La VRAM est la principale contrainte des LLMs locaux. Un modèle 7B en Q4_K_M demande environ 4 à 5 Go ; un modèle 70B environ 42 Go. Les guides couvrent le choix du GPU (de la RTX 4070 Ti à la RTX 5090), Apple Silicon, les configurations économiques et le calcul de la VRAM pour tout modèle.
Guides d'achat de GPU 9 Guides
Choix du GPU selon le budget et l'usage, coût par token, efficacité énergétique, conception thermique, comparaisons de marchés de l'occasion et compromis de garantie. Une carte de 24 Go comme la RTX 4090 convient aux modèles de classe 27B ; un modèle 70B demande environ 48 Go. Les prix ont évolué avec la pénurie de mémoire de 2026 : chaque guide indique les chiffres actuels.
Mini-PC et ordinateurs IA 13 Guides
Machines compactes pour l'IA locale : mini-PC, stations de travail AMD Strix Halo et NVIDIA DGX Spark, Mac mini et boîtiers IA prêts à l'emploi, comparés sur la mémoire, la vitesse et le prix.
PC montés et portables 11 Guides
Configurations complètes, portables, stations de travail, stockage et choix du système d'exploitation à plusieurs niveaux de prix pour une inférence locale sérieuse.
Apple Silicon 11 Guides
Guides spécifiques aux Mac pour Apple Silicon de la série M — dimensionnement de la mémoire unifiée, benchmarks MLX face à Ollama et llama.cpp, transcription Whisper via Metal, et configurations Mac Mini/MacBook pour l'inférence locale. Apple Silicon partage une mémoire unifiée entre le CPU et le GPU : un Mac de la série M avec 32 Go de RAM peut exécuter des modèles à 30 milliards de paramètres sans GPU dédié. MLX est le framework d'inférence propre à Apple et se montre généralement plus rapide que llama.cpp sur la même puce.
Mobile et IA embarquée 12 Guides
LLMs locaux sur iPhone, iPad, Android et tablettes : quelles applications et quels petits modèles fonctionnent hors ligne, ce que les puces de téléphone savent faire, et en quoi l'IA embarquée diffère d'un modèle sur PC.
GPU cloud et location 4 Guides
Quand louer un GPU cloud est préférable à l'achat de matériel : comparatif des fournisseurs, protection des données dans l'UE, offres cloud chinoises et seuil de rentabilité entre sur site et location pour les entreprises.
Modèles par cas d'usage 20 Guides
Classements de modèles, comparaisons de benchmarks et recommandations par palier de mémoire. Choix actuels : Qwen3.8-27B pour les cartes de 24 Go, Gemma 4 12B pour 12 Go, gpt-oss-20b pour 16 Go, Qwen3 8B ou Qwen3.5 4B pour les machines de 8 Go, et Phi-4 Mini pour le CPU seul. Les scores de benchmark sont annoncés par les éditeurs, sauf mention « mesuré ».
Outils et interfaces 25 Guides
Ollama et LM Studio exécutent de nombreux modèles ouverts sous macOS, Windows et Linux. Ollama privilégie la ligne de commande avec une API REST ; LM Studio propose une interface graphique avec un navigateur de modèles intégré. Les guides couvrent les deux outils ainsi que vLLM, llama.cpp, Open WebUI et les intégrations IDE.
Outils développeurs et MLOps 10 Guides
La pile autour des modèles locaux en production : assistants de code, passerelles d'API, bases vectorielles, frameworks de fine-tuning et d'agents, évaluation, observabilité et revue de code par IA.
Techniques avancées 13 Guides
Fine-tuning, pipelines RAG, plongées approfondies de quantification, distillation, fusion de modèles et optimisation de prompts pour utilisation en production. LoRA et QLoRA réduisent nettement les besoins en mémoire du fine-tuning par rapport à un fine-tuning complet. Les workflows RAG locaux maintiennent les données sensibles sur site tout en maintenant la qualité de la recherche.
Entreprise 15 Guides
Configurations multi-GPU, optimisation de l'inférence, frameworks de service de modèles (vLLM, TensorRT-LLM), supervision et observabilité, audits de coûts et conformité réglementaire. L'exécution locale évite d'envoyer des données à une API tierce et peut réduire les coûts de licence par rapport au SaaS selon l'usage ; la conformité dépend toujours de l'ensemble de votre configuration.
Confidentialité & Entreprise 4 Guides
Déploiement sur site pour la confidentialité et la conformité (RGPD, HIPAA, APPI, CAC). Configurations isolées du réseau et journalisation des accès. Les LLMs locaux évitent la dépendance à un fournisseur d'API, peuvent réduire le périmètre des audits de conformité et gardent les données propriétaires hors des serveurs tiers ; la conformité elle-même dépend de l'ensemble de votre configuration.
Coûts et comparaisons 5 Guides
Analyse du point d'équilibre : local, cloud ou abonnement. Coûts SaaS cachés : dépassements, licences entreprise, journaux d'audit. L'amortissement du matériel local dépend surtout du nombre d'heures d'utilisation par mois ; les calculateurs permettent de saisir vos propres chiffres.
Réponses pratiques
Quatre réponses pratiques, calculées avec une formule mémoire simple (des estimations, pas des mesures). Les tableaux complets figurent en bas de page.
En bref : 8 Go de RAM suffisent pour un modèle 7B, toutes les données restent sur votre machine et aucun frais d'API n'est dû une fois le matériel acheté.
Mis à jour récemment
Les six pages modifiées le plus récemment.
Approfondir
Les autres univers thématiques, chacun dans sa propre couleur.
Aperçu en présentation
Les diapositives ci-dessous couvrent les exigences matérielles (8 Go de VRAM pour les modèles 7B, environ 42 Go pour un modèle 70B), les meilleurs modèles open source 2026, la configuration Ollama en 5 minutes, la quantification Q4_K_M, la conformité régionale (RGPD, APPI) et les points clés. Téléchargez le PDF comme carte de référence LLM locale.
Questions fréquentes
Qu'est-ce qu'un LLM local ?
Un grand modèle de langage (par exemple Qwen3.8, Gemma 4, gpt-oss, DeepSeek) qui s'exécute sur votre propre matériel plutôt que sur une API cloud. Vos prompts et fichiers restent sur votre machine, il fonctionne hors ligne, sans limite d'utilisation, et ne coûte rien par token après l'achat du matériel.
De combien de VRAM ai-je besoin pour un LLM local ?
8 GB de VRAM exécutent des modèles 7–8B en quantification Q4 (environ 5 GB de poids). 16 GB gèrent confortablement les modèles 13–14B. Un modèle 70B demande environ 42 GB pour ses poids Q4 ; une configuration de 48 GB (par exemple deux RTX 4090) est donc le minimum pratique. La mémoire unifiée Apple Silicon compte comme VRAM, moins les 8 Go que macOS garde pour lui.
Quelle est la différence entre Ollama et LM Studio ?
Ollama est un outil CLI qui exécute les modèles via des commandes simples et expose une API compatible OpenAI à `localhost:11434`. LM Studio fournit une GUI desktop, un navigateur de modèles et une interface de chat intégrée. Tous deux supportent les mêmes modèles.
Les LLMs locaux peuvent-ils rivaliser avec des modèles cloud comme GPT ou Claude ?
Des modèles à poids ouverts comme Qwen3.8-27B et Gemma 4 gèrent le code, la rédaction et la synthèse courants sur un seul GPU de 24 GB. Les meilleurs modèles cloud gardent l'avantage sur le raisonnement multi-étapes complexe. Les scores de benchmark annoncés par les éditeurs varient selon le test : essayez vos propres prompts avant de choisir.
Comment affiner un modèle local ?
Le fine-tuning nécessite 500+ exemples d'entraînement annotés, le framework QLoRA (réduit l'exigence VRAM via quantification 4 bits), 24 GB+ VRAM (ou location GPU cloud) et 1–4 heures de temps d'entraînement pour un modèle 7B.
Quel est le matériel minimum pour exécuter un LLM local en 2026 ?
Minimum : 8 GB de RAM et tout CPU moderne (exécute des modèles 3B–7B à environ 2–5 tokens/sec). Recommandé : un GPU avec 8 GB+ de VRAM (RTX 3060 ou plus récent) pour environ 15–40 tokens/sec sur des modèles 7–8B.
Les LLMs locaux sont-ils gratuits d'utilisation ?
Pour l'essentiel, oui. Ollama est open source ; LM Studio est gratuit mais son code n'est pas ouvert. La plupart des modèles à poids ouverts (Qwen, Gemma, gpt-oss, Mistral, DeepSeek) se téléchargent gratuitement, mais les licences diffèrent et Llama utilise une licence communautaire : vérifiez les conditions avant un usage commercial. Le coût principal est votre matériel.
Quel est le meilleur LLM local pour le codage en 2026 ?
Qwen3.8 27B est le meilleur choix pour un GPU de 24 GB (18 GB, contexte 256K). Devstral Small 2 (24B, 15 GB) convient aux machines de 16 GB, et Qwen3 8B à celles de 8 GB. Codestral 22B reste un choix courant pour l'autocomplétion en IDE, et Phi-4 Mini est le choix pratique sur CPU seul. Les scores de benchmark sont annoncés par les éditeurs ; voir le guide du code pour le détail.
Puis-je exécuter un LLM local sans GPU ?
Oui. Tout CPU moderne peut exécuter des modèles 3B–7B en quantification Q4 avec Ollama (mode CPU) ou LM Studio. La vitesse typique est d'environ 2–8 tokens/sec pour un modèle 7B sur un CPU portable, plus élevée pour les modèles 3–4B, contre 20–50 tokens/sec sur une RTX 4060. 7B Q4 nécessite environ 5 GB de RAM (pas de VRAM). Pour les configurations CPU seul, Phi-4 Mini (3,8B) et Llama 3.2 3B offrent le meilleur rapport qualité/vitesse.
Comment mettre à jour les modèles LLM locaux lors de la sortie de nouvelles versions ?
Ollama : exécutez à nouveau `ollama pull <model-name>` — seules les couches modifiées sont téléchargées. LM Studio : ouvrez le navigateur de modèles, trouvez la version mise à jour et téléchargez-la. Les anciens fichiers GGUF ne sont pas supprimés automatiquement — supprimez-les manuellement de ~/.ollama/models (Ollama) ou ~/Library/Application Support/LM Studio/models (macOS) pour libérer de l'espace disque. Les nouveaux modèles apparaissent généralement dans la bibliothèque Ollama dans les jours qui suivent leur sortie officielle.
Quels sont les meilleurs modèles Ollama en 2026 ?
Sélection dans la bibliothèque Ollama : Qwen3.8-27B (notre choix pour une carte de 24 Go, `ollama pull qwen3.8:27b`, 18 Go), gpt-oss:20b (petit modèle, classe 16 Go), Gemma 4 (vision et appel d'outils, de E2B à 31B ; `ollama pull gemma4:12b` pèse environ 8 Go), Qwen3 8B (`ollama pull qwen3:8b`, environ 5 Go) pour les machines de 8 Go, et les distillations DeepSeek-R1 pour le raisonnement pas à pas. Lancez n'importe quel modèle avec `ollama run <name>` après l'avoir téléchargé.
Quel est le meilleur LLM local pour une RTX 3060 12 Go ?
La RTX 3060 12 Go est un bon GPU pour les LLMs locaux. Meilleurs choix : Qwen3 14B (environ 9 Go, 9–12 tokens/sec), Gemma 4 12B (environ 8 Go, 11–14 tokens/sec), Qwen3 8B (16–20 tokens/sec) ou DeepSeek-R1 7B (10–12 tokens/sec). Llama 4 Scout ne tient pas : il demande environ 67 Go. Avec 12 Go de VRAM, vous êtes aussi au-dessus de la RTX 3060 Ti (8 Go) et accédez aux modèles de classe 13–14B en pleine qualité.
Ollama vs LM Studio vs Jan.ai : lequel utiliser ?
Ollama pour CLI et API OpenAI-compatible sur localhost:11434 — idéal développeurs. LM Studio pour GUI desktop et navigateur de modèles — idéal débutants. Jan.ai pour chat axé confidentialité avec boutique de modèles intégrée. Temps de setup : Ollama 2 min, LM Studio 5 min, Jan.ai 5 min.
Quels sont les meilleurs GPU économiques pour LLMs locaux en 2026 ?
Selon notre guide des GPU économiques : une RTX 3060 12 Go d'occasion (environ 270–300 $, prix US) est la carte la moins chère qui vaille l'achat ; elle exécute Qwen3 14B à 9–12 tokens/sec et Qwen3 8B à 16–20 tokens/sec. Parmi les cartes neuves : la RTX 5060 Ti 16 Go (environ 570–600 $) et l'Intel Arc B580 12 Go (environ 250–290 $). Les prix ont augmenté en 2026 à cause d'une pénurie de mémoire ; consultez le guide pour les chiffres actuels. Minimum recommandé : 8 Go de VRAM pour une inférence 7B utile.
Un LLM local est-il meilleur que ChatGPT ?
Pour la confidentialité et le coût, oui. Pour la qualité brute sur les tâches les plus difficiles, en général non : les meilleurs modèles cloud surpassent encore les modèles exécutables localement sur le raisonnement complexe. Pour les tâches courantes, un modèle local de classe 27B sur un GPU de 24 Go est une alternative solide, sans coût par requête.
Combien de RAM faut-il pour exécuter un LLM local ?
Minimum : 8 Go de RAM pour un modèle 7B en quantification Q4. Recommandé : 16 Go pour les modèles 13B et environ 48 Go pour les modèles 70B (environ 42 Go de poids Q4 plus une marge). Sur un Mac, la mémoire unifiée est partagée avec macOS, qui en réclame au moins 8 Go : retranchez donc 8 Go du total — un Mac avec 24 Go offre environ 16 Go utilisables et exécute bien un modèle 13B, tandis qu'un modèle 70B en Q4 exige un Mac de 64 Go. Le VRAM du GPU équivaut à la RAM pour l'inférence GPU.
Comment exécuter un LLM local ?
Installez Ollama (ollama.com), puis exécutez une seule commande : `ollama run llama3.1:8b`. Le modèle se télécharge automatiquement et vous pouvez commencer à discuter en moins de 5 minutes. Aucune clé API, aucun compte, aucune connexion Internet requise après le téléchargement initial.
Quel est le meilleur LLM local gratuit en 2026 ?
Pour un GPU de 24 Go : Qwen3.8-27B (18 Go, `ollama pull qwen3.8:27b`). Pour 16 Go : gpt-oss:20b ou Gemma 4 12B. Pour 8 Go : Qwen3 8B. Pour les configurations CPU seul : Phi-4 Mini. Tous sont à poids ouverts et téléchargeables gratuitement via `ollama pull` ; vérifiez chaque licence avant un usage commercial.
Les LLM locaux sont-ils privés ?
Oui, pour l'inférence. Avec Ollama ou LM Studio, les prompts, documents et réponses sont traités sur votre machine et ne sont pas envoyés au serveur d'un fournisseur de modèle. Les vérifications de mise à jour et la télémétrie facultative sont distinctes : examinez les réglages de chaque application. Le traitement local convient aux données confidentielles et personnelles et facilite le travail de conformité au RGPD, mais la conformité juridique dépend de l'ensemble de votre configuration.
Points clés
- 8 GB de RAM suffisent pour exécuter un modèle 7B localement (Ollama ou LM Studio, moins de 10 min de configuration)
- 48 GB de VRAM exécutent un modèle 70B en Q4 (environ 42 GB de poids) ; Llama 4 Scout (MoE 109B) en demande environ 67 GB
- La quantification Q4 ramène la mémoire à environ un quart du FP16 pour une légère perte de qualité — un modèle 7B tient en 4–5 GB de VRAM
- Les modèles à poids ouverts comme Qwen3.8, Gemma 4 et gpt-oss couvrent la plupart des tâches courantes de code et de rédaction ; les meilleurs modèles cloud gardent l'avantage sur les tâches multi-étapes les plus difficiles
- Zéro coût d'API après achat du matériel — aucune limite d'utilisation, aucun verrouillage fournisseur
- Les prompts et fichiers restent sur votre machine, sans stockage cloud — vérifiez le réglage de télémétrie de chaque application ; le traitement local facilite la conformité au RGPD sans la remplacer
- Le fine-tuning LoRA nécessite 500+ exemples étiquetés et 24 GB+ VRAM (ou GPU cloud pour l'entraînement)
- Guide de déploiement local Qwen 2026 — configuration Ollama en une commande pour Qwen 3.6 27B et Qwen3 8B, avec les niveaux Coder et VL
- Meilleur GPU à moins de 500 $ pour l'inférence LLM — l'Intel Arc B580 12 GB arrive en tête ; une RTX 3060 12 GB d'occasion est l'alternative CUDA
- DeepSeek vs Qwen : comparaison locale 2026 — benchmark face à face
- Alibaba Cloud vs Tencent Cloud GPU 2026 — GPU cloud pour le marché chinois
- Calculateur de coût LLM local : Construire vs Louer 2026 — calculateur ROI sur 3 ans
Derniers modèles ajoutés
| Modèle | Commande pull | Taille du téléchargement | Notes |
|---|---|---|---|
| Qwen3.8-27B | ollama pull qwen3.8:27b | 18 Go | Alibaba. Contexte 256K, entrée texte et image ; notre choix pour les cartes de 24 Go |
| Gemma 4 12B | ollama pull gemma4:12b | 8 Go | Google. Contexte 256K, vision et appel d'outils ; tient sur un GPU de 12 Go |
| gpt-oss 20B | ollama pull gpt-oss:20b | 14 Go | OpenAI. Contexte 128K, poids ouverts ; tient sur un GPU de 16 Go |
| Qwen3.5 4B | ollama pull qwen3.5:4b | 4 Go | Alibaba. Entrée texte et image ; notre choix de petit modèle pour machines de 8 Go |
Meilleur LLM local par palier de VRAM
Vous connaissez déjà la VRAM de votre GPU ? Trouvez votre palier ci-dessous pour le modèle le mieux adapté — pour la formule complète, le calcul de quantification et les exceptions MoE, consultez le guide VRAM complet.
| VRAM | Modèle adapté (Q4) | GPU exemples |
|---|---|---|
| 4 Go | Llama 3.2 3B ou Phi-4 Mini (~2–2,5 Go) | RTX 3050 4 Go, GTX 1650 |
| 8 Go | Llama 3.1 8B ou Qwen3 8B (~4-5 Go) | RTX 4060 Ti 8 Go, RTX 3070 |
| 12 Go | Qwen3 14B (~8,4 Go), ou 7-8B en Q5/Q8 pour + de qualité | RTX 3060 12 Go, RTX 4070 |
| 16 Go | Qwen3 14B en Q5/Q8, ou classe 22B (~13 Go) | RTX 4060 Ti 16 Go, RTX 4080 |
| 24 Go | Qwen3.8-27B (~18 Go, notre premier choix pour les cartes de 24 Go) | RTX 4090, RTX 3090 |
| 32 Go | 22-32B pleine précision, ou 1 carte d'un rig double-GPU 70B | RTX 5090 |
| 48 Go | Modèles 70B en Q4 (~42 Go) ; le Q5 (~50 Go) ne tient pas | 2x RTX 4090, RTX 6000 Ada |
Le plus grand LLM exécutable en local
C'est la mémoire qui fixe la limite, pas le logiciel : en Q4, un modèle demande environ 0,6 Go par milliard de paramètres, plus 1 à 2 Go de marge. Une carte de 24 Go fait tourner un modèle de classe 27B ; avec 48 Go, un modèle 70B.
| Modèle | Quantification | Poids | Tient sur |
|---|---|---|---|
| Qwen3.8-27B | Q4 | ~18 Go | 24 Go de VRAM |
| 70B (Llama 3.3, Qwen) | Q4 | ~42 Go | 48 Go de VRAM |
| 70B | Q5 | ~50 Go | Plus qu'une seule carte de 48 Go |
| 70B | Q8 | ~74 Go | Configuration multi-GPU |
Pas assez de VRAM ? Voir exécuter des modèles 70B avec 24 Go de VRAM et le guide VRAM complet.
Meilleure quantification pour 16 Go de VRAM ou de RAM
La taille quantifiée vaut environ paramètres × 0,6 Go en Q4, × 0,7 en Q5 et × 1,05 en Q8, plus 1 à 2 Go pour le contexte. Avec 16 Go de VRAM, Q5 est un bon choix par défaut pour les modèles 12–14B, et un modèle 22B ne tient qu'en Q4. Avec 16 Go de RAM sans GPU, divisez le budget par deux : un modèle 12B en Q4 (environ 7,2 Go) est le choix confortable.
| Taille du modèle | Q4 | Q5 | Q8 | Tient dans 16 Go de VRAM |
|---|---|---|---|---|
| 8B | ~4,8 Go | ~5,6 Go | ~8,4 Go | Q4, Q5, Q8 |
| 12B | ~7,2 Go | ~8,4 Go | ~12,6 Go | Q4, Q5, Q8 |
| 14B | ~8,4 Go | ~9,8 Go | ~14,7 Go | Q4, Q5 |
| 22B | ~13,2 Go | ~15,4 Go | ~23,1 Go | Q4 |
Pour l'arbitrage de qualité entre niveaux de bits, voir la quantification des LLM expliquée.
Meilleurs modèles pour un PC milieu de gamme dans LM Studio
Un PC milieu de gamme offre 12 à 16 Go de VRAM, par exemple une RTX 3060 12 Go ou une RTX 4060 Ti 16 Go. Dans LM Studio, cherchez le modèle, prenez le fichier Q4 si sa taille plus 1 à 2 Go tient dans votre VRAM, puis passez en Q5 s'il reste de la place.
| VRAM | Modèle à essayer | Taille approx. |
|---|---|---|
| 12 Go | Qwen3 14B en Q4 (ou un modèle de classe 12B) | ~8,4 Go (12B : ~7,2 Go) |
| 16 Go | Qwen3 14B en Q5 | ~9,8 Go |
| 16 Go | Modèle de classe 22B en Q4 | ~13,2 Go |
Installation : installer LM Studio. Hésitation sur l'application ? Lisez Ollama vs LM Studio.
RAG local sur un portable avec peu de RAM
Le RAG demande deux petits modèles : un modèle d'embedding (nomic-embed-text, 137M de paramètres) et un modèle de chat. Sans GPU, le modèle de chat demande environ le double de sa taille Q4 sur GPU : un modèle 1B prend environ 1,2 Go, un modèle 3B environ 3,6 Go. Un portable de 2 Go est le plancher, avec presque aucune marge pour le système et l'index ; 8 Go est le point de départ réaliste.
| RAM système | Modèle de chat (Q4) | Mémoire (CPU seul) |
|---|---|---|
| 2 Go | Llama 3.2 1B + nomic-embed-text | ~1,2 Go pour le modèle de chat, très juste |
| 8 Go | Llama 3.2 3B + nomic-embed-text | ~3,6 Go |
| 16 Go | Modèle 7–8B | ~8,4–9,6 Go |
Ces chiffres sont des estimations tirées de la formule VRAM, pas des benchmarks. Installation complète : guide du RAG local et meilleurs outils RAG locaux.
Ollama vs LM Studio vs Jan.ai : lequel utiliser ?
| Fonctionnalité | Ollama | LM Studio | Jan.ai |
|---|---|---|---|
| Interface | Terminal (CLI) | GUI bureau | GUI bureau + chat |
| Endpoint API | localhost:11434 | localhost:1234 | localhost:1337 |
| Navigateur modèles | CLI uniquement | Intégré | Intégré |
| Idéal pour | Développeurs, automation | Débutants, utilisateurs GUI | Chat axé confidentialité |
| Temps de setup | 2 min | 5 min | 5 min |
Conformité et contexte régional
EU / RGPD
Les LLMs locaux traitent les données sur site. Avec un chiffrement complet du disque et une journalisation des accès, l'inférence sur site garde les données personnelles dans vos propres systèmes. Si aucun tiers ne peut accéder aux données, aucun contrat de sous-traitance au titre de l'article 28 du RGPD n'est nécessaire pour l'étape d'inférence ; vos autres obligations (base légale, sécurité, registre des traitements) restent applicables. Ollama écoute par défaut sur `localhost` — aucune exposition externe.
Japan / APPI
La loi japonaise sur la protection des informations personnelles (APPI) restreint les transferts transfrontaliers de données personnelles. Exécuter un modèle en local évite un transfert transfrontalier pour l'étape d'inférence. Les lignes directrices 2024 du METI sur la gouvernance de l'IA encouragent une IA respectueuse de la vie privée, et le déploiement local va dans ce sens.
China / CAC
Les Mesures provisoires de l'Administration chinoise du cyberespace (CAC, 2023) sur les services d'IA générative imposent un enregistrement aux fournisseurs de services d'IA générative accessibles au public. Un modèle exécuté uniquement sur vos propres locaux, pour un usage interne, n'est en général pas un service accessible au public ; l'application des règles dépend toutefois du cas d'usage — consultez un conseil juridique avant de vous y fier.
Télécharger la carte de référence LLMs locaux (PDF)
Améliorez Vos Résultats
Vous utilisez un modèle local ? La qualité de sortie dépend de la manière dont vous le promptez. Apprenez des techniques systématiques pour obtenir de meilleures réponses de n'importe quel LLM local.
Réponses rapides, sans lecture superflue
Une question précise — combien de VRAM, quelle quantisation, Ollama ou LM Studio ? Prompt Bites répond à plus de 100 de ces questions en moins d'une minute chacune.
PromptQuorum se connecte à votre LLM local (Ollama, LM Studio, Jan AI) et envoie votre prompt simultanément à plus de 25 modèles cloud — comparez les résultats locaux vs cloud en une vue.
Essayer PromptQuorum gratuitement →