Apple Silicon M5 pour LLM local 2026 : M5 Pro vs M5 Max vs Mac Studio comparés

Pourquoi Apple Silicon M5 compte pour le LLM local

• Architecture de mémoire unifiée : M5 Pro et M5 Max partagent un unique pool de mémoire rapide (24 à 128 Go) accessible simultanément par le CPU, le GPU et le Neural Engine. Pas de goulot VRAM/RAM. Les modèles restent en mémoire rapide et l'inférence reste réactive.
• La bande passante mémoire est le vrai goulot : la génération d'un LLM est limitée par la mémoire, pas par le calcul : chaque token généré lit une fois les poids du modèle. Avec 460–614 Go/s, le M5 Max reste derrière les 1 008 Go/s de la RTX 4090 sur les petits modèles, mais accueille jusqu'à 128 Go contre 24 Go et exécute donc des modèles qu'une 4090 ne peut pas contenir. Le M5 Ultra dépasse la 4090 avec jusqu'à 1,2 To/s et accueille jusqu'à 512 Go.
• La « VRAM » d'un Mac est la mémoire unifiée : il n'existe pas de pool de VRAM séparé. Le GPU puise dans la même mémoire que macOS ; par défaut, macOS autorise le GPU à réserver environ deux tiers à trois quarts de la RAM totale (la part varie selon la taille de la RAM). Sur un Mac de 64 Go, comptez environ 48 Go pour modèle plus contexte ; la limite peut être relevée avec `sudo sysctl iogpu.wired_limit_mb=<Mo>` (réinitialisée au redémarrage).
• Architecture Apple Fusion (nouveauté M5) : M5 Pro et M5 Max séparent CPU et GPU en deux dies 3 nm distincts dans un même boîtier, ce qui permet un dimensionnement et une optimisation thermique indépendants et améliore l'efficacité énergétique par rapport aux puces monolithiques.
• Neural Accelerator dans chaque cœur GPU : chaque cœur GPU intègre un accélérateur neuronal dédié qui complète le Neural Engine partagé. Les moteurs qui les exploitent, comme MLX et le backend MLX d'Ollama, traitent les prompts plus vite sur les puces M5.
• Gain générationnel par rapport au M4 : Apple annonce jusqu'à 30 % de performances CPU multicœur en plus par rapport aux M4 Pro et M4 Max. Pour la génération de LLM, c'est la bande passante qui compte : M5 Pro 307 Go/s contre 273 Go/s pour le M4 Pro (+12 %), et 614 Go/s contre 546 Go/s pour les M5 Max et M4 Max haut de gamme (+12 %). Le traitement des prompts progresse davantage grâce aux accélérateurs neuronaux par cœur.
• Thunderbolt 5 (M5 Pro/Max) : M5 Pro et M5 Max offrent Thunderbolt 5 avec 80 Gb/s de bande passante de base (le double de Thunderbolt 4), utile pour le stockage externe rapide et plusieurs écrans.
• Wi-Fi 7 et Bluetooth 6 via la puce Apple N1 : les systèmes M5 intègrent la nouvelle puce sans fil N1 (Wi-Fi 7, Bluetooth 6.0) à faible latence, utile avec des clients d'inférence distants ou des API de modèles cloud.
• MLX mûrit vite : le framework MLX d'Apple prend en charge Llama 3.3, Qwen, Mistral et Gemma avec des noyaux optimisés. Ollama propose un backend MLX pour Apple Silicon depuis mars 2026 (préversion), d'abord limité à certains modèles.
• L'efficacité énergétique est réelle : le M5 Max est estimé à environ 65–100 W en inférence soutenue (une estimation, pas un chiffre Apple ; Apple indique jusqu'à 480 W de puissance continue maximale pour le châssis du Mac Studio). Un mois d'inférence continue (720 heures) à 100 W représente environ 72 kWh, soit 8–12 $ d'électricité aux États-Unis. Une RTX 4090 à 350 W coûte environ 40–60 $ le même mois.
• Fonctionnement silencieux : les ventilateurs du Mac Studio deviennent rarement audibles sous charge LLM typique ; MacStories n'a pas pu entendre le ventilateur du Mac Studio M5 Ultra en usage quotidien. Ceux du MacBook Pro deviennent audibles en inférence soutenue.

Tableau comparatif Apple Silicon M5

Bande passante mémoire des M5, M5 Pro, M5 Max et M5 Ultra comparée

• M5 Pro vs M5 Max : le M5 Max offre 1,5× (GPU 32 cœurs, 460 Go/s) ou 2× (GPU 40 cœurs, 614 Go/s) la bande passante du M5 Pro ; attendez-vous à une génération d'autant plus rapide avec le même modèle.
• M5 Max vs M5 Ultra : le M5 Ultra associe deux puces M5 Max et double les 614 Go/s du M5 Max à GPU 40 cœurs jusqu'à environ 1,2 To/s, soit 50 % de plus que les 819 Go/s du M3 Ultra de la génération précédente.
• Capacité vs bande passante : davantage de mémoire ne rend pas une puce plus rapide. Un M5 Max à GPU 40 cœurs offre les mêmes 614 Go/s avec 64 Go ou 128 Go ; la mémoire supplémentaire permet seulement de charger des modèles plus gros ou plus nombreux.

De la bande passante aux tokens par seconde

• Lire le tableau : les valeurs sont des plafonds théoriques en tokens/s. Multipliez par 0,6–0,8 pour une plage réaliste — pour Llama 3.3 70B Q4 sur un M5 Max à 614 Go/s, cela donne environ 9–12 tokens/s.
• Vérification indépendante : MacStories a mesuré 48 tokens/s en génération avec Qwen3.8 27B sur un Mac Studio M5 Ultra (prompt de 6 091 tokens), contre 59 tokens/s sur une RTX 5090 (1,79 To/s de bande passante). La vitesse réelle a suivi la bande passante, pas le nombre de cœurs.
• Règle de dimensionnement : le fichier du modèle plus le cache KV doivent tenir dans environ deux tiers à trois quarts de la mémoire unifiée ; un modèle 70B Q4 (~42,5 Go) demande donc un Mac de 64 Go, et les variantes Q5 et Q8 demandent 128 Go.

Mac mini M5 Pro : nouvelle entrée économique pour le LLM local

• CPU : M5 Pro 15 ou 18 cœurs
• GPU : GPU M5 Pro 16 ou 20 cœurs
• Mémoire : 24 Go de base, configurable en 48 ou 64 Go de mémoire unifiée LPDDR5X
• Bande passante mémoire : 307 Go/s (identique au M5 Pro du MacBook Pro)
• Stockage : SSD 512 Go–2 To (configurable)
• Ports : Thunderbolt 5 (nouveau sur Mac mini)
• Connectivité : Wi-Fi 7, Bluetooth 6
• Prix : 1 699 $ (CPU 15 cœurs/GPU 16 cœurs, 24 Go) ; 2 699 $ (CPU 18 cœurs/GPU 20 cœurs, 64 Go)
• Disponibilité : livré depuis le 22 septembre 2026

Mac Studio M5 Max 36 Go : configuration de base

• CPU : M5 Max 18 cœurs
• GPU : GPU M5 Max 32 cœurs
• Mémoire : 36 Go de mémoire unifiée LPDDR5X à ce niveau de GPU
• Bande passante mémoire : 460 Go/s (identique au M5 Max 32 cœurs du MacBook Pro)
• Stockage : SSD 512 Go–8 To (configurable)
• Ports : Thunderbolt 5
• Consommation : estimée à 65–100 W en inférence soutenue ; ventilateurs rarement actifs
• Prix : 2 499 $
• Disponibilité : livré depuis le 22 septembre 2026

Mac Studio M5 Max 48–128 Go : meilleur rapport qualité-prix pour le LLM local 70B

• CPU : M5 Max 18 cœurs
• GPU : GPU M5 Max 40 cœurs
• Mémoire : 48 Go de base, configurable en 64 ou 128 Go de mémoire unifiée LPDDR5X
• Bande passante mémoire : 614 Go/s (identique au M5 Max 40 cœurs du MacBook Pro)
• Stockage : SSD 512 Go–8 To
• Ports : Thunderbolt 5
• Consommation : estimée à 65–100 W en inférence soutenue ; activité modérée des ventilateurs en usage multi-modèles intensif
• Prix : 3 099 $ (48 Go) ; 3 499 $ (64 Go) ; 5 099 $ (128 Go)
• Disponibilité : livré depuis le 22 septembre 2026

Mac Studio M5 Ultra : nouveau niveau de performance maximale

• CPU : M5 Ultra 30 cœurs (36 cœurs configurable)
• GPU : 64 cœurs de base, 80 cœurs configurable
• Mémoire : 96 Go de base, configurable en 256 Go dès maintenant, 512 Go fin octobre 2026
• Bande passante mémoire : jusqu'à 1,2 To/s (1 228,8 Go/s ; 50 % de plus que les 819 Go/s du M3 Ultra)
• Stockage : SSD 1–16 To
• Ports : Thunderbolt 5
• Prix : 5 499 $ (base 96 Go : CPU 30 cœurs/GPU 64 cœurs) ; 512 Go attendu nettement au-dessus de 10 000 $
• Disponibilité : livré depuis le 22 septembre 2026 (96–256 Go) ; fin octobre 2026 (512 Go)

MacBook Pro 16" M5 Max : LLM local portable

• CPU : M5 Max 18 cœurs (6 super + 12 performance)
• GPU : GPU M5 Max 32 ou 40 cœurs
• Mémoire : 64 Go ou 128 Go de mémoire unifiée
• Écran : Liquid Retina XDR 16,2 pouces, 3456×2234
• Bande passante mémoire : 460 Go/s (64 Go, GPU 32 cœurs) ou 614 Go/s (128 Go, GPU 40 cœurs)
• Stockage : SSD 512 Go–8 To
• Batterie : annoncée en heures de lecture vidéo ; l'inférence soutenue la vide bien plus vite
• Poids : 2,14 kg
• Ports : 3× Thunderbolt 5, HDMI 2.1, lecteur SD, prise casque
• Prix : 3 499 $ (64 Go, GPU 32 cœurs) à 4 499 $ (128 Go, GPU 40 cœurs)

🏆 Nos sélections : quel Mac acheter pour le LLM local

• 🏆 💰 M5 PRO LE MOINS CHER : Mac mini M5 Pro (1 699 $, disponible) • Pourquoi : premier Mac mini avec M5 Pro. Moins cher que toute autre façon d'obtenir un M5 Pro, MacBook Pro compris. 24 Go de base pour 7B–14B ; configuré à 64 Go pour 30B. • Pour qui : premiers acheteurs d'Apple Silicon soucieux du budget. • Acheter sur l'Apple Store →
• 🥇 MEILLEUR RAPPORT POUR LE 70B : Mac Studio M5 Max 64 Go (3 499 $, disponible) • Pourquoi : exécute Llama 3.3 70B Q4 à environ 9–12 tokens/s estimés avec les 614 Go/s complets. Le refroidissement de bureau évite le bridage thermique. • Pour qui : développeurs standardisant un flux 70B sans besoin de portabilité. • Acheter sur l'Apple Store →
• 🔥 PUISSANCE MAXIMALE : Mac Studio M5 Ultra 96 Go (5 499 $, disponible) • Pourquoi : niveau haut de gamme. Jusqu'à 1,2 To/s de bande passante, le double du M5 Max. La configuration 512 Go arrive fin octobre 2026 pour les plus gros modèles locaux. • Statut : premières mesures indépendantes disponibles (MacStories : 48 tokens/s avec Qwen3.8 27B contre 59 sur une RTX 5090). • Acheter sur l'Apple Store →
• 💼 MEILLEUR PORTABLE : MacBook Pro 16" M5 Max (3 499 $ en 64 Go à 460 Go/s ; 4 499 $ en 128 Go à 614 Go/s) • Pourquoi : le même silicium M5 Max que le Mac Studio dans un portable à écran Liquid Retina XDR. Acceptez 10–15 % de vitesse soutenue en moins à cause du bridage thermique. • Alternative : le Mac Studio M5 Max 64 Go (3 499 $) coûte autant avec 614 Go/s et un meilleur refroidissement soutenu si la portabilité est inutile. • Acheter sur l'Apple Store →

Performances des LLM locaux : estimations dérivées de la bande passante et résultats indépendants du M5 Ultra

• ## Llama 3.1 8B (Q4_K_M, ~4,9 Go) • M5 Pro (307 Go/s) : 38–50 tokens/s • M5 Max (460 Go/s) : 56–75 tokens/s • M5 Max (614 Go/s) : 75–100 tokens/s • Référence (RTX 4090) : 90–120 tokens/s
• ## Mistral Small 24B (Q4_K_M, ~14 Go) • M5 Pro (307 Go/s) : 13–17 tokens/s • M5 Max (460 Go/s) : 19–26 tokens/s • M5 Max (614 Go/s) : 26–34 tokens/s
• ## Qwen3 32B (Q4_K_M, ~20 Go) • M5 Pro (307 Go/s) : 9–12 tokens/s • M5 Max (460 Go/s) : 14–19 tokens/s • M5 Max (614 Go/s) : 19–25 tokens/s
• ## Llama 3.3 70B (Q4_K_M, ~42,5 Go) • M5 Pro 64 Go (307 Go/s) : 4–6 tokens/s • M5 Max (460 Go/s) : 6–9 tokens/s • M5 Max (614 Go/s) : 9–12 tokens/s • M5 Ultra : plafond d'environ 29 tokens/s (pas encore de mesure indépendante en 70B) • Référence (RTX 4090) : 6–10 tokens/s avec délestage partiel sur CPU
• ## Llama 3.3 70B (Q5_K_M, ~50 Go) • M5 Pro 64 Go : marge insuffisante • M5 Max 128 Go (614 Go/s) : 7–10 tokens/s • Référence (RTX 4090) : impossible (limite de VRAM)
• ## Llama 3.3 70B (Q8_0, ~75 Go) • M5 Max 128 Go (614 Go/s) : 5–7 tokens/s • RTX 4090 : impossible (nécessite un délestage multi-GPU)
• ## Résultats indépendants du M5 Ultra (MacStories, unité de 256 Go, oMLX) • Qwen3.8 27B, prompt de 6 091 tokens : M5 Ultra 48 tokens/s en génération, 1 701 tokens/s en lecture de prompt, 4,0 s avant le premier token — RTX 5090 : 59 tokens/s, 3 031 tokens/s, 2,0 s • Qwen3.8 27B en contexte long (génération) : 38,9 tokens/s à 64K, 32,4 à 128K, 24,3 à 256K — RTX 5090 : 49,6, 40,4, 30,0 • Flash-Next, prompt court : 108 tokens/s sur M5 Ultra contre 70 sur un M3 Ultra (+54 %)
• ## Méthodologie Les plages M5 Pro et M5 Max sont dérivées à 60–80 % de bande passante ÷ taille du fichier du modèle, puis comparées à des résultats communautaires comme le test MLX vs GGUF cité sur notre page de benchmarks M5 Pro vs M5 Max. Les chiffres du M5 Ultra sont les mesures propres de MacStories avec oMLX 0.7.0.dev2 sous macOS 27.0 ; les noms de modèles sont les leurs. Considérez tout chiffre de tokens/s du M5 Ultra pour des modèles non listés ci-dessus comme non vérifié.

Apple Silicon M5 vs station de travail PC pour le LLM local

• ## Le Mac Studio M5 Max/Ultra l'emporte pour : • Mémoire unifiée : jusqu'à 128 Go (M5 Max) ou 512 Go (M5 Ultra) pour n'importe quel modèle, sans plafond VRAM • Efficacité énergétique : environ 100 W contre plus de 600 W pour un PC équivalent • Fonctionnement silencieux : ventilateurs rarement audibles sous charge typique • Écosystème macOS : intégration MLX, Metal, Core ML • Coût total de possession : électricité moindre sur 3 ans • Modèles de plus de 32 Go : une RTX 5090 plafonne à 32 Go de VRAM
• ## La station PC (RTX 4090/5090) l'emporte pour : • Vitesse brute sur les modèles tenant en VRAM : MacStories a mesuré une RTX 5090 à 59 tokens/s contre 48 sur M5 Ultra avec Qwen3.8 27B, et une lecture de prompt environ 1,8× plus rapide (3 031 contre 1 701 tokens/s) • Étendue de l'écosystème CUDA : plus de modèles, d'outils et de code de recherche • Fine-tuning : PyTorch + CUDA domine MLX • Évolutivité : changer de GPU, ajouter de la VRAM • Prix aux niveaux bas : une RTX 4070 Ti économique (800–1 200 $) bat le M5 Pro sur les petits modèles • IA hors LLM : Stable Diffusion, entraînement et multimodal sont généralement plus rapides sur NVIDIA
• ## Le verdict honnête Pour l'inférence LLM locale pure sur des modèles 30B–70B, le Mac Studio M5 Max 128 Go (5 099 $) rivalise directement avec des PC à plus de 4 500 $, et le Mac Studio M5 Ultra repousse le plafond vers des modèles qui demandent 256 Go ou 512 Go. L'avantage de la mémoire unifiée est réel et mesurable. Pour les modèles qui tiennent dans 24–32 Go de VRAM, un PC avec RTX 4090 ou 5090 est plus rapide que n'importe quel Mac. L'avantage d'Apple se réduit sur les petits modèles. Pour le fine-tuning, l'entraînement, Stable Diffusion à grande échelle ou PyTorch en production, PC + NVIDIA l'emporte. MLX progresse, mais des écarts subsistent.

MLX vs Ollama vs llama.cpp sur Apple Silicon

• ## MLX (natif Apple) • Performance : généralement les tokens/s les plus élevés sur M5 ; optimisation Metal native et prise en charge des Neural Accelerators. • Modèles pris en charge : en croissance (Llama, Qwen, Mistral, Gemma disponibles) • Installation : orientée Python, demande de l'aisance en ligne de commande • Idéal pour : utilisateurs avancés cherchant la performance maximale • Compromis : moins convivial qu'Ollama
• ## Ollama (multiplateforme) • Performance : les modèles GGUF passent par le backend Metal de llama.cpp ; un backend MLX (préversion depuis Ollama 0.19, mars 2026) accélère certains modèles, surtout sur les puces M5 • Modèles pris en charge : la plus grande bibliothèque. De nouveaux modèles chaque semaine. • Installation : une seule commande, fonctionne immédiatement • Idéal pour : débutants et la plupart des développeurs. API REST pour l'intégration. • Compromis : peut être plus lent que MLX natif lorsqu'une version MLX du modèle existe (l'écart varie selon modèle et version)
• ## llama.cpp (multiplateforme, contrôle maximal) • Performance : compétitif avec Ollama une fois optimisé (Ollama l'utilise pour les modèles GGUF) • Personnalisation : le plus grand contrôle sur la quantification et les paramètres d'inférence • Installation : demande compilation et expertise en ligne de commande • Idéal pour : chercheurs, workflows de quantification personnalisés • Compromis : courbe d'apprentissage plus raide qu'Ollama
• ## Recommandation par profil • Débutants : Ollama (fonctionne immédiatement, documentation riche) • Développeurs : API REST d'Ollama (facile à intégrer dans des applications) • Utilisateurs avancés : MLX directement (performance maximale) • Chercheurs : llama.cpp (personnalisation maximale)

Guide de démarrage rapide macOS (10 étapes)

1. 1
   Achetez votre Mac
   Why it matters: Mac mini M5 Pro pour le budget/l'entrée de gamme, Mac Studio M5 Max ou M5 Ultra pour la puissance de bureau, ou MacBook Pro 16" M5 Max pour la portabilité.
2. 2
   Configuration initiale de macOS
   Why it matters: Utilisez l'Assistant de migration (transfert depuis un ancien Mac) ou une installation neuve. Gardez macOS à jour : Apple livre des améliorations de performance Metal dans les versions intermédiaires.
3. 3
   Installez Homebrew
   Why it matters: /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)" — gestionnaire de paquets pour tout le reste.
4. 4
   Installez Ollama
   Why it matters: brew install ollama — installation simple en une commande.
5. 5
   Démarrez le service Ollama
   Why it matters: ollama serve (s'exécute au premier plan) ou utilisez Ollama.app depuis le dossier Applications.
6. 6
   Téléchargez un premier modèle de test
   Why it matters: ollama pull llama3.1:8b — vérifiez l'installation avec un petit modèle (téléchargement d'environ 4 Go).
7. 7
   Testez l'inférence de base
   Why it matters: ollama run llama3.1:8b "Explain local LLMs in one sentence" --verbose — la ligne eval rate indique vos tokens/s.
8. 8
   Téléchargez le gros modèle visé
   Why it matters: ollama pull llama3.1:70b-instruct-q4_K_M (téléchargement d'environ 40 Go). Comptez 20–40 min avec une bonne connexion ; un Mac de 64 Go ou plus est nécessaire.
9. 9
   Surveillez les performances
   Why it matters: asitop affiche l'utilisation des ressources d'Apple Silicon. Dans un second terminal : brew install asitop && asitop.
10. 10
    Optionnel : installez LM Studio pour une interface graphique
    Why it matters: Téléchargez-le sur lmstudio.ai. Plus simple que la ligne de commande pour les non-développeurs ; inclut un moteur MLX pour Apple Silicon.

Accélérer Ollama sur Apple Silicon M5

• Adaptez d'abord le modèle à votre bande passante. Les tokens/s sont plafonnés près de bande passante ÷ taille du fichier du modèle (voir la section sur la bande passante plus haut). Un modèle 70B de 42 Go sur un M5 Pro à 307 Go/s ne dépassera pas environ 7 tokens/s quel que soit le réglage ; un modèle 32B de 20 Go atteint environ 15. Passer à un modèle ou une quantification plus petits est le plus gros gain possible.
• Vérifiez que le modèle est entièrement déchargé sur le GPU et ne retombe pas sur le CPU. Lancez `ollama ps` avec un modèle chargé : la colonne PROCESSOR doit afficher 100% GPU. Une répartition partielle avec le CPU signifie généralement que le modèle ne tient pas dans la mémoire que macOS autorise au GPU, pas qu'un réglage manque.
• Libérez la mémoire unifiée avant une longue session. La mémoire est partagée entre macOS et le modèle : un navigateur avec beaucoup d'onglets, Docker Desktop ou Xcode en arrière-plan peuvent retirer plusieurs Go à Ollama. Quittez-les avant de charger un gros modèle et vérifiez la mémoire disponible avec le Moniteur d'activité ou `asitop`. Pour les gros modèles, la limite mémoire du GPU peut être relevée avec `sudo sysctl iogpu.wired_limit_mb=<Mo>` (réinitialisée au redémarrage).
• Réduisez la fenêtre de contexte si vous n'en avez pas besoin. Définissez un `num_ctx` plus petit dans le Modelfile ou la requête API (p. ex. 4096 au lieu de 32K) pour les conversations courtes : cela réduit la pression mémoire du cache KV et accélère la génération.
• Activez flash attention et un cache KV quantifié. `OLLAMA_FLASH_ATTENTION=1` et `OLLAMA_KV_CACHE_TYPE=q8_0` réduisent la mémoire du cache KV et accélèrent les contextes longs pour une petite perte de qualité.
• Adaptez la quantification à vos besoins réels de qualité. Q4_K_M est nettement plus rapide que Q8_0 ou Q5_K_M pour une perte de qualité faible et généralement acceptable (voir le guide sur la quantification). Si un modèle tourne plus lentement que les benchmarks ci-dessus, essayez la variante Q4 avant d'incriminer le matériel.
• Gardez le MacBook Pro branché et surélevé pour une inférence soutenue. Le MacBook Pro peut brider de 10–15 % après 2–3 heures de charge continue, la chaleur s'accumulant dans le châssis plus fin. Un support améliorant la circulation d'air et le branchement secteur retardent le bridage. Pour des sessions de plus de quelques heures, le refroidissement du Mac Studio maintient la performance complète.
• Mettez à jour macOS et Ollama. Apple livre des améliorations Metal dans les versions intermédiaires et Ollama publie régulièrement des backends plus rapides, y compris la prise en charge MLX pour davantage de modèles. Une ancienne version sur du silicium M5 récent laisse de la performance de côté.
• Évitez d'exécuter plusieurs modèles simultanément sans nécessité. Chaque modèle chargé réserve sa part de mémoire unifiée. `OLLAMA_MAX_LOADED_MODELS` contrôle le nombre de modèles qu'Ollama garde résidents à la fois.

# Check whether a model is fully offloaded to GPU (PROCESSOR column)
ollama ps

# Measure real speed: the "eval rate" line is generation tokens/sec
ollama run llama3.1:8b --verbose

# Faster long-context inference: flash attention + 8-bit KV cache
OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 ollama serve

# Or limit Ollama to one resident model at a time
OLLAMA_MAX_LOADED_MODELS=1 ollama serve

# Smaller context window in a Modelfile: PARAMETER num_ctx 4096

Matrice de décision : quelle configuration de Mac acheter

• 1. Budget prioritaire, modèles plus petits acceptés (7–14B) : Mac mini M5 Pro 24 Go (1 699 $) — le M5 Pro le moins cher jamais proposé
• 2. Modèles 30B sur un bureau économique : Mac mini M5 Pro 64 Go (2 699 $)
• 3. Exécuter confortablement des modèles 70B : Mac Studio M5 Max 64 Go (3 499 $)
• 4. 70B Q5 avec fenêtres de contexte de 32K+ : Mac Studio M5 Max 128 Go (5 099 $)
• 5. 256–512 Go pour les plus gros modèles locaux : Mac Studio M5 Ultra (5 499–10 000+ $)
• 6. LLM local portable, bridage thermique accepté : MacBook Pro 16" M5 Max 64 Go (3 499 $)
• 7. Déjà dans l'écosystème macOS (Xcode, Final Cut Pro) : n'importe quelle variante de Mac Studio M5
• 8. Recherche/fine-tuning avec expériences MLX : Mac Studio M5 Max 128 Go ou M5 Ultra (marge mémoire)
• 9. Silence maximal et fonctionnement au repos : Mac Studio (ventilateurs rarement actifs en charge normale)
• 10. Budget de 4 000 $+, portabilité souhaitée : MacBook Pro 16" M5 Max 128 Go (4 499 $)
• 11. Alternatives à considérer : PC RTX 4090 (3 000 $+) ou mini PC AMD Ryzen AI Max+ (1 600–2 000 $)

Quand Apple Silicon M5 est un mauvais choix pour le LLM local

• Vous avez besoin de flux exclusivement CUDA : l'essentiel de l'inférence LLM fonctionne sur Apple Silicon, mais le fine-tuning avec torch.cuda, les noyaux CUDA de vLLM et le code de recherche CUDA propriétaire ne tournent pas sur MLX. Si l'essentiel de votre travail est spécifique à CUDA, prenez un GPU RTX.
• Vous faites beaucoup de Stable Diffusion : les modèles de diffusion tournent généralement plus lentement sur M5 que sur une RTX 4090. Si la génération d'images pèse 30 % ou plus de votre flux, PC + RTX l'emporte.
• Le budget est la priorité absolue : un PC à 1 500 $ avec RTX 4070 Ti bat le Mac mini M5 Pro en vitesse sur petits modèles. Si seul le budget compte, le PC est moins cher.
• Vous avez besoin d'évolutivité : la RAM et le stockage du Mac Studio sont fixés à l'achat. Les PC permettent des mises à niveau progressives. Sur 5 ans et plus, le PC peut revenir moins cher.
• Vous exigez des tokens/s à trois chiffres sur petits modèles : la RTX 4090 atteint 90–120 tokens/s sur Llama 8B. Le M5 Max est estimé à 75–100. Pour un débit élevé (plusieurs utilisateurs), NVIDIA gagne encore.
• Vous n'utilisez pas déjà macOS : changer d'écosystème depuis Windows/Linux uniquement pour le LLM local ne vaut pas la peine, sauf si vous voulez aussi macOS pour d'autres raisons.
• Vous avez besoin d'inférence de production 24/7 : le Mac Studio est excellent mais conçu pour des pics d'usage. Pour une inférence continue sous SLA, les stations NVIDIA professionnelles sont plus sûres.

Questions fréquentes

Guides connexes

• Benchmarks LLM M5 Pro vs M5 Max
• Mac mini M5 comme serveur IA local
• Exécuter des modèles 70B sur Apple Silicon M5 Max
• GPU vs CPU vs Apple Silicon
• Meilleurs mini-PC pour LLM locaux
• Guide matériel LLM local 2026
• Mini-PC AMD Ryzen AI Max+
• Meilleurs GPU pour LLM locaux
• Quantification LLM expliquée
• Consommation électrique des LLM locaux
• Meilleurs LLM locaux 2026
• LLM local sur portable