Points clés
- La mémoire est la contrainte déterminante, pas le nom du GPU. Un modèle qui ne tient pas dans la VRAM ou la mémoire unifiée échoue à se charger ou déborde sur le swap et devient trop lent pour un usage interactif. Achetez pour la mémoire dont votre modèle cible a besoin, puis optimisez la vitesse.
- Le plus de mémoire portable : un Apple MacBook Pro. Apple Silicon partage un même pool de mémoire unifiée entre le CPU et le GPU, si bien qu'une configuration à grande mémoire fait tenir de plus grands modèles qu'un portable de jeu comparable — avec la meilleure efficacité énergétique.
- Le plus rapide en 7B-13B : un portable de jeu NVIDIA à forte VRAM. Une station de travail Lenovo ThinkPad ou un portable ASUS ROG équipé d'un GPU RTX exécute les modèles 7B-13B le plus vite une fois branché. Un portable RTX 4060 (8 Go) exécute un modèle 7B autour de 60-90 tok/s ; un portable RTX 4070 (12 Go) gère le 13B sans difficulté.
- Choix réparable : le Framework Laptop 16. Il dispose d'une RAM et d'un stockage évolutifs et d'une conception modulaire, vous pouvez donc augmenter la mémoire plus tard au lieu de remplacer toute la machine — une couverture contre le risque de dépasser votre première configuration.
- Mémoire minimale : 8 Go exécutent les modèles 7B en Q4_K_M, 16 Go exécutent le 13B sans difficulté, et les grandes configurations de MacBook Pro atteignent des modèles bien plus volumineux. Laissez toujours 2-4 Go de marge pour le système d'exploitation.
- Attendez-vous à un écart avec le poste fixe. Un portable tourne environ 20-30 % plus lentement qu'un poste fixe équipé de la même puce, car les limites thermiques maintiennent les fréquences basses sous charge soutenue.
- La batterie change tout sous Windows. Un portable de jeu désactive ou bride généralement le GPU dédié sur batterie, ramenant l'inférence à un rythme d'escargot — prévoyez de l'utiliser branché. Apple Silicon reste utilisable sur batterie et est bien plus efficace.
- Les prix sont un instantané de juillet 2026. La tarification des portables évolue avec les cycles de renouvellement des modèles et les promotions — traitez chaque chiffre ici comme une fourchette et vérifiez le prix en direct avant d'acheter.
Faits en bref
- Apple MacBook Pro : mémoire unifiée partagée par le CPU et le GPU — les grandes configurations font tenir les plus grands modèles de façon portable.
- Lenovo ThinkPad / station de travail : construction durable avec une option GPU NVIDIA RTX — solide pour l'inférence 7B-13B branchée.
- Portable de jeu ASUS ROG : GPU RTX à forte VRAM avec un refroidissement de niveau jeu — l'option 7B-13B la plus rapide sur secteur.
- Framework Laptop 16 : conception modulaire et réparable avec RAM et stockage évolutifs — achetez une mémoire que vous pourrez augmenter plus tard.
- Règle de mémoire en Q4_K_M : 8 Go exécutent les modèles 7B, 16 Go exécutent le 13B ; gardez toujours 2-4 Go libres pour le système.
- Référence de vitesse : un modèle 7B tourne à 10-25 tok/s sur un CPU de portable, 30-80 tok/s sur Apple Silicon et 60-90 tok/s sur un GPU de portable RTX 4060.
- Écart avec le poste fixe : attendez-vous à une vitesse soutenue environ 20-30 % inférieure sur un portable par rapport à un poste fixe équipé de la même puce, en raison du throttling thermique.
Choix de la rédaction : un Apple MacBook Pro à grande mémoire unifiée
Pour la plupart des acheteurs qui veulent un seul portable exécutant bien les LLM locaux tout en restant mobile, un Apple MacBook Pro à grande mémoire unifiée est le choix équilibré. Apple Silicon partage un même pool de mémoire entre le CPU et le GPU, si bien qu'une configuration à grande mémoire fait tenir de plus grands modèles qu'un portable de jeu doté de la même mémoire répartie entre VRAM et RAM système. Il reste aussi utilisable sur batterie et fonctionne bien plus efficacement — un MacBook Pro de la série M consomme environ 12-18 W pendant l'inférence 7B contre 25-45 W sur un portable Windows. Si vous avez spécifiquement besoin de l'inférence 7B-13B la plus rapide et que vous garderez le portable branché, un portable de jeu NVIDIA à forte VRAM est plus rapide. Si vous voulez un matériel réparable et évolutif, choisissez le Framework Laptop 16. Configurez le MacBook Pro avec autant de mémoire unifiée que votre budget le permet — la mémoire ne peut pas être augmentée après l'achat. Les prix couvrent une large fourchette, vérifiez donc le prix actuel avant d'acheter.
📌Note: Ce choix de la rédaction reflète uniquement l'adéquation à l'usage. PromptQuorum n'est inscrit à aucun programme d'affiliation et les liens ci-dessous ne portent aucune balise d'affiliation — ce sont de simples liens de référence qui ne génèrent aucune commission.
Comment les quatre familles de portables se comparent pour les LLM locaux
Les chiffres de vitesse proviennent des tests de portables réalisés par PromptQuorum — un modèle 7B tourne à 10-25 tok/s sur un CPU de portable, 30-80 tok/s sur Apple Silicon et 60-90 tok/s sur un GPU de portable RTX 4060. La colonne « Idéal pour » reflète un style d'achat, pas une référence unique. Les prix sont un instantané de juillet 2026 exprimé en fourchettes — la tarification des portables évolue avec les cycles de modèles et les promotions, vérifiez donc avant d'acheter.
📍 En une phrase
Pour un portable destiné aux LLM locaux, le pool de mémoire — la VRAM sous Windows ou la mémoire unifiée sur Apple Silicon — décide des modèles qui tiennent, et le refroidissement décide de leur vitesse avant le throttling thermique.
💬 En termes simples
Voyez la mémoire comme la taille de l'établi et le modèle comme le projet posé dessus. Une puce plus rapide termine le travail plus vite, mais si le projet ne tient pas du tout sur l'établi, la vitesse ne compte jamais. Un portable a aussi un système de refroidissement plus petit qu'un poste fixe, il ralentit donc lors de tâches longues.
| Famille de portables | Modèle de mémoire | Vitesse 7B (données reprises) | Idéal pour | Prix (juil. 2026) |
|---|---|---|---|---|
| Apple MacBook Pro | Mémoire unifiée (CPU + GPU partagée) | 30-80 tok/s sur Apple Silicon | Plus grands modèles de façon portable, meilleure autonomie | Milieu à premium ; vérifier le prix actuel |
| Lenovo ThinkPad / station de travail | VRAM NVIDIA RTX + RAM système | 60-90 tok/s sur un GPU RTX 4060 | Construction durable, travail 7B-13B branché | Milieu à premium ; vérifier le prix actuel |
| Portable de jeu ASUS ROG | VRAM NVIDIA RTX + RAM système | 60-90 tok/s sur un GPU RTX 4060 | Le plus rapide en 7B-13B sur secteur | Milieu de gamme ; vérifier le prix actuel |
| Framework Laptop 16 | RAM système évolutive + module GPU | Comparable à un portable RTX sur secteur | Réparabilité, augmentation ultérieure de la mémoire | Milieu de gamme ; vérifier le prix actuel |
Quel portable acheter ?
Votre style d'achat décide de la famille ; votre plus grand modèle cible décide de la configuration mémoire. Trouvez la ligne qui correspond à votre situation.
| Votre situation | Achetez ceci |
|---|---|
| Je veux les plus grands modèles dans un châssis portable avec une excellente autonomie | Apple MacBook Pro à grande mémoire unifiée |
| Je veux l'inférence 7B-13B la plus rapide et je le garderai branché | Portable ASUS ROG avec un GPU NVIDIA RTX à forte VRAM |
| Je veux une construction durable de qualité professionnelle avec un GPU RTX | Station de travail Lenovo ThinkPad avec un GPU RTX |
| Je veux réparer et faire évoluer le portable moi-même au fil du temps | Framework Laptop 16 |
| J'exécute surtout des modèles 7B et je veux un portable polyvalent du quotidien | MacBook Pro à mémoire unifiée moyenne |
| Je suis indécis et je veux le premier portable le plus sûr | Apple MacBook Pro — le meilleur équilibre entre mémoire, efficacité et autonomie |
Apple MacBook Pro : la mémoire la plus portable
Un Apple MacBook Pro est le choix pour faire tenir les plus grands LLM locaux dans un châssis portable, car Apple Silicon partage un même pool de mémoire unifiée entre le CPU et le GPU. Cela signifie qu'une configuration à grande mémoire exécute de plus grands modèles qu'un portable de jeu doté de la même mémoire totale répartie entre VRAM et RAM système distinctes.
- Pourquoi l'acheter : la mémoire unifiée fait tenir de plus grands modèles qu'une répartition VRAM comparable, Apple Silicon reste utilisable sur batterie, et c'est l'option la plus économe en énergie — environ 12-18 W pendant l'inférence 7B contre 25-45 W sur un portable Windows.
- Utilisez un MacBook Pro si vous voulez un seul portable pour les plus grands modèles, accordez de la valeur à l'autonomie et préférez une machine silencieuse qui n'a pas besoin d'être branchée pour l'inférence.
- Données de vitesse reprises : un modèle 7B tourne à 30-80 tok/s sur Apple Silicon selon le palier de puce et la mémoire ; une configuration à grande mémoire unifiée fait tenir les modèles 13B entièrement en mémoire rapide.
- Configurez avec soin : la mémoire unifiée ne peut pas être augmentée après l'achat. Achetez autant de mémoire que votre budget le permet — c'est la caractéristique qui décide définitivement de votre plus grand modèle.
- Pourquoi le laisser de côté : pour l'inférence 7B-13B la plus rapide possible sur secteur, un portable de jeu NVIDIA à forte VRAM est plus rapide ; et un MacBook Pro n'est pas réparable par l'utilisateur.
💡Tip: Sur un MacBook Pro, la mémoire unifiée est la seule caractéristique que vous ne pourrez pas changer ensuite. Priorisez-la par rapport au stockage — un SSD externe peut héberger votre bibliothèque de modèles, mais aucun composant externe ne peut ajouter de la mémoire unifiée.
Lenovo ThinkPad et portables station de travail : le choix NVIDIA durable
Une station de travail mobile Lenovo ThinkPad équipée d'un GPU NVIDIA RTX est le choix pour les acheteurs qui veulent la vitesse d'inférence NVIDIA dans une construction durable de qualité professionnelle. Les modèles station de travail ThinkPad associent un GPU RTX à un châssis robuste et à des composants accessibles.
- Pourquoi l'acheter : un GPU NVIDIA RTX exécute l'inférence accélérée par CUDA d'emblée avec Ollama et LM Studio, dans un châssis conçu pour des années d'usage quotidien avec des pièces remplaçables.
- Utilisez une station de travail ThinkPad si vous voulez la vitesse du GPU NVIDIA, accordez de la valeur à une construction durable et à un bon clavier, et que le portable sert aussi de machine de travail.
- Données de vitesse reprises : un GPU de portable RTX 4060 (8 Go) exécute un modèle 7B autour de 60-90 tok/s ; un portable RTX 4070 (12 Go) gère les modèles 13B sans difficulté. La vitesse est environ 20-30 % en dessous d'un GPU de poste fixe équivalent.
- Configurez pour la mémoire : choisissez au moins 16 Go de RAM système et un GPU à 12 Go de VRAM si vous voulez de la marge pour le 13B ; le GPU est soudé, choisissez donc correctement la VRAM à l'achat.
- Pourquoi le laisser de côté : le GPU dédié est généralement bridé sur batterie, prévoyez donc de l'utiliser branché ; et en pur rapport prix-vitesse, un portable de jeu ASUS ROG coûte souvent moins cher.
📌Note: Un GPU de portable est soudé à la carte et ne peut pas être amélioré. Choisissez la quantité de VRAM pour le plus grand modèle que vous comptez exécuter — un GPU de 8 Go fait tenir le 7B sans difficulté, un GPU de 12 Go est le seuil plus sûr pour le 13B.
ASUS ROG et portables de jeu : le plus rapide en 7B-13B sur secteur
Un portable de jeu ASUS ROG équipé d'un GPU NVIDIA RTX à forte VRAM est le choix le plus rapide pour les LLM locaux 7B-13B lorsque le portable reste sur secteur. Les portables de jeu associent un GPU RTX à un refroidissement conçu pour la charge soutenue, qui maintient les fréquences plus longtemps qu'un châssis fin et léger.
- Pourquoi l'acheter : un GPU RTX à forte VRAM plus un refroidissement de niveau jeu offrent l'inférence 7B-13B soutenue la plus rapide des options Windows, souvent à un prix inférieur à celui d'un portable station de travail.
- Utilisez un portable ASUS ROG si vous voulez une vitesse 7B-13B maximale, garderez le portable branché et acceptez des ventilateurs plus bruyants et une esthétique de jeu.
- Données de vitesse reprises : un portable RTX 4060 (8 Go) exécute un modèle 7B à 60-90 tok/s ; un portable RTX 4070 (12 Go) exécute le 13B sans difficulté. Un meilleur refroidissement retarde le throttling thermique, qui commence généralement après 10-15 minutes de génération soutenue.
- Configurez pour la mémoire : choisissez au moins 16 Go de RAM système et un GPU à 12 Go de VRAM pour de la marge en 13B ; un modèle à 8 Go de VRAM convient si le 7B est votre plafond.
- Pourquoi le laisser de côté : le GPU dédié est désactivé ou bridé sur batterie, ramenant l'inférence à un rythme d'escargot ; et le bruit des ventilateurs et la décharge de la batterie sont nettement plus élevés que sur un MacBook Pro.
⚠️Warning: Un portable de jeu Windows désactive généralement le GPU dédié sur batterie pour économiser l'énergie, si bien que l'inférence retombe à la vitesse du seul CPU. Si vous devez exécuter des modèles loin d'une prise, un Apple MacBook Pro convient mieux.
Framework Laptop 16 : le choix réparable et évolutif
Le Framework Laptop 16 est le choix pour les acheteurs qui veulent un portable qu'ils peuvent réparer et faire évoluer eux-mêmes au fil du temps. Sa conception modulaire utilise une RAM et un stockage évolutifs et des pièces remplaçables, si bien que dépasser votre première configuration mémoire ne signifie pas acheter une machine entièrement neuve.
- Pourquoi l'acheter : RAM et stockage évolutifs par l'utilisateur et conception modulaire et réparable — une couverture contre la limite de la mémoire soudée d'un MacBook Pro ou d'un portable de jeu.
- Utilisez un Framework Laptop 16 si vous accordez de la valeur à la réparabilité et à la possibilité d'augmenter la mémoire plus tard, et que vous voulez éviter de remplacer tout le portable lorsque vos besoins grandissent.
- Avantage mémoire : comme la RAM est évolutive, vous pouvez commencer avec une configuration plus modeste pour les modèles 7B et ajouter de la mémoire plus tard pour le travail 13B — la seule famille ici où c'est possible.
- Configurez pour maintenant, planifiez pour plus tard : achetez assez de mémoire pour votre modèle cible actuel, en sachant que vous pourrez l'augmenter. Vérifiez les options de module GPU actuelles et la capacité de RAM prise en charge sur le site du fabricant avant d'acheter.
- Pourquoi le laisser de côté : si vous voulez la plus grande mémoire unifiée possible dans un châssis portable, un MacBook Pro à grande mémoire fait tenir de plus grands modèles ; et les portables de jeu peuvent offrir plus de vitesse GPU brute par euro.
💡Tip: Le Framework Laptop 16 est la seule famille de ce guide à RAM évolutive. Si vous ne savez pas quelle taille atteindront vos modèles, il vous permet de commencer modestement et d'ajouter de la mémoire plus tard plutôt que de trop dépenser dès le départ.
De combien de mémoire avez-vous besoin dans un portable ?
En quantification Q4_K_M, un LLM local a besoin d'environ 0,6 Go de mémoire par milliard de paramètres, plus 2-4 Go pour le système d'exploitation et les outils. Sur un portable, « mémoire » signifie VRAM plus RAM système sous Windows, ou mémoire unifiée sur Apple Silicon.
📍 En une phrase
Pour un portable destiné aux LLM locaux, prévoyez environ 0,6 Go de mémoire par milliard de paramètres du modèle plus 2-4 Go de surcharge — 8 Go couvrent les modèles 7B et 16 Go couvrent le 13B.
💬 En termes simples
Chaque modèle a besoin d'une certaine quantité de mémoire pour se charger, et le système d'exploitation a besoin de sa propre part en plus. Si le modèle ne tient pas, le portable se rabat sur le swap basé sur le disque et ralentit à un rythme d'escargot. Achetez assez de mémoire pour votre plus grand modèle avec quelques gigaoctets de marge.
- 8 Go — modèles 3B et 7B : un modèle 7B en Q4_K_M a besoin d'environ 4,5 Go, laissant de la place au système. 8 Go est le plancher pratique ; fermez le navigateur avant de charger un modèle 7B.
- 16 Go — modèles 7B et 13B : un modèle 13B en Q4_K_M a besoin d'environ 9 Go, ce qui tient dans 16 Go avec un multitâche normal. 16 Go est le point de départ recommandé.
- 32 Go+ — 13B avec multitâche intensif, ou modèles plus volumineux : confortable pour le 13B aux côtés d'autres applications, et le point d'entrée pour dépasser le 13B.
- Grande mémoire unifiée de MacBook Pro — plus grands modèles portables : comme le GPU partage l'ensemble du pool de mémoire, un MacBook Pro à grande mémoire fait tenir des modèles bien au-delà d'un portable Windows de 16 Go.
- Utilisez 8 Go si les modèles 7B couvrent votre travail ; choisissez 16 Go+ si vous voulez des modèles 13B ou faites tourner un navigateur et un éditeur en parallèle de l'inférence.
Arbre de décision : choisissez votre portable en trois questions
Trois questions, dans l'ordre, orientent la plupart des acheteurs vers une seule famille.
📍 En une phrase
Choisissez un portable pour LLM locaux en répondant d'abord au besoin de réparabilité, ensuite au besoin de batterie et de mémoire portable, et enfin à la construction durable par rapport à la vitesse brute par euro.
💬 En termes simples
Commencez par savoir si vous voulez faire évoluer le portable vous-même — si oui, prenez un Framework. Si vous devez exécuter des modèles débranché ou voulez le plus de mémoire, prenez un MacBook Pro. Sinon, choisissez un portable de jeu ou station de travail selon que la durabilité ou le rapport prix-vitesse importe le plus.
- 1. Avez-vous besoin de réparer et de faire évoluer le portable vous-même ? Oui : un Framework Laptop 16. Non : continuez.
- 2. Avez-vous besoin d'exécuter des modèles sur batterie, ou voulez-vous la plus grande mémoire portable ? Oui : un Apple MacBook Pro à grande mémoire unifiée. Non : continuez.
- 3. Voulez-vous la vitesse 7B-13B la plus rapide sur secteur, dans une construction durable ? La construction durable compte le plus : une station de travail Lenovo ThinkPad. La vitesse brute par euro compte le plus : un portable de jeu ASUS ROG.
Où acheter un portable pour LLM locaux
Les prix des portables évoluent avec les cycles de renouvellement des modèles et les promotions — les prix américains sont généralement les plus bas, les prix de l'UE incluent la TVA. Les liens ci-dessous sont de simples liens de recherche de produits et de fabricants par région ; ils ne portent aucune balise d'affiliation et ne génèrent aucune commission.
- États-Unis : Amazon et les boutiques des fabricants (Apple, Lenovo, ASUS, Framework) proposent le plus large choix de configurations. Les boutiques des fabricants permettent de choisir la mémoire exacte.
- Allemagne : Amazon.de et les boutiques allemandes des fabricants ; comptez environ 19 % de TVA incluse dans les prix affichés.
- France : Amazon.fr et les boutiques françaises des fabricants ; la tarification est similaire à l'Allemagne avec 20 % de TVA incluse.
- Japon : Amazon.co.jp et les boutiques japonaises des fabricants ; les options de configuration suivent celles des États-Unis.
- Achetez près d'un renouvellement de modèle si vous pouvez attendre — la génération précédente baisse souvent de prix au lancement d'une nouvelle, et un portable de jeu d'occasion ou reconditionné échappe à une grande part de la prime du nouveau modèle.
⚠️Warning: Chaque fourchette de prix de ce guide est un instantané de juillet 2026. La tarification des portables évolue avec les cycles de modèles et les périodes de promotion — ouvrez toujours l'annonce actuelle du revendeur ou du fabricant avant d'acheter.
Erreurs courantes lors de l'achat d'un portable pour LLM locaux
- Acheter pour le nom du GPU plutôt que pour la mémoire. Un GPU rapide qui manque de VRAM pour votre modèle est inutile. Confirmez d'abord que le modèle tient en mémoire avec 2-4 Go de marge, puis comparez la vitesse.
- Acheter un ultraportable fin en espérant qu'il exécute bien les modèles 7B. Un ultraportable à carte graphique intégrée et faible enveloppe thermique ne gère qu'une inférence CPU légère en 3B-7B. Choisissez plutôt un MacBook Pro ou un portable correctement refroidi.
- Attendre la vitesse d'un poste fixe d'un portable. Les limites thermiques maintiennent les fréquences basses sous charge soutenue — un portable tourne environ 20-30 % plus lentement qu'un poste fixe équipé de la même puce.
- Prévoir d'utiliser un portable de jeu sur batterie. Un portable de jeu Windows bride ou désactive le GPU dédié sur batterie, ramenant l'inférence à la vitesse du seul CPU. Prévoyez de l'utiliser branché, ou achetez un MacBook Pro.
- Sous-configurer la mémoire soudée. Sur un MacBook Pro ou un portable de jeu, la mémoire ne peut pas être augmentée ensuite. Achetez-en assez à l'achat pour votre plus grand modèle cible.
- Ignorer la gestion thermique. Exécuter l'inférence dans un sac fermé, ou sans support pour la circulation d'air, force le GPU à brider fortement en quelques minutes. Utilisez un support et gardez les grilles dégagées.
- Surdimensionner pour des modèles 7B. Si les modèles 7B couvrent votre travail, une configuration haut de gamme est de l'argent et de l'autonomie gaspillés. Adaptez la mémoire au modèle, pas au budget dont vous disposez par hasard.
Sources
- Les meilleurs ordinateurs portables pour LLM locaux — guide portables de PromptQuorum : paliers de GPU, limites de taille des modèles et écart de vitesse poste fixe / portable repris ici.
- Exécuter des LLM locaux sur un portable : RAM, vitesse et thermique — source PromptQuorum pour les chiffres de vitesse 7B (CPU, Apple Silicon, GPU de portable RTX) et les données de batterie et de thermique repris ici.
- Caractéristiques de l'Apple MacBook Pro — référence officielle des configurations de mémoire unifiée Apple Silicon.
- Framework Laptop 16 — référence officielle de la conception modulaire à RAM et module GPU évolutifs.
Questions fréquemment posées
Quel est le meilleur portable pour exécuter des LLM locaux en 2026 ?
Il n'existe pas un seul meilleur portable — cela dépend de votre style d'achat. Un Apple MacBook Pro à grande mémoire unifiée fait tenir les plus grands modèles dans un châssis portable et efficace et constitue le meilleur choix polyvalent. Un portable de jeu NVIDIA à forte VRAM, comme un ASUS ROG ou une station de travail Lenovo ThinkPad, exécute les modèles 7B-13B le plus vite lorsqu'il est branché. Un Framework Laptop 16 est le choix si vous voulez un matériel réparable et évolutif. Achetez d'abord pour la mémoire, puis pour la vitesse.
De combien de RAM ai-je besoin dans un portable pour LLM locaux ?
Prévoyez 8 Go comme minimum pratique et 16 Go comme point de départ recommandé. En quantification Q4_K_M, un modèle 7B a besoin d'environ 4,5 Go et tourne sur un portable de 8 Go si vous gardez les autres applications légères. Un modèle 13B a besoin d'environ 9 Go, ce qui tient confortablement dans 16 Go. Laissez toujours 2-4 Go de marge pour le système d'exploitation.
Un MacBook Pro ou un portable de jeu est-il meilleur pour les LLM locaux ?
Cela dépend de votre priorité. Un MacBook Pro partage un même pool de mémoire unifiée entre le CPU et le GPU, il fait donc tenir de plus grands modèles, fonctionne bien plus efficacement et reste utilisable sur batterie. Un portable de jeu doté d'un GPU NVIDIA RTX à forte VRAM exécute les modèles 7B-13B plus vite lorsqu'il est branché. Choisissez le MacBook Pro pour la mobilité et les grands modèles, le portable de jeu pour la vitesse brute branché.
Un portable peut-il exécuter les LLM locaux aussi vite qu'un poste fixe ?
Non. Un portable tourne environ 20-30 % plus lentement qu'un poste fixe équipé de la même puce car un système de refroidissement plus petit force les fréquences à baisser sous charge soutenue. Le throttling thermique commence généralement après 10-15 minutes de génération continue. Un portable est le bon choix pour la mobilité ; un poste fixe est plus rapide pour les charges soutenues ou les grands modèles.
Le Framework Laptop 16 est-il bon pour les LLM locaux ?
Oui, si la réparabilité et les évolutions comptent pour vous. Le Framework Laptop 16 dispose d'une RAM et d'un stockage évolutifs et d'une conception modulaire, vous pouvez donc commencer avec une configuration mémoire pour les modèles 7B et l'augmenter plus tard pour le travail 13B. C'est la seule famille de ce guide où la mémoire est évolutive par l'utilisateur. Pour la plus grande mémoire unifiée dans un châssis portable, un MacBook Pro à grande mémoire fait tout de même tenir de plus grands modèles.
Puis-je exécuter des LLM locaux sur un portable sur batterie ?
Cela dépend du portable. Les MacBook à Apple Silicon restent utilisables sur batterie et fonctionnent efficacement — environ 12-18 W pendant l'inférence 7B. Un portable de jeu Windows désactive ou bride généralement le GPU dédié sur batterie, ramenant l'inférence à la vitesse lente du seul CPU. Si exécuter des modèles loin d'une prise compte, choisissez un MacBook Pro.
À quelle vitesse un modèle 7B tourne-t-il sur un portable ?
La vitesse dépend du matériel. Un modèle 7B en Q4_K_M tourne à environ 10-25 tokens par seconde sur un CPU de portable, 30-80 tokens par seconde sur Apple Silicon en utilisant la mémoire unifiée, et 60-90 tokens par seconde sur un GPU de portable NVIDIA RTX 4060. Ces chiffres proviennent des tests de portables réalisés par PromptQuorum.
Puis-je améliorer le GPU d'un portable plus tard ?
Dans la quasi-totalité des portables, non — le GPU est soudé à la carte mère et ne peut pas être changé. Cela fait de la VRAM un choix définitif que vous devez réussir à l'achat : un GPU de 8 Go fait tenir les modèles 7B, un GPU de 12 Go est le seuil plus sûr pour le 13B. Le Framework Laptop 16 est modulaire pour la RAM et certains composants, mais le GPU se choisit tout de même au moment de la configuration.