RTX 3090 pour LLM local en 2026 : acheter ou louer ?

Les deux options offrent le même GPU et les mêmes 24 Go de VRAM. La seule vraie question est le nombre d'heures que vous utiliserez réellement, et si vos données peuvent quitter votre réseau.

La RTX 3090 se justifie pour une seule raison : 24 Go de VRAM au prix le plus bas du marché. Le reste de la carte n'a rien d'exceptionnel en 2026 — conception de 2020, consommation de 350 W, et une carte actuelle la bat sur chaque indicateur d'efficacité. Cela ne change rien au fait que les poids d'un modèle tiennent en mémoire vidéo, ou pas.

La VRAM est une falaise, pas une pente. Un modèle qui tient tourne à pleine vitesse ; un modèle qui déborde, même d'un gigaoctet, bascule dans la mémoire système et s'effondre à une fraction de la vitesse. Cela fait des 24 Go un seuil de capacité plutôt qu'un chiffre de performance, et la 3090 est la carte la moins chère qui l'atteint.

Le second chiffre important est la bande passante mémoire. La génération de tokens d'un modèle quantifié est limitée par la mémoire, pas par le calcul, donc 936 Go/s prédit mieux la sensation de vitesse que n'importe quel nombre de cœurs CUDA. C'est aussi pourquoi la 3090 reste compétitive face à des cartes milieu de gamme plus récentes, avec plus de calcul mais un bus mémoire plus étroit.

En pratique : une marge confortable pour un modèle de classe 27B en quantification 4 bits, une inférence rapide sur des modèles 7B–14B avec long contexte, et — avec une seconde carte — la capacité de tenir un modèle de classe 70B en VRAM sans déchargement.

« Tient en 24 Go » et « tourne confortablement en usage interactif » sont deux affirmations différentes, et les guides d'achat qui les confondent créent de fausses attentes. Un modèle peut techniquement charger sans laisser aucune place au contexte, ce qui fonctionne pour un seul prompt court mais s'effondre dès qu'une conversation s'allonge. Le tableau ci-dessous distingue les deux.

La variable qui déplace un modèle entre ces colonnes est la longueur du contexte : chaque token d'historique et chaque token généré occupe de la place dans le cache KV, en plus des poids eux-mêmes. Un modèle 27B en quantification 4 bits avec un contexte de 4K tient confortablement ; le même modèle poussé à 32K de contexte peut absorber la marge gagnée par la quantification.

Les 24 Go de la RTX 3090 sont particulièrement pertinents pour Ollama et LM Studio, car les deux chargent par défaut un modèle entièrement en mémoire GPU quand il tient, et basculent vers un déchargement CPU/GPU plus lent sinon. Avec 24 Go disponibles, les deux outils peuvent faire tourner des modèles de classe 27B entièrement sur la carte plutôt que de les répartir.

La vitesse réelle en tokens par seconde dépend du modèle précis, du niveau de quantification, de la longueur du contexte, du backend utilisé (llama.cpp en coulisses pour les deux), de la part du prompt encore à traiter par rapport à ce qui est déjà en cache, et de ce qui tourne par ailleurs sur la même machine. Aucun des deux outils ne publie de benchmarks officiels pour la RTX 3090 — considérez donc tout chiffre isolé de « X tokens/s » vu ailleurs comme la configuration d'une seule personne, pas une garantie pour la vôtre.

En pratique : installez l'un des deux outils, chargez un modèle de classe 27B en quantification 4 bits, et vérifiez l'utilisation de la mémoire GPU avec nvidia-smi (ou l'affichage propre à l'outil) pendant l'exécution — si l'utilisation reste confortablement sous 24 Go, le modèle tourne entièrement sur la carte et vous bénéficiez de toute la bande passante mémoire de la RTX 3090.

Chaque RTX 3090 offre les mêmes 24 Go de VRAM, la question de la compatibilité des modèles est donc réglée dès qu'on choisit « RTX 3090 ». Ce qui diffère entre les cartes, c'est le confort d'usage au quotidien. Aucun design de refroidissement d'un fabricant n'est objectivement meilleur sur toutes les annonces — l'état sur le marché de l'occasion varie plus que le design lui-même — mais voici les points à vérifier avant d'acheter.

L'argument en faveur de la location n'est pas qu'elle est toujours moins chère — c'est qu'un GPU inactif coûte autant qu'un GPU occupé. Une carte dans un poste utilisé le week-end a déjà coûté son prix d'achat complet. Un GPU loué ne coûte rien entre deux sessions.

Les raisons de louer sont concrètes, pas philosophiques : aucun débours initial, aucun risque de dépréciation sur une carte de cinq ans, aucune contrainte d'alimentation, de boîtier ou de refroidissement, aucun week-end perdu quand un ventilateur tombe en panne. On peut aussi louer une carte qu'on n'achèterait jamais — tester un modèle de classe 70B sur deux GPU loués pendant un après-midi coûte quelques dollars, contre environ 1 700 $ pour une paire d'occasion.

Le contre-argument honnête : louer implique de vraies frictions. On téléverse des données sur la machine de quelqu'un d'autre, on attend une instance, et sur les plateformes de marché on tombe parfois sur un hôte qui disparaît en cours de travail. Ce ne sont pas des raisons d'écarter la location — ce sont des raisons pour lesquelles la décision dépend de votre charge de travail, pas seulement du tarif horaire.

Face à une location médiane à 0,15 $/heure, une carte à 850 $ met environ 12 300 heures GPU à se rentabiliser — environ quatre ans à huit heures par jour, ou dix-sept ans à deux heures. C'est le chiffre que la plupart des guides d'achat omettent, et c'est celui qui devrait guider l'achat.

Le calcul déduit ce que coûte l'exploitation de la carte. À 450 W à la prise et à la moyenne US 2026 de 0,18 $/kWh, l'inférence locale coûte environ 0,08 $ de l'heure en électricité — vous ne comparez donc pas 850 $ à 0,15 $/heure, mais aux environ 0,07 $/heure que vous économisez réellement.

Hypothèses : carte à 850 $, consommation système de 450 W, 0,18 $/kWh. Substituez votre propre tarif d'électricité — il fait bouger le résultat plus que tout autre paramètre du tableau, et sur les marchés au-delà de 0,30 $/kWh, l'argument de l'achat disparaît largement.

Évitez-la si vos modèles tiennent en 16 Go. Si vous faites tourner des modèles 7B et 14B en 4 bits sans jamais toucher à plus gros, une carte 16 Go actuelle moins chère est plus silencieuse, consomme bien moins et bénéficie d'une garantie. Payer le surcoût des 24 Go pour une marge jamais utilisée est l'erreur la plus fréquente sur cet achat.

Évitez-la aussi si vous achetez pour entraîner plutôt que pour faire de l'inférence. Un fine-tuning substantiel sur une seule carte 24 Go implique une quantification agressive et de longues attentes ; louer une carte plus grosse pour quelques heures est à la fois plus rapide et moins cher.

Et évitez-la si votre électricité est chère. À 0,30 $/kWh ou plus, le seul coût d'exploitation se rapproche des tarifs cloud les moins chers, et l'argument de la possession s'efface largement.

Achetez une RTX 3090 d'occasion si vous l'utiliserez plus de quatre heures par jour environ pendant les deux prochaines années, ou si vos données ne peuvent pas quitter vos locaux — c'est toujours le moyen le moins cher de posséder 24 Go de VRAM. Louez-en une si votre usage est occasionnel, irrégulier, ou si vous cherchez encore à savoir si l'inférence locale convient à votre charge de travail. En cas de doute, louez d'abord.

Pour un usage LLM local fréquent et la confidentialité : achetez. Pour une expérimentation occasionnelle : louez. En cas d'usage incertain ou changeant : louez d'abord, et réévaluez la décision dans six mois une fois vos heures réelles connues. Pour quiconque cherche spécifiquement de la VRAM 24 Go à bas prix, une RTX 3090 d'occasion en bon état reste convaincante en 2026 — la hausse de prix due à la pénurie de mémoire n'a rien changé à cela, elle a seulement repoussé le seuil de rentabilité. Pour un achat neuf où l'efficacité, la garantie et les fonctionnalités actuelles comptent plus que le prix initial, comparez plutôt avec une carte actuelle.

En résumé : l'avantage de la RTX 3090 est ses 24 Go de VRAM à prix de marché d'occasion. Ses coûts sont l'âge, la forte consommation, la chaleur, le bruit et l'absence de garantie. Aucun des deux côtés de cet arbitrage n'a changé en 2026 — seul le prix d'achat a bougé, et dans le sens défavorable à l'achat.