**La phase de décodage de l'inférence LLM est limitée par la bande passante, pas par le calcul: tokens/sec ≈ bande_passante_mémoire / taille_modèle_en_octets. Galaxy S26 LPDDR5X (85,6 GB/s) limite un modèle 7B à ~24 tokens/sec maximum. GPU H100 data-center HBM3E (1.229 TB/s) atteint 100+ tokens/sec. L'écart de bande passante 14x explique la différence de vitesse. SK Hynix détient 62% de part de marché HBM; Samsung se concentre sur LPDDR5X-PIM (Processing-In-Memory) pour réduire le mouvement de données. HBM4 (>2 TB/s) arrive 2026-2027. Ce goulot d'étranglement mémoire est fondamental pour expliquer pourquoi l'IA locale sera toujours plus lente que le cloud—vous ne pouvez pas mettre HBM dans un téléphone.
La bande passante mémoire, pas les TOPS de calcul, est le goulot d'étranglement pour l'inférence IA. Le Galaxy S26 (Exynos 2600) a LPDDR5X à 85,6 GB/s; les data centers utilisent HBM3E à 1.229 TB/s—un écart de 14x. Cet écart explique pourquoi les modèles 7B paramètres s'exécutent sur les téléphones à 8–15 tokens/sec mais les GPU du data center gèrent 100+ tokens/sec. Samsung et SK Hynix sont les acteurs clés: SK Hynix domine HBM (62% de part de marché), tandis que Samsung pousse LPDDR5X-PIM (Processing-In-Memory) pour réduire l'écart. Ce guide explique le goulot d'étranglement mémoire, le rôle de Samsung et SK Hynix, et ce que cela signifie pour l'IA sur appareil en 2026 et au-delà.
Points clés
Cet article fait référence à des modèles d’IA, des benchmarks, des prix et des licences de tiers. Le paysage de l’IA évolue rapidement. Les scores de benchmark, les conditions de licence, les noms de modèles et les prix des API peuvent changer entre le moment de la rédaction et le moment où vous lisez ceci. Avant de prendre des décisions de déploiement ou de conformité basées sur cet article, vérifiez les chiffres actuels auprès de la source officielle de chaque fournisseur : fiches de modèles Hugging Face pour les licences et benchmarks, sites web des fournisseurs pour les prix API, et EUR-Lex pour les textes RGPD et AI Act actuels. Cet article reflète les informations publiques disponibles en mai 2026.
Utilisez PromptQuorum avec un LLM local, vos propres clés API, ou les deux — vous choisissez le backend.
Télécharger la bêta PromptQuorum →