Points clés
- Licence MIT, développé par Apple Machine Learning Research
- MLX (le framework sous-jacent) a dépassé environ 27 300 étoiles GitHub ; mlx-lm spécifiquement en compte environ 6 900+
- Première sortie le 5 décembre 2023 ; en janvier 2026, Apple a publié une étude sur les Neural Accelerators intégrés à chaque cœur GPU du M5, spécifiquement benchmarkés avec MLX
- Apple Silicon (série M) uniquement — aucun support pour Windows, Linux, Mac Intel ou GPU non-Apple
- Construit autour de la mémoire unifiée : poids, cache KV et activations partagent un pool mémoire entre CPU et GPU, sans surcharge de copie
- Prend en charge l'accès aux modèles du Hugging Face Hub, la quantification avec upload vers le Hub, ainsi que le fine-tuning LoRA et complet, y compris pour les modèles quantifiés
📍 En une phrase
MLX-LM est un package Python gratuit sous licence MIT d'Apple Machine Learning Research pour exécuter et affiner des LLM sur Apple Silicon, construit sur le framework à mémoire unifiée MLX, mais limité exclusivement au matériel Mac équipé d'une puce de la série M.
💬 En termes simples
Sur un PC Windows ou Linux, le CPU et le GPU disposent chacun de leur propre mémoire séparée, donc les données doivent être copiées entre les deux ; MLX repose sur le fait que sur un Mac Apple Silicon, le CPU et le GPU partagent déjà la même mémoire physique, ce qui permet à MLX-LM de s'affranchir entièrement de cette étape de copie.
📌Remarque: MLX-LM est l'outil propre d'Apple, conçu dès le départ pour être exclusif à Apple Silicon — ce n'est pas une alternative multiplateforme à llama.cpp, mais une solution spécifique au Mac.
Qu'est-ce que MLX-LM ?
MLX-LM est un package Python gratuit et open source d'Apple Machine Learning Research pour générer du texte et affiner de grands modèles de langage spécifiquement sur Apple Silicon, construit sur MLX, le framework de calcul propre à Apple. MLX lui-même est sorti pour la première fois le 5 décembre 2023, mlx-lm étant un package compagnon axé spécifiquement sur les workflows de modèles de langage.
Le projet est hébergé sur github.com/ml-explore/mlx-lm sous licence MIT. MLX, le framework plus large, a dépassé environ 27 300 étoiles GitHub, tandis que mlx-lm spécifiquement en compte environ 6 900+.
- S'intègre au Hugging Face Hub pour l'accès aux modèles, avec prise en charge de la quantification des modèles et du renvoi des résultats vers le Hub
- Prend en charge le fine-tuning à faible rang (LoRA) et le fine-tuning complet, y compris pour des modèles déjà quantifiés
- Inclut un cache de prompt et un cache clé-valeur rotatif pour l'efficacité pendant la génération
- Prend en charge l'inférence et le fine-tuning distribués sur plusieurs machines via
mx.distributed - Fournit une sortie de génération en streaming et une commande
mlx_lm.serverpour servir des modèles
Qu'est-ce que la mémoire unifiée, et pourquoi MLX en dépend-il ?
La mémoire unifiée signifie que le CPU et le GPU d'Apple Silicon partagent un seul pool physique de mémoire, au lieu de disposer chacun d'une mémoire dédiée séparée nécessitant la copie de données entre les deux. MLX est conçu spécifiquement autour de cette architecture, fondamentalement différente de la configuration RAM CPU discrète plus VRAM GPU séparée que l'on trouve sur les systèmes Windows et Linux équipés d'un GPU NVIDIA ou AMD dédié.
- Les poids du modèle, le cache KV et les activations résident tous dans le même pool mémoire, accessible au CPU comme au GPU sans étape de copie
- Les opérations peuvent être réparties entre CPU et GPU selon les besoins, sans la surcharge de transfert de données qu'exige un système à GPU discret
- Il s'agit d'une caractéristique matérielle propre à Apple Silicon (puces de la série M) que MLX est conçu pour exploiter, et non d'une astuce logicielle reproductible à l'identique sur du matériel non-Apple
- En janvier 2026, Apple a publié une étude benchmarquant spécifiquement les Neural Accelerators dédiés intégrés à chaque cœur GPU de la puce M5 lors de l'exécution de MLX
Comment installer et utiliser MLX-LM ?
MLX-LM s'installe via pip ou conda et propose à la fois une interface en ligne de commande et une API Python pour la génération, le fine-tuning et le service de modèles. Il nécessite macOS sur Apple Silicon ; certaines fonctionnalités requièrent macOS 15.0 ou ultérieur.
- 1Installer via pip :
pip install mlx-lm, ou via conda :conda install -c conda-forge mlx-lm. - 2Générer du texte directement à partir d'un modèle du Hugging Face Hub, par exemple
mlx_lm.generate --model <hf-model-id> --prompt "...", ce qui télécharge et exécute le modèle. - 3Pour le fine-tuning, utiliser les commandes LoRA ou de fine-tuning complet documentées dans le README GitHub du projet, qui prennent en charge les modèles de base en pleine précision comme déjà quantifiés.
- 4Pour quantifier un modèle et éventuellement le renvoyer vers le Hugging Face Hub, utiliser les outils de conversion et de quantification du projet.
- 5Pour servir un modèle via une API, exécuter
mlx_lm.server, qui démarre un serveur local pour un accès programmatique. - 6Pour l'inférence ou le fine-tuning distribués sur plusieurs machines, configurer
mx.distributedselon les guides d'utilisation avancée du projet.
MLX-LM fonctionne-t-il sur les Mac Intel ?
Non. MLX-LM nécessite Apple Silicon (une puce de la série M) — les Mac à base d'Intel ne sont pas pris en charge.
MLX-LM nécessite-t-il une connexion internet ?
Seulement pour télécharger les modèles au départ, généralement depuis le Hugging Face Hub. Une fois un modèle téléchargé, la génération et l'inférence s'exécutent entièrement en local.
Quel matériel MLX-LM nécessite-t-il ?
MLX-LM nécessite un Mac équipé d'Apple Silicon — aucun support pour les Mac Intel, Windows, Linux ou tout GPU non-Apple. C'est le compromis central face aux moteurs multiplateformes comme llama.cpp.
- Apple Silicon (puce de la série M) requis — de M1 jusqu'à la génération actuelle, avec des optimisations MLX continues profitant aux puces les plus récentes
- Aucun support pour les Mac Intel, bien que ceux-ci exécutent aussi macOS
- Aucun support Windows ou Linux, quel qu'il soit
- Aucun support GPU non-Apple — MLX ne fonctionne pas sur du matériel NVIDIA ou AMD
- Certaines fonctionnalités requièrent spécifiquement macOS 15.0 ou ultérieur, dont une optimisation documentée de mémoire câblée (wired memory)
Qui devrait utiliser MLX-LM ?
Utilisez MLX-LM si la machine cible est confirmée Apple Silicon et que tirer le meilleur parti de la mémoire unifiée de ce matériel spécifique compte ; utilisez un moteur multiplateforme si le matériel doit rester flexible ou non-Mac.
Comment MLX-LM se compare-t-il à llama.cpp et aux autres moteurs ?
La comparaison la plus proche pour MLX-LM est le backend Metal propre de llama.cpp, puisque les deux fonctionnent sur Apple Silicon — la différence est que MLX-LM est le framework propre d'Apple, exclusif au Mac, tandis que llama.cpp couvre en plus le matériel NVIDIA, AMD et Intel.
Outil | Licence | Idéal pour |
|---|---|---|
| MLX-LM | MIT | Spécifique à Apple Silicon, mémoire unifiée |
| llama.cpp | MIT | Support matériel le plus large, contrôle direct |
| Ollama | MIT | Configuration locale multiplateforme la plus simple |
| vLLM | Apache 2.0 | Service multi-utilisateurs à haut débit |
| SGLang | Apache 2.0 | Mise en cache de préfixe pour chat/sortie structurée |
Erreurs courantes lors de l'évaluation de MLX-LM
La plupart des confusions viennent du fait d'attendre que MLX-LM fonctionne hors d'Apple Silicon, ou de mal comprendre ce que la mémoire unifiée change réellement.
Questions fréquentes
Qu'est-ce que MLX-LM ?
MLX-LM est un package Python gratuit sous licence MIT d'Apple Machine Learning Research pour générer du texte et affiner de grands modèles de langage sur Apple Silicon, construit sur le framework de calcul MLX d'Apple.
MLX-LM fonctionne-t-il sous Windows ou Linux ?
Non. MLX-LM nécessite Apple Silicon et ne fonctionne que sous macOS sur du matériel Mac de la série M.
MLX-LM est-il gratuit pour un usage commercial ?
Oui. MLX-LM est sous licence MIT, gratuit pour un usage personnel et commercial.
Qu'est-ce que la mémoire unifiée dans MLX ?
La mémoire unifiée signifie que le CPU et le GPU d'Apple Silicon partagent un seul pool physique de mémoire, de sorte que les poids du modèle, le cache KV et les activations sont accessibles aux deux sans étape de copie — une caractéristique matérielle distincte de la configuration RAM CPU et VRAM GPU séparées de la plupart des systèmes Windows/Linux.
MLX-LM peut-il affiner des modèles ?
Oui. Il prend en charge le fine-tuning LoRA (faible rang) et complet, y compris pour des modèles déjà quantifiés.
MLX-LM fonctionne-t-il avec les modèles Hugging Face ?
Oui. MLX-LM s'intègre au Hugging Face Hub pour le téléchargement de modèles et peut renvoyer des modèles quantifiés vers le Hub.
Qui développe MLX-LM ?
Apple Machine Learning Research développe et maintient MLX-LM, ainsi que le framework MLX plus large sur lequel il est construit. MLX est sorti pour la première fois le 5 décembre 2023.
En quoi MLX-LM diffère-t-il de llama.cpp sur un Mac ?
Les deux peuvent exécuter des modèles sur Apple Silicon, mais MLX-LM est le framework propre d'Apple, construit spécifiquement autour de la mémoire unifiée et exclusif à Apple Silicon, tandis que llama.cpp est un projet distinct, multiplateforme, qui prend aussi en charge le matériel NVIDIA, AMD et Intel via son backend Metal sur Mac.
MLX-LM peut-il servir des modèles via une API ?
Oui. La commande mlx_lm.server démarre un serveur local pour un accès programmatique à un modèle chargé.
MLX-LM convient-il à un service de production à haut débit ?
Ce n'est pas son objectif de conception principal. Pour un service de production multi-utilisateurs à haut débit, vLLM ou SGLang sont les outils plus spécialisés ; MLX-LM se concentre sur l'inférence et le fine-tuning sur une seule machine Apple Silicon.