Qu'est-ce qu'oMLX ?
oMLX est un serveur d'inférence locale pour Mac Apple Silicon qui transforme le framework de machine learning MLX d'Apple en une pile de service complète — une API compatible OpenAI/Anthropic, un gestionnaire multi-modèles, un cache SSD paginé, et une application native macOS dans la barre de menus pour tout contrôler, sans nécessiter de terminal pour un usage quotidien. Sa propre description GitHub le présente comme « un serveur d'inférence LLM optimisé pour les Mac Apple Silicon, avec batching continu, cache KV à plusieurs niveaux, et une interface de gestion native dans la barre de menus macOS ».
- Fonction principale : un serveur d'inférence en arrière-plan qui charge des modèles à poids ouverts et les sert via une API HTTP locale, géré depuis une application barre de menus ou le CLI
omlx - Moteur d'inférence : construit sur le framework MLX d'Apple et le
BatchGeneratorde la bibliothèque mlx-lm, selon la documentation d'oMLX, avec une couche originale de batching continu et de cache paginé par-dessus - Fondation : selon l'annonce du développeur, oMLX a été initialement construit sur vllm-mlx comme point de départ, avec des implémentations originales ajoutées pour le tiering du cache SSD, le batching continu, le support des modèles vision-langage, l'API compatible Anthropic, et l'interface macOS native
- Développeur : jundot (contact listé comme junkim.dot@gmail.com dans le dépôt), un mainteneur indépendant — cette review n'a trouvé aucune preuve d'une entreprise ou d'un tour de financement derrière oMLX
- Dépôt canonique : github.com/jundot/omlx — plusieurs forks portant le même nom existent sous d'autres identifiants GitHub (par exemple mkmsyk/omlx, dannysl/omlx) ; ce ne sont pas le projet original
Origine et croissance d'oMLX
oMLX a été annoncé publiquement pour la première fois par son développeur, jundot, dans un message de mars 2026 sur le forum de discussions GitHub d'Apple MLX. L'annonce présentait oMLX comme une solution à un problème concret et spécifique : les agents de codage réutilisant un contexte long et croissant pouvaient subir sur Apple Silicon des délais de plusieurs dizaines de secondes pour recharger ce contexte à chaque requête, car les serveurs basés sur MLX de l'époque ne conservaient généralement l'état du cache clé-valeur qu'en RAM et le perdaient à chaque redémarrage du serveur ou expiration d'un contexte. Le cache SSD paginé d'oMLX persiste cet état sur disque à la place, permettant de restaurer un préfixe précédemment traité depuis le SSD plutôt que de le recalculer à partir du modèle. Selon l'annonce du développeur, oMLX avait déjà accumulé environ 110 étoiles GitHub au lancement, construit sur vllm-mlx comme point de départ avec du code nouvellement écrit pour le tiering SSD, le batching continu, le support des modèles vision-langage, une API compatible Anthropic, et l'interface macOS native. À la date de publication de cette review, le dépôt GitHub d'oMLX affiche plus de 23 000 étoiles — une croissance rapide pour un projet de moins de huit mois au moment de la rédaction.
- Annonce : 4 mars 2026, sur github.com/ml-explore/mlx/discussions/3203, publiée par le développeur du projet lui-même, jundot
- Point de départ : vllm-mlx, avec le tiering SSD, le batching continu, le VLM, l'API Anthropic et le code d'interface native ajoutés par le développeur
- Croissance : d'environ 110 étoiles GitHub à l'annonce de mars 2026 à plus de 23 000 étoiles à la date de cette review, selon le dépôt GitHub d'oMLX
- Historique de licence : le fichier LICENSE du dépôt porte une mention de copyright 2025 pour « oMLX contributors », antérieure à l'annonce publique du projet en mars 2026 — cohérent avec un développement privé avant le lancement public
Que pouvez-vous faire avec oMLX ?
L'ensemble de fonctionnalités d'oMLX vise à transformer l'inférence de modèles MLX en un serveur local multi-modèles persistant, plutôt qu'un script ponctuel. Voici ce que fait réellement chaque partie, selon le README GitHub et la documentation omlx.ai d'oMLX.
- Cache clé-valeur à plusieurs niveaux — les blocs de contexte actifs restent dans un niveau RAM chaud ; les blocs inactifs passent dans un niveau SSD froid au format safetensors, avec partage de préfixe et copy-on-write, et le cache survit aux redémarrages du serveur au lieu d'être abandonné
- Batching continu — les requêtes concurrentes sont traitées via le
BatchGeneratorde mlx-lm, avec une concurrence maximale configurable, plutôt que de traiter les requêtes une par une - Service multi-modèles — chargez côte à côte des LLM, des modèles vision-langage (VLM), des modèles d'embedding et des reranker, avec éviction LRU, chargement/déchargement manuel, épinglage de modèle et une durée de vie configurable par modèle
- API compatible OpenAI et Anthropic —
/v1/chat/completions,/v1/completions,/v1/embeddingset/v1/rerankpour les clients au format OpenAI, plus/v1/messagespour les clients au format Anthropic, tous servis depuishttp://localhost:8000 - Support vision-langage et OCR — chat multi-image avec entrées en base64, URL ou fichier, appel d'outils avec contexte visuel, et détection automatique des modèles OCR dédiés
- Appel d'outils et MCP — appel d'outils par schéma JSON avec détection automatique du chat-template pour Llama, Qwen, DeepSeek, Gemma, GLM, MiniMax, Mistral et d'autres familles de modèles, plus configuration du Model Context Protocol (MCP)
- Application native macOS dans la barre de menus — une application Swift/SwiftUI (explicitement pas Electron, selon la documentation propre du projet) pour démarrer, arrêter et surveiller le serveur sans terminal, avec des statistiques d'usage locales (totaux par modèle, carte de chaleur horaire d'utilisation) et redémarrage automatique en cas de plantage
- Tableau de bord d'administration — une interface web sur
/admin, accessible depuis un navigateur une fois le serveur lancé, pour la gestion des modèles, une interface de chat intégrée, un benchmarking en un clic, un téléchargeur de modèles qui filtre Hugging Face par format MLX ou GGUF, et une configuration en un clic pour les intégrations d'agents de codage incluant OpenClaw, OpenCode, Codex, Hermes Agent, Copilot, Pi, Mistral Vibe et DeepSeek Harness - Moteur externe pour les modèles GGUF et NVFP4 — un réglage par modèle qui sert certains checkpoints Qwen, y compris des fichiers GGUF, via le moteur Metal distinct Splash dans un processus séparé ; le README liste les modèles pris en charge et exige Splash 1.4.0 ou ultérieur
- Inférence distribuée expérimentale — répartit un modèle de langage téléchargé entre des Mac à mémoire inégale via des rangs de pipeline MLX sur Ring ou Thunderbolt RDMA/JACCL ; uniquement dans les builds depuis les sources et signalée comme expérimentale dans le README d'oMLX (voir la section sur l'inférence distribuée ci-dessous)
oMLX : inférence distribuée et clustering
L'inférence distribuée d'oMLX est une fonctionnalité expérimentale, disponible uniquement dans les builds depuis les sources, qui répartit un modèle entre plusieurs Mac, y compris des Mac à mémoire inégale. Selon le README d'oMLX, elle utilise des rangs de pipeline MLX sur un réseau Ring ou Thunderbolt RDMA/JACCL et ne fait pas partie de l'app macOS standard ni de l'installation Homebrew.
- Statut : désignée « Experimental Multi-Mac Inference » dans le README ; la configuration, les limites de sécurité, les limitations actuelles et une liste de validation sur matériel physique figurent dans un document séparé, distributed-cluster.md
- Disponibilité : builds depuis les sources uniquement — l'app macOS .dmg et l'installation Homebrew du tableau ci-dessus ne l'incluent pas
- Tableau de bord du cluster : découverte des pairs en lecture seule, avec vérification stricte SSH et runtime, selon le README
- Profils : profils interactive, balanced et throughput, avec batching groupé et affinité de cache de prompt, selon le README
- Réseau : Ring, ou Thunderbolt RDMA/JACCL entre les Mac
Exemples d'usage : trois façons d'utiliser oMLX
Voici des workflows concrets construits à partir des fonctionnalités documentées d'oMLX ci-dessus — pas des cas d'usage hypothétiques.
Lancer l'application barre de menus et y connecter Claude Code
Installez l'application macOS, lancez-la depuis la barre de menus, et démarrez le serveur. oMLX expose un point de terminaison /v1/messages compatible Anthropic sur http://localhost:8000 ; une fois Claude Code pointé vers cette adresse, il peut utiliser le modèle local que vous avez chargé dans oMLX au lieu d'une API cloud. Le README documente une prise en charge propre à Claude Code : oMLX signale la vraie fenêtre de contexte du modèle pour que l'auto-compact fonctionne, et le keep-alive SSE évite les timeouts de lecture pendant les longs prefills. Le tableau de bord sur http://localhost:8000/admin propose une configuration en un clic pour d'autres agents comme OpenCode ou Codex.
Démarrer directement le serveur CLI et réutiliser une intégration client OpenAI
Depuis un terminal, exécutez omlx serve --model-dir ~/models (ou omlx start pour l'exécuter en arrière-plan). Une fois que le serveur écoute sur http://localhost:8000, pointez n'importe quel code client OpenAI existant ou tout outil vers cette adresse au lieu de api.openai.com, en utilisant /v1/chat/completions — le même schéma utilisé par d'autres serveurs locaux compatibles OpenAI — pour réutiliser du code que vous avez déjà plutôt que de le réécrire pour une nouvelle forme d'API.
Garder un long contexte d'agent de codage rapide sur toute une session de travail
Exécutez omlx serve avec --paged-ssd-cache-dir pointant vers un disque local rapide et un --hot-cache-max-size dimensionné pour la RAM de votre Mac. Pendant une longue session de codage agentique revisitant sans cesse le même large contexte, les blocs précédemment traités qui seraient autrement expulsés de la RAM sont au contraire récupérés depuis le niveau SSD — ce que la propre documentation d'oMLX crédite d'une réduction des temps de rechargement de plusieurs dizaines de secondes à quelques secondes sur les longs contextes.
Installer oMLX : app macOS, Homebrew et CLI
oMLX s'installe comme application macOS, via Homebrew, ou depuis les sources — il n'y a pas de build Windows ou Linux, car il dépend du framework MLX d'Apple, qui ne cible que l'Apple Silicon. Les trois méthodes installent le même outil en ligne de commande omlx sous-jacent. Les liens ci-dessous proviennent du README GitHub officiel — vérifiez toujours cette page directement, car les instructions d'installation peuvent changer entre les releases.
Application macOS (.dmg)
- Commande / lien:
- Téléchargez depuis GitHub Releases — un .dmg pour macOS 15 (Sequoia) et un autre pour macOS 26/27 — puis glissez dans Applications. Inclut la mise à jour automatique et installe un shim CLI dans
~/.omlx/bin/omlx.
Homebrew
- Commande / lien:
brew tap jundot/omlx https://github.com/jundot/omlx, puisbrew install jundot/omlx/omlx(ajoutez--with-custom-kernelpour compiler les kernels natifs ; Xcode complet requis), puisomlx start
Depuis les sources
- Commande / lien:
git clone https://github.com/jundot/omlx.git, puiscd omlx, puismake install
Exécuter le serveur directement
- Commande / lien:
omlx serve --model-dir ~/models(premier plan) ouomlx start/omlx stop/omlx restart(arrière-plan)
Prérequis système selon le README officiel : macOS 15.0 (Sequoia) ou ultérieur, Apple Silicon (M1 à M5) et Python 3.11–3.13. Il n'existe pas de build Mac Intel, Windows ou Linux. GLM-5.2, MiniMax M3 et Qwen3.5 nécessitent des kernels natifs personnalisés et retombent sans eux, selon le README, sur des chemins génériques bien plus lents ; le .dmg les inclut précompilés, tandis que make install et l'option --with-custom-kernel de Homebrew les compilent et exigent Xcode complet avec la toolchain Metal. Les flags de configuration du serveur — --memory-guard {safe|balanced|aggressive}, --memory-guard-gb, --paged-ssd-cache-dir, --hot-cache-max-size, --max-concurrent-requests, --mcp-config, --hf-endpoint, --api-key et --host — persistent dans ~/.omlx/settings.json une fois définis, et peuvent être surchargés par exécution avec des flags CLI.
Tarifs oMLX : oMLX est-il vraiment gratuit ?
Oui — oMLX n'a pas de palier payant. Ni le dépôt GitHub ni omlx.ai n'a de page tarifaire, et le fichier LICENSE est une Apache License 2.0 standard non modifiée avec une mention de copyright 2025 pour « oMLX contributors » — elle s'applique à l'ensemble de l'application, sans clause bloquant une fonctionnalité derrière un paiement.
- Aucun abonnement, aucun palier payant, aucune limite d'usage imposée par oMLX lui-même
- Aucun compte ni inscription requis pour installer ou exécuter l'application
- L'application, l'application barre de menus, le CLI et le tableau de bord d'administration sont tous couverts par les mêmes conditions de l'Apache License 2.0
- Comme oMLX n'exécute que des modèles locaux via MLX, il n'y a pas non plus de coût par token ou par requête auprès d'un fournisseur cloud — le seul coût est l'électricité et le matériel que vous possédez déjà
oMLX vs. mlx-lm et MLX
MLX est le framework d'apprentissage automatique d'Apple ; oMLX est un produit serveur construit dessus, et non un framework concurrent — « oMLX vs MLX » est donc une question de couches, pas d'alternatives. mlx-lm est la bibliothèque Python et le CLI simple que l'écosystème MLX d'Apple fournit pour exécuter et servir des modèles — et oMLX est construit directement par-dessus, en utilisant son BatchGenerator pour le batching continu. Les deux ne sont pas vraiment des concurrents mais plutôt des couches différentes : mlx-lm est la fondation, oMLX est un produit de service complet construit sur cette fondation.
Aspect | oMLX | |
|---|---|---|
| Couche | Produit serveur sur MLX et mlx-lm | Bibliothèque Python sur le framework MLX |
| Ce que c'est | Un serveur d'inférence packagé : app barre de menus + CLI + tableau de bord d'administration | Une bibliothèque Python et un CLI léger pour exécuter/servir des modèles MLX |
| Cache KV | Cache paginé RAM + SSD à plusieurs niveaux, persiste à travers les redémarrages | Cache en mémoire uniquement, selon son propre serveur documenté ; pas de tiering SSD |
| Gestion multi-modèles | Éviction LRU, épinglage, TTL par modèle, chargement/déchargement depuis une interface | Pas une fonctionnalité intégrée — scriptée ou gérée manuellement |
| Compatibilité API | Points de terminaison compatibles OpenAI et Anthropic | Mode serveur compatible OpenAI (mlx_lm.server) |
| Interface | Application native macOS barre de menus plus tableau de bord web d'administration | Ligne de commande uniquement, aucune interface graphique |
| Intégrations agents de codage | Configuration en un clic pour OpenClaw, OpenCode, Codex et autres | Pas une fonctionnalité documentée ; nécessite une configuration manuelle des points de terminaison |
Si vous voulez le moyen le plus simple possible d'exécuter un seul modèle MLX depuis un script ou une commande serveur rapide, mlx-lm seul peut suffire. Si vous voulez un serveur multi-modèles persistant avec une interface barre de menus, un cache adossé au SSD pour les longs contextes d'agent, et des intégrations d'agents de codage en un clic, oMLX est spécifiquement conçu pour ajouter cette couche par-dessus mlx-lm plutôt que de le remplacer.
oMLX vs. mlx-serve
oMLX et mlx-serve sont deux serveurs d'inférence locaux gratuits et open source pour Apple Silicon, avec des API compatibles OpenAI et Anthropic ; les principales différences sont l'environnement d'exécution (Python/MLX contre un binaire Zig unique) et les formats de modèles (MLX contre MLX plus GGUF). Ce sont des projets distincts, de développeurs différents : aucun n'est construit sur l'autre.
Aspect | oMLX | |
|---|---|---|
| Langage / runtime | Python sur MLX/mlx-lm, app Swift barre de menus | Binaire Zig unique (~7 Mo), sans Python |
| Formats de modèles | Modèles MLX (LLM, VLM, embedding, reranker) | MLX plus llama.cpp intégré pour GGUF |
| API | Compatible OpenAI et Anthropic | Compatible OpenAI, Anthropic et Ollama |
| App compagnon | App barre de menus + tableau de bord web | App barre de menus MLX Core (chat, agents, médias) |
| Licence | Apache License 2.0 | MIT (composants Apache-2.0 inclus) |
| Prérequis macOS | macOS 15.0 ou ultérieur | macOS 26.2 ou ultérieur |
Choisissez oMLX si les longs contextes d'agents de code revisités souvent et son cache KV SSD à niveaux (qui survit aux redémarrages) sont la priorité ; choisissez mlx-serve si vous voulez un petit binaire sans Python ou la prise en charge de GGUF en plus de MLX. Les détails sur mlx-serve proviennent de la review de mlx-serve ; cette review n'a pas comparé les deux par des benchmarks — vérifiez les fonctionnalités actuelles dans le dépôt de chaque projet.
À qui s'adresse oMLX ?
Le fait qu'oMLX vous convienne dépend presque entièrement d'abord d'une chose : êtes-vous sur un Mac Apple Silicon, car cette exigence n'a pas de contournement.
Utilisez oMLX si
- Vous utilisez un Mac Apple Silicon (M1 à M5) sous macOS 15.0 ou ultérieur — c'est une exigence stricte, pas une recommandation
- Vous voulez un serveur d'inférence locale persistant avec une application barre de menus, plutôt qu'un script à redémarrer manuellement
- Vous utilisez un agent de codage (Claude Code, OpenClaw, OpenCode ou similaire) avec des contextes longs et fréquemment revisités, et voulez réduire les délais de rechargement pour ce workflow spécifique
- Vous voulez à la fois des points de terminaison compatibles OpenAI et Anthropic depuis un serveur local unique, plutôt que d'exécuter deux outils séparés
- Vous voulez servir plusieurs modèles — LLM, VLM, modèles d'embedding, reranker — depuis un seul processus avec gestion automatique de la mémoire
Attendez, ou cherchez ailleurs, si
- Vous êtes sur une machine Windows ou Linux, ou un Mac Intel — oMLX n'a de build pour aucun de ces systèmes, car il dépend du framework MLX d'Apple, qui est exclusif à l'Apple Silicon ; consultez le répertoire de logiciels IA locale pour des alternatives multiplateformes
- Vous voulez un produit officiellement pris en charge et financé, avec une entreprise et un SLA derrière — cette review n'a trouvé aucune preuve d'entreprise ou de financement derrière oMLX ; il est maintenu par un seul développeur nommé, selon son propre dépôt GitHub
- Vous voulez le moyen le plus simple et minimal possible d'exécuter un seul modèle MLX — mlx-lm seul, sans la couche serveur d'oMLX, peut mieux convenir
- Vous avez besoin d'un projet éprouvé, avec un long historique, pour un déploiement en production — oMLX a été annoncé pour la première fois en mars 2026, son historique public est donc encore court comparé à des serveurs d'inférence plus établis
oMLX vs. autres outils d'inférence locale
oMLX se situe dans le segment Apple Silicon / MLX du paysage de l'inférence locale. Voici comment il se compare à d'autres outils de ce même segment — consultez le répertoire de logiciels IA locale pour le catalogue complet, et le comparatif dédié oMLX vs. mlx-lm ci-dessus pour la confrontation la plus directe.
- mlx-lm — la bibliothèque Python et le CLI sous-jacents sur lesquels oMLX lui-même est construit ; le bon choix si vous voulez le moyen le plus simple possible d'exécuter un modèle MLX sans couche serveur complète. Voir le comparatif dédié ci-dessus.
- mlx-serve — un serveur d'inférence Zig distinct, gratuit et open source, pour Apple Silicon, avec des API compatibles OpenAI, Anthropic et Ollama et la prise en charge de GGUF via llama.cpp ; voir la comparaison oMLX vs. mlx-serve ci-dessus.
- exo — un outil open source pour mettre en cluster plusieurs Mac Apple Silicon (et d'autres appareils) afin d'exécuter des modèles plus grands qu'une seule machine ne pourrait contenir ; pertinent si le mode expérimental de cluster unique distribué d'oMLX ne suffit pas à votre configuration. Voir la review exo.
- LM Studio — une application de bureau multiplateforme (macOS, Windows, Linux) qui utilise aussi MLX comme l'un de ses moteurs d'inférence sur Apple Silicon, aux côtés de llama.cpp ; mieux adaptée si vous avez besoin que le même outil fonctionne aussi sur du matériel non-Mac. Voir la review LM Studio.
- llamafile — une approche d'inférence locale en exécutable unique, construite sur llama.cpp plutôt que MLX, qui exécute le même fichier sous macOS, Windows et Linux sans étape d'installation ; un contraste utile si la portabilité multiplateforme compte plus pour vous que la performance spécifique à l'Apple Silicon. Voir l'article llamafile expliqué.
Erreurs courantes en évaluant oMLX
La plupart des confusions autour d'oMLX viennent du fait de supposer qu'il fonctionne comme un outil multiplateforme, de le confondre avec un fork du même nom, ou de s'attendre à un support Mac Intel.
Erreur 1 : supposer qu'oMLX fonctionne sous Windows ou Linux
oMLX est exclusif à macOS, et plus précisément exclusif à l'Apple Silicon, car il est construit sur le framework MLX d'Apple, qui ne cible pas du tout Windows ou Linux. Aucun élément de feuille de route ni de build bêta pour l'une ou l'autre plateforme n'est documenté dans le dépôt du projet au moment de cette review — si vous avez besoin d'un outil multiplateforme, consultez plutôt LM Studio ou llamafile.
Erreur 2 : confondre github.com/jundot/omlx avec un fork du même nom
Plusieurs dépôts GitHub portant le nom identique « omlx » existent sous d'autres identifiants (par exemple mkmsyk/omlx, dannysl/omlx). Le projet original, activement développé — confirmé par l'annonce propre du développeur sur le forum de discussions GitHub d'Apple MLX — est github.com/jundot/omlx. Vérifiez toujours que vous consultez ce dépôt spécifique avant de l'installer ou de citer des nombres d'étoiles.
Erreur 3 : supposer que les Mac à base Intel sont pris en charge
Les prérequis système d'oMLX listent explicitement l'Apple Silicon (M1 à M5) ; cette review n'a trouvé aucune mention de support Mac Intel dans la documentation officielle. MLX lui-même, le framework sur lequel oMLX est construit, ne cible pas les Mac Intel, donc ce n'est pas quelque chose qu'une future mise à jour d'oMLX est susceptible d'ajouter.
Erreur 4 : s'attendre à ce qu'oMLX soit un client de chat plutôt qu'un serveur
Le tableau de bord d'administration d'oMLX inclut bien une interface de chat intégrée pour les tests, mais son objectif principal est de servir des modèles via une API pour que d'autres applications (comme Claude Code, OpenCode, ou vos propres scripts) les utilisent — il est plus proche par catégorie d'un serveur d'inférence locale que d'une application de chat autonome complète comme Jan ou GPT4All.
Questions fréquentes
Qu'est-ce qu'oMLX ?
oMLX (github.com/jundot/omlx) est un serveur d'inférence locale gratuit et open source pour Mac Apple Silicon. Il exécute des modèles via le framework MLX d'Apple et se présente comme une application native macOS dans la barre de menus plus un outil en ligne de commande omlx et un serveur en arrière-plan, avec des points de terminaison API compatibles OpenAI et Anthropic.
oMLX est-il gratuit ?
Oui. Ni le dépôt GitHub ni omlx.ai n'a de page tarifaire, et le fichier LICENSE est une Apache License 2.0 standard non modifiée, sans aucun palier payant.
oMLX fonctionne-t-il sous Windows ou Linux ?
Non. oMLX est exclusif à macOS, et nécessite spécifiquement l'Apple Silicon (M1 à M5) et macOS 15.0 (Sequoia) ou ultérieur, car il dépend du framework MLX d'Apple, qui ne cible ni Windows, ni Linux, ni les Mac Intel.
oMLX fonctionne-t-il sur un Mac Intel ?
Non. Les prérequis système documentés d'oMLX spécifient exclusivement l'Apple Silicon. MLX, le framework sur lequel il est construit, ne prend pas en charge les Mac à base Intel.
En quoi oMLX diffère-t-il de mlx-lm ?
mlx-lm est la bibliothèque Python et le CLI léger sous-jacents que fournit l'écosystème MLX d'Apple pour exécuter des modèles ; oMLX est construit par-dessus le BatchGenerator de mlx-lm et ajoute un serveur persistant, une application barre de menus, un cache à plusieurs niveaux adossé au SSD, une gestion multi-modèles, et des points de terminaison compatibles OpenAI/Anthropic. Voir le comparatif complet ci-dessus.
À quoi sert le cache SSD paginé dans oMLX ?
Il décharge les blocs de cache clé-valeur inactifs de la RAM vers le SSD de votre Mac, au format safetensors, au lieu de les abandonner. Lorsqu'un agent de codage de longue durée revisite un contexte volumineux, oMLX peut restaurer les blocs précédemment traités depuis le SSD plutôt que de les recalculer à partir du modèle, ce que sa propre documentation crédite d'une réduction des temps de rechargement sur les longs contextes, de plusieurs dizaines de secondes à quelques secondes.
Puis-je utiliser oMLX avec Claude Code ou d'autres agents de codage ?
Oui. L'API d'oMLX est compatible avec les formats de requête OpenAI et Anthropic, le README documente une prise en charge propre à Claude Code (rapport de la vraie fenêtre de contexte et keep-alive SSE), et le tableau de bord d'administration propose une configuration en un clic pour OpenClaw, OpenCode, Codex et autres.
oMLX est-il open source ? Quelle licence utilise-t-il ?
Oui. Le fichier LICENSE d'oMLX est une Apache License 2.0 standard non modifiée, avec une mention de copyright 2025 pour « oMLX contributors ».
Comment installer oMLX avec Homebrew ?
Exécutez brew tap jundot/omlx https://github.com/jundot/omlx, puis brew install jundot/omlx/omlx, puis omlx start. Le README d'oMLX mentionne aussi une app macOS .dmg et une installation depuis les sources ; vérifiez les commandes à cet endroit, car les étapes d'installation peuvent changer d'une version à l'autre.
oMLX prend-il en charge l'inférence distribuée sur plusieurs Mac ?
De façon expérimentale. Le README d'oMLX décrit des builds depuis les sources capables de répartir un modèle téléchargé entre des Mac à mémoire inégale via des rangs de pipeline MLX sur Ring ou Thunderbolt RDMA/JACCL. Elle n'est pas dans l'app standard ni dans l'installation Homebrew, et le projet documente ses limitations dans un document séparé.
Quelle est la dernière version d'oMLX ?
La v0.7.2, publiée le 21 octobre 2026. Des builds de développement et des release candidates précèdent les versions stables sur la même page Releases ; consultez github.com/jundot/omlx/releases pour toute version plus récente avant d'en citer une.
Quelle est la différence entre oMLX et MLX ?
MLX est le framework d'apprentissage automatique open source d'Apple pour Apple Silicon. oMLX est un serveur d'inférence local construit sur MLX et la bibliothèque mlx-lm, qui ajoute une app de barre de menus, la gestion multi-modèles, un cache SSD paginé et des API compatibles OpenAI/Anthropic.
oMLX vs mlx-serve : lequel utiliser ?
Les deux sont des serveurs d'inférence gratuits et open source pour Apple Silicon. oMLX repose sur Python, avec un cache KV SSD à niveaux pensé pour les longs contextes d'agents de code ; mlx-serve est un binaire Zig unique qui exécute aussi des modèles GGUF via llama.cpp. Voir le tableau comparatif ci-dessus.
Qui développe oMLX ?
oMLX est développé par jundot, un mainteneur indépendant (contact listé comme junkim.dot@gmail.com dans le dépôt). Cette review n'a trouvé aucune preuve d'entreprise ou de tour de financement derrière le projet.
github.com/jundot/omlx est-il le vrai dépôt oMLX ?
Oui. Plusieurs dépôts « omlx » portant le nom identique existent sous d'autres identifiants GitHub, mais github.com/jundot/omlx est le projet original, confirmé par l'annonce propre du développeur sur le forum de discussions GitHub d'Apple MLX.