mlx-serveとは何か？
mlx-serveは、Apple Silicon Mac向けのネイティブ推論サーバーで、AIモデルをデバイス上で実行し、OpenAI、Anthropic、Ollama互換のAPI経由で公開します。そのGitHubの説明にはこうあります。「Native LLM inference server for Apple Silicon. OpenAI + Anthropic API compatible. No Python. Includes MLX Core macOS app with chat, agent mode, and tool calling.」サーバー自体はシステムプログラミング言語であるZigで書かれており、そのためインストールすべき依存関係を持つPythonアプリケーションではなく、単一の小さなバイナリとして配布されます。
- コア機能：モデルを一度読み込み、同時に3種類の異なるAPI形式でHTTP経由で提供するローカル推論サーバー
- ネイティブモデルディスパッチ：対応モデルファミリーにはApple SiliconのApple独自の配列計算フレームワークであるMLX、GGUF形式モデルには組み込みのllama.cpp
- API互換性：デフォルトですべてポート11234で、OpenAIのchat/completionsおよびResponsesエンドポイント、Anthropic Messages API、Ollama API
- コンパニオンアプリ：MLX Coreは、チャット、エージェントワークフロー、メディア生成のための同梱macOSメニューバーアプリケーションで、サーバーとは別のHomebrew caskとしてインストールされます
- 開発者：GitHubリポジトリのLICENSEファイルの著作権表示によると個人開発者のDavid Dalcu氏
- 正規リポジトリ：github.com/ddalcu/mlx-serve — 元のプロジェクトです。複数のフォークや、少なくとも1つの無関係で別の作者による類似名のプロジェクトが存在するため、この特定のリポジトリを参照しているか確認してください
mlx-serve リリース履歴
mlx-serveのGitHubリポジトリは2026年2月に作成され、それ以来ほぼ毎日タグ付きリリースを行い、投機的デコーディング、コーディングエージェント用ランチャー、拡張されたメディア生成を追加してきました。長い実績を持つ成熟したプロジェクトではなく、若く急速に進化しているプロジェクトです — 評価の際はこの点を考慮してください。
- 1v26.8.9 — 2026年8月18日：コーディングエージェント用ランチャー
Why it matters: リリースノートによると「launch your coding agent」として、コーディングエージェント向けの設定済みランチャーを追加し、あわせてチャット機能の強化とデコード速度の向上を行いました（[公式リリースページ](https://github.com/ddalcu/mlx-serve/releases)より）。 - 2v26.8.10 — 2026年8月26日：Neural Engineプレフィルオフロード
Why it matters: Neural Engineプレフィルオフロードとバッチデコーディングを追加。推論パイプラインの一部にAppleの専用Neural Engineハードウェアを使う最適化です。 - 3v26.8.11 — 2026年8月29日：MLX 0.32.2とQwen 3.8 Flash Next
Why it matters: 同梱するMLXフレームワークのバージョンを更新し、新しいQwenモデルバリアントへの対応を追加しました。 - 4v26.9.1 — 2026年9月3日：1Mコンテキストと高速化されたFlashデコード
Why it matters: MLX Coreコンパニオンアプリのサイドバーにターミナルを追加し、対応モデルで100万トークンのコンテキストウィンドウをサポートしました。 - 5v26.9.2 — 2026年9月9日：モデルごとの設定とチャットプロバイダー
Why it matters: モデルごとの設定と追加のチャットプロバイダーオプションを追加し、さらにデコード速度を改善しました。 - 6v26.9.3 — 2026年9月16日：全モデル対応の投機的デコーディング
Why it matters: リリースノートによると、投機的デコーディングの対応を限られたモデルセットを超えて拡張し、あわせて64GB Mac向けのFlashパフォーマンス改善を行いました。 - 7v26.9.4 — 2026年9月17日：正確性の修正とベンチマーク
Why it matters: 正確性の修正を行い、中国語ドキュメントを追加し、新しいベンチマーク数値を公開しました。本レビュー時点で[公式リリースページ](https://github.com/ddalcu/mlx-serve/releases)に記載されている最新の安定版タグです。
mlx-serveでできること
mlx-serveの機能セットは、Apple Silicon上でモデルを高速に提供しつつ、他のAPI向けに構築済みのツールとの互換性を保つことに重点を置いています。プロジェクトのGitHub READMEに基づき、各機能が実際に何をするかを以下に示します。
- マルチAPI提供 — サーバーはOpenAIのchat/completionsおよびResponsesリクエスト、Anthropic Messages APIリクエスト、Ollama APIリクエストを同じポートで同時に処理するため、既存のOpenAI/Anthropic/OllamaクライアントコードはベースURLを変更するだけでmlx-serveを指すことができます
- ネイティブMLXモデルディスパッチ — ネイティブMLX対応のモデル（READMEによるとGemma、Qwen、Llama、Mistral、DeepSeek V4 Flash）は、Apple Silicon上でApple独自のMLXフレームワークを直接経由して実行されます
- GGUF向け組み込みllama.cpp — MLXがネイティブ対応していない数千のGGUF形式モデルは、代わりに組み込みのllama.cppコピー経由で、別途インストールなしに実行されます
- パフォーマンス機能 — READMEには、Apple Silicon上のスループットを狙った4種類の投機的デコーディング、連続バッチング、KVキャッシュ量子化、カスタムMetalカーネルが記載されています
- MLX Coreコンパニオンアプリ — PDF/画像添付付きのマルチセッションチャット、組み込みツールとModel Context Protocol（MCP）マーケットプレイス連携を備えたエージェントモード、シェルコマンドを実行するための隔離されたAgent Sandbox、再開可能なダウンロードに対応したモデルブラウザ、画像/動画/音楽/音声（Kokoro音声によるボイスクローニングを含む）/3Dモデル生成パネルを提供する同梱macOSメニューバーアプリケーション
- コーディングエージェント用ランチャー — リリースノートによると、Claude Code、OpenCode、Pi、Cursorを含むコーディングエージェント向けの設定済みランチャープロファイル
- Python依存なし — サーバーバイナリは約7MBで、多くの他のローカル推論ツールと異なりPythonランタイムを必要としません
利用例：mlx-serveの3つの使い方
これらは、上記のmlx-serveの文書化されたコマンドから構築した具体的なワークフローであり、仮想的な利用シナリオではありません。
コマンドラインからモデルを取得して実行する
Homebrew経由でmlx-serveをインストールした後、mlx-serve pull qwen3.6:27bを実行してモデルをダウンロードし、続けてmlx-serve run gemma4（またはダウンロードしたモデル）を実行して、ターミナルで直接チャットを開始します。クライアントをサーバーに接続する前に、サーバーとモデルの両方が動作することを確認する最も速い方法です。
既存のOpenAIまたはAnthropicクライアントをmlx-serveに向ける
mlx-serve serveでサーバーを起動し、続いて任意のOpenAIまたはAnthropic互換クライアント（例えばopenai Pythonパッケージを使う既存のスクリプト）のベースURLをクラウドエンドポイントからhttp://localhost:11234に変更し、APIキーには任意のプレースホルダー文字列を使います。リクエストはmlx-serveに現在読み込まれているモデルによって処理されるため、ベースURL以外のコード変更なしに、既存のクライアントコードを完全にローカルなモデルに対して再利用できます。
コーディングエージェントをローカルモデルに対して実行する
mlx-serveの設定済みランチャーの1つ（例えばClaude Code用のもの）を使い、プロジェクトの文書化されたエージェントランチャー機能に従って、そのコーディングエージェントをクラウドAPIの代わりにmlx-serveが提供するローカルモデルに向けます。これにより、コーディングセッションのモデル呼び出しがデバイス上にとどまり、コードのコンテキストをクラウドプロバイダーに送信せずに済みます。
mlx-serveをインストールする
mlx-serveはHomebrew経由でインストールでき、ソースコードはGitHubにあります。以下のリンクは公式のGitHub READMEからのものです — インストール手順はリリースごとに変わる可能性があるため、常にそのページで直接確認してください。
サーバー（Homebrew）
- リンク:
brew tap ddalcu/mlx-serve https://github.com/ddalcu/mlx-serveの後にbrew install mlx-serve
MLX Coreコンパニオンアプリ（Homebrew cask）
- リンク:
brew install --cask mlx-core
GitHubリポジトリ（ソースコード、MITライセンス）
プロジェクトのホームページ
- リンク:
- mlxserve.com
ソースからビルド
- リンク:
- GitHub READMEによると、Metal Toolchainコンポーネントを含むXcode 26.2以降が必要
同梱のMLX Coreメニューバーアプリはコンパニオンであり、主なインストール手段ではありません — mlx-serveは基本的にコマンドラインサーバーであり、MLX Coreはそのための任意のグラフィカルフロントエンドです。mlx-serveにはApple SiliconでmacOS 26.2以降が必要で、Intel Mac、Windows、Linuxでは動作せず、これらのプラットフォーム向けの公式ビルドはありません。
mlx-serveの料金：本当に無料か？
はい — mlx-serveに有料プランはありません。GitHubリポジトリに料金ページはなく、LICENSEファイルがアプリケーション全体に適用されます。ライセンス本文は標準的なMITライセンス（著作権者：David Dalcu）で、寛容であり、コピーレフト義務はありません。GitHub自身のリポジトリメタデータは、全体のライセンスを単純なMITバッジではなくカスタムの「Other」エントリとして分類しています。これは、リポジトリが別のNOTICEファイルに記載された一部のサードパーティコンポーネントをApache License 2.0のもとでも同梱しているためです。
- サブスクリプション、有料プール、mlx-serve自体が課す利用制限は一切ありません
- サーバーまたはMLX Coreコンパニオンアプリのインストール・利用にアカウントやサインアップは不要です
- mlx-serveのコアコードはMITライセンスです — 寛容で、商用・非商用ともに無料で利用でき、ライセンス本文に帰属表示が保持されます
- リポジトリのNOTICEファイルによると、一部の同梱サードパーティコンポーネントはMITではなくApache License 2.0のもとでライセンスされています — 組織のコンプライアンス審査が正確なライセンスの組み合わせに依存する場合は、NOTICEファイルを直接お読みください
mlx-serve vs. Ollama
mlx-serveとOllamaは、どちらもMac上でHTTP API経由でローカルモデルを提供します。どちらも同じクライアントツールの背後に置けるため、よく比較されます。最も明確な違いは、対応プラットフォームの範囲とネイティブエンジンの選択にあります。
項目 | mlx-serve | |
|---|---|---|
| プラットフォーム | macOS（Apple Silicon）のみ | macOS、Windows、Linux |
| ネイティブエンジン | MLX（ネイティブ）+ GGUF向け組み込みllama.cpp | llama.cppベース |
| API互換性 | OpenAI + Anthropic + Ollama API、同一ポート | 独自API、加えてOpenAI互換エンドポイント |
| 同梱GUI | MLX Coreメニューバーアプリ（チャット、エージェント、メディア生成） | 最小限の内蔵GUI、サードパーティ製フロントエンド頼み |
| ランタイム依存 | 単一の約7MBバイナリ、Python不要 | 単一のGoバイナリ、Python不要 |
| メディア生成 | MLX Core経由の画像/動画/音楽/音声/3D | テキストとビジョンチャットのみ |
mlx-serveのOllama API互換性により、プロジェクトのドキュメントによれば、Ollama向けに構築されたツールがmlx-serveを直接指せることがよくあります。クロスプラットフォーム対応（macOSだけでなくWindowsやLinuxも）が重要な場合は、Ollamaの方が対応範囲が広い選択肢です。どちらのプロジェクトも頻繁に更新されるため、決定前に各プロジェクト自身のサイトで最新の機能詳細を確認してください。
mlx-serveはどんな人に向いているか？
mlx-serveが適しているかどうかは、Apple Siliconハードウェアを所有し、複数のクライアントAPI形式を話す単一サーバーとメディア生成用の同梱GUIを求めているかどうかによります。
mlx-serveを使うべき場合
- macOS 26.2以降のApple Silicon Macを使用しており、Pythonをインストールせずにネイティブで高速なローカル推論サーバーが欲しい場合
- OpenAI、Anthropic、Ollamaの各API形式を同時に話す単一サーバーが欲しく、3つすべてで既存のクライアントコードを再利用したい場合
- MLX Coreコンパニオンアプリを通じて、チャットモデルを提供するのと同じツールから画像、動画、音楽、音声、3D生成を利用したい場合
- Claude CodeやCursorのようなコーディングエージェント向けに、完全にローカルなモデルを指す設定済みランチャーが欲しい場合
- ゆっくりと進化する成熟したツールよりも、ほぼ毎日リリースが行われる若く急速に進化するオープンソースプロジェクトに抵抗がない場合
待つか、他を検討すべき場合
- Intel Mac、Windows、Linuxを使用している場合 — mlx-serveはこれらのプラットフォーム向けのビルドを一切持ちません
- 長年の実績を持つ確立されたプロジェクトを求める場合 — mlx-serveのGitHubリポジトリは2026年2月に作成されており、このカテゴリの中では比較的新しいエントリーの1つです
- ライセンス条項が単一の曖昧さのないバッジであることを必要とする場合 — mlx-serveのコアはMITですが、リポジトリはApache-2.0ライセンスの一部のサードパーティコンポーネントも同梱しており、それらはNOTICEファイルに別途記載されています。法的判断には両方のファイルを確認してください
- サードパーティ製フロントエンドと統合の成熟した広く文書化されたエコシステムを求める場合 — 上記の比較の通り、Ollamaはそのために特別に構築されたツールのより大きな既存エコシステムを持っています
mlx-serve vs. 他のMLX推論ツール
mlx-serveは、AppleのMLXフレームワークを中心に登場した複数のApple Silicon特化型推論サーバーの1つです。この分野の他の選択肢との位置づけを以下にまとめます — 全カタログはローカルLLMソフトウェアディレクトリを、最も近いクロスプラットフォームの一騎打ち比較は上記の専用のmlx-serve vs. Ollama比較を参照してください。
- MLX LM — MLXを使って言語モデルを実行・ファインチューニングするためのApple独自のPythonライブラリとコマンドラインツールで、mlx-serveの単体Zigバイナリとは異なり、より低レベルでPythonベースです。mlx-serveのネイティブディスパッチが基盤とする基盤ライブラリについての詳しい解説はMLX LMの解説を参照してください。
- omlx — 別のApple Silicon特化型ローカル推論オプションです。機能セットとAPI互換性がmlx-serveとどう比較されるかは専用のレビューを参照してください。
- rapid-mlx — パフォーマンス重視のMLXベース推論ツールです。mlx-serveとのスループットと機能の比較は専用のレビューを参照してください。
- LoRAX — マルチLoRAアダプター提供フレームワークです。サーバーごとに単一モデルではなく、1つのベースモデルから多数のファインチューニング済みアダプターを提供する必要があるワークフローに関連します。これはmlx-serveの設計上の焦点ではありません。
- Ollama — クロスプラットフォームのローカルモデルサーバーです。プラットフォーム範囲とネイティブエンジンに関するmlx-serveとの違いは、上記の専用比較セクションを参照してください。
mlx-serve評価時によくある誤解
mlx-serveに関する混乱のほとんどは、そのプラットフォーム制限、GitHub上のライセンス分類、または他のほとんどのローカル推論サーバーと同様にPythonツールであると想定することから生じます。
誤解1：mlx-serveがWindowsやLinuxで動くと想定する
mlx-serveはApple SiliconハードウェアでmacOS 26.2以降を必要とします。公式のWindowsまたはLinuxビルドは存在せず、本レビュー時点でリポジトリ内に計画中として文書化されているものもありません。
誤解2：GitHubの「Other」ライセンスバッジを非寛容なライセンスと読み違える
GitHubは、リポジトリがMITライセンスのコアコードに加えて一部のサードパーティコンポーネントをApache License 2.0のもとで同梱しているため、mlx-serveの全体ライセンスを「Other」に分類しています。LICENSEファイル自体は標準的なMITテキストです — この区別が用途にとって重要な場合は、LICENSEとNOTICEの両ファイルを直接確認してください。
誤解3：このリポジトリを似た名前のフォークや無関係のプロジェクトと混同する
同一の説明文を持つmlx-serveのフォークが異なるGitHubユーザー名で複数存在し、少なくとも1つの無関係で別の作者によるプロジェクトが、はるかに少ないスター数と異なるコードベースで「mlx-serve」という名前を共有しています。本レビューは特にgithub.com/ddalcu/mlx-serveを対象としています — インストールやスター数の引用の前に、このリポジトリを見ていることを確認してください。
誤解4：すべてのモデルがネイティブMLX速度で動作すると想定する
ネイティブMLX対応のモデルファミリー（READMEによるとGemma、Qwen、Llama、Mistral、DeepSeek V4 Flash）のみがネイティブディスパッチパスを得ます。他のGGUF形式モデルも動作はしますが、MLXを直接経由するのではなく組み込みのllama.cppエンジン経由となり、両パスのパフォーマンス特性は異なります。
よくある質問
mlx-serveとは何ですか？
mlx-serve（github.com/ddalcu/mlx-serve）は、Apple Silicon Mac上でAIモデルをローカル実行する無料のオープンソース推論サーバーで、Zigで書かれています。単一のバイナリからOpenAI互換、Anthropic互換、Ollama互換のAPIを提供します。
mlx-serveは無料ですか？
はい。GitHubリポジトリに料金ページはなく、LICENSEファイルはMITライセンスで、コアアプリケーション全体に適用され、有料プランはありません。
mlx-serveはオープンソースですか？どのライセンスを使っていますか？
はい、mlx-serveはオープンソースです。コアのLICENSEファイルは標準的なMITライセンス（著作権者：David Dalcu）です。リポジトリは、別のNOTICEファイルに記載された一部のサードパーティコンポーネントもApache License 2.0のもとで同梱しており、そのためGitHubのリポジトリメタデータは、単純なMITバッジではなくカスタムの「Other」エントリとしてライセンスを表示します。法的判断のためには両方のファイルを自分で確認してください。
mlx-serveはどのプラットフォームに対応していますか？
公式GitHub READMEによると、Apple Silicon（Mシリーズ）ハードウェア上のmacOS 26.2以降のみです。Windows、Linux、Intel Macへの対応はありません。
mlx-serveはPythonを必要としますか？
いいえ。mlx-serveはZigで書かれており、約7MBの単一バイナリとして提供され、多くの他のローカル推論ツールと異なりPythonランタイム依存はありません。
mlx-serveはどのモデル形式に対応していますか？
ネイティブMLX対応のモデル（READMEにはGemma、Qwen、Llama、Mistral、DeepSeek V4 Flashが挙げられています）はAppleのMLXフレームワークを直接経由して実行されます。その他のGGUF形式モデルは、別途インストールなしに、代わりに組み込みのllama.cppコピー経由で実行されます。
MLX Coreとは何ですか？
MLX Coreは、mlx-serveに同梱されたmacOSメニューバー・コンパニオンアプリで、サーバーとは別のHomebrew caskとしてインストールされます。マルチセッションチャット、MCPツール統合を備えたエージェントモード、モデルブラウザ、画像、動画、音楽、音声、3Dモデル用の生成パネルを提供します。
mlx-serveは既存のツールでOllamaの代わりになりますか？
多くの場合、はい — mlx-serveはOpenAIおよびAnthropic互換APIに加えて、同じポートでOllama互換APIも提供するため、Ollamaの API向けに構築されたツールは、多くの場合ベースURLを変更するだけでmlx-serveを指すことができます。本番ワークフローで切り替える前に、使用中の特定のクライアントでの互換性を確認してください。
mlx-serveはどうやってインストールしますか？
Homebrew経由です。サーバーにはbrew tap ddalcu/mlx-serve https://github.com/ddalcu/mlx-serveの後にbrew install mlx-serve、任意のメニューバー・コンパニオンアプリにはbrew install --cask mlx-coreを実行します。インストール前に公式GitHub READMEで最新の手順を確認してください。
mlx-serveはいつ最初にリリースされましたか？
mlx-serveのGitHubリポジトリは2026年2月に作成されました。本レビュー時点で、プロジェクトはほぼ毎日タグ付きリリースを行っています — 完全な履歴は公式リリースページを参照してください。