Skip to main content
PromptQuorum
ホーム/ローカルLLM活用/mlx-serve レビュー 2026: Apple Silicon向けネイティブZig推論サーバー
Overview & Reference

mlx-serve レビュー 2026: Apple Silicon向けネイティブZig推論サーバー

·11分で読める·Hans Kuepper 著 · PromptQuorumの創設者、マルチモデルAIディスパッチツール · PromptQuorum
言語を選択:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

mlx-serveは、Apple Silicon Mac上でAIモデルをネイティブに実行する無料のオープンソース推論サーバー（ソースはgithub.com/ddalcu/mlx-serve）で、Zigで書かれています。OpenAI互換、Anthropic互換、Ollama互換のAPIを1つのバイナリから同時に公開します。有料プランは存在しません。GitHubのLICENSEファイルはMITライセンス（著作権者：David Dalcu）で、一部の同梱サードパーティコンポーネントはApache License 2.0のもとにあり、リポジトリのNOTICEファイルに記載されています。mlx-serveはApple SiliconハードウェアでmacOS 26.2以降を必要とし、対応するモデルファミリーにはネイティブでMLXにディスパッチし、GGUFモデルには組み込みのllama.cppにディスパッチします。また、チャット、エージェントのツール呼び出し、メディア生成のための MLX Core という同梱macOSメニューバーアプリも提供します。

mlx-serve（github.com/ddalcu/mlx-serve）は、Apple Silicon Mac上で大規模言語モデルをネイティブに実行する無料のオープンソース推論サーバーで、Zigで書かれています。約7MBの単一バイナリから、OpenAI、Anthropic、Ollama互換のAPIを、Pythonランタイム不要で公開します。ネイティブApple Siliconモデルには MLX にディスパッチし、GGUFモデルには llama.cpp を組み込んでいます。さらに、チャット、エージェントワークフロー、メディア生成のための MLX Core という同梱のmacOSメニューバー・コンパニオンアプリも提供します。このレビューでは、mlx-serveが実際に何をするか、インストール方法、実際の機能セット、そしてMLXエコシステムの他の推論サーバーとの位置づけを取り上げます。

重要なポイント

  • mlx-serveは無料かつオープンソースです。公式GitHub LICENSEはMITライセンスで、一部の同梱サードパーティコンポーネントはApache License 2.0のもとにあります
  • 対応モデルファミリーはMLX経由でApple Silicon上でネイティブに動作し、GGUFモデルは組み込みのllama.cpp経由で動作します
  • OpenAI互換のchat/completionsおよびResponses API、Anthropic Messages API、Ollama APIを1つのポートで同時に提供します
  • 同梱のmacOSメニューバー・コンパニオンアプリ「MLX Core」を提供し、マルチセッションチャット、MCPツール対応のエージェントモード、画像/動画/音楽/音声/3D生成パネルを備えます
  • Pythonランタイム依存なしの単一の約7MBバイナリです
  • Claude Code、OpenCode、Cursorを含むコーディングエージェント向けの設定済みランチャーを備えます
  • Apple Silicon（Mシリーズ）ハードウェアでmacOS 26.2以降が必要です — WindowsやLinuxへの対応、Intel Macへの対応はありません
  • David Dalcu氏が開発しており、本レビュー時点でほぼ毎日タグ付きリリースが行われています

📍 一文で説明

mlx-serveは、Apple Silicon Mac向けの無料オープンソースZig推論サーバーで、単一バイナリからOpenAI、Anthropic、Ollama互換のAPIを提供し、有料プランはありません。

💬 簡潔に説明

ローカルモデルサーバーを動かすためにPythonと複数の別々のパッケージをインストールする代わりに、mlx-serveはHomebrewでインストールする1つの小さなプログラムです。対応モデルファミリーはApple独自のMLXフレームワークで直接実行し、GGUFモデルの場合は組み込みのllama.cppコピーで実行します。OpenAI、Anthropic、Ollamaが使用するのと同じ形式でリクエストに応答するため、これらのAPI向けに構築済みのツールは変更なしに動作します。

📌補足: このレビューは、ローカルLLMソフトウェアディレクトリにおけるmlx-serveの項目を掘り下げた記事です。他の数十のローカルAIツールとの一覧比較はそちらのページを参照してください。

mlx-serveとは何か？

mlx-serveは、Apple Silicon Mac向けのネイティブ推論サーバーで、AIモデルをデバイス上で実行し、OpenAI、Anthropic、Ollama互換のAPI経由で公開します。そのGitHubの説明にはこうあります。「Native LLM inference server for Apple Silicon. OpenAI + Anthropic API compatible. No Python. Includes MLX Core macOS app with chat, agent mode, and tool calling.」サーバー自体はシステムプログラミング言語であるZigで書かれており、そのためインストールすべき依存関係を持つPythonアプリケーションではなく、単一の小さなバイナリとして配布されます。

  • コア機能：モデルを一度読み込み、同時に3種類の異なるAPI形式でHTTP経由で提供するローカル推論サーバー
  • ネイティブモデルディスパッチ：対応モデルファミリーにはApple SiliconのApple独自の配列計算フレームワークであるMLX、GGUF形式モデルには組み込みのllama.cpp
  • API互換性：デフォルトですべてポート11234で、OpenAIのchat/completionsおよびResponsesエンドポイント、Anthropic Messages API、Ollama API
  • コンパニオンアプリ：MLX Coreは、チャット、エージェントワークフロー、メディア生成のための同梱macOSメニューバーアプリケーションで、サーバーとは別のHomebrew caskとしてインストールされます
  • 開発者：GitHubリポジトリのLICENSEファイルの著作権表示によると個人開発者のDavid Dalcu氏
  • 正規リポジトリ：github.com/ddalcu/mlx-serve — 元のプロジェクトです。複数のフォークや、少なくとも1つの無関係で別の作者による類似名のプロジェクトが存在するため、この特定のリポジトリを参照しているか確認してください

mlx-serve リリース履歴

mlx-serveのGitHubリポジトリは2026年2月に作成され、それ以来ほぼ毎日タグ付きリリースを行い、投機的デコーディング、コーディングエージェント用ランチャー、拡張されたメディア生成を追加してきました。長い実績を持つ成熟したプロジェクトではなく、若く急速に進化しているプロジェクトです — 評価の際はこの点を考慮してください。

  1. 1
    v26.8.9 — 2026年8月18日：コーディングエージェント用ランチャー
    Why it matters: リリースノートによると「launch your coding agent」として、コーディングエージェント向けの設定済みランチャーを追加し、あわせてチャット機能の強化とデコード速度の向上を行いました（[公式リリースページ](https://github.com/ddalcu/mlx-serve/releases)より）。
  2. 2
    v26.8.10 — 2026年8月26日：Neural Engineプレフィルオフロード
    Why it matters: Neural Engineプレフィルオフロードとバッチデコーディングを追加。推論パイプラインの一部にAppleの専用Neural Engineハードウェアを使う最適化です。
  3. 3
    v26.8.11 — 2026年8月29日：MLX 0.32.2とQwen 3.8 Flash Next
    Why it matters: 同梱するMLXフレームワークのバージョンを更新し、新しいQwenモデルバリアントへの対応を追加しました。
  4. 4
    v26.9.1 — 2026年9月3日：1Mコンテキストと高速化されたFlashデコード
    Why it matters: MLX Coreコンパニオンアプリのサイドバーにターミナルを追加し、対応モデルで100万トークンのコンテキストウィンドウをサポートしました。
  5. 5
    v26.9.2 — 2026年9月9日：モデルごとの設定とチャットプロバイダー
    Why it matters: モデルごとの設定と追加のチャットプロバイダーオプションを追加し、さらにデコード速度を改善しました。
  6. 6
    v26.9.3 — 2026年9月16日：全モデル対応の投機的デコーディング
    Why it matters: リリースノートによると、投機的デコーディングの対応を限られたモデルセットを超えて拡張し、あわせて64GB Mac向けのFlashパフォーマンス改善を行いました。
  7. 7
    v26.9.4 — 2026年9月17日：正確性の修正とベンチマーク
    Why it matters: 正確性の修正を行い、中国語ドキュメントを追加し、新しいベンチマーク数値を公開しました。本レビュー時点で[公式リリースページ](https://github.com/ddalcu/mlx-serve/releases)に記載されている最新の安定版タグです。

mlx-serveでできること

mlx-serveの機能セットは、Apple Silicon上でモデルを高速に提供しつつ、他のAPI向けに構築済みのツールとの互換性を保つことに重点を置いています。プロジェクトのGitHub READMEに基づき、各機能が実際に何をするかを以下に示します。

  • マルチAPI提供 — サーバーはOpenAIのchat/completionsおよびResponsesリクエスト、Anthropic Messages APIリクエスト、Ollama APIリクエストを同じポートで同時に処理するため、既存のOpenAI/Anthropic/OllamaクライアントコードはベースURLを変更するだけでmlx-serveを指すことができます
  • ネイティブMLXモデルディスパッチ — ネイティブMLX対応のモデル（READMEによるとGemma、Qwen、Llama、Mistral、DeepSeek V4 Flash）は、Apple Silicon上でApple独自のMLXフレームワークを直接経由して実行されます
  • GGUF向け組み込みllama.cpp — MLXがネイティブ対応していない数千のGGUF形式モデルは、代わりに組み込みのllama.cppコピー経由で、別途インストールなしに実行されます
  • パフォーマンス機能 — READMEには、Apple Silicon上のスループットを狙った4種類の投機的デコーディング、連続バッチング、KVキャッシュ量子化、カスタムMetalカーネルが記載されています
  • MLX Coreコンパニオンアプリ — PDF/画像添付付きのマルチセッションチャット、組み込みツールとModel Context Protocol（MCP）マーケットプレイス連携を備えたエージェントモード、シェルコマンドを実行するための隔離されたAgent Sandbox、再開可能なダウンロードに対応したモデルブラウザ、画像/動画/音楽/音声（Kokoro音声によるボイスクローニングを含む）/3Dモデル生成パネルを提供する同梱macOSメニューバーアプリケーション
  • コーディングエージェント用ランチャー — リリースノートによると、Claude Code、OpenCode、Pi、Cursorを含むコーディングエージェント向けの設定済みランチャープロファイル
  • Python依存なし — サーバーバイナリは約7MBで、多くの他のローカル推論ツールと異なりPythonランタイムを必要としません

利用例：mlx-serveの3つの使い方

これらは、上記のmlx-serveの文書化されたコマンドから構築した具体的なワークフローであり、仮想的な利用シナリオではありません。

mlx-serveの料金：本当に無料か？

はい — mlx-serveに有料プランはありません。GitHubリポジトリに料金ページはなく、LICENSEファイルがアプリケーション全体に適用されます。ライセンス本文は標準的なMITライセンス（著作権者：David Dalcu）で、寛容であり、コピーレフト義務はありません。GitHub自身のリポジトリメタデータは、全体のライセンスを単純なMITバッジではなくカスタムの「Other」エントリとして分類しています。これは、リポジトリが別のNOTICEファイルに記載された一部のサードパーティコンポーネントをApache License 2.0のもとでも同梱しているためです。

  • サブスクリプション、有料プール、mlx-serve自体が課す利用制限は一切ありません
  • サーバーまたはMLX Coreコンパニオンアプリのインストール・利用にアカウントやサインアップは不要です
  • mlx-serveのコアコードはMITライセンスです — 寛容で、商用・非商用ともに無料で利用でき、ライセンス本文に帰属表示が保持されます
  • リポジトリのNOTICEファイルによると、一部の同梱サードパーティコンポーネントはMITではなくApache License 2.0のもとでライセンスされています — 組織のコンプライアンス審査が正確なライセンスの組み合わせに依存する場合は、NOTICEファイルを直接お読みください

mlx-serve vs. Ollama

mlx-serveとOllamaは、どちらもMac上でHTTP API経由でローカルモデルを提供します。どちらも同じクライアントツールの背後に置けるため、よく比較されます。最も明確な違いは、対応プラットフォームの範囲とネイティブエンジンの選択にあります。

項目
mlx-serve
Ollama
プラットフォームmacOS（Apple Silicon）のみmacOS、Windows、Linux
ネイティブエンジンMLX（ネイティブ）+ GGUF向け組み込みllama.cppllama.cppベース
API互換性OpenAI + Anthropic + Ollama API、同一ポート独自API、加えてOpenAI互換エンドポイント
同梱GUIMLX Coreメニューバーアプリ（チャット、エージェント、メディア生成）最小限の内蔵GUI、サードパーティ製フロントエンド頼み
ランタイム依存単一の約7MBバイナリ、Python不要単一のGoバイナリ、Python不要
メディア生成MLX Core経由の画像/動画/音楽/音声/3Dテキストとビジョンチャットのみ

mlx-serveのOllama API互換性により、プロジェクトのドキュメントによれば、Ollama向けに構築されたツールがmlx-serveを直接指せることがよくあります。クロスプラットフォーム対応（macOSだけでなくWindowsやLinuxも）が重要な場合は、Ollamaの方が対応範囲が広い選択肢です。どちらのプロジェクトも頻繁に更新されるため、決定前に各プロジェクト自身のサイトで最新の機能詳細を確認してください。

mlx-serveはどんな人に向いているか？

mlx-serveが適しているかどうかは、Apple Siliconハードウェアを所有し、複数のクライアントAPI形式を話す単一サーバーとメディア生成用の同梱GUIを求めているかどうかによります。

mlx-serve vs. 他のMLX推論ツール

mlx-serveは、AppleのMLXフレームワークを中心に登場した複数のApple Silicon特化型推論サーバーの1つです。この分野の他の選択肢との位置づけを以下にまとめます — 全カタログはローカルLLMソフトウェアディレクトリを、最も近いクロスプラットフォームの一騎打ち比較は上記の専用のmlx-serve vs. Ollama比較を参照してください。

  • MLX LM — MLXを使って言語モデルを実行・ファインチューニングするためのApple独自のPythonライブラリとコマンドラインツールで、mlx-serveの単体Zigバイナリとは異なり、より低レベルでPythonベースです。mlx-serveのネイティブディスパッチが基盤とする基盤ライブラリについての詳しい解説はMLX LMの解説を参照してください。
  • omlx — 別のApple Silicon特化型ローカル推論オプションです。機能セットとAPI互換性がmlx-serveとどう比較されるかは専用のレビューを参照してください。
  • rapid-mlx — パフォーマンス重視のMLXベース推論ツールです。mlx-serveとのスループットと機能の比較は専用のレビューを参照してください。
  • LoRAX — マルチLoRAアダプター提供フレームワークです。サーバーごとに単一モデルではなく、1つのベースモデルから多数のファインチューニング済みアダプターを提供する必要があるワークフローに関連します。これはmlx-serveの設計上の焦点ではありません。
  • Ollama — クロスプラットフォームのローカルモデルサーバーです。プラットフォーム範囲とネイティブエンジンに関するmlx-serveとの違いは、上記の専用比較セクションを参照してください。

mlx-serve評価時によくある誤解

mlx-serveに関する混乱のほとんどは、そのプラットフォーム制限、GitHub上のライセンス分類、または他のほとんどのローカル推論サーバーと同様にPythonツールであると想定することから生じます。

よくある質問

mlx-serveとは何ですか？

mlx-serve（github.com/ddalcu/mlx-serve）は、Apple Silicon Mac上でAIモデルをローカル実行する無料のオープンソース推論サーバーで、Zigで書かれています。単一のバイナリからOpenAI互換、Anthropic互換、Ollama互換のAPIを提供します。

mlx-serveは無料ですか？

はい。GitHubリポジトリに料金ページはなく、LICENSEファイルはMITライセンスで、コアアプリケーション全体に適用され、有料プランはありません。

mlx-serveはオープンソースですか？どのライセンスを使っていますか？

はい、mlx-serveはオープンソースです。コアのLICENSEファイルは標準的なMITライセンス（著作権者：David Dalcu）です。リポジトリは、別のNOTICEファイルに記載された一部のサードパーティコンポーネントもApache License 2.0のもとで同梱しており、そのためGitHubのリポジトリメタデータは、単純なMITバッジではなくカスタムの「Other」エントリとしてライセンスを表示します。法的判断のためには両方のファイルを自分で確認してください。

mlx-serveはどのプラットフォームに対応していますか？

公式GitHub READMEによると、Apple Silicon（Mシリーズ）ハードウェア上のmacOS 26.2以降のみです。Windows、Linux、Intel Macへの対応はありません。

mlx-serveはPythonを必要としますか？

いいえ。mlx-serveはZigで書かれており、約7MBの単一バイナリとして提供され、多くの他のローカル推論ツールと異なりPythonランタイム依存はありません。

mlx-serveはどのモデル形式に対応していますか？

ネイティブMLX対応のモデル（READMEにはGemma、Qwen、Llama、Mistral、DeepSeek V4 Flashが挙げられています）はAppleのMLXフレームワークを直接経由して実行されます。その他のGGUF形式モデルは、別途インストールなしに、代わりに組み込みのllama.cppコピー経由で実行されます。

MLX Coreとは何ですか？

MLX Coreは、mlx-serveに同梱されたmacOSメニューバー・コンパニオンアプリで、サーバーとは別のHomebrew caskとしてインストールされます。マルチセッションチャット、MCPツール統合を備えたエージェントモード、モデルブラウザ、画像、動画、音楽、音声、3Dモデル用の生成パネルを提供します。

mlx-serveは既存のツールでOllamaの代わりになりますか？

多くの場合、はい — mlx-serveはOpenAIおよびAnthropic互換APIに加えて、同じポートでOllama互換APIも提供するため、Ollamaの API向けに構築されたツールは、多くの場合ベースURLを変更するだけでmlx-serveを指すことができます。本番ワークフローで切り替える前に、使用中の特定のクライアントでの互換性を確認してください。

mlx-serveはどうやってインストールしますか？

Homebrew経由です。サーバーにはbrew tap ddalcu/mlx-serve https://github.com/ddalcu/mlx-serveの後にbrew install mlx-serve、任意のメニューバー・コンパニオンアプリにはbrew install --cask mlx-coreを実行します。インストール前に公式GitHub READMEで最新の手順を確認してください。

mlx-serveはいつ最初にリリースされましたか？

mlx-serveのGitHubリポジトリは2026年2月に作成されました。本レビュー時点で、プロジェクトはほぼ毎日タグ付きリリースを行っています — 完全な履歴は公式リリースページを参照してください。

出典

← ローカルLLM活用 に戻る