メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM活用
Overview & Reference

oMLXレビュー:SSDキャッシュ搭載のApple Silicon推論サーバー

·10分で読めるHans Kuepper 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

oMLXは、Apple Silicon向けの無料・オープンソースのローカル推論サーバーです(ソースコードはgithub.com/jundot/omlx)。AppleのMLXフレームワークを通じてオープンウェイトモデルをご自身のMac上で実行し、管理用のネイティブmacOSメニューバーアプリと、他のツール向けのOpenAI/Anthropic互換APIエンドポイントを備えています。ライセンスは無修正のApache License 2.0(著作権表示はoMLX contributors)で、有料プランはありません。oMLXはApple Silicon(M1〜M5)搭載のmacOS 15.0(Sequoia)以降を必要とし、Intel Mac、Windows、Linuxでは動作しません。これはMLX自体がApple Siliconのみを対象としているためです。目玉機能は、非アクティブなコンテキストブロックを破棄せずにSSDへオフロードする階層型キーバリューキャッシュで、コーディングエージェントが長い会話に戻ってきた際、ゼロから再計算するのではなく数秒でそのコンテキストを復元できます。

重要なポイント

  • oMLXは無料・オープンソースです。公式GitHub LICENSEは無修正のApache License 2.0で、著作権表示はoMLX contributorsです
  • Apple の MLX フレームワークと mlx-lm の BatchGenerator を通じて完全にローカルで動作します — クラウド接続は不要です
  • macOS 15.0(Sequoia)以降、Apple Silicon(M1〜M5)、Python 3.11〜3.13が必要です。Intel Mac、Windows、Linuxはサポートしません
  • ネイティブのmacOSメニューバーアプリ(Swift/SwiftUI、Electronではない)に加え、omlxコマンドラインツールとバックグラウンドサーバーを提供します
  • 階層型キーバリューキャッシュ — ホットなブロックはRAMに、コールドなブロックはsafetensors形式でSSDにオフロードされ、プレフィックス共有とcopy-on-writeを備えてサーバー再起動後も持続します
  • OpenAI互換(/v1/chat/completions、/v1/completions、/v1/embeddings、/v1/rerank)とAnthropic互換(/v1/messages)のエンドポイントをhttp://localhost:8000で公開します
  • 組み込みの管理ダッシュボードから、OpenClaw、OpenCode、Codexなどを含むコーディングエージェント連携のワンクリックセットアップが可能です。さらに、Claude Code向けの文書化された対応(モデルの実際のコンテキストウィンドウの報告とSSEのkeep-alive)もあります
  • jundotによって作成され、プロジェクト自身のリリースノートによれば唯一のメンテナーであり、コミュニティからのプルリクエストも受けています。このプロジェクトはMLXのGitHubディスカッションスレッドで2026年3月に初めて公に発表されました。正式なリポジトリはgithub.com/jundot/omlxで、他のGitHubユーザー名の下に同名のフォークが複数存在しますが、それらはオリジナルのプロジェクトではありません

📍 一文で説明

oMLXは、MLXを通じてモデルを実行する、Apple Silicon Mac向けの無料・オープンソースのローカル推論サーバーで、メニューバーアプリとCLI/サーバーとして提供され、コーディングエージェントのコンテキストをゼロから再計算せず素早く再読み込みできるページ化SSDキャッシュを備えています。

💬 簡潔に説明

コーディングエージェントを再度開くたびにモデルが会話履歴全体をゼロから読み込む代わりに、oMLXはその処理済みコンテキストをMacのSSDに保存し、数秒で復元します。すべてご自身のMac上で完結し、ターミナルを操作せずに済むメニューバーアイコンがあり、OpenAIやAnthropicと同じAPI形式にも対応しているため、Claude CodeやOpenCodeのようなツールから直接接続できます。

oMLX(github.com/jundot/omlx、詳細はomlx.aiにも記載)は、AppleのMLXフレームワーク上に構築された無料・オープンソースのローカル推論サーバーで、ネイティブのmacOSメニューバーアプリとコマンドラインサーバーの両方として配布されています。オープンウェイトモデルをMac上で完全に実行し、OpenAI互換・Anthropic互換のAPIエンドポイントを公開し、長いコーディングエージェントのコンテキストを再起動後も高速に保つための階層型RAM+SSDキーバリューキャッシュを搭載しています。このレビューでは、oMLXが実際に何をするか、インストール方法、シンプルなmlx-lmとの比較、他のローカル推論ツールとの位置づけを解説します。

oMLXとは?

oMLXは、AppleのMLX機械学習フレームワークを完全なサービングスタックに変える、Apple Silicon Mac向けのローカル推論サーバーです — OpenAI/Anthropic互換のAPI、マルチモデルマネージャー、ページ化SSDキャッシュ、そしてすべてを制御するネイティブmacOSメニューバーアプリが揃っており、日常的な利用にターミナルを必要としません。自身のGitHubの説明では、「継続的バッチ処理、階層型KVキャッシュ、ネイティブmacOSメニューバー管理インターフェースを特徴とする、Apple Silicon Mac向けに最適化されたLLM推論サーバー」と位置づけられています。

  • 中核機能:オープンウェイトモデルを読み込み、ローカルHTTP API経由で提供するバックグラウンド推論サーバーで、メニューバーアプリまたはomlx CLIから管理します
  • 推論エンジン:oMLX自身のドキュメントによると、AppleのMLXフレームワークとmlx-lmライブラリのBatchGenerator上に構築され、その上に独自の継続的バッチ処理とページ化キャッシュ層を追加しています
  • 基盤:開発者自身の発表によると、oMLXはもともとvllm-mlxを出発点として構築され、SSDキャッシュの階層化、継続的バッチ処理、ビジョン言語モデル対応、Anthropic互換API、ネイティブmacOSインターフェースが独自に実装されて追加されました
  • 開発者:jundot(リポジトリに記載の連絡先はjunkim.dot@gmail.com)で、独立系メンテナーです — このレビューでは、oMLXの背後に企業や資金調達ラウンドがある証拠は見つかりませんでした
  • 正式なリポジトリ:github.com/jundot/omlx — 他のGitHubユーザー名の下に同一名称のフォークが複数存在します(例:mkmsyk/omlx、dannysl/omlx)が、それらはオリジナルのプロジェクトではありません

oMLXの誕生と成長

oMLXは、開発者jundotによって2026年3月、Apple MLX自身のGitHubディスカッションボードへの投稿で初めて公に発表されました。この発表は、oMLXを具体的な問題への解決策として位置づけています。長く成長し続けるコンテキストを再利用するコーディングエージェントは、Apple Silicon上でリクエストのたびにそのコンテキストの再読み込みに数十秒単位の遅延が生じることがありました。これは、当時のMLXベースのサーバーが一般にキーバリューキャッシュの状態をRAMにのみ保持し、サーバーの再起動やコンテキストの期限切れのたびに失っていたためです。oMLXのページ化SSDキャッシュは代わりにその状態をディスクに永続化するため、以前処理済みのプレフィックスをモデルから再計算する代わりにSSDから復元できます。開発者自身の発表によると、oMLXはローンチ時点ですでに約110のGitHubスターを獲得しており、vllm-mlxを出発点として、SSD階層化、継続的バッチ処理、ビジョン言語モデル対応、Anthropic互換API、ネイティブmacOSインターフェースの新規コードが加えられていました。このレビューの公開日時点で、oMLXのGitHubリポジトリは23,000を超えるスターを示しており、執筆時点で8か月未満のプロジェクトとしては急速な成長です。

  • 発表:2026年3月4日、github.com/ml-explore/mlx/discussions/3203にて、プロジェクトの開発者本人であるjundotが投稿
  • 出発点:vllm-mlx。開発者独自のSSD階層化、継続的バッチ処理、VLM、Anthropic API、ネイティブUIのコードがその上に追加されています
  • 成長:2026年3月の発表時点の約110GitHubスターから、このレビュー時点の23,000を超えるスターまで、oMLX自身のGitHubリポジトリによると成長
  • ライセンスの経緯:リポジトリのLICENSEファイルには「oMLX contributors」に対する2025年の著作権表示があり、これはプロジェクトの2026年3月の公式発表より前のもので、公開ローンチ前に非公開で開発されていたことと整合します

oMLXでできること

oMLXの機能セットは、MLXモデル推論を単発のスクリプトではなく、永続的なマルチモデルのローカルサーバーに変えることを中心としています。各機能が実際に何をするかを、oMLX自身のGitHub READMEとomlx.aiのドキュメントに基づいて紹介します。

  • 階層型キーバリューキャッシュ — アクティブなコンテキストブロックはホットなRAM層に保持され、非アクティブなブロックはsafetensors形式のコールドなSSD層に移動します。プレフィックス共有とcopy-on-writeを備え、破棄されずにサーバー再起動後も残ります
  • 継続的バッチ処理 — 同時リクエストはmlx-lmのBatchGeneratorを通じて処理され、最大同時実行数を設定でき、リクエストを1件ずつ処理するのではありません
  • マルチモデル提供 — LLM、ビジョン言語モデル(VLM)、埋め込みモデル、リランカーを並行して読み込め、LRU退避、手動での読み込み/解放、モデルのピン留め、モデルごとに設定可能なTTLに対応します
  • OpenAI互換・Anthropic互換API — OpenAI形式のクライアント向けに/v1/chat/completions、/v1/completions、/v1/embeddings、/v1/rerank、Anthropic形式のクライアント向けに/v1/messagesを、すべてhttp://localhost:8000から提供します
  • ビジョン言語およびOCR対応 — base64、URL、ファイル入力によるマルチ画像チャット、視覚コンテキストを伴うツール呼び出し、専用OCRモデルの自動検出
  • ツール呼び出しとMCP — Llama、Qwen、DeepSeek、Gemma、GLM、MiniMax、Mistralなど各モデルファミリーのチャットテンプレートを自動検出するJSONスキーマのツール呼び出し、およびModel Context Protocol(MCP)設定
  • ネイティブmacOSメニューバーアプリ — プロジェクト自身のドキュメントによれば明示的にElectronではないSwift/SwiftUI製アプリで、ターミナルなしでサーバーの起動・停止・監視ができ、ローカルの利用状況分析(モデル別合計、時間帯別利用ヒートマップ)やクラッシュ時の自動再起動を備えています
  • 管理ダッシュボード — サーバー稼働後にブラウザからアクセスできる/adminのWeb UIで、モデル管理、組み込みのチャットインターフェース、ワンクリックベンチマーク、Hugging FaceをMLXまたはGGUF形式で絞り込めるモデルダウンローダー、OpenClaw、OpenCode、Codex、Hermes Agent、Copilot、Pi、Mistral Vibe、DeepSeek Harnessを含むコーディングエージェント連携のワンクリックセットアップができます
  • GGUF・NVFP4モデル向けの外部エンジン — モデルごとの設定で、GGUFファイルを含む一部のQwenチェックポイントを、別プロセスで動作する別プロジェクトのSplash Metalエンジン経由で提供します。対応モデルはREADMEに記載があり、Splash 1.4.0以降が必要です
  • 実験的な分散推論 — ダウンロード済みの言語モデルを、メモリ容量の異なる複数のMacにまたがって分割し、RingまたはThunderbolt RDMA/JACCL上のMLXパイプラインランクで実行します。ソースビルドのみで、oMLXのREADMEでも実験的と明記されています(下の分散推論セクションを参照)

oMLXの分散推論とクラスタリング

oMLXの分散推論は、ソースビルドでのみ利用できる実験的機能で、1つのモデルを、メモリ容量が異なるMacを含む複数のMacに分割して実行します。 oMLXのREADMEによると、RingまたはThunderbolt RDMA/JACCLネットワーク上のMLXパイプラインランクを使用し、標準のmacOSアプリやHomebrewインストールには含まれていません。

  • ステータス:READMEでは「Experimental Multi-Mac Inference」とされています。セットアップ、セキュリティ上の境界、現在の制限、実機での検証チェックリストは別ドキュメントdistributed-cluster.mdにまとめられています
  • 提供形態:ソースビルドのみ。上の表のmacOS .dmgアプリやHomebrewインストールには含まれません
  • クラスターダッシュボード:READMEによると、読み取り専用のピア検出と、SSHおよびランタイムの厳格な検証を備えています
  • プロファイル:READMEによると、Interactive・Balanced・Throughputの各プロファイルがあり、まとめ処理されたバッチ処理とプロンプトキャッシュのアフィニティを備えています
  • ネットワーク:Mac間はRing、またはThunderbolt RDMA/JACCL

使用例:oMLXの3つの使い方

これらは、上記でドキュメント化されたoMLXの機能から構成される具体的なワークフローであり、仮想的な使用例ではありません。

メニューバーアプリを起動し、Claude Codeを接続する

macOSアプリをインストールし、メニューバーから起動してサーバーを開始します。oMLXはhttp://localhost:8000でAnthropic互換の/v1/messagesエンドポイントを提供するため、Claude Codeをそのアドレスに向ければ、クラウドAPIの代わりにoMLXに読み込んだローカルモデルを使えます。READMEにはClaude Code向けの対応が記載されており、oMLXはモデルの実際のコンテキストウィンドウを報告してauto-compactが機能するようにし、SSEのkeep-aliveで長いprefill中の読み取りタイムアウトを防ぎます。http://localhost:8000/adminのダッシュボードでは、OpenCodeやCodexなど他のエージェント向けにワンクリックセットアップが用意されています。

CLIサーバーを直接起動し、既存のOpenAIクライアント連携を再利用する

ターミナルからomlx serve --model-dir ~/modelsを実行します(バックグラウンドで実行する場合はomlx start)。サーバーがhttp://localhost:8000で待ち受けを開始したら、既存のOpenAIクライアントコードや任意のツールを、api.openai.comの代わりにこのアドレスに向け、/v1/chat/completionsを利用します — これは他のローカルOpenAI互換サーバーでも使われる同じパターンで、新しいAPI形式のために書き直す代わりに、既存のコードを再利用できます。

作業セッション全体を通じて長いコーディングエージェントのコンテキストを高速に保つ

--paged-ssd-cache-dirを高速なローカルドライブに指定し、お使いのMacのRAMに合わせた--hot-cache-max-sizeを設定してomlx serveを実行します。同じ大きなコンテキストに繰り返し戻る長いエージェント型コーディングセッションを進める間、本来ならRAMから退避されるはずだった処理済みブロックは、代わりにSSD層から復元されます。oMLX自身のドキュメントでは、これにより長いコンテキストの再読み込み待ち時間を数十秒から数秒へと短縮できるとされています。

oMLXの料金:本当に無料?

はい — oMLXに有料プランはありません。GitHubリポジトリにもomlx.aiにも料金ページはなく、LICENSEファイルは「oMLX contributors」の2025年の著作権表示が入った無修正のApache License 2.0で、アプリケーション全体に適用され、特定の機能を支払いの条件とする条項はありません。

  • サブスクリプション、有料プラン、oMLX自体による利用制限は一切ありません
  • インストールや利用にアカウントや登録は不要です
  • アプリケーション本体、メニューバーアプリ、CLI、管理ダッシュボードはすべて同じApache License 2.0の条件でカバーされています
  • oMLXはMLXを通じてローカルモデルのみを実行するため、クラウドプロバイダーへのトークン単位・リクエスト単位のコストも発生しません — 唯一のコストは、すでにお持ちの電気代とハードウェアです

oMLX vs. mlx-lm・MLX

MLXはAppleの機械学習フレームワークであり、oMLXはその上に構築されたサーバー製品です。競合するフレームワークではないため、「oMLX vs MLX」は代替関係ではなくレイヤーの違いの問題です。 mlx-lmは、AppleのMLXエコシステムがモデルの実行・提供のために用意しているPythonライブラリとシンプルなCLIで、oMLXはその上に直接構築され、継続的バッチ処理にBatchGeneratorを利用しています。両者は実質的に競合というより異なるレイヤーです。mlx-lmが基盤であり、oMLXはその基盤の上に構築された完全なサービング製品です。

観点
oMLX
レイヤーMLXとmlx-lmの上に構築されたサーバー製品MLXフレームワーク上のPythonライブラリ
位置づけパッケージ化された推論サーバー:メニューバーアプリ+CLI+管理ダッシュボードMLXモデルの実行・提供向けのPythonライブラリと軽量CLI
KVキャッシュ階層型RAM+SSDページ化キャッシュ、再起動後も持続自身のドキュメント化されたサーバーによればメモリ内キャッシュのみで、SSD階層化なし
マルチモデル管理LRU退避、ピン留め、モデルごとのTTL、UIからの読み込み/解放組み込み機能ではなく、スクリプトまたは手動管理
API互換性OpenAI互換・Anthropic互換エンドポイントOpenAI互換のサーバーモード(mlx_lm.server)
インターフェースネイティブmacOSメニューバーアプリとWeb管理ダッシュボードコマンドラインのみでGUIなし
コーディングエージェント連携OpenClaw、OpenCode、Codex等のワンクリックセットアップドキュメント化された機能はなく、手動でのエンドポイント設定が必要

スクリプトやシンプルなサーバーコマンドから1つのMLXモデルを実行する最もシンプルな方法を求めるなら、mlx-lm単体で十分かもしれません。メニューバーUIを備えた永続的なマルチモデルサーバー、長いエージェントコンテキスト向けのSSD対応キャッシュ、ワンクリックのコーディングエージェント連携が欲しいなら、oMLXはmlx-lmを置き換えるのではなく、その上にこの層を追加するために特化して作られています。

ディレクトリで比較する

oMLX vs. mlx-serve

oMLXとmlx-serveは、どちらもOpenAIおよびAnthropic互換APIを備えた、Apple Silicon向けの無料・オープンソースのローカル推論サーバーです。主な違いは、ランタイム(Python/MLXか単一のZigバイナリか)と対応モデル形式(MLXのみか、MLXとGGUFか)です。 別々の開発者による独立したプロジェクトで、どちらも他方の上に構築されてはいません。

観点
oMLX
言語/ランタイムMLX/mlx-lm上のPython、Swift製メニューバーアプリ単一のZigバイナリ(約7MB)、Python不要
モデル形式MLXモデル(LLM・VLM・埋め込み・リランカー)MLXと、GGUF用に内蔵したllama.cpp
APIOpenAI互換・Anthropic互換OpenAI・Anthropic・Ollama互換
付属アプリメニューバーアプリ+Web管理ダッシュボードMLX Coreメニューバーアプリ(チャット・エージェント・メディア)
ライセンスApache License 2.0MIT(Apache-2.0の同梱コンポーネントあり)
macOS要件macOS 15.0以降macOS 26.2以降

長いコーディングエージェントのコンテキストを繰り返し使う用途や、再起動後も保持される階層型SSD KVキャッシュを重視するならoMLX、Pythonを使わない小さなバイナリやMLXに加えたGGUF対応が欲しいならmlx-serveが向いています。mlx-serveに関する情報はmlx-serveレビューに基づいています。本レビューでは両者のベンチマーク比較は行っていないため、最新の機能は各プロジェクトのリポジトリで確認してください。

ディレクトリで比較する

oMLXはどんな人におすすめ?

oMLXが合うかどうかは、ほぼすべてまず1つの条件にかかっています。それは、そもそもApple Silicon Macを使っているかどうかで、この要件には回避策がありません。

こんな方にoMLXはおすすめです

  • macOS 15.0以降を搭載したApple Silicon Mac(M1〜M5)をお使いの方 — これは推奨ではなく必須要件です
  • 手動で再起動が必要なスクリプトではなく、メニューバーアプリを備えた永続的なローカル推論サーバーが欲しい方
  • Claude Code、OpenClaw、OpenCodeなどのコーディングエージェントを長く繰り返し参照されるコンテキストで使用しており、そのワークフロー特有の再読み込み遅延を減らしたい方
  • 2つの別々のツールを動かすのではなく、単一のローカルサーバーからOpenAI互換とAnthropic互換の両方のエンドポイントが欲しい方
  • LLM、VLM、埋め込みモデル、リランカーなど複数のモデルを、自動メモリ管理付きの単一プロセスから提供したい方

こんな方は様子を見るか他を探すべきです

  • Windows、Linuxマシン、またはIntel Macをお使いの方 — oMLXはこれらのいずれにもビルドがありません。AppleのMLXフレームワークに依存しており、それはApple Silicon専用だからです。クロスプラットフォームの代替が必要な場合はローカルLLMソフトウェアディレクトリをご覧ください
  • 企業とSLAが後ろ盾になっている、公式にサポートされた資金調達済みの製品が欲しい方 — このレビューでは、oMLXの背後に企業や資金調達がある証拠は見つかりませんでした。プロジェクト自身のGitHubリポジトリによれば、単一の実名開発者によってメンテナンスされています
  • 1つのMLXモデルを実行する絶対的にシンプルで最小限の方法が欲しい方 — oMLXのサーバー層を使わないmlx-lm単体の方が適しているかもしれません
  • 本番デプロイに実績豊富で長い実績のあるプロジェクトが必要な方 — oMLXは2026年3月に初めて発表されたばかりで、より確立された推論サーバーと比べると公開履歴はまだ短いです

oMLX vs. 他のローカル推論ツール

oMLXは、ローカル推論の分野の中でもApple Silicon/MLXの領域に位置しています。同じ領域の他のツールとの比較は以下の通りです — 全体のカタログはローカルLLMソフトウェアディレクトリを、最も直接的な比較は上記のoMLX vs. mlx-lm比較をご覧ください。

  • mlx-lm — oMLX自体がその上に構築されている、基盤となるPythonライブラリとCLIです。完全なサーバー層なしで1つのMLXモデルを実行する最もシンプルな方法が欲しいなら適切な選択です。上記の比較セクションをご覧ください。
  • mlx-serve — Apple Silicon向けの、別プロジェクトの無料・オープンソースのZig製推論サーバーです。OpenAI・Anthropic・Ollama互換APIを備え、llama.cpp経由でGGUFに対応します。上のoMLX vs. mlx-serve比較を参照してください。
  • exo — 複数のApple Silicon Mac(および他のデバイス)をクラスタ化して、単一のマシンでは収まらない大きなモデルを実行するためのオープンソースツールです。oMLXの実験的な単一クラスタ分散モードでは足りない場合に関連します。exoレビューをご覧ください。
  • LM Studio — Apple Silicon上でllama.cppと並んでMLXも推論エンジンの1つとして使用する、クロスプラットフォーム(macOS、Windows、Linux)のデスクトップアプリです。同じツールをMac以外のハードウェアでも動かす必要がある場合により適しています。LM Studioレビューをご覧ください。
  • llamafile — MLXではなくllama.cpp上に構築された、単一実行ファイルによるローカル推論のアプローチで、macOS、Windows、Linuxで同じファイルをインストール不要で実行できます。Apple Silicon特有の性能よりクロスプラットフォームの携帯性が重要な場合に有用な対比になります。llamafile解説の記事をご覧ください。

ディレクトリで比較する

oMLX評価時のよくある間違い

oMLXをめぐる混乱の多くは、クロスプラットフォームツールのように動作すると思い込んだり、同名のフォークと混同したり、Intel Macサポートを期待したりすることから生じます。

間違い1:oMLXがWindowsやLinuxで動くと思い込む

oMLXはmacOS専用、それも特にApple Silicon専用です。これはAppleのMLXフレームワーク上に構築されており、MLX自体がWindowsやLinuxをまったく対象としていないためです。このレビュー時点で、いずれのプラットフォームについてもロードマップ項目やベータビルドはプロジェクトのリポジトリに記載されていません — クロスプラットフォームツールが必要な場合は、代わりにLM Studioやllamafileをご検討ください。

間違い2:github.com/jundot/omlxを同名のフォークと混同する

「omlx」という同一名称のGitHubリポジトリが、他のユーザー名の下に複数存在します(例:mkmsyk/omlx、dannysl/omlx)。Apple MLXのGitHubディスカッションボードでの開発者自身の発表によって確認された、オリジナルで積極的に開発されているプロジェクトはgithub.com/jundot/omlxです。インストールしたりスター数を引用したりする前に、必ずその特定のリポジトリを見ているか確認してください。

間違い3:Intelベースのmacがサポートされていると思い込む

oMLXのシステム要件には明示的にApple Silicon(M1〜M5)と記載されています。このレビューでは、公式ドキュメントのどこにもIntel Macサポートへの言及は見つかりませんでした。oMLXが構築されている基盤であるMLX自体がIntel Macを対象としていないため、これは今後のoMLXアップデートで追加される可能性の低い項目です。

間違い4:oMLXをサーバーではなくチャットクライアントだと期待する

oMLXの管理ダッシュボードにはテスト用の組み込みチャットインターフェースが含まれていますが、その主な目的は、Claude Code、OpenCode、あるいは独自のスクリプトなど他のアプリケーションが使用するためにモデルをAPI経由で提供することです — カテゴリー的には、JanやGPT4Allのようなフル機能のスタンドアロンチャットアプリよりも、ローカル推論サーバーに近い存在です。

よくある質問

oMLXとは何ですか?

oMLX(github.com/jundot/omlx)は、Apple Silicon Mac向けの無料・オープンソースのローカル推論サーバーです。AppleのMLXフレームワークを通じてモデルを実行し、ネイティブのmacOSメニューバーアプリに加え、omlxコマンドラインツールとバックグラウンドサーバーとして提供され、OpenAI互換・Anthropic互換のAPIエンドポイントを備えています。

oMLXは無料ですか?

はい。GitHubリポジトリにもomlx.aiにも料金ページはなく、LICENSEファイルはいかなる有料プランもない無修正のApache License 2.0です。

oMLXはWindowsやLinuxで動きますか?

いいえ。oMLXはmacOS専用で、特にApple Silicon(M1〜M5)とmacOS 15.0(Sequoia)以降を必要とします。これはAppleのMLXフレームワークに依存しており、Windows、Linux、Intel Macを対象としていないためです。

oMLXはIntel Macで動きますか?

いいえ。oMLXのドキュメント化されたシステム要件はApple Siliconのみを指定しています。oMLXが構築されている基盤であるMLXは、Intelベースのmacをサポートしていません。

oMLXはmlx-lmとどう違いますか?

mlx-lmは、AppleのMLXエコシステムがモデル実行のために提供する基盤のPythonライブラリと軽量CLIです。oMLXはmlx-lmのBatchGeneratorの上に構築され、永続的なサーバー、メニューバーアプリ、階層型のSSD対応キャッシュ、マルチモデル管理、OpenAI/Anthropic互換エンドポイントを追加しています。詳細は上記の完全な比較をご覧ください。

oMLXのページ化SSDキャッシュは何のためにありますか?

非アクティブなキーバリューキャッシュブロックをRAMから破棄せず、safetensors形式でMacのSSDにオフロードします。長時間稼働するコーディングエージェントが大きなコンテキストに再度アクセスする際、oMLXはモデルから再計算する代わりにSSDから以前処理済みのブロックを復元でき、その独自のドキュメントによれば、長いコンテキストの再読み込み待ち時間を数十秒から数秒へと短縮できるとされています。

oMLXをClaude Codeやその他のコーディングエージェントと一緒に使えますか?

はい。oMLXのAPIはOpenAI形式とAnthropic形式の両方のリクエストに対応しており、READMEにはClaude Code向けの対応(モデルの実際のコンテキストウィンドウの報告とSSEのkeep-alive)が記載されています。管理ダッシュボードでは、OpenClaw、OpenCode、Codexなどのワンクリック連携設定も利用できます。

oMLXはオープンソースですか?どのライセンスを使用していますか?

はい。oMLXのLICENSEファイルは、「oMLX contributors」の2025年の著作権表示が入った無修正のApache License 2.0です。

HomebrewでoMLXをインストールするには?

brew tap jundot/omlx https://github.com/jundot/omlxを実行し、続けてbrew install jundot/omlx/omlx、最後にomlx startを実行します。oMLXのREADMEにはmacOS .dmgアプリとソースからのインストールも記載されています。インストール手順はリリースごとに変わる可能性があるため、コマンドは必ずそちらで確認してください。

oMLXは複数のMacにまたがる分散推論に対応していますか?

実験的に対応しています。oMLXのREADMEには、ダウンロード済みのモデルを、RingまたはThunderbolt RDMA/JACCL上のMLXパイプラインランクを使って、メモリ容量の異なるMacに分割できるソースビルドが記載されています。標準アプリやHomebrewインストールには含まれず、制限事項は別ドキュメントにまとめられています。

oMLXの最新バージョンは?

v0.7.2で、2026年10月21日に公開されました。同じReleasesページでは、安定版の前に開発ビルドとリリース候補が公開されます。バージョンを引用する前に、github.com/jundot/omlx/releasesでより新しいものがないか確認してください。

oMLXとMLXの違いは?

MLXはApple Silicon向けのAppleのオープンソース機械学習フレームワークです。oMLXはMLXとmlx-lmライブラリの上に構築されたローカル推論サーバーで、メニューバーアプリ、複数モデルの管理、ページ化SSDキャッシュ、OpenAI/Anthropic互換APIを追加します。

oMLXとmlx-serveはどちらを使うべき?

どちらもApple Silicon向けの無料・オープンソース推論サーバーです。oMLXはPythonベースで、長いコーディングエージェントのコンテキスト向けに階層型SSD KVキャッシュを備えています。mlx-serveは単一のZigバイナリで、llama.cpp経由でGGUFモデルも実行できます。上の比較表を参照してください。

oMLXは誰が開発していますか?

oMLXは、独立系メンテナーのjundotによって開発されています(リポジトリに記載の連絡先はjunkim.dot@gmail.com)。このレビューでは、このプロジェクトの背後に企業や資金調達ラウンドがある証拠は見つかりませんでした。

github.com/jundot/omlxは本物のoMLXリポジトリですか?

はい。「omlx」という同一名称のリポジトリが他のGitHubユーザー名の下に複数存在しますが、github.com/jundot/omlxが、Apple MLXのGitHubディスカッションボードでの開発者自身の発表によって確認されたオリジナルのプロジェクトです。

情報源

← ローカルLLM活用 に戻る

MCP