重要なポイント
- 無料、オープンソース、Apache-2.0ライセンス、著作権者はExo Technologies Ltd。リポジトリ自体のLICENSEファイルによる — 2026年9月12日に確認済み
- 自動デバイス検出 — 同じネットワーク上でexoを実行するデバイスは、exo自身のREADMEによれば手動設定なしで互いを見つける
- トポロジー認識型オートパラレルモード:exoは各デバイスのリソースとネットワークリンクのレイテンシー/帯域幅をリアルタイムに把握した上で、デバイス間でモデルを分割する
- シャーディングに加えテンソル並列化 — exo自身のREADMEによれば、2デバイスで最大1.8倍、4デバイスで3.2倍の高速化
- Thunderbolt 5経由のRDMAサポート(macOS 26.2以降)。exo自身のドキュメントでは、デバイス間レイテンシーを99%削減すると記載
- 推論バックエンドとしてApple社のアレイ計算フレームワークであるMLXを使用し、デバイス間通信にはMLX distributedを使用
- OpenAI Chat Completions、OpenAI Responses、Claude Messages、Ollama APIと互換性があり、既存クライアントはほぼ変更なしでexoクラスターに接続できる
- GitHub APIで2026年9月12日に確認された47,375個のスター、3,508個のフォーク
- macOS(Apple Silicon)が主要な、テスト済みのプラットフォーム。Linuxは現時点でCPUのみで動作(GPU対応はexo自身のPLATFORMS.mdで「開発中」と記載)。Windowsは現在非対応
📍 一文で説明
exoは無料のオープンソース(Apache-2.0)フレームワークで、複数のApple SiliconのMac、そしてCPUのみの対応でLinuxマシンも、自動デバイス検出とトポロジー認識型モデルシャーディングを使って1つの分散推論クラスターに束ね、単一デバイスには大きすぎるモデルを実行できるようにする。
💬 簡潔に説明
巨大なモデルを読み込めるだけのメモリを積んだ非常に高価なマシンを1台買ったり、クラウドのGPU時間を借りたりする代わりに、exoはすでに所有している複数のMac(またはLinuxマシン)をネットワーク経由で接続し、それらをまとめて1台の大きなコンピューターのように動作させ、モデルのレイヤーを自動的にすべてに分割する。
📌補足: 本レビューはローカルLLMソフトウェアディレクトリにあるexoのエントリーの補完記事です — exoが他の数十のローカルAIツールと比べてどうかを一目で確認できます。
exoとは何か
exoは、すでに所有している複数のデバイスを1つのAI推論クラスターに接続するフレームワークで、単一デバイスのメモリには大きすぎるモデルを、グループ全体に分割することで実行できるようにする。 exo labsが保守しており、リポジトリ自体の説明は単純に「Run frontier AI locally.」となっている。
- 主な機能:自動デバイス検出に加え、トポロジー認識型モデルシャーディング — 複数のデバイスを同じクラスターに向けるだけで、exoがモデルをどう分割するかを判断する
- 推論バックエンド:Apple社のオープンソースアレイ計算フレームワークであるMLX。モデルの実行とデバイス間のMLX distributed通信レイヤーの両方に使用される
- デプロイモデル:ソースからのビルド(macOSまたはLinux)、Nixパッケージマネージャー経由、または — macOSのみ — Homebrewまたはダウンロード可能な
.dmgでインストールするバックグラウンドアプリとして - 開発元:GitHub上のexo-explore / exo labs。リポジトリのLICENSEファイルでは著作権者としてExo Technologies Ltdが記載されている
- 正式なリポジトリ:github.com/exo-explore/exo。GitHub自身のリポジトリメタデータによれば2024年6月に作成され、本レビュー時点で直近のプッシュは2026年8月25日
exoのインストール:セットアップの選択肢
exo自身のREADMEには、実行方法が3つ文書化されている:macOSまたはLinuxでソースからビルドする方法、Nixパッケージマネージャー経由で実行する方法、そして — macOSのみ — ビルド済みのバックグラウンドアプリをインストールする方法である。 pip install exoパッケージは存在せず、ソースからのインストールではPython依存関係にuvを使用する。
- これによりexoダッシュボードとOpenAI互換APIが
http://localhost:52415で起動する(exo自身のREADMEによる) - Linuxでは、同等のコマンドで
uv sync --extra mlx-cpu(該当する場合は--extra mlx-cuda13/--extra mlx-cuda12)を使用する。exo自身のREADMEによれば、Linuxではexoは現時点でCPUのみで動作し、GPU対応は「開発中」 - Nixがすでにインストールされている場合、
nix run .#exoによりmacOSでの手動依存関係設定の大部分を省略できる - macOSでは、exoはmacOS Tahoe 26.2以降を必要とするビルド済みバックグラウンドアプリも提供している — exo自身のドキュメントによれば、
brew install --cask exoでインストールするか、EXO-latest.dmgを直接ダウンロードする - READMEによれば、ソースインストールには2つの設定フラグが存在する:
--no-worker(ローカル推論を実行せずコーディネーター専用ノードとして実行 — ネットワーク接続は良好だがGPU/メモリが限られたマシンに有用)と--legacy-daemon(古いinitシステム向けにバックグラウンドデーモンとして実行)
ソースからのビルド(macOS)
exo自身の前提条件リストによれば、Xcode(Metalツールチェーン用)、Homebrew、uv、Node.js、nightly版Rustツールチェーンが必要。ターミナルで以下を実行する:
git clone https://github.com/exo-explore/exo
cd exo/dashboard && npm install && npm run build && cd ..
uv sync --extra mlx
uv run exoexoのクラスタリングの実際の仕組み
exo自身のREADMEには、複数の独立したデバイスがどのレイヤーをどこで実行するかを手動で決めなくても、1つの推論クラスターとして動作するようにする4つの仕組みが記載されている。
- RDMAに関するexo自身の注意点:クラスター内のすべてのデバイスは、Thunderbolt 5対応ケーブルで他のすべてのデバイスに直接接続されている必要があり、ベータビルド番号を含めすべてのデバイスがまったく同じmacOSバージョンを実行している必要がある
--no-workerフラグにより、デバイスはローカルで推論を実行せず、コーディネーターとしてのみクラスターに参加できる — ネットワーク接続は強いが計算力が弱いマシンに有用EXO_OFFLINE環境変数により、インターネット接続なしで、すでにローカルにキャッシュされたモデルのみを使ってクラスターを実行できる
自動デバイス検出
同じネットワーク上でexoを実行するデバイスは、ピアツーピアの検出レイヤーを使い、手動設定なしで互いを見つける — exo自身の設定ドキュメントでは、これがlibp2pベースであると言及されており、同一ネットワーク上で複数のクラスターを分離するためのEXO_LIBP2P_NAMESPACE環境変数として公開されている。
トポロジー認識型オートパラレルモード
exo自身のREADMEによれば、exoはクラスターのトポロジーのリアルタイムビュー — 各デバイスの利用可能メモリに加え、デバイス間のネットワークリンクのレイテンシーと帯域幅 — を構築し、このビューを使ってデバイス間でモデルをどう分割するかを判断する。
テンソル並列化
モデルのレイヤーをデバイス間で分割することに加え、exoはその分割内でテンソル並列化を適用する。exo自身のREADMEでは、この技術を使わない単純なレイヤー分割と比べ、2デバイスで最大1.8倍、4デバイスで3.2倍の高速化があるとされている。
Thunderbolt 5経由のRDMA
Thunderbolt 5搭載Mac(Mac Mini M4 Pro、Mac Studio/MacBook Pro M4 Max、Mac Studio M3 Ultra)でmacOS 26.2以降を実行している場合、exoはThunderbolt経由のRemote Direct Memory Accessをサポートしており、exo自身のドキュメントではデバイス間レイテンシーを99%削減すると記載されている。有効化にはmacOSのリカバリーモードに入り、リカバリーターミナルからrdma_ctl enableを実行する必要がある(exo自身のセットアップ手順による)。
対応モデルとプラットフォーム
exoはMLX推論バックエンドを通じてHugging Face Hubからモデルを読み込み、exo自身のREADMEはGGUF形式モデルの対応を文書化していない — これは、GGUF優先であるOllamaやLM StudioなどのllamaC.cppベースのツールとの違いである。
モデルの読み込み
exo自身のREADMEは、Hugging Face Hubからカスタムモデルを直接読み込むことを文書化しており、Linuxでは~/.local/share/exo/custom_model_cards/(macOSでは対応する場所)に保存されたカスタムのローカルモデルカードへの対応も記載している。exo自身の設定ドキュメントでは、EXO_ENABLE_IMAGE_MODELSが画像モデル対応を有効にするフラグ(デフォルトは無効)として挙げられている。
macOSのプラットフォーム階層
exo自身のPLATFORMS.mdでは、Apple SiliconのMacを「Tier 1」対応(テスト済み・保守対象)としており、具体的にMac Studio M3 Ultra、Mac Mini M4 Pro、MacBook Pro M5/M4 Maxをテスト済みハードウェアとして挙げている。その後Appleは Mac mini(M6/M5 Pro)とMac Studio(M5 Max/M5 Ultra)をリリースしている。最新のテスト済みハードウェア一覧はexoのPLATFORMS.mdを直接確認すること。
Linux対応
exo自身のREADMEおよびPLATFORMS.mdは、Linuxが現時点ではCPUのみで動作すると明言している。GPU対応(CUDAとVulkanはいずれも計画済みだが未提供と記載)は「開発中」とされており、本レビュー時点でLinuxのCUDAおよびCPU対応はいずれもexo自身のロードマップの「計画中 — Tier 1」セクションに記載されている。
Windows対応
exo自身のPLATFORMS.mdでは、Windows CUDAとWindows CPUの対応は「Longer term!」という見出しの下にのみ記載されており、短期的なLinuxのロードマップ項目とは分離され、その後に位置づけられている — Windowsは現在対応していない。
パフォーマンス:ベンチマークが示すもの
exo自身のREADMEは、すべての構成について独自の数値を公表するのではなく、サードパーティのベンチマークにリンクしている。PromptQuorumはこれらのテストを独自に再現しておらず、ここではPromptQuorum自身の測定値としてではなく、exo自身が引用する出典として報告する。
- exoのREADMEには、512GBのM3 Ultra Mac Studio 4台がDeepSeek-V3.1(8ビット)とKimi-K2-Thinking(4ビット)を同時に実行しているダッシュボードのスクリーンショットが掲載されており、exoが可能にするメモリプーリングの例として示されている
- Jeff Geerlingのブログから引用されたベンチマークでは、M3 Ultra Mac Studio 4台でテンソル並列RDMAを用いてQwen3-235B(8ビット)を実行した結果が取り上げられている
- 同じ引用元では、同じ4デバイスクラスター構成でDeepSeek-V3.1 671B(8ビット)とKimi K2 Thinking(ネイティブ4ビット)も取り上げられている
- exo自身のREADMEでは、上記のサードパーティによる大規模モデルベンチマークとは別に、テンソル並列化によって2デバイスで最大1.8倍、4デバイスで3.2倍という一般的な倍率が示されている
使用例
これらは上記のexoの文書化された機能から構築されたワークフローであり、仮定の使用例ではない。
単一Macには大きすぎるモデルを実行する
同じネットワーク上の2台以上のApple SiliconのMacにexoをインストールし、それぞれでuv run exo(またはmacOSアプリ)を起動し、完全な重みが単一デバイスの統合メモリを超えるモデルを読み込む — exoの自動検出とトポロジー認識型シャーディングが、手動でのレイヤー割り当てなしにクラスター全体へ分割する。
既存のOpenAI互換ツールをローカルクラスターに向ける
exoはhttp://localhost:52415(またはクラスターデバイスのアドレス)でOpenAI Chat Completions互換APIを公開しているため、OpenAI API、Ollama API、またはAnthropicのClaude Messages API向けに構築された既存のクライアントを、書き換えではなくベースURLの変更だけでexoクラスターに向け直すことができる。
キャッシュ済みモデルでオフライン開発する
exoを起動する前にEXO_OFFLINE=trueを設定すると、すでにダウンロードされローカルにキャッシュされたモデルのみで完全に動作する。開発中にHugging Faceへのネットワークアクセスに依存せずクラスター構成をテストするのに有用。
exoはどんな人向けか
exoが適しているかどうかは、すでに所有しているハードウェアと、それがmacOSベースかどうかに大きく左右される — exoのクラスタリングはApple Silicon向けに最初に構築・テストされている。
次の場合はexoを使う
- 2台以上のApple SiliconのMacを所有し、非常に大容量メモリのマシンを購入したりクラウドGPU時間を借りたりする代わりに、単一Macの統合メモリを超えるモデルを実行したい場合
- モデルのどのレイヤーをどのデバイスで実行するかを手動で決めるのではなく、自動デバイス検出とトポロジー認識型シャーディングが欲しい場合
- Thunderbolt 5対応のMacをmacOS 26.2以降で使用しており、exoが現在文書化している中で最もレイテンシーの低いクラスタリングオプション(RDMA)を使いたい場合
- ベンダーロックインのない寛容なオープンソースライセンス(Apache-2.0)が欲しい場合
uvを使ったソースからのビルドに抵抗がない、あるいはターミナルを使わないバックグラウンドサービスとしてビルド済みのmacOSアプリを使いたい場合
次の場合は様子見するか、他の選択肢を検討する
- クラスターのハードウェアがLinuxのみでGPUアクセラレーションが必要な場合 — exo自身のPLATFORMS.mdは今もLinuxのGPU対応を開発中としており、現時点で提供されているのはCPU対応のみ
- Windowsを使用している場合 — exo自身のロードマップではWindows対応は「長期的」な項目としてのみ記載されており、現在は利用できない
- GGUF形式のモデル対応が必要な場合 — exoが文書化しているモデル読み込み経路はMLX/Hugging Face Hubであり、GGUFではない。代わりにllama.cppやGPUStackを参照
- デバイスが1台しかなく、クラスタリングがまったく不要な場合 — OllamaやLM Studioのような単一マシン向けツールの方がシンプルに適合する
- 確立されたエンタープライズサポート組織が必要な場合 — exoは小規模なチーム(exo labs)によって開発されており、サポートは正式なSLAではなくGitHub Issuesとコミュニティチャンネルを通じて行われる
exo対他の分散推論ツール
exoは、単一マシンからモデルを提供するのではなく複数のマシンにモデルを分割する他のプロジェクトと並んで、分散/クラスター型のローカル推論セグメントに位置する。以下は比較である — 完全なカタログについてはローカルLLMソフトウェアディレクトリを参照。
- GPUStack — Linux、Windows、macOSにまたがってGPUをプールし、Ollama、vLLM、llama.cppをバックエンドとしてモデルを提供できるオープンソースのGPUクラスターマネージャー(Apache-2.0)。exoのMLX固有でApple Silicon優先の設計と比べ、より広範でバックエンドに依存しないクラスターマネージャーである。GPUStackはPromptQuorumのローカルLLMソフトウェアディレクトリに独自のエントリーを持つ。
- llama.cppのRPCバックエンド — llama.cppは、分散推論のために計算をリモートホストにオフロードする実験的な
ggml-rpc-serverを提供している。開発者自身がこれを「proof-of-concept」であり「fragile and insecure」であると評しており、オープンネットワーク上で決して公開しないよう警告している。これはexoの文書化されたクラスタリングとは成熟度とセキュリティ面で大きく異なる立ち位置である。 - Petals — BigScienceワークショップの研究プロジェクトで、自分の所有するデバイスによるプライベートクラスターではなく、ボランティアが運営する公開のコンシューマーGPU群にまたがって大規模モデルを「BitTorrent方式」で実行する。exoのLANベースのクラスタリングとは異なる信頼モデルであり、自分のローカルネットワークではなく見知らぬ人のハードウェアにまたがる協調推論を目指している。
exo評価時によくある誤解
exoに関する混乱の多くは、それを単一デバイスのチャットアプリのように扱ったり、Linux/WindowsがmacOSと同じ機能セットを持つと期待したりすることから生じている。
誤解1:GGUFモデル対応を期待する
exo自身のREADMEによれば、exoはHugging Face HubからMLX経由でモデルを読み込み、GGUFのインポートは文書化されていない。すでにGGUFファイルのライブラリを持っている人は、代わりにllama.cpp、Ollama、GPUStackなどGGUF優先のツールを検討すべきである。
誤解2:LinuxがmacOSと同じGPUアクセラレーションを得られると想定する
exo自身のPLATFORMS.mdは、Linuxが現時点ではCPUのみで動作し、GPU(CUDA/Vulkan)対応は計画済みだが未提供と明言している。GPUアクセラレーションによる推論のために複数のLinux GPUマシンをクラスター化することは、exoのLinux経路がまだ文書化している内容ではない。
誤解3:どんなネットワーク接続でもほぼ線形の高速化を期待する
exoが文書化する高速化数値(2デバイスで最大1.8倍、4デバイスで3.2倍)と、引用されているサードパーティのRDMAベンチマークは、いずれもThunderboltクラスの接続を前提としており、多くの場合RDMAが明示的に有効化されている。一般的なWi-FiやギガビットEthernetで接続されたクラスターでは、必ずしも同じ数値にならない — exo自身のドキュメントはその構成の数値を公表していない。
誤解4:exoを単一デバイスのデスクトップアプリとして扱う
exoはクラスターに参加する各デバイスにインストールして実行するクラスタリングフレームワークであり、ワンクリックのチャットアプリケーションではない — ただし、ビルド済みのmacOSバックグラウンドアプリは、ソースからのビルドと比べ、単一Macでの導入のハードルをかなり下げている。
よくある質問
exoとは何ですか。
exo(exolabs.net、ソースコードはgithub.com/exo-explore/exo)は、Apache-2.0ライセンスのオープンソースフレームワークで、主にApple SiliconのMacなど複数のデバイスを1つの分散AI推論クラスターに接続し、単一デバイスには大きすぎるモデルをグループ全体に分割して実行できるようにする。
exoは無料ですか。
はい。exoはApache-2.0ライセンスのもとでオープンソースであり、リポジトリ自体のLICENSEファイルに照らして確認済み — 標準のApache-2.0条件を超える有料プランや利用制限は存在しない。
exoはどのライセンスを使用していますか。変更はありましたか。
exoはApache License 2.0のもとでライセンスされており、著作権者はExo Technologies Ltdである。これはリポジトリの現行のLICENSEファイルによるもので、2026年9月12日に直接確認した。PromptQuorumは現在のリポジトリにおいて、標準のApache-2.0テキストを超える追加の利用分野制限を見つけていない。
exoのクラスタリングは実際どう機能しますか。
exo自身のREADMEによれば、exoを実行するデバイスは同じネットワーク上で自動的に互いを検出し、exoは各デバイスのメモリとデバイス間のネットワークリンクのリアルタイムビューを構築したうえで、それに応じてモデルのレイヤーをクラスター全体に分割し、さらなる高速化のためにテンソル並列化を追加する。対応するmacOSハードウェアでは、デバイス間の低レイテンシー接続のためにThunderbolt 5経由のRDMAも利用できる。
exoはどのモデル形式に対応していますか。
exo自身のREADMEは、MLX推論バックエンドを通じてHugging Face Hubからモデルを読み込むことを文書化しており、GGUF形式モデルの対応は記載されていない。この点で、llama.cppやOllamaのようなGGUF優先のツールとは異なる。
exoはWindowsで動作しますか。
現時点では動作しない。exo自身のPLATFORMS.mdは、Windows CUDAとWindows CPUの対応を、短期的な計画とは別の「Longer term」というロードマップ見出しの下にのみ記載している。
exoはLinuxで動作しますか。
はい、ただし現時点ではCPUのみである。exo自身のREADMEとPLATFORMS.mdは、本レビュー時点でLinux向けGPU対応(CUDAとVulkan)が開発中であり、まだ提供されていないと明言している。
exoはどのようにインストールしますか。
git clone https://github.com/exo-explore/exoでソースからビルドし、ダッシュボードをビルドし、uv sync --extra mlx(macOS)またはuv sync --extra mlx-cpu(Linux)を実行してからuv run exoを実行する。macOSでは代わりに、brew install --cask exoでビルド済みのバックグラウンドアプリをインストールするか、EXO-latest.dmgをダウンロードすることもできる — macOS Tahoe 26.2以降が必要。
exoのGitHubスター数はいくつですか。
exoは2026年9月12日にGitHub APIで確認した時点で47,375個のスターと3,508個のフォークを持っていた。スター数は継続的に変わるため、最新の数値はライブリポジトリで確認すること。
exoは誰が開発していますか。
exoはGitHub上のexo-explore / exo labsによって開発されている。リポジトリのLICENSEファイルでは著作権者としてExo Technologies Ltdが記載されている。GitHub自身のメタデータによれば、リポジトリは2024年6月に作成された。