重要なポイント
- 無料、オープンソース、Apache-2.0ライセンス、著作権者はExo Technologies Ltd。リポジトリ自体のLICENSEファイルによる — 2026年9月12日に確認済み
- 自動デバイス検出 — 同じネットワーク上でexoを実行するデバイスは、exo自身のREADMEによれば手動設定なしで互いを見つける
- トポロジー認識型オートパラレルモード:exoは各デバイスのリソースとネットワークリンクのレイテンシー/帯域幅をリアルタイムに把握した上で、デバイス間でモデルを分割する
- シャーディングに加えテンソル並列化 — exo自身のREADMEによれば、2デバイスで最大1.8倍、4デバイスで3.2倍の高速化
- Thunderbolt 5経由のRDMAサポート(macOS 26.2以降)。exo自身のドキュメントでは、デバイス間レイテンシーを99%削減すると記載
- 推論バックエンドとしてApple社のアレイ計算フレームワークであるMLXを使用し、デバイス間通信にはMLX distributedを使用
- OpenAI Chat Completions、OpenAI Responses、Claude Messages、Ollama APIと互換性があり、既存クライアントはほぼ変更なしでexoクラスターに接続できる
- GitHub APIで2026年9月12日に確認された47,375個のスター、3,508個のフォーク
- macOS(Apple Silicon)が主要な、テスト済みのプラットフォーム。Linuxは現時点でCPUのみで動作(GPU対応はexo自身のPLATFORMS.mdで「開発中」と記載)。Windowsは現在非対応
📍 一文で説明
exoは無料のオープンソース(Apache-2.0)フレームワークで、複数のApple SiliconのMac、そしてCPUのみの対応でLinuxマシンも、自動デバイス検出とトポロジー認識型モデルシャーディングを使って1つの分散推論クラスターに束ね、単一デバイスには大きすぎるモデルを実行できるようにする。
💬 簡潔に説明
巨大なモデルを読み込めるだけのメモリを積んだ非常に高価なマシンを1台買ったり、クラウドのGPU時間を借りたりする代わりに、exoはすでに所有している複数のMac(またはLinuxマシン)をネットワーク経由で接続し、それらをまとめて1台の大きなコンピューターのように動作させ、モデルのレイヤーを自動的にすべてに分割する。
📌補足: 本レビューはローカルLLMソフトウェアディレクトリにあるexoのエントリーの補完記事です — exoが他の数十のローカルAIツールと比べてどうかを一目で確認できます。
exoとは何か
exoは、すでに所有している複数のデバイスを1つのAI推論クラスターに接続するフレームワークで、単一デバイスのメモリには大きすぎるモデルを、グループ全体に分割することで実行できるようにする。 exo labsが保守しており、リポジトリ自体の説明は単純に「Run frontier AI locally.」となっている。
- 主な機能:自動デバイス検出に加え、トポロジー認識型モデルシャーディング — 複数のデバイスを同じクラスターに向けるだけで、exoがモデルをどう分割するかを判断する
- 推論バックエンド:Apple社のオープンソースアレイ計算フレームワークであるMLX。モデルの実行とデバイス間のMLX distributed通信レイヤーの両方に使用される
- デプロイモデル:ソースからのビルド(macOSまたはLinux)、Nixパッケージマネージャー経由、または — macOSのみ — Homebrewまたはダウンロード可能な
.dmgでインストールするバックグラウンドアプリとして - 開発元:GitHub上のexo-explore / exo labs。リポジトリのLICENSEファイルでは著作権者としてExo Technologies Ltdが記載されている
- 正式なリポジトリ:github.com/exo-explore/exo。GitHub自身のリポジトリメタデータによれば2024年6月に作成され、本レビュー時点で直近のプッシュは2026年8月25日
exoのインストール:セットアップの選択肢
exo自身のREADMEには、実行方法が3つ文書化されている:macOSまたはLinuxでソースからビルドする方法、Nixパッケージマネージャー経由で実行する方法、そして — macOSのみ — ビルド済みのバックグラウンドアプリをインストールする方法である。 pip install exoパッケージは存在せず、ソースからのインストールではPython依存関係にuvを使用する。
- これによりexoダッシュボードとOpenAI互換APIが
http://localhost:52415で起動する(exo自身のREADMEによる) - Linuxでは、同等のコマンドで
uv sync --extra mlx-cpu(該当する場合は--extra mlx-cuda13/--extra mlx-cuda12)を使用する。exo自身のREADMEによれば、Linuxではexoは現時点でCPUのみで動作し、GPU対応は「開発中」 - Nixがすでにインストールされている場合、
nix run .#exoによりmacOSでの手動依存関係設定の大部分を省略できる - macOSでは、exoはmacOS Tahoe 26.2以降を必要とするビルド済みバックグラウンドアプリも提供している — exo自身のドキュメントによれば、
brew install --cask exoでインストールするか、EXO-latest.dmgを直接ダウンロードする - READMEによれば、ソースインストールには2つの設定フラグが存在する:
--no-worker(ローカル推論を実行せずコーディネーター専用ノードとして実行 — ネットワーク接続は良好だがGPU/メモリが限られたマシンに有用)と--legacy-daemon(古いinitシステム向けにバックグラウンドデーモンとして実行)
git clone https://github.com/exo-explore/exo
cd exo/dashboard && npm install && npm run build && cd ..
uv sync --extra mlx
uv run exoexoのクラスタリングの実際の仕組み
exo自身のREADMEには、複数の独立したデバイスがどのレイヤーをどこで実行するかを手動で決めなくても、1つの推論クラスターとして動作するようにする4つの仕組みが記載されている。
- RDMAに関するexo自身の注意点:クラスター内のすべてのデバイスは、Thunderbolt 5対応ケーブルで他のすべてのデバイスに直接接続されている必要があり、ベータビルド番号を含めすべてのデバイスがまったく同じmacOSバージョンを実行している必要がある
--no-workerフラグにより、デバイスはローカルで推論を実行せず、コーディネーターとしてのみクラスターに参加できる — ネットワーク接続は強いが計算力が弱いマシンに有用EXO_OFFLINE環境変数により、インターネット接続なしで、すでにローカルにキャッシュされたモデルのみを使ってクラスターを実行できる
対応モデルとプラットフォーム
exoはMLX推論バックエンドを通じてHugging Face Hubからモデルを読み込み、exo自身のREADMEはGGUF形式モデルの対応を文書化していない — これは、GGUF優先であるOllamaやLM StudioなどのllamaC.cppベースのツールとの違いである。
パフォーマンス:ベンチマークが示すもの
exo自身のREADMEは、すべての構成について独自の数値を公表するのではなく、サードパーティのベンチマークにリンクしている。PromptQuorumはこれらのテストを独自に再現しておらず、ここではPromptQuorum自身の測定値としてではなく、exo自身が引用する出典として報告する。
- exoのREADMEには、512GBのM3 Ultra Mac Studio 4台がDeepSeek V3.1(8ビット)とKimi-K2-Thinking(4ビット)を同時に実行しているダッシュボードのスクリーンショットが掲載されており、exoが可能にするメモリプーリングの例として示されている
- Jeff Geerlingのブログから引用されたベンチマークでは、M3 Ultra Mac Studio 4台でテンソル並列RDMAを用いてQwen3-235B(8ビット)を実行した結果が取り上げられている
- 同じ引用元では、同じ4デバイスクラスター構成でDeepSeek V3.1 671B(8ビット)とKimi K2 Thinking(ネイティブ4ビット)も取り上げられている
- exo自身のREADMEでは、上記のサードパーティによる大規模モデルベンチマークとは別に、テンソル並列化によって2デバイスで最大1.8倍、4デバイスで3.2倍という一般的な倍率が示されている
使用例
これらは上記のexoの文書化された機能から構築されたワークフローであり、仮定の使用例ではない。
exoはどんな人向けか
exoが適しているかどうかは、すでに所有しているハードウェアと、それがmacOSベースかどうかに大きく左右される — exoのクラスタリングはApple Silicon向けに最初に構築・テストされている。
exo対他の分散推論ツール
exoは、単一マシンからモデルを提供するのではなく複数のマシンにモデルを分割する他のプロジェクトと並んで、分散/クラスター型のローカル推論セグメントに位置する。以下は比較である — 完全なカタログについてはローカルLLMソフトウェアディレクトリを参照。
- GPUStack — Linux、Windows、macOSにまたがってGPUをプールし、Ollama、vLLM、llama.cppをバックエンドとしてモデルを提供できるオープンソースのGPUクラスターマネージャー(Apache-2.0)。exoのMLX固有でApple Silicon優先の設計と比べ、より広範でバックエンドに依存しないクラスターマネージャーである。GPUStackはPromptQuorumのローカルLLMソフトウェアディレクトリに独自のエントリーを持つ。
- llama.cppのRPCバックエンド — llama.cppは、分散推論のために計算をリモートホストにオフロードする実験的な
ggml-rpc-serverを提供している。開発者自身がこれを「proof-of-concept」であり「fragile and insecure」であると評しており、オープンネットワーク上で決して公開しないよう警告している。これはexoの文書化されたクラスタリングとは成熟度とセキュリティ面で大きく異なる立ち位置である。 - Petals — BigScienceワークショップの研究プロジェクトで、自分の所有するデバイスによるプライベートクラスターではなく、ボランティアが運営する公開のコンシューマーGPU群にまたがって大規模モデルを「BitTorrent方式」で実行する。exoのLANベースのクラスタリングとは異なる信頼モデルであり、自分のローカルネットワークではなく見知らぬ人のハードウェアにまたがる協調推論を目指している。
exo評価時によくある誤解
exoに関する混乱の多くは、それを単一デバイスのチャットアプリのように扱ったり、Linux/WindowsがmacOSと同じ機能セットを持つと期待したりすることから生じている。
よくある質問
exoとは何ですか。
exo(exolabs.net、ソースコードはgithub.com/exo-explore/exo)は、Apache-2.0ライセンスのオープンソースフレームワークで、主にApple SiliconのMacなど複数のデバイスを1つの分散AI推論クラスターに接続し、単一デバイスには大きすぎるモデルをグループ全体に分割して実行できるようにする。
exoは無料ですか。
はい。exoはApache-2.0ライセンスのもとでオープンソースであり、リポジトリ自体のLICENSEファイルに照らして確認済み — 標準のApache-2.0条件を超える有料プランや利用制限は存在しない。
exoはどのライセンスを使用していますか。変更はありましたか。
exoはApache License 2.0のもとでライセンスされており、著作権者はExo Technologies Ltdである。これはリポジトリの現行のLICENSEファイルによるもので、2026年9月12日に直接確認した。PromptQuorumは現在のリポジトリにおいて、標準のApache-2.0テキストを超える追加の利用分野制限を見つけていない。
exoのクラスタリングは実際どう機能しますか。
exo自身のREADMEによれば、exoを実行するデバイスは同じネットワーク上で自動的に互いを検出し、exoは各デバイスのメモリとデバイス間のネットワークリンクのリアルタイムビューを構築したうえで、それに応じてモデルのレイヤーをクラスター全体に分割し、さらなる高速化のためにテンソル並列化を追加する。対応するmacOSハードウェアでは、デバイス間の低レイテンシー接続のためにThunderbolt 5経由のRDMAも利用できる。
exoはどのモデル形式に対応していますか。
exo自身のREADMEは、MLX推論バックエンドを通じてHugging Face Hubからモデルを読み込むことを文書化しており、GGUF形式モデルの対応は記載されていない。この点で、llama.cppやOllamaのようなGGUF優先のツールとは異なる。
exoはWindowsで動作しますか。
現時点では動作しない。exo自身のPLATFORMS.mdは、Windows CUDAとWindows CPUの対応を、短期的な計画とは別の「Longer term」というロードマップ見出しの下にのみ記載している。
exoはLinuxで動作しますか。
はい、ただし現時点ではCPUのみである。exo自身のREADMEとPLATFORMS.mdは、本レビュー時点でLinux向けGPU対応(CUDAとVulkan)が開発中であり、まだ提供されていないと明言している。
exoはどのようにインストールしますか。
git clone https://github.com/exo-explore/exoでソースからビルドし、ダッシュボードをビルドし、uv sync --extra mlx(macOS)またはuv sync --extra mlx-cpu(Linux)を実行してからuv run exoを実行する。macOSでは代わりに、brew install --cask exoでビルド済みのバックグラウンドアプリをインストールするか、EXO-latest.dmgをダウンロードすることもできる — macOS Tahoe 26.2以降が必要。
exoのGitHubスター数はいくつですか。
exoは2026年9月12日にGitHub APIで確認した時点で47,375個のスターと3,508個のフォークを持っていた。スター数は継続的に変わるため、最新の数値はライブリポジトリで確認すること。
exoは誰が開発していますか。
exoはGitHub上のexo-explore / exo labsによって開発されている。リポジトリのLICENSEファイルでは著作権者としてExo Technologies Ltdが記載されている。GitHub自身のメタデータによれば、リポジトリは2024年6月に作成された。