Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
ホーム/ローカルLLM活用
Overview & Reference

LocalAIとは：セルフホスト型OpenAI API代替エンジンを解説（2026年版）

·12分で読了Hans Kuepper 著 · PromptQuorum創設者 · オープンウェイト／オープンソースAIの発見エンジン

LocalAIは、独立して読み込まれる複数の推論バックエンドの前段に、OpenAI互換API（加えてAnthropic互換・ElevenLabs互換のエンドポイント）を提供する、無料でMITライセンスのセルフホスト型AIエンジンです。 単一の固定推論エンジンを内蔵する代わりに、コアは各リクエストを交換可能なバックエンドプロセスへルーティングします——テキスト用のllama.cppとvLLM、画像生成用のdiffusersベースのバックエンド、音声認識用のwhisper.cppベースのバックエンド、そして音声合成や埋め込み用の他のバックエンド。これにより、単一のセルフホスト型インスタンスで、本来なら別々のツールが必要になる複数のモダリティをカバーできます。GPU不要でCPUのみでも動作し、NVIDIA CUDA・AMD ROCm・Intel・Vulkanによるアクセラレーションにも対応、Dockerイメージ・macOS用インストーラー・CLIバイナリとして配布されています。

重要なポイント

  • 無料・MITライセンス。Ettore Di Giacinto氏（「mudler」）が作成し、github.com/mudler/LocalAIで保守されている
  • ドロップイン形式のOpenAI互換API、加えてAnthropic互換・ElevenLabs互換のエンドポイント
  • 固定の推論エンジンを内蔵する代わりに、軽量なコアが独立して読み込まれるバックエンドへリクエストをルーティングする
  • プロジェクトが文書化しているバックエンドには、テキスト用のllama.cppとvLLM、画像生成用のdiffusersベースのバックエンド、音声認識用のwhisper.cppベースのバックエンドが含まれる
  • 単一の稼働インスタンスからテキスト生成・画像生成・音声認識・音声合成・埋め込みをカバー
  • GPU不要でCPUのみで動作するか、NVIDIA CUDA・AMD ROCm・Intel・Vulkanによるアクセラレーションで動作
  • Dockerイメージ（CPU版・GPU版のタグ）、macOS用インストーラー、CLIバイナリとして配布。Kubernetesでのデプロイも文書化されている
  • 競合する生の推論エンジンではない——llama.cppやvLLMのようなエンジンを置き換えるのではなく、バックエンドとして読み込む

📍 一文で説明

LocalAIは、llama.cpp・vLLM・diffusers・whisper.cppを含む交換可能なバックエンドの前段にOpenAI互換APIを提供する、無料でMITライセンスのセルフホスト型エンジンであり、単一インスタンスでテキスト・画像・音声をカバーする。

💬 簡潔に説明

チャット用・画像生成用・文字起こし用にそれぞれ別のアプリを使う代わりに、LocalAIはOpenAIと同じAPIを話す単一のセルフホスト型サーバーであり、既存のOpenAIクライアントコードをそのまま向けられる一方で、裏側では各リクエストを実際にその処理を担当するエンジンへ静かに振り分ける。

📌補足: この記事はLocalAIの公式GitHubリポジトリと公開ドキュメントに基づいており、独自ベンチマークによるものではない。LocalAIは頻繁にリリースを重ねており、バージョン固有の機能や性能数値はこの記事のために独自測定していないため、あえて記載していない。

言語を選択:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

LocalAIは、Ettore Di Giacinto氏（「mudler」）が作成し、github.com/mudler/LocalAIでオープンソースコミュニティによって開発が続けられている、無料・MITライセンスのセルフホスト型AIエンジンです。OpenAI互換API（加えてAnthropic互換・ElevenLabs互換のエンドポイント）をドロップイン形式で提供し、その背後には独立して読み込まれるモジュール式バックエンド群が存在します。そのため単一のインスタンスだけで、テキスト生成・画像生成・音声認識・音声合成・埋め込みをカバーでき、モダリティごとに別々のツールを用意する必要がありません。LocalAIはllama.cppやvLLMのようなエンジンを置き換えるものではなく、そのどちらか（あるいは他のエンジン）をバックエンドとして読み込むことができ、競合する生の推論エンジンというより、オーケストレーション兼API互換レイヤーとして機能します。

LocalAIとは：セルフホスト型OpenAI API代替エンジンを解説（2026年版）

LocalAIとは何か？

LocalAIは、OpenAI API互換のテキスト・画像・音声モデルを自分のハードウェア上で実行できる、無料・MITライセンスのセルフホスト型AIエンジンである。GitHub上で「mudler」を名乗るEttore Di Giacinto氏が作成し、現在はオープンソースコミュニティによって保守されている。プロジェクトは、GPUを厳密には必要とせず、あらゆるハードウェア上で複数のモダリティにまたがるモデルを実行することを目標に掲げている。

  • Ettore Di Giacinto氏（「mudler」）が作成。ソースコードとドキュメントはgithub.com/mudler/LocalAIにある
  • MITライセンス：ライセンス条件の範囲内で、商用利用を含め自由に使用・改変・セルフホストできる
  • OpenAI API互換サーバーを提供し、加えてAnthropic互換・ElevenLabs互換のエンドポイントも文書化されているため、既存のクライアントコードがしばしばそのままセルフホスト型LocalAIインスタンスに向けられる
  • 単一モダリティでの速度よりも、モダリティの幅広さを軸に位置づけられている——テキスト・画像・音声を一つのデプロイでカバー
  • 単一の推論エンジンとは異なり、コア自体はリクエストルーティングとAPI互換性を担当し、実際のモデル実行は別のバックエンドプロセスで行われる

LocalAIのバックエンドアーキテクチャはどう機能するか？

LocalAIのコアは軽量なルーターであり、モノリシックな推論エンジンではない——OpenAI互換のリクエストを受け取り、それがどのモデル・バックエンドに対応するかを判断し、実際に推論を実行する別のバックエンドプロセスと通信する。

  • コアプロセスはAPI互換性・リクエストルーティング・モデル設定を担当し、その後gRPC経由でバックエンドプロセスと通信する
  • プロジェクトが文書化しているバックエンドには、テキスト生成用のllama.cppとvLLM、画像生成用のdiffusersベースのバックエンド、音声認識用のwhisper.cppベースのバックエンドが含まれる
  • バックエンドはモデル/バックエンドギャラリーからインストールするか、特定のバックエンドとモデルを指定するYAMLファイルで手動設定できる
  • バックエンドは独立してインストール可能なコンポーネントであるため、デプロイはユースケースが実際に必要とするバックエンドだけを読み込めばよく、デフォルトであらゆるエンジンを同梱する必要がない
  • プロジェクトは既存エンジンのラップに加えて、独自のネイティブバックエンドも一部開発している

LocalAIはテキスト生成以外に何ができるか？

LocalAIの文書化された範囲は、llama.cppやvLLMのようなテキスト専用エンジンよりも多くのモダリティをカバーしており、これがそれらのツールとの主な違いとなっている。

テキスト生成

代表的バックエンド:
llama.cpp、vLLM — chat/completionsエンドポイント

画像生成

代表的バックエンド:
diffusersベースのバックエンド（Stable Diffusion系）

音声認識（STT）

代表的バックエンド:
whisper.cppベースのバックエンド

音声合成（TTS）

代表的バックエンド:
プロジェクトが文書化する専用TTSバックエンド

埋め込み

代表的バックエンド:
専用の埋め込みモデルバックエンド

上記の各行は、そのモダリティを機能させるためにインストールが必要な、それぞれ別のバックエンドである——LocalAI自体をインストールしただけでは、すべてのモダリティが自動的に有効になるわけではない。正確なバックエンド名とカバー範囲はリリースごとに変わるため、固定リストではなくプロジェクト自身のギャラリーを最新の情報源として扱うべきである。

LocalAIにはどのハードウェアが必要か？

LocalAIの文書化された位置づけは、GPUを厳密には必要とせず、あらゆるハードウェア上で動作するというものである——同じインスタンスが軽いワークロードにはCPUのみで動作し、より大きなモデルには利用可能な場合にGPUアクセラレーションを使うこともできる。

CPUのみ

詳細:
GPU不要で完全にサポートされると文書化されており、テキスト用にはllama.cppのようなCPU最適化バックエンドを使用する。

NVIDIA GPU（CUDA）

詳細:
専用のCUDA対応Dockerイメージが公開されており、対応GPUが存在すれば互換バックエンドがアクセラレーションを利用する。

AMD GPU（ROCm）

詳細:
文書化されたAMDアクセラレーション経路として、ROCm/hipBLAS対応のDockerイメージが公開されている。

Intel GPU（oneAPI）

詳細:
Intel GPUアクセラレーション向けに専用のIntel対応Dockerイメージが公開されている。

Vulkan

詳細:
ベンダーを問わないGPUアクセラレーション選択肢として、Vulkan対応Dockerイメージが公開されている。

Apple Silicon（Mac）

詳細:
ネイティブのmacOS用インストーラーが公開されており、Apple SiliconのMacに対してMetalアクセラレーション対応のバックエンドが文書化されている。

実際に利用可能なモデルサイズと速度は、依然として利用可能なRAM/VRAMと、あるモデルが使用するバックエンドに左右される——これはllama.cppやvLLMを直接使う場合と同じである。LocalAIの「GPU不要」という位置づけは、CPUのみの経路が完全にサポートされていることを説明しているのであって、すべてのモデルやバックエンドがGPUなしで同等に良好に動作するという意味ではない。

LocalAIのインストールと実行方法は？

LocalAIが文書化する最も速い方法はDockerであり、CPU専用イメージと、ハードウェアごとに異なるGPUアクセラレーション対応のイメージタグが用意されている。

  1. 1
    まだ持っていなければDockerをインストールし、自分のハードウェアに合わせてCPU専用イメージかGPU対応イメージタグのどちらかを選ぶ。
  2. 2
    CPUのみで使う場合は次を実行する：docker run -p 8080:8080 --name local-ai -ti localai/localai:latest。
  3. 3
    NVIDIA GPUの場合は、代わりにCUDA対応イメージ（例：localai/localai:latest-gpu-nvidia-cuda-12）を使い、Dockerコマンドに--gpus allを追加する。
  4. 4
    AMD・Intel・VulkanのGPUの場合は、プロジェクトが文書化している対応する-gpu-hipblas・-gpu-intel・-gpu-vulkanのイメージタグを使う。
  5. 5
    コンテナが起動すると、LocalAIはデフォルトでポート8080でリッスンする。
  6. 6
    CLI（local-ai models install <name>）またはWeb UIのモデルギャラリーでモデルをインストールするか、local-ai run <name>で直接起動する（必要ならまずダウンロードされる）。
  7. 7
    OpenAI互換エンドポイントへ最初のリクエストを送る：`curl http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "<インストール済みモデル名>", "messages": [{"role": "user", "content": "こんにちは！"}]}'`。
  8. 8
    既存のOpenAI APIクライアントコードを、ベースURLとモデル名だけを変更してセルフホスト型インスタンスに向ける。

LocalAIを動かすのにGPUは必要ですか？

いいえ——LocalAIはGPU不要でCPUのみで動作すると文書化されており、GPUを持っている環境向けには、NVIDIA・AMD・Intel・Vulkanハードウェア用のGPUアクセラレーション対応Dockerイメージタグも別途公開されています。

LocalAIのモデルはどこから入手しますか？

プロジェクトは複数の入手元を文書化しています：（CLIまたはWeb UIからインストール可能な）独自のモデルギャラリー、Hugging Faceのリポジトリ、Ollama形式のモデル参照、直接指定するYAML設定URL、OCIイメージです。

LocalAIとOllamaはどう違うか？

LocalAIとOllamaはどちらも、シンプルなAPIの背後でモデルを簡単にセルフホストできるようにするが、対象とする範囲は異なる。Ollamaはテキスト（および一部のビジョン）モデルへの高速でミニマルな単一ユーザー向けの道筋を中心に構築されているのに対し、LocalAIはテキスト・画像・音声にわたるより幅広いモダリティのカバー範囲と、OpenAI/Anthropic/ElevenLabs API互換性を中心に構築されている。

  • Ollamaは主にテキスト（および一部のビジョン）モデルに焦点を当て、非常にシンプルなワンコマンドのインストールとモデル取得のワークフローを持ち、高速な単一ユーザー向けセットアップを狙っている
  • LocalAIは、モダリティごとに異なるバックエンドを読み込むことで、一つのデプロイの中でより幅広いモダリティのカバー範囲——テキスト・画像生成・音声認識・音声合成——を文書化している
  • LocalAIは、OpenAI・Anthropic・ElevenLabsという3つのAPI形式へのドロップイン互換性を文書化している。Ollamaの主要なインターフェースは独自のAPIであり、別途OpenAI互換レイヤーが用意されている
  • LocalAIは、独自のギャラリー・Hugging Face・YAML設定と並んで、対応するモデルソースの一つとしてOllama形式のモデル参照（ollama://）を読み込める
  • Ollamaの設定面は意図的に最小限にとどめられている。LocalAIはその幅広い範囲と引き換えに、より多くの設定（バックエンド選択、YAMLモデル設定、複数のデプロイ先）を露出している

LocalAIとllama.cpp、vLLMはどう違うか？

LocalAIは、llama.cppやvLLMと競合する生の推論エンジンではない——その文書化されたアーキテクチャは、テキスト生成用にこの両方を交換可能なバックエンドとして読み込み、それに加えて画像・音声用の別のバックエンドを持つ。

llama.cpp

役割:
CPU/GPUに適したテキスト推論エンジン。LocalAIが読み込めるテキストバックエンドの一つ。
llama.cppに関する記事（10件）

さらに167件（非表示）

vLLM

役割:
高スループットのGPUサービングエンジン。LocalAIが読み込める別のテキストバックエンドとして文書化されている。
vLLMに関する記事（10件）

さらに84件（非表示）

LocalAI

役割:
これらのバックエンドの上位に位置するルーティング兼API互換レイヤーで、テキストに加えて画像・音声・埋め込みバックエンドを追加する。
LocalAIに関する記事（9件）

さらに8件（非表示）

これらのプロジェクトの選択は、通常「どちらか一方」という話ではない——LocalAIのデプロイは、テキストリクエストのために内部でllama.cppやvLLMを動かしていることがある。判断すべきは、そのエンジンに直接話しかけたいか（llama.cpp、vLLM）、それとも画像・音声リクエストもルーティングできるより広範なマルチモーダルAPIレイヤー（LocalAI）を通したいか、である。

LocalAIはどんな人に向いているか？

LocalAIは、複数のモダリティをカバーする単一のセルフホスト型APIが欲しい人に向いており、自分のマシン上で単一のテキストモデルへの最速の道だけを求める人向けではない。

次の場合はLocalAIを使う

  • 単一のセルフホスト型サーバーで、テキスト・画像生成・音声（音声認識と音声合成）を単一のOpenAI互換APIの背後でカバーしたい
  • OpenAI・Anthropic・ElevenLabsのAPIに対して書かれた既存のアプリケーションコードがあり、最小限の変更でセルフホスト型インフラに向けたい
  • 基盤となるテキストバックエンド（llama.cpp、vLLM）を、APIを呼び出すコードを書き換えずに切り替えられる柔軟性が欲しい
  • バックエンドとモデルのためのDockerと基本的なYAML設定に抵抗がない

次の場合はLocalAIを避ける

  • 自分のマシン上での高速でミニマルな単一ユーザー向けテキストチャットだけが必要——その特定の用途にはOllamaやLM Studioの方が設定の手間が少ない
  • テキストのみに関して可能な限り最大のGPUサービングスループットが必要——vLLMに直接話しかける方が余分なルーティング層を避けられる
  • 設定・保守が必要なセルフホスト型サーバーではなく、設定不要でグラフィカルなデスクトップアプリを望んでいる

LocalAIと代替ツールの比較一覧

これらのツールは部分的に重なるものの、範囲とセットアップの手間が異なる。

LocalAI

範囲:
交換可能なバックエンドによるテキスト・画像・音声・埋め込み。Docker、macOSインストーラー、CLIバイナリ。
最適な用途:
OpenAI/Anthropic/ElevenLabs互換の単一セルフホスト型マルチモーダルAPI。
LocalAIに関する記事（9件）

さらに8件（非表示）

Ollama

範囲:
主にテキスト（一部ビジョン）モデル。ワンコマンドでのインストールとモデル取得。
最適な用途:
単一ユーザー向けローカルテキストモデルへの最速の道。
Ollamaに関する記事（10件）

さらに310件（非表示）

llama.cpp

範囲:
CPU・GPU向けテキスト推論エンジン。CLI、Web UI、OpenAI互換サーバー。
最適な用途:
テキスト推論に対するエンジンレベルでの直接制御——しばしばOllamaやLocalAIの裏側のバックエンド。
llama.cppに関する記事（10件）

さらに167件（非表示）

vLLM

範囲:
高スループットのGPUテキストサービングライブラリ。Pythonパッケージ、OpenAI互換サーバー。
最適な用途:
テキストのみに対する最大の同時GPUスループット。
vLLMに関する記事（10件）

さらに84件（非表示）

この記事はこれらのツールを互いに独自ベンチマークしたものではなく、いずれかが技術的に優れていると主張するものでもない——比較は範囲・セットアップ・アーキテクチャに関する文書化された事実のみをカバーしている。

ディレクトリで比較する

この記事がカバーしていないことは？

これは、LocalAIの公開ドキュメントとリポジトリをもとに構成された解説記事であり、実地でのベンチマークやセキュリティ監査ではない。

  • Ollama・llama.cpp・vLLMに対する独自測定のスループット・レイテンシ・出力品質の比較は含まれない——これはLocalAIがどのバックエンドとモデルを使うよう設定されているか、およびハードウェアに左右される
  • プロジェクトが対応するすべてのバックエンドの網羅的なリストではない——バックエンドのエコシステムは時間とともに変化するため、現在のカバー範囲についてはプロジェクト自身のギャラリーとドキュメントが正式な情報源である
  • コードの行単位でのセキュリティ監査は行っていない——オープンソースかつMITライセンスであるため、ソースコード自体は独立したレビューのために公開されている
  • すべてのデプロイ先（Kubernetesマニフェスト、クラウド固有のセットアップ）を網羅していない——この記事は、多くのセルフホスターが最初に試すDockerとCLIの経路に焦点を当てている
  • マルチユーザー機能やエンタープライズ機能（APIキー、クォータ、認証）について、プロジェクトが文書化している範囲を超えて独立検証した記述はない——本番環境のアクセス制御に依存する前に、公式ドキュメントで現在の機能を確認すること

LocalAIを試すときによくある間違い

LocalAIでのつまずきの多くは、それを個別のバックエンド群の前段にあるルーターとしてではなく、単一の固定エンジンとして扱うことから生じる。

間違い1：一つのバックエンドがすべてのモダリティを処理すると期待する

LocalAIのテキスト・画像・音声の各機能は、それぞれ異なるバックエンドから提供され、そのモダリティを機能させるにはそのバックエンドをインストールする必要がある。LocalAIだけをインストールしても、すべてのモダリティが自動的に利用可能になるわけではなく、関連するバックエンドとモデルを先にインストールする必要がある。

間違い2：「GPU不要」がすべてのモデルがCPUで高速に動くことを意味すると思い込む

CPUのみのサポートが完全に文書化されているからといって、すべてのモデルサイズがGPUなしで高速に動くわけではない——LocalAIは実際の推論作業をllama.cppやvLLMなどのエンジンに委ねているため、大きなモデルはそれらのエンジンを直接使う場合と同様に、依然としてGPUアクセラレーションの恩恵を受ける。

間違い3：LocalAIを無関係な「Local AI」系アプリと混同する

「Local AI」や「LocalAI」という語は、互いに無関係な多くの製品によって一般的な説明語として使われている。セットアップ手順に従う前に、対象が具体的にgithub.com/mudler/LocalAIであることを確認すること。ローカルAIツールに対する汎用的に聞こえる名前はよくあり、すべてがこのプロジェクトと関係しているわけではない。

よくある質問

LocalAIとは何ですか？

LocalAIは、Ettore Di Giacinto氏（「mudler」）が作成した無料・MITライセンスのセルフホスト型AIエンジンで、テキスト・画像・音声モデル向けの交換可能なバックエンドの前段にOpenAI互換APIを提供します。

LocalAIは無料ですか？

はい。LocalAIはMITライセンスで公開された無料のオープンソースソフトウェアで、セルフホストするのにサブスクリプションやアカウントは不要です。

LocalAIにGPUは必要ですか？

いいえ——LocalAIはGPU不要でCPUのみで動作すると文書化されています。NVIDIA CUDA・AMD ROCm・Intel・Vulkanハードウェア向けの別のGPUアクセラレーション対応Dockerイメージも公開されています。

LocalAIはllama.cppと同じものですか？

いいえ。llama.cppはテキスト推論エンジンです。LocalAIはルーティング兼API互換レイヤーであり、llama.cpp（あるいはvLLMや他のエンジン）を複数あるバックエンドの一つとして読み込みつつ、画像・音声バックエンドも追加します。

LocalAIはOllamaより優れていますか？

「優れている」かどうかは範囲次第です。Ollamaは主にテキストモデルに焦点を当て、設定が最小限で済むよりシンプルで狭いツールであるのに対し、LocalAIはより多くの設定と引き換えに、単一のAPIの背後でより幅広いモダリティ（テキスト・画像・音声）をカバーします。

LocalAIはどのAPIに対応していますか？

LocalAIは、OpenAI APIへのドロップイン互換性に加え、Anthropic互換・ElevenLabs互換のエンドポイントを文書化しており、これらのAPI向けの既存クライアントコードは、ベースURLの変更だけでセルフホスト型LocalAIインスタンスに対して機能することが多いです。

LocalAIはチャットだけでなく、画像生成や音声の文字起こしもできますか？

はい。LocalAIの文書化されたバックエンドには、画像生成用のdiffusersベースのバックエンドと、音声認識用のwhisper.cppベースのバックエンドが含まれ、加えて音声合成・埋め込み用のバックエンドもあります。

LocalAIはモバイルアプリ「Loci」と関係がありますか？

いいえ。Lociは、端末上でのオフラインチャット向けの、別の無関係なモバイルアプリです。LocalAIはgithub.com/mudler/LocalAIにあるセルフホスト型サーバープロジェクトであり、Lociとコード・企業・その他の関係を一切共有していません。

LocalAIはデフォルトでどのポートを使いますか？

文書化されたDockerイメージ経由で実行した場合、LocalAIはデフォルトでポート8080でリッスンします。

LocalAIはどこからモデルを取得できますか？

プロジェクトは複数のモデルソースを文書化しています：独自のインストール可能なギャラリー、Hugging Faceのリポジトリ、Ollama形式の参照、直接指定するYAML設定URL、OCIイメージです。

ソース

← ローカルLLM活用 に戻る

MCP