重要なポイント
- 無料・MITライセンス。Ettore Di Giacinto氏（「mudler」）が作成し、github.com/mudler/LocalAIで保守されている
- ドロップイン形式のOpenAI互換API、加えてAnthropic互換・ElevenLabs互換のエンドポイント
- 固定の推論エンジンを内蔵する代わりに、軽量なコアが独立して読み込まれるバックエンドへリクエストをルーティングする
- プロジェクトが文書化しているバックエンドには、テキスト用のllama.cppとvLLM、画像生成用のdiffusersベースのバックエンド、音声認識用のwhisper.cppベースのバックエンドが含まれる
- 単一の稼働インスタンスからテキスト生成・画像生成・音声認識・音声合成・埋め込みをカバー
- GPU不要でCPUのみで動作するか、NVIDIA CUDA・AMD ROCm・Intel・Vulkanによるアクセラレーションで動作
- Dockerイメージ（CPU版・GPU版のタグ）、macOS用インストーラー、CLIバイナリとして配布。Kubernetesでのデプロイも文書化されている
- 競合する生の推論エンジンではない——llama.cppやvLLMのようなエンジンを置き換えるのではなく、バックエンドとして読み込む
📍 一文で説明
LocalAIは、llama.cpp・vLLM・diffusers・whisper.cppを含む交換可能なバックエンドの前段にOpenAI互換APIを提供する、無料でMITライセンスのセルフホスト型エンジンであり、単一インスタンスでテキスト・画像・音声をカバーする。
💬 簡潔に説明
チャット用・画像生成用・文字起こし用にそれぞれ別のアプリを使う代わりに、LocalAIはOpenAIと同じAPIを話す単一のセルフホスト型サーバーであり、既存のOpenAIクライアントコードをそのまま向けられる一方で、裏側では各リクエストを実際にその処理を担当するエンジンへ静かに振り分ける。
📌補足: この記事はLocalAIの公式GitHubリポジトリと公開ドキュメントに基づいており、独自ベンチマークによるものではない。LocalAIは頻繁にリリースを重ねており、バージョン固有の機能や性能数値はこの記事のために独自測定していないため、あえて記載していない。
LocalAIとは何か？
LocalAIは、OpenAI API互換のテキスト・画像・音声モデルを自分のハードウェア上で実行できる、無料・MITライセンスのセルフホスト型AIエンジンである。GitHub上で「mudler」を名乗るEttore Di Giacinto氏が作成し、現在はオープンソースコミュニティによって保守されている。プロジェクトは、GPUを厳密には必要とせず、あらゆるハードウェア上で複数のモダリティにまたがるモデルを実行することを目標に掲げている。
- Ettore Di Giacinto氏（「mudler」）が作成。ソースコードとドキュメントはgithub.com/mudler/LocalAIにある
- MITライセンス：ライセンス条件の範囲内で、商用利用を含め自由に使用・改変・セルフホストできる
- OpenAI API互換サーバーを提供し、加えてAnthropic互換・ElevenLabs互換のエンドポイントも文書化されているため、既存のクライアントコードがしばしばそのままセルフホスト型LocalAIインスタンスに向けられる
- 単一モダリティでの速度よりも、モダリティの幅広さを軸に位置づけられている——テキスト・画像・音声を一つのデプロイでカバー
- 単一の推論エンジンとは異なり、コア自体はリクエストルーティングとAPI互換性を担当し、実際のモデル実行は別のバックエンドプロセスで行われる
LocalAIのバックエンドアーキテクチャはどう機能するか？
LocalAIのコアは軽量なルーターであり、モノリシックな推論エンジンではない——OpenAI互換のリクエストを受け取り、それがどのモデル・バックエンドに対応するかを判断し、実際に推論を実行する別のバックエンドプロセスと通信する。
- コアプロセスはAPI互換性・リクエストルーティング・モデル設定を担当し、その後gRPC経由でバックエンドプロセスと通信する
- プロジェクトが文書化しているバックエンドには、テキスト生成用のllama.cppとvLLM、画像生成用の
diffusersベースのバックエンド、音声認識用のwhisper.cppベースのバックエンドが含まれる - バックエンドはモデル/バックエンドギャラリーからインストールするか、特定のバックエンドとモデルを指定するYAMLファイルで手動設定できる
- バックエンドは独立してインストール可能なコンポーネントであるため、デプロイはユースケースが実際に必要とするバックエンドだけを読み込めばよく、デフォルトであらゆるエンジンを同梱する必要がない
- プロジェクトは既存エンジンのラップに加えて、独自のネイティブバックエンドも一部開発している
LocalAIはテキスト生成以外に何ができるか？
LocalAIの文書化された範囲は、llama.cppやvLLMのようなテキスト専用エンジンよりも多くのモダリティをカバーしており、これがそれらのツールとの主な違いとなっている。
テキスト生成
- 代表的バックエンド:
- llama.cpp、vLLM — chat/completionsエンドポイント
画像生成
- 代表的バックエンド:
- diffusersベースのバックエンド（Stable Diffusion系）
音声認識（STT）
- 代表的バックエンド:
- whisper.cppベースのバックエンド
音声合成（TTS）
- 代表的バックエンド:
- プロジェクトが文書化する専用TTSバックエンド
埋め込み
- 代表的バックエンド:
- 専用の埋め込みモデルバックエンド
上記の各行は、そのモダリティを機能させるためにインストールが必要な、それぞれ別のバックエンドである——LocalAI自体をインストールしただけでは、すべてのモダリティが自動的に有効になるわけではない。正確なバックエンド名とカバー範囲はリリースごとに変わるため、固定リストではなくプロジェクト自身のギャラリーを最新の情報源として扱うべきである。
LocalAIにはどのハードウェアが必要か？
LocalAIの文書化された位置づけは、GPUを厳密には必要とせず、あらゆるハードウェア上で動作するというものである——同じインスタンスが軽いワークロードにはCPUのみで動作し、より大きなモデルには利用可能な場合にGPUアクセラレーションを使うこともできる。
CPUのみ
- 詳細:
- GPU不要で完全にサポートされると文書化されており、テキスト用にはllama.cppのようなCPU最適化バックエンドを使用する。
NVIDIA GPU（CUDA）
- 詳細:
- 専用のCUDA対応Dockerイメージが公開されており、対応GPUが存在すれば互換バックエンドがアクセラレーションを利用する。
AMD GPU（ROCm）
- 詳細:
- 文書化されたAMDアクセラレーション経路として、ROCm/hipBLAS対応のDockerイメージが公開されている。
Intel GPU（oneAPI）
- 詳細:
- Intel GPUアクセラレーション向けに専用のIntel対応Dockerイメージが公開されている。
Vulkan
- 詳細:
- ベンダーを問わないGPUアクセラレーション選択肢として、Vulkan対応Dockerイメージが公開されている。
Apple Silicon（Mac）
- 詳細:
- ネイティブのmacOS用インストーラーが公開されており、Apple SiliconのMacに対してMetalアクセラレーション対応のバックエンドが文書化されている。
実際に利用可能なモデルサイズと速度は、依然として利用可能なRAM/VRAMと、あるモデルが使用するバックエンドに左右される——これはllama.cppやvLLMを直接使う場合と同じである。LocalAIの「GPU不要」という位置づけは、CPUのみの経路が完全にサポートされていることを説明しているのであって、すべてのモデルやバックエンドがGPUなしで同等に良好に動作するという意味ではない。
LocalAIのインストールと実行方法は？
LocalAIが文書化する最も速い方法はDockerであり、CPU専用イメージと、ハードウェアごとに異なるGPUアクセラレーション対応のイメージタグが用意されている。
- 1まだ持っていなければDockerをインストールし、自分のハードウェアに合わせてCPU専用イメージかGPU対応イメージタグのどちらかを選ぶ。
- 2CPUのみで使う場合は次を実行する：
docker run -p 8080:8080 --name local-ai -ti localai/localai:latest。 - 3NVIDIA GPUの場合は、代わりにCUDA対応イメージ（例：
localai/localai:latest-gpu-nvidia-cuda-12）を使い、Dockerコマンドに--gpus allを追加する。 - 4AMD・Intel・VulkanのGPUの場合は、プロジェクトが文書化している対応する
-gpu-hipblas・-gpu-intel・-gpu-vulkanのイメージタグを使う。 - 5コンテナが起動すると、LocalAIはデフォルトでポート8080でリッスンする。
- 6CLI（
local-ai models install <name>）またはWeb UIのモデルギャラリーでモデルをインストールするか、local-ai run <name>で直接起動する（必要ならまずダウンロードされる）。 - 7OpenAI互換エンドポイントへ最初のリクエストを送る：`curl http://localhost:8080/v1/chat/completions -H "Content-Type: application/json" -d '{"model": "<インストール済みモデル名>", "messages": [{"role": "user", "content": "こんにちは！"}]}'`。
- 8既存のOpenAI APIクライアントコードを、ベースURLとモデル名だけを変更してセルフホスト型インスタンスに向ける。
LocalAIを動かすのにGPUは必要ですか？
いいえ——LocalAIはGPU不要でCPUのみで動作すると文書化されており、GPUを持っている環境向けには、NVIDIA・AMD・Intel・Vulkanハードウェア用のGPUアクセラレーション対応Dockerイメージタグも別途公開されています。
LocalAIのモデルはどこから入手しますか？
プロジェクトは複数の入手元を文書化しています：（CLIまたはWeb UIからインストール可能な）独自のモデルギャラリー、Hugging Faceのリポジトリ、Ollama形式のモデル参照、直接指定するYAML設定URL、OCIイメージです。
LocalAIとOllamaはどう違うか？
LocalAIとOllamaはどちらも、シンプルなAPIの背後でモデルを簡単にセルフホストできるようにするが、対象とする範囲は異なる。Ollamaはテキスト（および一部のビジョン）モデルへの高速でミニマルな単一ユーザー向けの道筋を中心に構築されているのに対し、LocalAIはテキスト・画像・音声にわたるより幅広いモダリティのカバー範囲と、OpenAI/Anthropic/ElevenLabs API互換性を中心に構築されている。
- Ollamaは主にテキスト（および一部のビジョン）モデルに焦点を当て、非常にシンプルなワンコマンドのインストールとモデル取得のワークフローを持ち、高速な単一ユーザー向けセットアップを狙っている
- LocalAIは、モダリティごとに異なるバックエンドを読み込むことで、一つのデプロイの中でより幅広いモダリティのカバー範囲——テキスト・画像生成・音声認識・音声合成——を文書化している
- LocalAIは、OpenAI・Anthropic・ElevenLabsという3つのAPI形式へのドロップイン互換性を文書化している。Ollamaの主要なインターフェースは独自のAPIであり、別途OpenAI互換レイヤーが用意されている
- LocalAIは、独自のギャラリー・Hugging Face・YAML設定と並んで、対応するモデルソースの一つとしてOllama形式のモデル参照（
ollama://）を読み込める - Ollamaの設定面は意図的に最小限にとどめられている。LocalAIはその幅広い範囲と引き換えに、より多くの設定（バックエンド選択、YAMLモデル設定、複数のデプロイ先）を露出している
LocalAIとllama.cpp、vLLMはどう違うか？
LocalAIは、llama.cppやvLLMと競合する生の推論エンジンではない——その文書化されたアーキテクチャは、テキスト生成用にこの両方を交換可能なバックエンドとして読み込み、それに加えて画像・音声用の別のバックエンドを持つ。
llama.cpp
- 役割:
- CPU/GPUに適したテキスト推論エンジン。LocalAIが読み込めるテキストバックエンドの一つ。
vLLM
- 役割:
- 高スループットのGPUサービングエンジン。LocalAIが読み込める別のテキストバックエンドとして文書化されている。
LocalAI
- 役割:
- これらのバックエンドの上位に位置するルーティング兼API互換レイヤーで、テキストに加えて画像・音声・埋め込みバックエンドを追加する。
LocalAIに関する記事（3件）
- Jan Review 2026: The Open-Source, Offline ChatGPT Alternative更新日 2026年9月6日
- LocalAI Explained: The Self-Hosted OpenAI API Alternative (2026)更新日 2026年9月6日
- Bodega One Code Review (2026): A Local-First BYOLLM Coding IDE更新日 2026年9月3日
その他の言及:
これらのプロジェクトの選択は、通常「どちらか一方」という話ではない——LocalAIのデプロイは、テキストリクエストのために内部でllama.cppやvLLMを動かしていることがある。判断すべきは、そのエンジンに直接話しかけたいか（llama.cpp、vLLM）、それとも画像・音声リクエストもルーティングできるより広範なマルチモーダルAPIレイヤー（LocalAI）を通したいか、である。
LocalAIはどんな人に向いているか？
LocalAIは、複数のモダリティをカバーする単一のセルフホスト型APIが欲しい人に向いており、自分のマシン上で単一のテキストモデルへの最速の道だけを求める人向けではない。
LocalAIと代替ツールの比較一覧
これらのツールは部分的に重なるものの、範囲とセットアップの手間が異なる。
LocalAI
- 範囲:
- 交換可能なバックエンドによるテキスト・画像・音声・埋め込み。Docker、macOSインストーラー、CLIバイナリ。
- 最適な用途:
- OpenAI/Anthropic/ElevenLabs互換の単一セルフホスト型マルチモーダルAPI。
Ollama
- 範囲:
- 主にテキスト（一部ビジョン）モデル。ワンコマンドでのインストールとモデル取得。
- 最適な用途:
- 単一ユーザー向けローカルテキストモデルへの最速の道。
llama.cpp
- 範囲:
- CPU・GPU向けテキスト推論エンジン。CLI、Web UI、OpenAI互換サーバー。
- 最適な用途:
- テキスト推論に対するエンジンレベルでの直接制御——しばしばOllamaやLocalAIの裏側のバックエンド。
vLLM
- 範囲:
- 高スループットのGPUテキストサービングライブラリ。Pythonパッケージ、OpenAI互換サーバー。
- 最適な用途:
- テキストのみに対する最大の同時GPUスループット。
この記事はこれらのツールを互いに独自ベンチマークしたものではなく、いずれかが技術的に優れていると主張するものでもない——比較は範囲・セットアップ・アーキテクチャに関する文書化された事実のみをカバーしている。
この記事がカバーしていないことは？
これは、LocalAIの公開ドキュメントとリポジトリをもとに構成された解説記事であり、実地でのベンチマークやセキュリティ監査ではない。
- Ollama・llama.cpp・vLLMに対する独自測定のスループット・レイテンシ・出力品質の比較は含まれない——これはLocalAIがどのバックエンドとモデルを使うよう設定されているか、およびハードウェアに左右される
- プロジェクトが対応するすべてのバックエンドの網羅的なリストではない——バックエンドのエコシステムは時間とともに変化するため、現在のカバー範囲についてはプロジェクト自身のギャラリーとドキュメントが正式な情報源である
- コードの行単位でのセキュリティ監査は行っていない——オープンソースかつMITライセンスであるため、ソースコード自体は独立したレビューのために公開されている
- すべてのデプロイ先（Kubernetesマニフェスト、クラウド固有のセットアップ）を網羅していない——この記事は、多くのセルフホスターが最初に試すDockerとCLIの経路に焦点を当てている
- マルチユーザー機能やエンタープライズ機能（APIキー、クォータ、認証）について、プロジェクトが文書化している範囲を超えて独立検証した記述はない——本番環境のアクセス制御に依存する前に、公式ドキュメントで現在の機能を確認すること
LocalAIを試すときによくある間違い
LocalAIでのつまずきの多くは、それを個別のバックエンド群の前段にあるルーターとしてではなく、単一の固定エンジンとして扱うことから生じる。
よくある質問
LocalAIとは何ですか？
LocalAIは、Ettore Di Giacinto氏（「mudler」）が作成した無料・MITライセンスのセルフホスト型AIエンジンで、テキスト・画像・音声モデル向けの交換可能なバックエンドの前段にOpenAI互換APIを提供します。
LocalAIは無料ですか？
はい。LocalAIはMITライセンスで公開された無料のオープンソースソフトウェアで、セルフホストするのにサブスクリプションやアカウントは不要です。
LocalAIにGPUは必要ですか？
いいえ——LocalAIはGPU不要でCPUのみで動作すると文書化されています。NVIDIA CUDA・AMD ROCm・Intel・Vulkanハードウェア向けの別のGPUアクセラレーション対応Dockerイメージも公開されています。
LocalAIはllama.cppと同じものですか？
いいえ。llama.cppはテキスト推論エンジンです。LocalAIはルーティング兼API互換レイヤーであり、llama.cpp（あるいはvLLMや他のエンジン）を複数あるバックエンドの一つとして読み込みつつ、画像・音声バックエンドも追加します。
LocalAIはOllamaより優れていますか？
「優れている」かどうかは範囲次第です。Ollamaは主にテキストモデルに焦点を当て、設定が最小限で済むよりシンプルで狭いツールであるのに対し、LocalAIはより多くの設定と引き換えに、単一のAPIの背後でより幅広いモダリティ（テキスト・画像・音声）をカバーします。
LocalAIはどのAPIに対応していますか？
LocalAIは、OpenAI APIへのドロップイン互換性に加え、Anthropic互換・ElevenLabs互換のエンドポイントを文書化しており、これらのAPI向けの既存クライアントコードは、ベースURLの変更だけでセルフホスト型LocalAIインスタンスに対して機能することが多いです。
LocalAIはチャットだけでなく、画像生成や音声の文字起こしもできますか？
はい。LocalAIの文書化されたバックエンドには、画像生成用のdiffusersベースのバックエンドと、音声認識用のwhisper.cppベースのバックエンドが含まれ、加えて音声合成・埋め込み用のバックエンドもあります。
LocalAIはモバイルアプリ「Loci」と関係がありますか？
いいえ。Lociは、端末上でのオフラインチャット向けの、別の無関係なモバイルアプリです。LocalAIはgithub.com/mudler/LocalAIにあるセルフホスト型サーバープロジェクトであり、Lociとコード・企業・その他の関係を一切共有していません。
LocalAIはデフォルトでどのポートを使いますか？
文書化されたDockerイメージ経由で実行した場合、LocalAIはデフォルトでポート8080でリッスンします。
LocalAIはどこからモデルを取得できますか？
プロジェクトは複数のモデルソースを文書化しています：独自のインストール可能なギャラリー、Hugging Faceのリポジトリ、Ollama形式の参照、直接指定するYAML設定URL、OCIイメージです。