Skip to main content
PromptQuorum
ホーム/ローカルLLMソフトウェア完全ディレクトリ:自分のハードウェアでAIを動かす224のツール(2026年版)
Overview & Reference

ローカルLLMソフトウェア完全ディレクトリ:自分のハードウェアでAIを動かす224のツール(2026年版)

·28分で読める·Hans Kuepper 著 · PromptQuorumの創設者、マルチモデルAIディスパッチツール · PromptQuorum

この更新版2026年ディレクトリ(最終更新:2026年8月)は、224のローカルLLMツール・デプロイツール・フレームワーク・ビジュアルAIシステムを10層にわたってマッピングしています。 2026年のローカルLLMエコシステムは明確に10の層に分かれています。ランタイム(Ollama、llama.cpp、vLLM)はモデルを通じてトークンを処理します。デスクトップアプリ(LM Studio、Jan、GPT4All)はランタイムをチャットUIでラップします。Web UI(Open WebUI、LibreChat)はブラウザで同じことを行います。IDE統合(Continue.dev、PearAI、Windsurf)はローカルモデルをコードエディタに接続します。ターミナルツール(Aider、ShellGPT、aichat)はコマンドライン作業を処理します。RAGシステム(AnythingLLM、PrivateGPT)はドキュメントに向けます。エージェントフレームワーク(LangChain、CrewAI、LangGraph、SuperAGI)は呼び出しをマルチステップワークフローに連鎖させます。音声/オーディオスタック(Whisper.cpp、Piper、XTTS)はテキスト以外に拡張します。モバイルクライアント(MLC Chat、PocketPal AI)はスマートフォンで動作します。専門プラグイン(Obsidian、Logseq、AutoGPT)は既存ツールに統合します。そして画像生成システム(Stable Diffusion、ComfyUI、Invoke AI)はビジュアルAIタスクを担います。まずランタイムを選び(ほぼ全員にOllama)、その上に1〜2層を追加してください。**

224のローカルLLMツールを7カテゴリ(Run & Serve、Chat & Assistants、Code & Development、Knowledge & Retrieval、Voice & Audio、Images & Video、Train & Operate)に整理しました。下の一覧で絞り込み・検索・比較できます。

ツール224件

完全ローカル: 121ハイブリッド: 103クラウド: 0

Ollama

推論エンジン
100%ローカル

最も簡単 — ワンコマンドインストール、OpenAI互換API、豊富なモデルライブラリ

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインデスクトップアプリmacOSWindowsLinux
180,722記事283件
特集記事

llama.cpp

推論エンジン
100%ローカル

他の多くのツールの基盤C++エンジン。Apple Siliconを含む全環境で動作

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインライブラリ/SDKmacOSWindowsLinux
126,800記事150件
特集記事

vLLM

推論エンジン
100%ローカル

マルチユーザーGPUデプロイ向け高スループットサービング

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインライブラリ/SDKLinux
90,800記事91件
特集記事

text-generation-webui

推論エンジン
100%ローカル

豊富なプラグインエコシステムを持つパワーユーザー向けUI

独自エンジンで動作無料
実行するモデルによって異なります
WebアプリコマンドラインWindowsLinuxmacOS
47,600記事15件
特集記事

exo

推論エンジン
100%ローカル

分散推論 — 複数の日常的なデバイスの計算能力をプールして大規模モデルを実行

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインmacOSLinux
47,260記事2件
特集記事

SGLang

推論エンジン
100%ローカル

エージェントパイプライン向け構造化推論サービング

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインライブラリ/SDKLinux
33,500記事9件
特集記事

Llamafile

推論エンジン
100%ローカル

Mozilla製の単一ファイルポータブルLLM実行

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインmacOSWindowsLinux
25,900記事6件
特集記事

MLC LLM

推論エンジン
100%ローカル

モバイル・エッジデバイス向けデプロイランタイム

独自エンジンで動作無料
実行するモデルによって異なります
ライブラリ/SDKモバイルアプリmacOSWindowsLinuxiOSAndroid
23,134記事6件
特集記事

oMLX

推論エンジン
100%ローカル

ページ化されたSSDキャッシュを備えたApple Silicon向けMLXベースのローカル推論サーバー。ローカルコーディングエージェントの実行を支える

独自エンジンで動作無料
Claude CodeCursorOpenClaw
実行するモデルによって異なります
デスクトップアプリコマンドラインmacOS
21,859記事6件
特集記事

TensorRT-LLM

推論エンジン
100%ローカル

エンタープライズGPU向けNVIDIA最適化推論

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインライブラリ/SDKWindowsLinux
14,500記事10件
特集記事

OpenLLM

推論エンジン
ハイブリッド

DeepSeekやLlamaなどのオープンソースLLMをOpenAI互換APIとして提供する、セルフホスト可能な推論サーバー

独自エンジンで動作無料
LlamaDeepSeekQwen
実行するモデルによって異なります
コマンドラインライブラリ/SDK
12,535記事1件
特集記事

KoboldCpp

推論エンジン
100%ローカル

UI内蔵の軽量llama.cppラッパー

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインWebアプリWindowsLinuxmacOS
11,600記事13件
特集記事

MLX-LM

推論エンジン
100%ローカル

Apple Research製のApple Siliconネイティブランタイム

独自エンジンで動作無料
実行するモデルによって異なります
コマンドラインライブラリ/SDKmacOS
8,900記事10件
特集記事

NVIDIA Dynamo

推論エンジン
100%ローカル

複数のGPU・ノードにまたがる大規模LLMデプロイ向け、データセンター規模のセルフホスト型分散推論サービングフレームワーク

Ollama/LM Studioが必要無料
vLLMTensorRT-LLMSGLangKubernetes
実行するモデルによって異なります
コマンドラインライブラリ/SDKLinux
8,113記事3件
特集記事

LMDeploy

推論エンジン
100%ローカル

高スループットなOpenAI互換推論エンジンでLLMを圧縮・量子化・サービングするセルフホスト型ツールキット

独自エンジンで動作無料
InternLMLlamaQwenBaichuanDeepSeek
実行するモデルによって異なります
コマンドラインライブラリ/SDKLinux
8,080記事5件
特集記事

TurboFieldfare

推論エンジン
100%ローカル

あらゆるMシリーズMacBookで約2GBのRAMでGemma 4 26B-A4Bをローカル実行するネイティブSwift/Metalランタイム

独自エンジンで動作無料
Gemma
最低2GBのRAM
デスクトップアプリコマンドラインmacOS
6,768記事2件
特集記事

Shimmy

推論エンジン
100%ローカル

PythonやLlama.cppへの依存なしにローカルのGGUF・SafeTensorsモデルを提供する、単一バイナリの純Rust製OpenAI互換推論サーバー

独自エンジンで動作無料
GGUFSafeTensors
実行するモデルによって異なります
コマンドラインmacOSWindowsLinux
5,890記事2件
特集記事

ExLlamaV2

推論エンジン
100%ローカル

RTX GPU最適化の高速量子化推論

独自エンジンで動作無料
最低8GBのVRAM
コマンドラインライブラリ/SDKWindowsLinux
4,600記事4件
特集記事

LoRAX

推論エンジン
100%ローカル

アダプター単位のコストをかけずに、1台のGPUで数千のファインチューニング済みLoRAアダプターを提供するセルフホスト型推論サーバー

独自エンジン+外部対応無料
HuggingFacePEFTLudwigDocker
実行するモデルによって異なります
コマンドラインライブラリ/SDKLinux
3,832記事2件
特集記事

Rapid-MLX

推論エンジン
100%ローカル

Claude Code、Cursor、Aiderのバックエンドとしてそのまま使えるよう作られた、Apple Silicon向けOpenAI互換ローカル推論エンジン

独自エンジンで動作無料
Claude CodeCursorAiderCline
最低8GBのRAM
コマンドラインmacOS
3,773記事4件
特集記事

claude-code-local

推論エンジン
100%ローカル

Claude CodeをApple Silicon上で100%オンデバイス実行できる、クラウドやAPI費用不要のMLXネイティブなローカルサーバー

独自エンジンで動作無料
Claude Code
実行するモデルによって異なります
コマンドラインmacOS
3,314記事1件
特集記事

Lucebox

推論エンジン
100%ローカル

特定のコンシューマー向けGPUに合わせて手作業でチューニングされたカーネルと投機的デコーディングを備えたローカルLLM推論サーバー

独自エンジンで動作無料
Claude CodeCodexOpenCodeOpen WebUIGGUF
実行するモデルによって異なります
コマンドラインライブラリ/SDKLinux
2,867記事1件
特集記事

vllm-mlx

推論エンジン
100%ローカル

ネイティブMLXを通じてApple SiliconにvLLM方式の連続バッチ処理をもたらす、OpenAIおよびAnthropic互換の推論サーバー。

独自エンジンで動作無料MCP対応
Claude CodeOpenAI APIAnthropic API
実行するモデルによって異なります
コマンドラインmacOS
1,580記事3件
特集記事

mlx-serve

推論エンジン
100%ローカル

OpenAIおよびAnthropic互換APIでMLXとGGUFモデルを提供する、Apple Silicon向けネイティブZig推論サーバー。macOSメニューバーアプリ同梱。

独自エンジンで動作無料MCP対応
Claude CodeContinueCursorOpen WebUI
実行するモデルによって異なります
コマンドラインデスクトップアプリmacOS
1,373記事1件
特集記事

このページには参考用の第三者製品へのリンクが含まれています。PromptQuorumはいかなるアフィリエイトプログラムにも参加しておらず、これらはコミッションを得ない単なる参照リンクです。リンクのクリックと次のステップはご自身の責任です。これらのリンクはPromptQuorumによる推奨や検証を表すものではありません。

実用的なスタック構成

9つのカテゴリすべてを読みたくない方は、最も近いスタックを選んでそのままコピーしてください。 各行は実際の目標と検証済みの組み合わせ、実際に動作するハードウェア下限を示しています。

目的
スタック
最低ハードウェア
カジュアルなチャットLM Studio standalone16GB RAM、GPU不要
パワーユーザーのベストバランスOllama + Open WebUI16GB RAM、GPU任意
ドキュメントチャットOllama + AnythingLLM16GB RAM、GPU任意
コーディングOllama + Continue.dev16GB RAM + GPU推奨
ロールプレイ / クリエイティブKoboldCpp + SillyTavern16GB RAM、GPU推奨
プライバシー重視業務Ollama + Open WebUI + PrivateGPT32GB RAM + 12GB VRAM
モバイル / 外出先MLC Chat または PocketPal AIiPhone 13+ / Pixel 7+
Apple SiliconOllama(MLXバックエンド)またはLM StudioM2/M3/M4/M5 16GB+統合メモリ
マルチユーザーチームvLLM + Open WebUI32GB+ RAM + マルチGPU
目的別の実用ローカルLLMスタック9選:LM Studio単体(RAM 16GB・GPU不要)からvLLM+Open WebUIのチーム向け構成(RAM 32GB+マルチGPU)まで、Ollama+Open WebUIが最もバランスの取れた標準構成。
目的別の実用ローカルLLMスタック9選:LM Studio単体(RAM 16GB・GPU不要)からvLLM+Open WebUIのチーム向け構成(RAM 32GB+マルチGPU)まで、Ollama+Open WebUIが最もバランスの取れた標準構成。

重要なポイント

  • 10層・224プロジェクト・1つの地図。 ランタイム、デスクトップアプリ、Web UI、IDE統合、ターミナルツール、RAGシステム、エージェントフレームワーク、音声/オーディオ/ビジョン、モバイルクライアント、専門プラグイン、画像生成 — 2026年の主要プロジェクトはほぼすべて正確に1つの層に収まります。
  • まずランタイムを選ぶ。 Ollamaは読者の約95%に適したデフォルト。llama.cppは他の多くのツールの基盤エンジン。vLLMはマルチユーザーGPUデプロイの本番向け選択肢です。
  • ランタイム上の層はほとんどがオプション。 チャットにはデスクトップアプリまたはWeb UIのどちらか一方で十分です。コード支援が必要な場合のみIDE統合を追加。CLIワークフローが必要な場合のみターミナルツールを追加。自分のドキュメントを参照したい場合のみRAGシステムを追加。ワンショット呼び出しでは足りなくなった場合のみエージェントフレームワークを追加。ビジュアル出力が必要な場合のみ画像生成を追加してください。
  • ライセンスは商用利用で重要。 MITとApache 2.0がエコシステムを占めています。AGPLは一部のUI(text-generation-webui、KoboldCpp、Jan、SillyTavern)に見られます — 個人利用は問題なし、商用デプロイは要確認。
  • マルチツールスタックが標準的。 Ollama + Open WebUI + AnythingLLM + Continue.dev + Stable Diffusionは1台のマシンでチャット・RAG・コーディング・画像生成を妥協なくカバーします。下の「実用的なスタック構成」テーブルに実際に機能する組み合わせを掲載しています。
ローカルLLMスタックの10層:ランタイム(Ollama、llama.cpp、vLLM)、デスクトップアプリ(LM Studio、Jan、GPT4All)、Web UI、IDEエディタ、ターミナルツール、RAGシステム、エージェントFW、音声・オーディオ、モバイル、専門ツール、画像生成(Stable Diffusion、ComfyUI)にわたる224プロジェクトの全体マップ。
ローカルLLMスタックの10層:ランタイム(Ollama、llama.cpp、vLLM)、デスクトップアプリ(LM Studio、Jan、GPT4All)、Web UI、IDEエディタ、ターミナルツール、RAGシステム、エージェントFW、音声・オーディオ、モバイル、専門ツール、画像生成(Stable Diffusion、ComfyUI)にわたる224プロジェクトの全体マップ。

ディレクトリの最新性について

このディレクトリは3か月ごとに見直され、見直しの合間には毎月の重点的なアップデートを行います — 最終更新は2026年8月、次回の予定更新は2026年11月です。 2026年8月の拡張では、全層にわたって72以上の新規ツールを追加し、音声・マルチモーダル層を3つの専門層(STT・TTS・ビジョン)に分割、コーディングアシスタント層をIDE統合(4a)とターミナルツール(4b)に分割、さらに画像生成という新しい層をまるごと追加しました。すべてのリンクとライセンスを再検証し、新規エントリー(PearAI、Windsurf、Sourcegraph Cody、SuperAGI、Leon AI、Draw Things、Fooocus、StableSwarmUIほか)はアクティブなメンテナンス状況を確認済みです。掲載基準:直近90日間にコミットがあり活発にメンテナンスされていること、検証可能なオープンソースライセンスまたは商用利用の明確な声明があること、2026年に有意なユーザーシェアを持つか、それがなければ空白の層を埋めることです。2リリースサイクル以上非活性なプロジェクトは削除し、基準を満たす新規エントリーは次回見直し時に追加します。掲載を提案する場合は、PromptQuorumリポジトリのissueまたはPRを開いてください — プロジェクトURL、ライセンス、上記の形式による一文説明を添えてください。

日本・アジア太平洋地域のご利用について: 経済産業省(METI)の「AI事業者ガイドライン」(2024年)は、企業がAI活用においてデータガバナンスとリスク管理を適切に実施することを求めています。ローカル推論はデータを自社システム内に留めるため、個人情報保護法(APPI)およびアジア太平洋地域のデータ越境規制(日本・シンガポール・マレーシア・韓国)への準拠において構造的に有利な構成です。エンタープライズ展開では、METIガイドラインに基づくリスク評価と、使用ツールのライセンス確認(特に商用利用時のAGPL条項)を推奨します。

参考文献

よくある質問

ローカルLLMランタイムとデスクトップアプリの違いは何ですか?

ランタイム(Ollama、llama.cpp、vLLM)はモデル重みを読み込みAPIを提供するエンジンです — 通常OpenAI互換。デスクトップアプリ(LM Studio、Jan、GPT4All)はランタイムを呼び出すチャットUIです。一部のアプリは独自ランタイムを内蔵し(LM Studioはllama.cppを組み込み)、別途インストールが必要なものもあります(Open WebUIはOllamaを呼び出す)。ランタイムが何が可能かを決め、アプリが使いやすさを決めます。

このリストから複数のツールを同時に使えますか?

はい — ほとんどのスタックは2〜4つのツールを組み合わせます。一般的な構成:Ollamaをランタイムに、Open WebUIをチャットに、AnythingLLMをドキュメントチャットに、Continue.devをコーディングに — 4つすべてが1台のマシン上の同じOllamaインスタンスを使います。「実用的なスタック構成」テーブルに競合なく動作する組み合わせを掲載しています。

テレメトリなしで完全オフライン動作するツールはどれですか?

Ollama、llama.cpp、vLLM、Jan、GPT4All、Open WebUI、AnythingLLM、PrivateGPT、Continue.dev、Aider、KoboldCpp、Llamafile、MLX-LM、およびこのディレクトリのAGPL/MITライセンスのほとんどのアプリは、モデルダウンロード後に完全オフラインで動作します。LM Studioといくつかのプロプライエタリツールは設定で無効化できるオプション分析機能を持ちます — インストール後にパケットキャプチャで確認してください。ブラウザベースのUI(Open WebUI、LibreChat)はローカルバックエンドで設定された場合のみローカルです。

商用ライセンス(商用利用不可)のツールはありますか?

一部あります:LM Studio、Msty、Backyard AI、Layla、Cursorはプロプライエタリ — 通常は無料使用可能ですが再配布不可で、商用条件はベンダーによって異なります。Private LLMは有料です。AGPLライセンスのツール(Jan、KoboldCpp、text-generation-webui、SillyTavern、Khoj、Copilot for Obsidian)は商用を含むあらゆる目的に無料ですが、変更して公開ホスティングする場合はソースコードの開示が必要です。Apache 2.0とMITプロジェクト(大多数)は商用を含むあらゆる場面で実質的な制約なく使用できます。

Apple Silicon(Mシリーズ)をネイティブサポートするツールはどれですか?

Ollama、llama.cpp、MLX-LM、LM Studio、Jan、Enchanted、GPT4All、MLC Chat、AnythingLLM、ほとんどのElectron/TauriアプリがApple SiliconでネイティブにMetalバックエンドを使って動作します。MLX-LMはApple専用でMシリーズの大型モデルに最速です。vLLM、TensorRT-LLM、ExLlamaV2はNVIDIA重視でApple Siliconでは動作しないか性能が低いです — Appleユーザーにはメタルバックエンドのollamaがデフォルト推奨です。

これらのツールはすべてGGUFモデル形式をサポートしていますか?

GGUFはllama.cppとそれをラップするツール(Ollama、LM Studio、Jan、GPT4All、KoboldCpp、Llamafile)のネイティブ形式です。vLLMとTensorRT-LLMは高スループット向けに独自の最適化フォーマット(通常AWQまたはFP16)を使用します。ExLlamaV2はEXL2量子化を使用。MLX-LMはMLX変換済み重みを使用します。ほとんどのツールはGGUFを受け付けますが、一部(vLLM、TensorRT-LLM、ExLlamaV2、MLX-LM)はHugging Face元重みからの一度限りの変換ステップが必要です。

プログラミング経験のないユーザーに適したツールはどれですか?

GPT4Allが最もシンプルなインストール(ワンクリック、8GB RAMで動作)ですが、最近は独自のアップデート頻度が落ちています。LM Studioはターミナル不要で最も機能が充実。JanはノーコードオプションでプライバシーにJanが最適。ドキュメントチャットをコマンドライン不要で行うなら、AnythingLLMが最も簡単です。4つすべてが上のデスクトップGUIアプリカテゴリに掲載されています。

これらのツールをサーバーで動かしてリモートアクセスできますか?

ほとんどのサーバー対応ツール(Ollama、vLLM、LocalAI、Open WebUI、LibreChat、PrivateGPT、AnythingLLM)はHTTP APIを公開し、設定で構成可能なネットワークインターフェースにバインドします。標準パターン:ホームサーバーまたはVPS上でOllamaを動かし、サーバーIPに向けたUIをラップトップまたはスマートフォンで使用。APIは通常のWebサービスと同様に扱ってください — リバースプロキシ越しにlocalhostにバインドするか、認証付きのプライベートネットワークに。Open WebUIはマルチユーザーサポートを標準搭載しています。

マルチユーザー / チーム設定をサポートするツールはどれですか?

Open WebUI、LibreChat、h2oGPT、AnythingLLM(管理機能有効時)、Difyはロールベースアクセスとユーザー別会話履歴を持つマルチユーザー向けに設計されています。同時推論が重要な場合、vLLMが適切なサービング層です — Ollamaでは同時接続3件超で達成できないスループットで複数ユーザーのリクエストをバッチ処理します。

このディレクトリはどのくらいの頻度で更新されますか?

3か月ごと、見直しの合間には毎月の重点的なアップデートを実施 — 最終見直しは2026年7月、次回の予定更新は2026年11月です。毎月の変更(プロジェクトが非活性になった、新しいツールが有意なシェアを獲得した、ライセンスが変わった)は既存エントリーへのパッチとして適用されます。新しいカテゴリや層は構造の安定性を保つため四半期ごとの見直しを待ちます。「参考文献」セクションに更新間のエコシステム監視に使用するコミュニティインデックスを掲載しています。

画像生成をクラウド呼び出しなしでローカルに行えますか?

はい — Stable Diffusion、ComfyUI、Invoke AI、AUTOMATIC1111 WebUIなど、Tier 10のツールはすべてローカルハードウェア上で完結します。Stable Diffusionには6GB以上のVRAM(RTX 3060、RTX 4060など)が必要です。Fooocusなどの最適化UIは4〜6GBのカードでも動作します。Real-ESRGANは生成画像をアップスケールし、ControlNetは空間的な制御(エッジ・ポーズ・深度マップ)を追加、AnimateDiffはテキストから動画を生成します。すべて外部サーバーへデータを送信せずに動作します。

以下のスライドを閲覧するか、PDFとしてダウンロードしてください。 リファレンスカードをダウンロード(PDF)

About this data

This directory is compiled with AI-assisted research from public sources (project READMEs, official sites, GitHub repositories). It is not exhaustive and may contain errors — hardware requirements, pricing, and platform support change frequently and some fields have not been independently verified yet.

Most entries carry no status badge: they are listed from public sources but not independently reviewed. A "Verified" badge means core facts (license, platforms, pricing) have been manually checked. A "PromptQuorum-tested" badge is only shown for tools PromptQuorum has actually installed and run — most entries do not have this badge yet.

The "PromptQuorum-tested" badge is reserved for tools we have personally installed and run — an untested tool never carries it, regardless of popularity or stars.

Spotted something wrong? Email hello@promptquorum.com and we will correct it.

← ローカルLLM活用 に戻る