実用的なスタック構成
9つのカテゴリすべてを読みたくない方は、最も近いスタックを選んでそのままコピーしてください。 各行は実際の目標と検証済みの組み合わせ、実際に動作するハードウェア下限を示しています。
目的 | スタック | 最低ハードウェア |
|---|---|---|
| カジュアルなチャット | LM Studio standalone | 16GB RAM、GPU不要 |
| パワーユーザーのベストバランス | Ollama + Open WebUI | 16GB RAM、GPU任意 |
| ドキュメントチャット | Ollama + AnythingLLM | 16GB RAM、GPU任意 |
| コーディング | Ollama + Continue.dev | 16GB RAM + GPU推奨 |
| ロールプレイ / クリエイティブ | KoboldCpp + SillyTavern | 16GB RAM、GPU推奨 |
| プライバシー重視業務 | Ollama + Open WebUI + PrivateGPT | 32GB RAM + 12GB VRAM |
| モバイル / 外出先 | MLC Chat または PocketPal AI | iPhone 13+ / Pixel 7+ |
| Apple Silicon | Ollama(MLXバックエンド)またはLM Studio | M2/M3/M4/M5 16GB+統合メモリ |
| マルチユーザーチーム | vLLM + Open WebUI | 32GB+ RAM + マルチGPU |
重要なポイント
- 10層・160+プロジェクト・1つの地図。 ランタイム、デスクトップアプリ、Web UI、IDE統合、ターミナルツール、RAGシステム、エージェントフレームワーク、音声/オーディオ/ビジョン、モバイルクライアント、専門プラグイン、画像生成 — 2026年の主要プロジェクトはほぼすべて正確に1つの層に収まります。
- まずランタイムを選ぶ。 Ollamaは読者の約95%に適したデフォルト。llama.cppは他の多くのツールの基盤エンジン。vLLMはマルチユーザーGPUデプロイの本番向け選択肢です。
- ランタイム上の層はほとんどがオプション。 チャットにはデスクトップアプリまたはWeb UIのどちらか一方で十分です。コード支援が必要な場合のみIDE統合を追加。CLIワークフローが必要な場合のみターミナルツールを追加。自分のドキュメントを参照したい場合のみRAGシステムを追加。ワンショット呼び出しでは足りなくなった場合のみエージェントフレームワークを追加。ビジュアル出力が必要な場合のみ画像生成を追加してください。
- ライセンスは商用利用で重要。 MITとApache 2.0がエコシステムを占めています。AGPLは一部のUI(text-generation-webui、KoboldCpp、Jan、SillyTavern)に見られます — 個人利用は問題なし、商用デプロイは要確認。
- マルチツールスタックが標準的。 Ollama + Open WebUI + AnythingLLM + Continue.dev + Stable Diffusionは1台のマシンでチャット・RAG・コーディング・画像生成を妥協なくカバーします。下の「実用的なスタック構成」テーブルに実際に機能する組み合わせを掲載しています。
ディレクトリの最新性について
このディレクトリは6か月ごとに見直され、見直しの合間にもパッチ更新されます — 最終更新は2026年8月、次回の予定更新は2026年11月です。 2026年8月の拡張では、全層にわたって72以上の新規ツールを追加し、音声・マルチモーダル層を3つの専門層(STT・TTS・ビジョン)に分割、コーディングアシスタント層をIDE統合(4a)とターミナルツール(4b)に分割、さらに画像生成という新しい層をまるごと追加しました。すべてのリンクとライセンスを再検証し、新規エントリー(PearAI、Windsurf、Sourcegraph Cody、SuperAGI、Leon AI、Draw Things、Fooocus、StableSwarmUIほか)はアクティブなメンテナンス状況を確認済みです。掲載基準:直近90日間にコミットがあり活発にメンテナンスされていること、検証可能なオープンソースライセンスまたは商用利用の明確な声明があること、2026年に有意なユーザーシェアを持つか、それがなければ空白の層を埋めることです。2リリースサイクル以上非活性なプロジェクトは削除し、基準を満たす新規エントリーは次回見直し時に追加します。掲載を提案する場合は、PromptQuorumリポジトリのissueまたはPRを開いてください — プロジェクトURL、ライセンス、上記の形式による一文説明を添えてください。
日本・アジア太平洋地域のご利用について: 経済産業省(METI)の「AI事業者ガイドライン」(2024年)は、企業がAI活用においてデータガバナンスとリスク管理を適切に実施することを求めています。ローカル推論はデータを自社システム内に留めるため、個人情報保護法(APPI)およびアジア太平洋地域のデータ越境規制(日本・シンガポール・マレーシア・韓国)への準拠において構造的に有利な構成です。エンタープライズ展開では、METIガイドラインに基づくリスク評価と、使用ツールのライセンス確認(特に商用利用時のAGPL条項)を推奨します。
参考文献
- ggml-org/llama.cpp GitHub — ランタイムアーキテクチャと対応モデルの主要ソース。
- Ollama Library — 公式モデルカタログとランタイムドキュメント。
- LM Studio Documentation — 主要デスクトップGUIの機能リファレンス。
- Open WebUI Documentation — 主要セルフホストWeb UIの機能リファレンス。
- Hugging Face Hub — 上記各ランタイムが使用するモデル重みのダウンロード元。
- awesome-local-llm GitHubリスト — プロジェクト掲載の健全性チェックに使用するコミュニティ管理インベントリ。
よくある質問
ローカルLLMランタイムとデスクトップアプリの違いは何ですか?
ランタイム(Ollama、llama.cpp、vLLM)はモデル重みを読み込みAPIを提供するエンジンです — 通常OpenAI互換。デスクトップアプリ(LM Studio、Jan、GPT4All)はランタイムを呼び出すチャットUIです。一部のアプリは独自ランタイムを内蔵し(LM Studioはllama.cppを組み込み)、別途インストールが必要なものもあります(Open WebUIはOllamaを呼び出す)。ランタイムが何が可能かを決め、アプリが使いやすさを決めます。
このリストから複数のツールを同時に使えますか?
はい — ほとんどのスタックは2〜4つのツールを組み合わせます。一般的な構成:Ollamaをランタイムに、Open WebUIをチャットに、AnythingLLMをドキュメントチャットに、Continue.devをコーディングに — 4つすべてが1台のマシン上の同じOllamaインスタンスを使います。「実用的なスタック構成」テーブルに競合なく動作する組み合わせを掲載しています。
テレメトリなしで完全オフライン動作するツールはどれですか?
Ollama、llama.cpp、vLLM、Jan、GPT4All、Open WebUI、AnythingLLM、PrivateGPT、Continue.dev、Aider、KoboldCpp、Llamafile、MLX-LM、およびこのディレクトリのAGPL/MITライセンスのほとんどのアプリは、モデルダウンロード後に完全オフラインで動作します。LM Studioといくつかのプロプライエタリツールは設定で無効化できるオプション分析機能を持ちます — インストール後にパケットキャプチャで確認してください。ブラウザベースのUI(Open WebUI、LibreChat)はローカルバックエンドで設定された場合のみローカルです。
商用ライセンス(商用利用不可)のツールはありますか?
一部あります:LM Studio、Msty、Backyard AI、Layla、Cursorはプロプライエタリ — 通常は無料使用可能ですが再配布不可で、商用条件はベンダーによって異なります。Private LLMは有料です。AGPLライセンスのツール(Jan、KoboldCpp、text-generation-webui、SillyTavern、Khoj、Copilot for Obsidian)は商用を含むあらゆる目的に無料ですが、変更して公開ホスティングする場合はソースコードの開示が必要です。Apache 2.0とMITプロジェクト(大多数)は商用を含むあらゆる場面で実質的な制約なく使用できます。
Apple Silicon(Mシリーズ)をネイティブサポートするツールはどれですか?
Ollama、llama.cpp、MLX-LM、LM Studio、Jan、Enchanted、GPT4All、MLC Chat、AnythingLLM、ほとんどのElectron/TauriアプリがApple SiliconでネイティブにMetalバックエンドを使って動作します。MLX-LMはApple専用でMシリーズの大型モデルに最速です。vLLM、TensorRT-LLM、ExLlamaV2はNVIDIA重視でApple Siliconでは動作しないか性能が低いです — Appleユーザーにはメタルバックエンドのollamaがデフォルト推奨です。
これらのツールはすべてGGUFモデル形式をサポートしていますか?
GGUFはllama.cppとそれをラップするツール(Ollama、LM Studio、Jan、GPT4All、KoboldCpp、Llamafile)のネイティブ形式です。vLLMとTensorRT-LLMは高スループット向けに独自の最適化フォーマット(通常AWQまたはFP16)を使用します。ExLlamaV2はEXL2量子化を使用。MLX-LMはMLX変換済み重みを使用します。ほとんどのツールはGGUFを受け付けますが、一部(vLLM、TensorRT-LLM、ExLlamaV2、MLX-LM)はHugging Face元重みからの一度限りの変換ステップが必要です。
プログラミング経験のないユーザーに適したツールはどれですか?
GPT4Allが最もシンプルなインストール(ワンクリック、8GB RAMで動作)。LM Studioはターミナル不要で最も機能が充実。JanはノーコードオプションでプライバシーにJanが最適。ドキュメントチャットをコマンドライン不要で行うなら、AnythingLLMが最も簡単です。4つすべてが上のデスクトップGUIアプリカテゴリに掲載されています。
これらのツールをサーバーで動かしてリモートアクセスできますか?
ほとんどのサーバー対応ツール(Ollama、vLLM、LocalAI、Open WebUI、LibreChat、PrivateGPT、AnythingLLM)はHTTP APIを公開し、設定で構成可能なネットワークインターフェースにバインドします。標準パターン:ホームサーバーまたはVPS上でOllamaを動かし、サーバーIPに向けたUIをラップトップまたはスマートフォンで使用。APIは通常のWebサービスと同様に扱ってください — リバースプロキシ越しにlocalhostにバインドするか、認証付きのプライベートネットワークに。Open WebUIはマルチユーザーサポートを標準搭載しています。
マルチユーザー / チーム設定をサポートするツールはどれですか?
Open WebUI、LibreChat、h2oGPT、AnythingLLM(管理機能有効時)、Difyはロールベースアクセスとユーザー別会話履歴を持つマルチユーザー向けに設計されています。同時推論が重要な場合、vLLMが適切なサービング層です — Ollamaでは同時接続3件超で達成できないスループットで複数ユーザーのリクエストをバッチ処理します。
このディレクトリはどのくらいの頻度で更新されますか?
6か月ごと — 最終見直しは2026年7月、次回の予定更新は2026年11月です。中間の変更(プロジェクトが非活性になった、新しいツールが有意なシェアを獲得した、ライセンスが変わった)は既存エントリーへのパッチとして適用されます。新しいカテゴリや層は構造の安定性を保つため更新を待ちます。「参考文献」セクションに更新間のエコシステム監視に使用するコミュニティインデックスを掲載しています。
画像生成をクラウド呼び出しなしでローカルに行えますか?
はい — Stable Diffusion、ComfyUI、Invoke AI、AUTOMATIC1111 WebUIなど、Tier 10のツールはすべてローカルハードウェア上で完結します。Stable Diffusionには6GB以上のVRAM(RTX 3060、RTX 4060など)が必要です。Fooocusなどの最適化UIは4〜6GBのカードでも動作します。Real-ESRGANは生成画像をアップスケールし、ControlNetは空間的な制御(エッジ・ポーズ・深度マップ)を追加、AnimateDiffはテキストから動画を生成します。すべて外部サーバーへデータを送信せずに動作します。