重要なポイント
- 9層・88プロジェクト・1つの地図。 ランタイム、デスクトップアプリ、Web UI、コーディングアシスタント、RAGシステム、エージェントフレームワーク、音声/マルチモーダル、モバイルクライアント、専門プラグイン — 2026年の主要プロジェクトはほぼすべて正確に1つの層に収まります。
- まずランタイムを選ぶ。 Ollamaは読者の約95%に適したデフォルト。llama.cppは他の多くのツールの基盤エンジン。vLLMはマルチユーザーGPUデプロイの本番向け選択肢です。
- ランタイム上の層はほとんどがオプション。 チャットにはデスクトップアプリまたはWeb UIのどちらか一方で十分です。IDEとの統合が必要な場合のみコーディングハーネスを追加。自分のドキュメントを参照したい場合のみRAGシステムを追加してください。
- ライセンスは商用利用で重要。 MITとApache 2.0がエコシステムを占めています。AGPLは一部のUI(text-generation-webui、KoboldCpp、Jan、SillyTavern)に見られます — 個人利用は問題なし、商用デプロイは要確認。
- マルチツールスタックが標準的。 Ollama + Open WebUI + AnythingLLM + Continue.devは1台のマシンでチャット・RAG・コーディングを妥協なくカバーします。下の「実用的なスタック構成」テーブルに実際に機能する組み合わせを掲載しています。
1. ローカルLLMランタイム & 推論エンジン
ランタイムはモデルの重みをメモリに読み込み、プロンプトをトークンに変換するエンジンです。 ローカルLLMスタックの最初の選択肢であり、その上のすべて(デスクトップアプリ、Web UI、コーディング統合)を制約します。Ollamaは2026年にOpenAI互換APIとワンコマンドインストールでユーザーシェアを獲得しています。llama.cppは他の多くのツールの基盤C++エンジン。vLLMはGPU上で複数ユーザーの同時リクエストを処理する場合の選択肢です。
Ollama
- Link:
- ollama.com
- 概要:
- 最も簡単 — ワンコマンドインストール、OpenAI互換API、豊富なモデルライブラリ
- ライセンス:
- MIT
llama.cpp
- 概要:
- 他の多くのツールの基盤C++エンジン。Apple Siliconを含む全環境で動作
- ライセンス:
- MIT
vLLM
- 概要:
- マルチユーザーGPUデプロイ向け高スループットサービング
- ライセンス:
- Apache 2.0
LocalAI
- Link:
- localai.io
- 概要:
- OpenAI APIのドロップイン代替。複数のバックエンドに対応
- ライセンス:
- MIT
TensorRT-LLM
- 概要:
- エンタープライズGPU向けNVIDIA最適化推論
- ライセンス:
- Apache 2.0
MLC LLM
- Link:
- mlc.ai/mlc-llm
- 概要:
- モバイル・エッジデバイス向けデプロイランタイム
- ライセンス:
- Apache 2.0
SGLang
- 概要:
- エージェントパイプライン向け構造化推論サービング
- ライセンス:
- Apache 2.0
ExLlamaV2
- 概要:
- RTX GPU最適化の高速量子化推論
- ライセンス:
- MIT
KoboldCpp
- 概要:
- UI内蔵の軽量llama.cppラッパー
- ライセンス:
- AGPL 3.0
Llamafile
- 概要:
- Mozilla製の単一ファイルポータブルLLM実行
- ライセンス:
- Apache 2.0
MLX-LM
- 概要:
- Apple Research製のApple Siliconネイティブランタイム
- ライセンス:
- MIT
2. デスクトップGUIアプリ
デスクトップアプリはランタイムをチャットインターフェースとモデルブラウザでラップします。 ターミナル操作不要でダウンロード・クリック・チャットができるため、ほとんどの非技術系ユーザーの出発点です。LM Studio、Jan、GPT4Allが2026年の大半のユーザーベースを占めています。AnythingLLMはデスクトップアプリとRAG層を兼ねています。Open Interpreterはローカルモデルがコンピュータを操作できる特殊なケースです。
LM Studio
- Link:
- lmstudio.ai
- 概要:
- 最も洗練されたGUI。HuggingFaceモデルブラウザ内蔵、サーバーモード対応
- ライセンス:
- 無料(プロプライエタリ)
Atomic Chat
- Link:
- atomic.chat
- 概要:
- デスクトップ・モバイル対応のオフラインチャットアプリ、ワンクリックでローカルエージェントを実行
- ライセンス:
- Apache 2.0
Jan
- Link:
- jan.ai
- 概要:
- プライバシー重視のオフラインChatGPTクローン。完全オープンソース
- ライセンス:
- AGPL 3.0
GPT4All
- Link:
- nomic.ai/gpt4all
- 概要:
- 初心者向け。CPU onlyでの動作が強力
- ライセンス:
- MIT
AnythingLLM
- Link:
- anythingllm.com
- 概要:
- ベクターストア内蔵のRAGとドキュメントチャット
- ライセンス:
- MIT
Msty
- Link:
- msty.app
- 概要:
- すっきりしたコンシューマーUX。マルチプロバイダー対応
- ライセンス:
- 無料(プロプライエタリ)
Cherry Studio
- Link:
- cherry-ai.com
- 概要:
- 豊富なカスタマイズのマルチプロバイダーデスクトップAI
- ライセンス:
- AGPL 3.0
Backyard AI
- Link:
- backyard.ai
- 概要:
- キャラクターチャットとロールプレイ向けデスクトップクライアント
- ライセンス:
- 無料(プロプライエタリ)
Enchanted
- 概要:
- ネイティブmacOS/iOS向け最小限のOllamaクライアント
- ライセンス:
- Apache 2.0
h2oGPT
- 概要:
- エンタープライズ機能が充実したデスクトップ・サーバーアプリ
- ライセンス:
- Apache 2.0
Open Interpreter
- 概要:
- ローカルLLMがコンピュータを操作しコードを実行できる
- ライセンス:
- AGPL 3.0
3. Web UI & ブラウザフロントエンド
Web UIはセルフホスト型ChatGPTクローンです — 同じ会話インターフェースを、自分のマシンまたはLAN上のランタイムに向けます。マルチデバイスアクセスやチームでの利用に最適です。Open WebUIが2026年のセルフホストセグメントを支配し、LibreChatがチーム機能の代替、SillyTavernが専用のロールプレイUIです。
Open WebUI
- Link:
- openwebui.com
- 概要:
- RAG内蔵の最も人気のあるセルフホストChatGPT風UI
- ライセンス:
- BSD 3-Clause
LibreChat
- Link:
- librechat.ai
- 概要:
- チーム機能付きマルチモデルChatGPT代替
- ライセンス:
- MIT
text-generation-webui
- 概要:
- 豊富なプラグインエコシステムを持つパワーユーザー向けUI
- ライセンス:
- AGPL 3.0
SillyTavern
- 概要:
- ロアブック付きロールプレイとキャラクターチャット
- ライセンス:
- AGPL 3.0
LobeChat
- Link:
- lobehub.com
- 概要:
- プラグインマーケットプレイス付きのモダンな洗練されたUI
- ライセンス:
- MIT
Big-AGI
- 概要:
- ペルソナ付きの高度なマルチプロバイダーフロントエンド
- ライセンス:
- MIT
NextChat
- 概要:
- 軽量Webチャット。シンプルなデプロイ
- ライセンス:
- MIT
Page Assist
- 概要:
- ChromeとFirefox向けブラウザサイドバーAI
- ライセンス:
- MIT
Chatbox
- Link:
- chatboxai.app
- 概要:
- クロスプラットフォームのデスクトップ・Webクライアント
- ライセンス:
- GPLv3
4. コーディングアシスタント & IDE統合
コーディングアシスタントはOpenAI互換APIを介してローカルLLMをエディタまたはターミナルに接続します。 選択はワークフローの好みによります:エディタ内自動補完(Continue.dev)、自律エージェント編集(Cline、OpenHands)、gitネイティブのdiff編集(Aider)。3つのパターンすべてがOpenAI Chat Completionsプロトコルに対応するランタイムで動作します。2026年最も一般的なバックエンドはOllamaです。
Continue.dev
- Link:
- continue.dev
- 概要:
- ローカルモデルを使ったVS CodeとJetBrainsの自動補完・チャット
- ライセンス:
- Apache 2.0
Aider
- Link:
- aider.chat
- 概要:
- マルチファイル編集対応のターミナルペアプログラマー
- ライセンス:
- Apache 2.0
Cline
- Link:
- cline.bot
- 概要:
- VS Code向け自律コーディングエージェント
- ライセンス:
- Apache 2.0
Tabby
- Link:
- tabby.tabbyml.com
- 概要:
- セルフホスト型GitHub Copilot代替
- ライセンス:
- Apache 2.0
CodeGPT
- Link:
- codegpt.co
- 概要:
- 複数エディター向けIDE統合
- ライセンス:
- MIT
OpenHands
- 概要:
- AIソフトウェアエンジニアエージェント(旧OpenDevin)
- ライセンス:
- MIT
Cursor(ローカルモード)
- Link:
- cursor.com
- 概要:
- ローカルモデル対応のAIファーストコードエディター
- ライセンス:
- 無料(プロプライエタリ)
Twinny
- 概要:
- VS Code向け無料Copilot代替
- ライセンス:
- MIT
5. RAG & ドキュメントチャットシステム
RAG(Retrieval-Augmented Generation)システムはローカルLLMをembeddingモデルとベクターストアと組み合わせ、自分のドキュメントから回答できるようにします。** ターンキーアプリ(AnythingLLM、PrivateGPT、Quivr、Khoj)とフレームワークライブラリ(LlamaIndex、Haystack、txtai)に分かれます。RAGFlowは2026年に引用精度の高いドキュメント処理で存在感を高めています。
AnythingLLM
- Link:
- anythingllm.com
- 概要:
- ワークスペース付きの最も簡単なオールインワン個人RAG
- ライセンス:
- MIT
PrivateGPT
- 概要:
- 完全オフライン対応のエンタープライズ向けRAG
- ライセンス:
- Apache 2.0
Quivr
- 概要:
- セルフホスト型個人知識アシスタント
- ライセンス:
- Apache 2.0
Khoj
- Link:
- khoj.dev
- 概要:
- ObsidianとNotionと同期する個人AI第二の脳
- ライセンス:
- AGPL 3.0
Dify
- Link:
- dify.ai
- 概要:
- RAGとエージェントサポート付きAIワークフロービルダー
- ライセンス:
- Modified Apache 2.0
Flowise
- Link:
- flowiseai.com
- 概要:
- ビジュアルLangChainワークフロービルダー
- ライセンス:
- Apache 2.0
Langflow
- Link:
- langflow.org
- 概要:
- RAGコンポーネント付きビジュアルAIオーケストレーション
- ライセンス:
- MIT
LlamaIndex
- Link:
- llamaindex.ai
- 概要:
- RAGフレームワーク / Pythonライブラリ — カスタム開発の基盤
- ライセンス:
- MIT
Haystack
- Link:
- haystack.deepset.ai
- 概要:
- deepset製の検索・RAGフレームワーク
- ライセンス:
- Apache 2.0
RAGFlow
- Link:
- ragflow.io
- 概要:
- 引用抽出付きの深いドキュメント理解RAG
- ライセンス:
- Apache 2.0
txtai
- 概要:
- 1ライブラリに組み込まれたベクターDB + LLMデータベース
- ライセンス:
- Apache 2.0
6. エージェントフレームワーク & オーケストレーション
エージェントフレームワークはワンショットLLM呼び出しをマルチステップワークフローに変換します — 計画・実行・観察・繰り返し。LangChainが汎用デフォルトとして残っています。CrewAIとAutoGenはロールベースのマルチエージェントセットアップに特化。LangGraphは長時間フロー全体でのステート管理が重要な場合に適しています。以下8つのフレームワークはすべてローカルOllamaバックエンドで問題なく動作します。
LangChain
- Link:
- langchain.com
- 概要:
- 汎用LLMアプリケーションフレームワーク
- ライセンス:
- MIT
LlamaIndex
- Link:
- llamaindex.ai
- 概要:
- RAG重視のエージェント・データフレームワーク
- ライセンス:
- MIT
CrewAI
- Link:
- crewai.com
- 概要:
- ロールベースのマルチエージェントワークフロー
- ライセンス:
- MIT
AutoGen
- 概要:
- Microsoftのマルチエージェントオーケストレーションフレームワーク
- ライセンス:
- CC-BY-4.0 / MIT
Semantic Kernel
- 概要:
- C#/Python/Java向けMicrosoftエンタープライズオーケストレーションSDK
- ライセンス:
- MIT
LangGraph
- 概要:
- ステートフルなグラフベースエージェントワークフロー
- ライセンス:
- MIT
Letta(旧MemGPT)
- Link:
- letta.com
- 概要:
- 長期記憶エージェント
- ライセンス:
- Apache 2.0
Pydantic AI
- Link:
- ai.pydantic.dev
- 概要:
- Pydantic上に構築された型安全エージェントフレームワーク
- ライセンス:
- MIT
詳細記事:MCPを使ったローカルAIエージェント
7. 音声・スピーチ & マルチモーダル
音声・マルチモーダルスタックはローカルLLMをテキスト以外に拡張します — 音声入力(STT)、音声出力(TTS)、視覚。Whisper.cppとfaster-whisperがローカルSTT層を支配。PiperとCoquiがTTS層を共有し、XTTS v2が音声クローニングで優位。LLaVAとOllamaビジョンモデルがビジョン側を担当します。この層と小さなチャットモデルを組み合わせれば完全オフライン音声アシスタントが構築可能です。
Whisper.cpp
- 概要:
- CPUまたはGPUで動作するローカル音声認識
- ライセンス:
- MIT
faster-whisper
- 概要:
- CTranslate2を使った高速Whisper文字起こし
- ライセンス:
- MIT
Piper TTS
- 概要:
- 軽量ローカルテキスト読み上げ
- ライセンス:
- MIT
Coqui TTS
- 概要:
- 複数モデル対応オープンソース音声合成
- ライセンス:
- MPL 2.0
XTTS v2
- 概要:
- 多言語対応の音声クローニング
- ライセンス:
- CPML
Bark
- 概要:
- 非言語音を含む生成音声合成
- ライセンス:
- MIT
StyleTTS 2
- 概要:
- 高品質な自然音声TTS
- ライセンス:
- MIT
LLaVA
- Link:
- llava-vl.github.io
- 概要:
- ローカルビジョン + 言語モデル
- ライセンス:
- Apache 2.0
Ollamaビジョンモデル
- Link:
- ollama.com
- 概要:
- Ollamaによるローカルビジョン(Llama 3.2 Vision、Llavaなど)
- ライセンス:
- 各種
8. モバイル & エッジクライアント
モバイルクライアントはApple Neural Engine、Qualcomm NPU、またはCPU推論を使って量子化モデルをスマートフォン上で直接実行します。 MLC LLMプロジェクトが基盤層です。コンシューマーアプリ(PocketPal AI、Private LLM、LLM Farm、Layla)がチャットUIでラップしています。2026年のフラッグシップ機は2-4Bモデルを実用的な速度(8〜15トークン/秒)で実行します。7Bはハイエンド機でギリギリ実行可能な範囲です。
MLC Chat
- Link:
- mlc.ai/mlc-llm
- 概要:
- クロスプラットフォームモバイルLLMランタイム
- ライセンス:
- Apache 2.0
PocketPal AI
- 概要:
- 無料のiOS・Androidローカルクライアント
- ライセンス:
- MIT
Private LLM
- Link:
- privatellm.app
- 概要:
- 洗練されたiOS・macOSローカルLLMアプリ
- ライセンス:
- 有料(プロプライエタリ)
LLM Farm
- 概要:
- モデルブラウザ付きiOSローカルLLM
- ライセンス:
- MIT
Layla
- Link:
- layla-network.ai
- 概要:
- Android優先のローカルLLMアプリ
- ライセンス:
- 無料(プロプライエタリ)
Maid
- 概要:
- オープンソースFlutterモバイルLLMアプリ
- ライセンス:
- MIT
Enchanted
- 概要:
- ネイティブiOS/macOS Ollamaクライアント
- ライセンス:
- Apache 2.0
Chapper
- Link:
- prevolut.uk
- 概要:
- OllamaとLM Studio対応のネイティブモバイルクライアント
- ライセンス:
- 無料
RikkaHub
- 概要:
- オープンソースAndroidローカルAI
- ライセンス:
- MIT
AnythingLLM Mobile
- Link:
- anythingllm.com
- 概要:
- ローカルAnythingLLMワークスペースへのリモートアクセス
- ライセンス:
- MIT
9. 専門ツール & 生産性向上
専門ツールはローカルLLMを既存のアプリに組み込みます — ノートプラットフォーム(Obsidian、Logseq、Joplin)、自律タスクエージェント(AutoGPT、BabyAGI、MetaGPT)、ロールプレイフロントエンド(Agnai、RisuAI)。汎用チャット画面ではなく、ホストアプリとランタイムがすでにある前提のワークフロー固有の統合です。
Smart Connections
- 概要:
- Obsidianのセマンティック検索・チャットプラグイン
- ライセンス:
- GPL 3.0
Copilot for Obsidian
- 概要:
- ObsidianのローカルLLMチャットプラグイン
- ライセンス:
- AGPL 3.0
Text Generator
- 概要:
- Obsidianのコンテンツ生成プラグイン
- ライセンス:
- MIT
logseq-copilot
- 概要:
- LogseqのローカルとクラウドLLMチャットプラグイン(Obsidian Copilotと同作者)
- ライセンス:
- AGPL 3.0
BMO Chatbot
- 概要:
- ローカルLLM付きObsidianチャットボット
- ライセンス:
- MIT
Joplin AI
- Link:
- joplinapp.org
- 概要:
- ローカルAI統合付きJoplinノート
- ライセンス:
- MIT
AutoGPT(ローカル)
- 概要:
- Ollamaサポート付き自律タスクエージェント
- ライセンス:
- MIT
BabyAGI
- 概要:
- 軽量自律エージェント
- ライセンス:
- MIT
MetaGPT
- 概要:
- マルチエージェントのソフトウェア会社シミュレーション
- ライセンス:
- MIT
Agnai
- Link:
- agnai.chat
- 概要:
- キャラクターカード付きロールプレイフロントエンド
- ライセンス:
- MIT
RisuAI
- 概要:
- モバイル対応ロールプレイフロントエンド
- ライセンス:
- GPL 3.0
実用的なスタック構成
9つのカテゴリすべてを読みたくない方は、最も近いスタックを選んでそのままコピーしてください。 各行は実際の目標と検証済みの組み合わせ、実際に動作するハードウェア下限を示しています。
| 目的 | スタック | 最低ハードウェア |
|---|---|---|
| カジュアルなチャット | LM Studio standalone | 16GB RAM、GPU不要 |
| パワーユーザーのベストバランス | Ollama + Open WebUI | 16GB RAM、GPU任意 |
| ドキュメントチャット | Ollama + AnythingLLM | 16GB RAM、GPU任意 |
| コーディング | Ollama + Continue.dev | 16GB RAM + GPU推奨 |
| ロールプレイ / クリエイティブ | KoboldCpp + SillyTavern | 16GB RAM、GPU推奨 |
| プライバシー重視業務 | Ollama + Open WebUI + PrivateGPT | 32GB RAM + 12GB VRAM |
| モバイル / 外出先 | MLC Chat または PocketPal AI | iPhone 13+ / Pixel 7+ |
| Apple Silicon | Ollama(MLXバックエンド)またはLM Studio | M2/M3/M4/M5 16GB+統合メモリ |
| マルチユーザーチーム | vLLM + Open WebUI | 32GB+ RAM + マルチGPU |
ディレクトリの最新性について
このディレクトリは6か月ごとに見直され、見直しの合間にも更新されます(最終更新:2026年7月、次回見直し:2026年11月)。 直近の見直しでは全リンクを再確認し、複数のプロジェクト名とライセンスを修正しました:FaradayはBackyard AIに改称、メンテナンスされているCoqui TTSフォークはIdiapがホスト、Cherry StudioはAGPL 3.0です。掲載基準:直近90日間にコミットがあり活発にメンテナンスされていること、検証可能なオープンソースライセンスまたは商用利用の明確な声明があること、2026年に有意なユーザーシェアを持つか空白層を埋めることです。2リリースサイクル以上非活性なプロジェクトは削除し、基準を満たす新規エントリーは次回見直し時に追加します。掲載提案はPromptQuorumリポジトリのissueまたはPRで受け付けています — プロジェクトURL、ライセンス、上記テーブル形式の一文説明を添えてください。
日本・アジア太平洋地域のご利用について: 経済産業省(METI)の「AI事業者ガイドライン」(2024年)は、企業がAI活用においてデータガバナンスとリスク管理を適切に実施することを求めています。ローカル推論はデータを自社システム内に留めるため、個人情報保護法(APPI)およびアジア太平洋地域のデータ越境規制(日本・シンガポール・マレーシア・韓国)への準拠において構造的に有利な構成です。エンタープライズ展開では、METIガイドラインに基づくリスク評価と、使用ツールのライセンス確認(特に商用利用時のAGPL条項)を推奨します。
参考文献
- ggml-org/llama.cpp GitHub — ランタイムアーキテクチャと対応モデルの主要ソース。
- Ollama Library — 公式モデルカタログとランタイムドキュメント。
- LM Studio Documentation — 主要デスクトップGUIの機能リファレンス。
- Open WebUI Documentation — 主要セルフホストWeb UIの機能リファレンス。
- Hugging Face Hub — 上記各ランタイムが使用するモデル重みのダウンロード元。
- awesome-local-llm GitHubリスト — プロジェクト掲載の健全性チェックに使用するコミュニティ管理インベントリ。
よくある質問
ローカルLLMランタイムとデスクトップアプリの違いは何ですか?
ランタイム(Ollama、llama.cpp、vLLM)はモデル重みを読み込みAPIを提供するエンジンです — 通常OpenAI互換。デスクトップアプリ(LM Studio、Jan、GPT4All)はランタイムを呼び出すチャットUIです。一部のアプリは独自ランタイムを内蔵し(LM Studioはllama.cppを組み込み)、別途インストールが必要なものもあります(Open WebUIはOllamaを呼び出す)。ランタイムが何が可能かを決め、アプリが使いやすさを決めます。
このリストから複数のツールを同時に使えますか?
はい — ほとんどのスタックは2〜4つのツールを組み合わせます。一般的な構成:Ollamaをランタイムに、Open WebUIをチャットに、AnythingLLMをドキュメントチャットに、Continue.devをコーディングに — 4つすべてが1台のマシン上の同じOllamaインスタンスを使います。「実用的なスタック構成」テーブルに競合なく動作する組み合わせを掲載しています。
テレメトリなしで完全オフライン動作するツールはどれですか?
Ollama、llama.cpp、vLLM、Jan、GPT4All、Open WebUI、AnythingLLM、PrivateGPT、Continue.dev、Aider、KoboldCpp、Llamafile、MLX-LM、およびこのディレクトリのAGPL/MITライセンスのほとんどのアプリは、モデルダウンロード後に完全オフラインで動作します。LM Studioといくつかのプロプライエタリツールは設定で無効化できるオプション分析機能を持ちます — インストール後にパケットキャプチャで確認してください。ブラウザベースのUI(Open WebUI、LibreChat)はローカルバックエンドで設定された場合のみローカルです。
商用ライセンス(商用利用不可)のツールはありますか?
一部あります:LM Studio、Msty、Backyard AI、Layla、Cursorはプロプライエタリ — 通常は無料使用可能ですが再配布不可で、商用条件はベンダーによって異なります。Private LLMは有料です。AGPLライセンスのツール(Jan、KoboldCpp、text-generation-webui、SillyTavern、Khoj、Open Interpreter、Copilot for Obsidian)は商用を含むあらゆる目的に無料ですが、変更して公開ホスティングする場合はソースコードの開示が必要です。Apache 2.0とMITプロジェクト(大多数)は商用を含むあらゆる場面で実質的な制約なく使用できます。
Apple Silicon(Mシリーズ)をネイティブサポートするツールはどれですか?
Ollama、llama.cpp、MLX-LM、LM Studio、Jan、Enchanted、GPT4All、MLC Chat、AnythingLLM、ほとんどのElectron/TauriアプリがApple SiliconでネイティブにMetalバックエンドを使って動作します。MLX-LMはApple専用でMシリーズの大型モデルに最速です。vLLM、TensorRT-LLM、ExLlamaV2はNVIDIA重視でApple Siliconでは動作しないか性能が低いです — Appleユーザーにはメタルバックエンドのollamaがデフォルト推奨です。
これらのツールはすべてGGUFモデル形式をサポートしていますか?
GGUFはllama.cppとそれをラップするツール(Ollama、LM Studio、Jan、GPT4All、KoboldCpp、Llamafile)のネイティブ形式です。vLLMとTensorRT-LLMは高スループット向けに独自の最適化フォーマット(通常AWQまたはFP16)を使用します。ExLlamaV2はEXL2量子化を使用。MLX-LMはMLX変換済み重みを使用します。ほとんどのツールはGGUFを受け付けますが、一部(vLLM、TensorRT-LLM、ExLlamaV2、MLX-LM)はHugging Face元重みからの一度限りの変換ステップが必要です。
プログラミング経験のないユーザーに適したツールはどれですか?
GPT4Allが最もシンプルなインストール(ワンクリック、8GB RAMで動作)。LM Studioはターミナル不要で最も機能が充実。JanはノーコードオプションでプライバシーにJanが最適。ドキュメントチャットをコマンドライン不要で行うなら、AnythingLLMが最も簡単です。4つすべてが上のデスクトップGUIアプリカテゴリに掲載されています。
これらのツールをサーバーで動かしてリモートアクセスできますか?
ほとんどのサーバー対応ツール(Ollama、vLLM、LocalAI、Open WebUI、LibreChat、PrivateGPT、AnythingLLM)はHTTP APIを公開し、設定で構成可能なネットワークインターフェースにバインドします。標準パターン:ホームサーバーまたはVPS上でOllamaを動かし、サーバーIPに向けたUIをラップトップまたはスマートフォンで使用。APIは通常のWebサービスと同様に扱ってください — リバースプロキシ越しにlocalhostにバインドするか、認証付きのプライベートネットワークに。Open WebUIはマルチユーザーサポートを標準搭載しています。
マルチユーザー / チーム設定をサポートするツールはどれですか?
Open WebUI、LibreChat、h2oGPT、AnythingLLM(管理機能有効時)、Difyはロールベースアクセスとユーザー別会話履歴を持つマルチユーザー向けに設計されています。同時推論が重要な場合、vLLMが適切なサービング層です — Ollamaでは同時接続3件超で達成できないスループットで複数ユーザーのリクエストをバッチ処理します。
このディレクトリはどのくらいの頻度で更新されますか?
6か月ごと — 最終見直しは2026年7月、次回の予定更新は2026年11月です。中間の変更(プロジェクトが非活性になった、新しいツールが有意なシェアを獲得した、ライセンスが変わった)は既存エントリーへのパッチとして適用されます。新しいカテゴリや層は構造の安定性を保つため更新を待ちます。「参考文献」セクションに更新間のエコシステム監視に使用するコミュニティインデックスを掲載しています。