Skip to main content
PromptQuorum
ホーム/ローカルLLM活用/ローカルLLMソフトウェア完全ディレクトリ:自分のハードウェアでAIを動かす88のツール(2026年版)
Overview & Reference

ローカルLLMソフトウェア完全ディレクトリ:自分のハードウェアでAIを動かす88のツール(2026年版)

·20分で読める·Hans Kuepper 著 · PromptQuorumの創設者、マルチモデルAIディスパッチツール · PromptQuorum

この更新版2026年ディレクトリ(最終更新:2026年7月)は、88のローカルLLMツール・デプロイツール・フレームワークを9層にわたってマッピングしています。 2026年のローカルLLMエコシステムは明確にこれらの層に分かれています。ランタイム(Ollama、llama.cpp、vLLM)はモデルを通じてトークンを処理します。デスクトップアプリ(LM Studio、Jan、GPT4All)はランタイムをチャットUIでラップします。Web UI(Open WebUI、LibreChat)はブラウザで同じことを行います。コーディングアシスタント(Continue.dev、Cline、Aider)はローカルモデルをエディタに接続します。RAGシステム(AnythingLLM、PrivateGPT)はドキュメントに向けます。エージェントフレームワーク(LangChain、CrewAI、LangGraph)は呼び出しをマルチステップワークフローに連鎖させます。音声/マルチモーダルスタック(Whisper.cpp、Piper、LLaVA)はテキスト以外に拡張します。モバイルクライアント(MLC Chat、PocketPal AI)はスマートフォンで動作します。専門プラグイン(Obsidian、Logseq、AutoGPT)は既存ツールに統合します。まずランタイムを選び(ほぼ全員にOllama)、その上に1〜2層を追加してください。**

これは、88のローカルLLMツール・アプリ・フレームワーク・デプロイソフトウェアをまとめた更新版2026年ディレクトリです(最終更新:2026年7月)。2026年のローカルLLMエコシステムは、最初に間違ったツールを選ぶだけで数時間を無駄にするほど広大です。このディレクトリでは、ランタイム・デスクトップアプリ・Web UI・コーディングアシスタント・RAGシステム・エージェントフレームワーク・音声/マルチモーダル・モバイルクライアント・専門プラグインの9層にわたる88のプロジェクトを、説明・ライセンス・URLとともに掲載しています。ローカルLLMツール、マルチユーザー提供のためのデプロイツール、エージェント構築用フレームワークのいずれを選ぶ場合でも、スタックを決める前の「何が存在するか」を把握するための地図としてご活用ください。

このページには参考用の第三者製品へのリンクが含まれています。PromptQuorumはいかなるアフィリエイトプログラムにも参加しておらず、これらはコミッションを得ない単なる参照リンクです。リンクのクリックと次のステップはご自身の責任です。これらのリンクはPromptQuorumによる推奨や検証を表すものではありません。

スライドデッキ: ローカルLLMソフトウェア完全ディレクトリ:自分のハードウェアでAIを動かす88のツール(2026年版)

以下のスライドデッキでは:ローカルLLMスタックの9層概要(ランタイムから専門プラグインまで);ランタイム(Ollama/llama.cpp/vLLM)、デスクトップアプリ、Web UI、コーディングアシスタント、RAGシステム、エージェントフレームワークの6ツール比較表;目的・スタック・最低ハードウェアの9行実用スタック表;5ステップのスタック選択ガイド;よくある質問を掲載しています。PDFをローカルLLMソフトウェア参照カードとしてダウンロードしてください。

以下のスライドを閲覧するか、PDFとしてダウンロードしてください。 リファレンスカードをダウンロード(PDF)

重要なポイント

  • 9層・88プロジェクト・1つの地図。 ランタイム、デスクトップアプリ、Web UI、コーディングアシスタント、RAGシステム、エージェントフレームワーク、音声/マルチモーダル、モバイルクライアント、専門プラグイン — 2026年の主要プロジェクトはほぼすべて正確に1つの層に収まります。
  • まずランタイムを選ぶ。 Ollamaは読者の約95%に適したデフォルト。llama.cppは他の多くのツールの基盤エンジン。vLLMはマルチユーザーGPUデプロイの本番向け選択肢です。
  • ランタイム上の層はほとんどがオプション。 チャットにはデスクトップアプリまたはWeb UIのどちらか一方で十分です。IDEとの統合が必要な場合のみコーディングハーネスを追加。自分のドキュメントを参照したい場合のみRAGシステムを追加してください。
  • ライセンスは商用利用で重要。 MITとApache 2.0がエコシステムを占めています。AGPLは一部のUI(text-generation-webui、KoboldCpp、Jan、SillyTavern)に見られます — 個人利用は問題なし、商用デプロイは要確認。
  • マルチツールスタックが標準的。 Ollama + Open WebUI + AnythingLLM + Continue.devは1台のマシンでチャット・RAG・コーディングを妥協なくカバーします。下の「実用的なスタック構成」テーブルに実際に機能する組み合わせを掲載しています。
ローカルLLMスタックの9層:ランタイム(Ollama、llama.cpp、vLLM)、デスクトップアプリ、Web UI、コーディング支援、RAGシステム、エージェントFW、音声・マルチモーダル、モバイル、専門ツールにわたる88プロジェクトの全体マップ。
ローカルLLMスタックの9層:ランタイム(Ollama、llama.cpp、vLLM)、デスクトップアプリ、Web UI、コーディング支援、RAGシステム、エージェントFW、音声・マルチモーダル、モバイル、専門ツールにわたる88プロジェクトの全体マップ。

1. ローカルLLMランタイム & 推論エンジン

ランタイムはモデルの重みをメモリに読み込み、プロンプトをトークンに変換するエンジンです。 ローカルLLMスタックの最初の選択肢であり、その上のすべて(デスクトップアプリ、Web UI、コーディング統合)を制約します。Ollamaは2026年にOpenAI互換APIとワンコマンドインストールでユーザーシェアを獲得しています。llama.cppは他の多くのツールの基盤C++エンジン。vLLMはGPU上で複数ユーザーの同時リクエストを処理する場合の選択肢です。

Ollama

概要:
最も簡単 — ワンコマンドインストール、OpenAI互換API、豊富なモデルライブラリ
ライセンス:
MIT

llama.cpp

概要:
他の多くのツールの基盤C++エンジン。Apple Siliconを含む全環境で動作
ライセンス:
MIT

vLLM

概要:
マルチユーザーGPUデプロイ向け高スループットサービング
ライセンス:
Apache 2.0

LocalAI

概要:
OpenAI APIのドロップイン代替。複数のバックエンドに対応
ライセンス:
MIT

TensorRT-LLM

概要:
エンタープライズGPU向けNVIDIA最適化推論
ライセンス:
Apache 2.0

MLC LLM

概要:
モバイル・エッジデバイス向けデプロイランタイム
ライセンス:
Apache 2.0

SGLang

概要:
エージェントパイプライン向け構造化推論サービング
ライセンス:
Apache 2.0

ExLlamaV2

概要:
RTX GPU最適化の高速量子化推論
ライセンス:
MIT

KoboldCpp

概要:
UI内蔵の軽量llama.cppラッパー
ライセンス:
AGPL 3.0

Llamafile

概要:
Mozilla製の単一ファイルポータブルLLM実行
ライセンス:
Apache 2.0

MLX-LM

概要:
Apple Research製のApple Siliconネイティブランタイム
ライセンス:
MIT

詳細比較:llama.cpp vs Ollama vs vLLM

Ollama vs llama.cpp vs vLLM比較:OllamaはMITライセンスで1コマンドインストール・OpenAI互換API、llama.cppは基盤となるMIT C++エンジン、vLLMはApache 2.0のマルチユーザーGPU配信向け選択肢。
Ollama vs llama.cpp vs vLLM比較:OllamaはMITライセンスで1コマンドインストール・OpenAI互換API、llama.cppは基盤となるMIT C++エンジン、vLLMはApache 2.0のマルチユーザーGPU配信向け選択肢。
RunPodの料金を確認して登録する製品リンク · 開示済みVast.aiの料金を確認して登録する製品リンク · 開示済みLambda Labsの料金を確認して登録する製品リンク · 開示済み

2. デスクトップGUIアプリ

デスクトップアプリはランタイムをチャットインターフェースとモデルブラウザでラップします。 ターミナル操作不要でダウンロード・クリック・チャットができるため、ほとんどの非技術系ユーザーの出発点です。LM Studio、Jan、GPT4Allが2026年の大半のユーザーベースを占めています。AnythingLLMはデスクトップアプリとRAG層を兼ねています。Open Interpreterはローカルモデルがコンピュータを操作できる特殊なケースです。

LM Studio

概要:
最も洗練されたGUI。HuggingFaceモデルブラウザ内蔵、サーバーモード対応
ライセンス:
無料(プロプライエタリ)

Atomic Chat

概要:
デスクトップ・モバイル対応のオフラインチャットアプリ、ワンクリックでローカルエージェントを実行
ライセンス:
Apache 2.0

Jan

Link:
jan.ai
概要:
プライバシー重視のオフラインChatGPTクローン。完全オープンソース
ライセンス:
AGPL 3.0

GPT4All

概要:
初心者向け。CPU onlyでの動作が強力
ライセンス:
MIT

AnythingLLM

概要:
ベクターストア内蔵のRAGとドキュメントチャット
ライセンス:
MIT

Msty

概要:
すっきりしたコンシューマーUX。マルチプロバイダー対応
ライセンス:
無料(プロプライエタリ)

Cherry Studio

概要:
豊富なカスタマイズのマルチプロバイダーデスクトップAI
ライセンス:
AGPL 3.0

Backyard AI

概要:
キャラクターチャットとロールプレイ向けデスクトップクライアント
ライセンス:
無料(プロプライエタリ)

Enchanted

概要:
ネイティブmacOS/iOS向け最小限のOllamaクライアント
ライセンス:
Apache 2.0

h2oGPT

概要:
エンタープライズ機能が充実したデスクトップ・サーバーアプリ
ライセンス:
Apache 2.0

Open Interpreter

概要:
ローカルLLMがコンピュータを操作しコードを実行できる
ライセンス:
AGPL 3.0

詳細比較:LM Studio vs Jan vs GPT4All

Mstyの料金を確認する製品リンク · 開示済みAnythingLLM Cloudの料金を確認する製品リンク · 開示済み

3. Web UI & ブラウザフロントエンド

Web UIはセルフホスト型ChatGPTクローンです — 同じ会話インターフェースを、自分のマシンまたはLAN上のランタイムに向けます。マルチデバイスアクセスやチームでの利用に最適です。Open WebUIが2026年のセルフホストセグメントを支配し、LibreChatがチーム機能の代替、SillyTavernが専用のロールプレイUIです。

Open WebUI

概要:
RAG内蔵の最も人気のあるセルフホストChatGPT風UI
ライセンス:
BSD 3-Clause

LibreChat

概要:
チーム機能付きマルチモデルChatGPT代替
ライセンス:
MIT

text-generation-webui

概要:
豊富なプラグインエコシステムを持つパワーユーザー向けUI
ライセンス:
AGPL 3.0

SillyTavern

概要:
ロアブック付きロールプレイとキャラクターチャット
ライセンス:
AGPL 3.0

LobeChat

概要:
プラグインマーケットプレイス付きのモダンな洗練されたUI
ライセンス:
MIT

Big-AGI

概要:
ペルソナ付きの高度なマルチプロバイダーフロントエンド
ライセンス:
MIT

NextChat

概要:
軽量Webチャット。シンプルなデプロイ
ライセンス:
MIT

Page Assist

概要:
ChromeとFirefox向けブラウザサイドバーAI
ライセンス:
MIT

Chatbox

概要:
クロスプラットフォームのデスクトップ・Webクライアント
ライセンス:
GPLv3

詳細比較:SillyTavern vs Agnai vs RisuAI

4. コーディングアシスタント & IDE統合

コーディングアシスタントはOpenAI互換APIを介してローカルLLMをエディタまたはターミナルに接続します。 選択はワークフローの好みによります:エディタ内自動補完(Continue.dev)、自律エージェント編集(Cline、OpenHands)、gitネイティブのdiff編集(Aider)。3つのパターンすべてがOpenAI Chat Completionsプロトコルに対応するランタイムで動作します。2026年最も一般的なバックエンドはOllamaです。

Continue.dev

概要:
ローカルモデルを使ったVS CodeとJetBrainsの自動補完・チャット
ライセンス:
Apache 2.0

Aider

概要:
マルチファイル編集対応のターミナルペアプログラマー
ライセンス:
Apache 2.0

Cline

概要:
VS Code向け自律コーディングエージェント
ライセンス:
Apache 2.0

Tabby

概要:
セルフホスト型GitHub Copilot代替
ライセンス:
Apache 2.0

CodeGPT

概要:
複数エディター向けIDE統合
ライセンス:
MIT

OpenHands

概要:
AIソフトウェアエンジニアエージェント(旧OpenDevin)
ライセンス:
MIT

Cursor(ローカルモード)

概要:
ローカルモデル対応のAIファーストコードエディター
ライセンス:
無料(プロプライエタリ)

Twinny

概要:
VS Code向け無料Copilot代替
ライセンス:
MIT

詳細比較:Continue.dev vs Cline vs Aider

ローカルLLMコーディングの3パターン:Continue.devはVS Code・JetBrainsでのインライン補完、Clineは自律エージェントによるファイル編集、AiderはGitネイティブのターミナルdiff編集 — すべてOllamaのOpenAI互換APIで接続。
ローカルLLMコーディングの3パターン:Continue.devはVS Code・JetBrainsでのインライン補完、Clineは自律エージェントによるファイル編集、AiderはGitネイティブのターミナルdiff編集 — すべてOllamaのOpenAI互換APIで接続。
Cursorの料金を確認する製品リンク · 開示済み

5. RAG & ドキュメントチャットシステム

RAG(Retrieval-Augmented Generation)システムはローカルLLMをembeddingモデルとベクターストアと組み合わせ、自分のドキュメントから回答できるようにします。** ターンキーアプリ(AnythingLLM、PrivateGPT、Quivr、Khoj)とフレームワークライブラリ(LlamaIndex、Haystack、txtai)に分かれます。RAGFlowは2026年に引用精度の高いドキュメント処理で存在感を高めています。

AnythingLLM

概要:
ワークスペース付きの最も簡単なオールインワン個人RAG
ライセンス:
MIT

PrivateGPT

概要:
完全オフライン対応のエンタープライズ向けRAG
ライセンス:
Apache 2.0

Quivr

概要:
セルフホスト型個人知識アシスタント
ライセンス:
Apache 2.0

Khoj

概要:
ObsidianとNotionと同期する個人AI第二の脳
ライセンス:
AGPL 3.0

Dify

Link:
dify.ai
概要:
RAGとエージェントサポート付きAIワークフロービルダー
ライセンス:
Modified Apache 2.0

Flowise

概要:
ビジュアルLangChainワークフロービルダー
ライセンス:
Apache 2.0

Langflow

概要:
RAGコンポーネント付きビジュアルAIオーケストレーション
ライセンス:
MIT

LlamaIndex

概要:
RAGフレームワーク / Pythonライブラリ — カスタム開発の基盤
ライセンス:
MIT

Haystack

概要:
deepset製の検索・RAGフレームワーク
ライセンス:
Apache 2.0

RAGFlow

概要:
引用抽出付きの深いドキュメント理解RAG
ライセンス:
Apache 2.0

txtai

概要:
1ライブラリに組み込まれたベクターDB + LLMデータベース
ライセンス:
Apache 2.0

詳細比較:AnythingLLM vs PrivateGPT vs Open WebUI

ローカルRAGの二択:すぐ使えるアプリ(AnythingLLM、PrivateGPT、Quivr、RAGFlow、Khoj)のノーコード文書チャット vs フレームワーク(LlamaIndex、Haystack、Dify、Flowise、txtai)でのカスタムパイプライン構築。
ローカルRAGの二択:すぐ使えるアプリ(AnythingLLM、PrivateGPT、Quivr、RAGFlow、Khoj)のノーコード文書チャット vs フレームワーク(LlamaIndex、Haystack、Dify、Flowise、txtai)でのカスタムパイプライン構築。

6. エージェントフレームワーク & オーケストレーション

エージェントフレームワークはワンショットLLM呼び出しをマルチステップワークフローに変換します — 計画・実行・観察・繰り返し。LangChainが汎用デフォルトとして残っています。CrewAIとAutoGenはロールベースのマルチエージェントセットアップに特化。LangGraphは長時間フロー全体でのステート管理が重要な場合に適しています。以下8つのフレームワークはすべてローカルOllamaバックエンドで問題なく動作します。

LangChain

概要:
汎用LLMアプリケーションフレームワーク
ライセンス:
MIT

LlamaIndex

概要:
RAG重視のエージェント・データフレームワーク
ライセンス:
MIT

CrewAI

概要:
ロールベースのマルチエージェントワークフロー
ライセンス:
MIT

AutoGen

概要:
Microsoftのマルチエージェントオーケストレーションフレームワーク
ライセンス:
CC-BY-4.0 / MIT

Semantic Kernel

概要:
C#/Python/Java向けMicrosoftエンタープライズオーケストレーションSDK
ライセンス:
MIT

LangGraph

概要:
ステートフルなグラフベースエージェントワークフロー
ライセンス:
MIT

Letta(旧MemGPT)

概要:
長期記憶エージェント
ライセンス:
Apache 2.0

Pydantic AI

概要:
Pydantic上に構築された型安全エージェントフレームワーク
ライセンス:
MIT

詳細記事:MCPを使ったローカルAIエージェント

7. 音声・スピーチ & マルチモーダル

音声・マルチモーダルスタックはローカルLLMをテキスト以外に拡張します — 音声入力(STT)、音声出力(TTS)、視覚。Whisper.cppとfaster-whisperがローカルSTT層を支配。PiperとCoquiがTTS層を共有し、XTTS v2が音声クローニングで優位。LLaVAとOllamaビジョンモデルがビジョン側を担当します。この層と小さなチャットモデルを組み合わせれば完全オフライン音声アシスタントが構築可能です。

Whisper.cpp

概要:
CPUまたはGPUで動作するローカル音声認識
ライセンス:
MIT

faster-whisper

概要:
CTranslate2を使った高速Whisper文字起こし
ライセンス:
MIT

Piper TTS

概要:
軽量ローカルテキスト読み上げ
ライセンス:
MIT

Coqui TTS

概要:
複数モデル対応オープンソース音声合成
ライセンス:
MPL 2.0

XTTS v2

概要:
多言語対応の音声クローニング
ライセンス:
CPML

Bark

概要:
非言語音を含む生成音声合成
ライセンス:
MIT

StyleTTS 2

概要:
高品質な自然音声TTS
ライセンス:
MIT

LLaVA

概要:
ローカルビジョン + 言語モデル
ライセンス:
Apache 2.0

Ollamaビジョンモデル

概要:
Ollamaによるローカルビジョン(Llama 3.2 Vision、Llavaなど)
ライセンス:
各種

詳細記事:スマートフォンでローカル音声アシスタントを構築する

8. モバイル & エッジクライアント

モバイルクライアントはApple Neural Engine、Qualcomm NPU、またはCPU推論を使って量子化モデルをスマートフォン上で直接実行します。 MLC LLMプロジェクトが基盤層です。コンシューマーアプリ(PocketPal AI、Private LLM、LLM Farm、Layla)がチャットUIでラップしています。2026年のフラッグシップ機は2-4Bモデルを実用的な速度(8〜15トークン/秒)で実行します。7Bはハイエンド機でギリギリ実行可能な範囲です。

MLC Chat

概要:
クロスプラットフォームモバイルLLMランタイム
ライセンス:
Apache 2.0

PocketPal AI

概要:
無料のiOS・Androidローカルクライアント
ライセンス:
MIT

Private LLM

概要:
洗練されたiOS・macOSローカルLLMアプリ
ライセンス:
有料(プロプライエタリ)

LLM Farm

概要:
モデルブラウザ付きiOSローカルLLM
ライセンス:
MIT

Layla

概要:
Android優先のローカルLLMアプリ
ライセンス:
無料(プロプライエタリ)

Maid

概要:
オープンソースFlutterモバイルLLMアプリ
ライセンス:
MIT

Enchanted

概要:
ネイティブiOS/macOS Ollamaクライアント
ライセンス:
Apache 2.0

Chapper

概要:
OllamaとLM Studio対応のネイティブモバイルクライアント
ライセンス:
無料

RikkaHub

概要:
オープンソースAndroidローカルAI
ライセンス:
MIT

AnythingLLM Mobile

概要:
ローカルAnythingLLMワークスペースへのリモートアクセス
ライセンス:
MIT

詳細記事:2026年のiPhone向けベストローカルLLMアプリ

9. 専門ツール & 生産性向上

専門ツールはローカルLLMを既存のアプリに組み込みます — ノートプラットフォーム(Obsidian、Logseq、Joplin)、自律タスクエージェント(AutoGPT、BabyAGI、MetaGPT)、ロールプレイフロントエンド(Agnai、RisuAI)。汎用チャット画面ではなく、ホストアプリとランタイムがすでにある前提のワークフロー固有の統合です。

Smart Connections

概要:
Obsidianのセマンティック検索・チャットプラグイン
ライセンス:
GPL 3.0

Copilot for Obsidian

概要:
ObsidianのローカルLLMチャットプラグイン
ライセンス:
AGPL 3.0

Text Generator

概要:
Obsidianのコンテンツ生成プラグイン
ライセンス:
MIT

logseq-copilot

概要:
LogseqのローカルとクラウドLLMチャットプラグイン(Obsidian Copilotと同作者)
ライセンス:
AGPL 3.0

BMO Chatbot

概要:
ローカルLLM付きObsidianチャットボット
ライセンス:
MIT

Joplin AI

概要:
ローカルAI統合付きJoplinノート
ライセンス:
MIT

AutoGPT(ローカル)

概要:
Ollamaサポート付き自律タスクエージェント
ライセンス:
MIT

BabyAGI

概要:
軽量自律エージェント
ライセンス:
MIT

MetaGPT

概要:
マルチエージェントのソフトウェア会社シミュレーション
ライセンス:
MIT

Agnai

概要:
キャラクターカード付きロールプレイフロントエンド
ライセンス:
MIT

RisuAI

概要:
モバイル対応ロールプレイフロントエンド
ライセンス:
GPL 3.0

詳細記事:2026年のObsidianとローカルLLM

実用的なスタック構成

9つのカテゴリすべてを読みたくない方は、最も近いスタックを選んでそのままコピーしてください。 各行は実際の目標と検証済みの組み合わせ、実際に動作するハードウェア下限を示しています。

目的スタック最低ハードウェア
カジュアルなチャットLM Studio standalone16GB RAM、GPU不要
パワーユーザーのベストバランスOllama + Open WebUI16GB RAM、GPU任意
ドキュメントチャットOllama + AnythingLLM16GB RAM、GPU任意
コーディングOllama + Continue.dev16GB RAM + GPU推奨
ロールプレイ / クリエイティブKoboldCpp + SillyTavern16GB RAM、GPU推奨
プライバシー重視業務Ollama + Open WebUI + PrivateGPT32GB RAM + 12GB VRAM
モバイル / 外出先MLC Chat または PocketPal AIiPhone 13+ / Pixel 7+
Apple SiliconOllama(MLXバックエンド)またはLM StudioM2/M3/M4/M5 16GB+統合メモリ
マルチユーザーチームvLLM + Open WebUI32GB+ RAM + マルチGPU
目的別の実用ローカルLLMスタック9選:LM Studio単体(RAM 16GB・GPU不要)からvLLM+Open WebUIのチーム向け構成(RAM 32GB+マルチGPU)まで、Ollama+Open WebUIが最もバランスの取れた標準構成。
目的別の実用ローカルLLMスタック9選:LM Studio単体(RAM 16GB・GPU不要)からvLLM+Open WebUIのチーム向け構成(RAM 32GB+マルチGPU)まで、Ollama+Open WebUIが最もバランスの取れた標準構成。

ディレクトリの最新性について

このディレクトリは6か月ごとに見直され、見直しの合間にも更新されます(最終更新:2026年7月、次回見直し:2026年11月)。 直近の見直しでは全リンクを再確認し、複数のプロジェクト名とライセンスを修正しました:FaradayはBackyard AIに改称、メンテナンスされているCoqui TTSフォークはIdiapがホスト、Cherry StudioはAGPL 3.0です。掲載基準:直近90日間にコミットがあり活発にメンテナンスされていること、検証可能なオープンソースライセンスまたは商用利用の明確な声明があること、2026年に有意なユーザーシェアを持つか空白層を埋めることです。2リリースサイクル以上非活性なプロジェクトは削除し、基準を満たす新規エントリーは次回見直し時に追加します。掲載提案はPromptQuorumリポジトリのissueまたはPRで受け付けています — プロジェクトURL、ライセンス、上記テーブル形式の一文説明を添えてください。

日本・アジア太平洋地域のご利用について: 経済産業省(METI)の「AI事業者ガイドライン」(2024年)は、企業がAI活用においてデータガバナンスとリスク管理を適切に実施することを求めています。ローカル推論はデータを自社システム内に留めるため、個人情報保護法(APPI)およびアジア太平洋地域のデータ越境規制(日本・シンガポール・マレーシア・韓国)への準拠において構造的に有利な構成です。エンタープライズ展開では、METIガイドラインに基づくリスク評価と、使用ツールのライセンス確認(特に商用利用時のAGPL条項)を推奨します。

参考文献

よくある質問

ローカルLLMランタイムとデスクトップアプリの違いは何ですか?

ランタイム(Ollama、llama.cpp、vLLM)はモデル重みを読み込みAPIを提供するエンジンです — 通常OpenAI互換。デスクトップアプリ(LM Studio、Jan、GPT4All)はランタイムを呼び出すチャットUIです。一部のアプリは独自ランタイムを内蔵し(LM Studioはllama.cppを組み込み)、別途インストールが必要なものもあります(Open WebUIはOllamaを呼び出す)。ランタイムが何が可能かを決め、アプリが使いやすさを決めます。

このリストから複数のツールを同時に使えますか?

はい — ほとんどのスタックは2〜4つのツールを組み合わせます。一般的な構成:Ollamaをランタイムに、Open WebUIをチャットに、AnythingLLMをドキュメントチャットに、Continue.devをコーディングに — 4つすべてが1台のマシン上の同じOllamaインスタンスを使います。「実用的なスタック構成」テーブルに競合なく動作する組み合わせを掲載しています。

テレメトリなしで完全オフライン動作するツールはどれですか?

Ollama、llama.cpp、vLLM、Jan、GPT4All、Open WebUI、AnythingLLM、PrivateGPT、Continue.dev、Aider、KoboldCpp、Llamafile、MLX-LM、およびこのディレクトリのAGPL/MITライセンスのほとんどのアプリは、モデルダウンロード後に完全オフラインで動作します。LM Studioといくつかのプロプライエタリツールは設定で無効化できるオプション分析機能を持ちます — インストール後にパケットキャプチャで確認してください。ブラウザベースのUI(Open WebUI、LibreChat)はローカルバックエンドで設定された場合のみローカルです。

商用ライセンス(商用利用不可)のツールはありますか?

一部あります:LM Studio、Msty、Backyard AI、Layla、Cursorはプロプライエタリ — 通常は無料使用可能ですが再配布不可で、商用条件はベンダーによって異なります。Private LLMは有料です。AGPLライセンスのツール(Jan、KoboldCpp、text-generation-webui、SillyTavern、Khoj、Open Interpreter、Copilot for Obsidian)は商用を含むあらゆる目的に無料ですが、変更して公開ホスティングする場合はソースコードの開示が必要です。Apache 2.0とMITプロジェクト(大多数)は商用を含むあらゆる場面で実質的な制約なく使用できます。

Apple Silicon(Mシリーズ)をネイティブサポートするツールはどれですか?

Ollama、llama.cpp、MLX-LM、LM Studio、Jan、Enchanted、GPT4All、MLC Chat、AnythingLLM、ほとんどのElectron/TauriアプリがApple SiliconでネイティブにMetalバックエンドを使って動作します。MLX-LMはApple専用でMシリーズの大型モデルに最速です。vLLM、TensorRT-LLM、ExLlamaV2はNVIDIA重視でApple Siliconでは動作しないか性能が低いです — Appleユーザーにはメタルバックエンドのollamaがデフォルト推奨です。

これらのツールはすべてGGUFモデル形式をサポートしていますか?

GGUFはllama.cppとそれをラップするツール(Ollama、LM Studio、Jan、GPT4All、KoboldCpp、Llamafile)のネイティブ形式です。vLLMとTensorRT-LLMは高スループット向けに独自の最適化フォーマット(通常AWQまたはFP16)を使用します。ExLlamaV2はEXL2量子化を使用。MLX-LMはMLX変換済み重みを使用します。ほとんどのツールはGGUFを受け付けますが、一部(vLLM、TensorRT-LLM、ExLlamaV2、MLX-LM)はHugging Face元重みからの一度限りの変換ステップが必要です。

プログラミング経験のないユーザーに適したツールはどれですか?

GPT4Allが最もシンプルなインストール(ワンクリック、8GB RAMで動作)。LM Studioはターミナル不要で最も機能が充実。JanはノーコードオプションでプライバシーにJanが最適。ドキュメントチャットをコマンドライン不要で行うなら、AnythingLLMが最も簡単です。4つすべてが上のデスクトップGUIアプリカテゴリに掲載されています。

これらのツールをサーバーで動かしてリモートアクセスできますか?

ほとんどのサーバー対応ツール(Ollama、vLLM、LocalAI、Open WebUI、LibreChat、PrivateGPT、AnythingLLM)はHTTP APIを公開し、設定で構成可能なネットワークインターフェースにバインドします。標準パターン:ホームサーバーまたはVPS上でOllamaを動かし、サーバーIPに向けたUIをラップトップまたはスマートフォンで使用。APIは通常のWebサービスと同様に扱ってください — リバースプロキシ越しにlocalhostにバインドするか、認証付きのプライベートネットワークに。Open WebUIはマルチユーザーサポートを標準搭載しています。

マルチユーザー / チーム設定をサポートするツールはどれですか?

Open WebUI、LibreChat、h2oGPT、AnythingLLM(管理機能有効時)、Difyはロールベースアクセスとユーザー別会話履歴を持つマルチユーザー向けに設計されています。同時推論が重要な場合、vLLMが適切なサービング層です — Ollamaでは同時接続3件超で達成できないスループットで複数ユーザーのリクエストをバッチ処理します。

このディレクトリはどのくらいの頻度で更新されますか?

6か月ごと — 最終見直しは2026年7月、次回の予定更新は2026年11月です。中間の変更(プロジェクトが非活性になった、新しいツールが有意なシェアを獲得した、ライセンスが変わった)は既存エントリーへのパッチとして適用されます。新しいカテゴリや層は構造の安定性を保つため更新を待ちます。「参考文献」セクションに更新間のエコシステム監視に使用するコミュニティインデックスを掲載しています。

← ローカルLLM活用 に戻る