メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM活用
RAG & Document Chat

Langchain-Chatchatレビュー: 自前ホスト型RAG・Agentフレームワーク

·11分で読めるHans Kuepper 著 · PromptQuorum創設者 · オープンウェイト/オープンソースAIの発見エンジン

Langchain-Chatchat(旧名langchain-ChatGLM)は、LangChainフレームワーク上に構築された無料・オープンソースの自前ホスト型RAG・Agentアプリケーションで、ChatGLM、Qwen、Llamaなどのモデル、またはクラウドAPIに対してローカルナレッジベースの質問応答を実行できます。 chatchat-space GitHub組織によって開発され、Apache-2.0でライセンスされており、有料プランはありません — pipまたはDockerで自分でインストールし、自前のハードウェアやサーバー上で、接続するモデルバックエンドを選んで実行します。プロジェクトは38,600以上のGitHubスターを獲得していますが、最新のタグ付きバージョンv0.3.1が2024年7月にリリースされて以降、リリースペースは鈍化しています。

重要なポイント

  • Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) は、LangChainフレームワーク上に構築された無料・オープンソースの自前ホスト型RAG・Agentアプリケーション — ダウンロード型のエンドユーザーアプリではない
  • 旧名langchain-ChatGLM。モデルサポートがChatGLM以外にも広がった2023年8月にLangchain-Chatchatへ改名
  • GitHubリポジトリのLICENSEファイルで確認済みのApache-2.0ライセンス
  • ChatGLM、Qwen、Llamaなどのモデルを、プラグイン可能なバックエンド — Xinference、Ollama、LocalAI、FastChat、One API — またはクラウドAPI経由でサポート
  • 本レビュー時点(2026年9月18日)でGitHubスターは38,600超、フォークは6,200超、未解決issueは26件。リポジトリはアーカイブされていない
  • 最新のタグ付きGitHubリリースはv0.3.1(2024年7月12日)。リポジトリへの直近のpushは2025年11月10日 — 最新のコミット活動と最新バージョンタグの間に実際のギャップがある

📍 一文で説明

Langchain-Chatchatは、LangChain上に構築された無料・オープンソースの自前ホスト型RAG・Agentフレームワークで、旧名langchain-ChatGLM、ChatGLM、Qwen、Llamaなどのモデルまたはクラウドapiに対してローカルナレッジベースの質問応答を実行でき、有料プランは一切ありません。

💬 簡潔に説明

ホスト型のドキュメントチャットサービスにお金を払う代わりに、Langchain-Chatchatを使えば自前のサーバーに無料のツールをインストールし、自分の文書を読み込ませて検索可能な断片に分割し、自分が選んだAIモデル — 自前のハードウェア上で動くローカルモデルでも、自分の鍵で接続するクラウドAPIでも — を使って質問に答えさせることができます。

📌補足: 本レビューは、ローカルLLMソフトウェアディレクトリ内のLangchain-Chatchatの項目に付随する詳細レビューです — 他の数十のローカルAIツールとの比較は同ページで一覧できます。

Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) は、LangChainフレームワーク上に構築された無料・オープンソースの自前ホスト型RAG・Agentアプリケーションで、2023年8月の改名前は langchain-ChatGLM という名前でした。ChatGLM、Qwen、Llamaなどのモデルをプラグイン可能なバックエンド経由で、またはクラウドAPI経由でローカルナレッジベースの質問応答を実行でき、GitHubスターは38,600を超えています。本レビューでは、その機能、バージョン履歴、インストール方法、そして他の自前ホスト型RAGツールとの比較を扱います。

Langchain-Chatchatとは?

Langchain-Chatchatは、LangChainフレームワーク上に構築された、ローカルナレッジベースの検索拡張生成(RAG)とAgentワークフローのための、無料・オープンソースの自前ホスト型アプリケーションです。 GitHubリポジトリの説明文では、LangChainおよびChatGLM、Qwen、Llamaなどのモデルに基づくRAG・Agentアプリケーションと記載されています。もともとは2023年4月頃にlangchain-ChatGLMという名前でリリースされ、ChatGLM-6Bモデルに特化して構築されていましたが、モデルサポートが広がった2023年8月にLangchain-Chatchatへ改名されました。

  • 製品タイプ: 自前ホスト型のWebアプリケーション(Streamlitベースのインターフェース)に加え、Pythonパッケージ・Dockerイメージ — ダウンロード型のエンドユーザーバイナリではない
  • 開発元: chatchat-space GitHub組織
  • リポジトリ: github.com/chatchat-space/Langchain-Chatchat、2023年3月31日作成
  • ライセンス: Apache-2.0、リポジトリのLICENSEファイルで確認済み
  • 規模: 本レビュー時点(2026年9月18日)でGitHubスターは38,600超、フォークは6,200超、未解決issueは26件。リポジトリはアーカイブされていない
  • 出自: 中国発のオープンソースプロジェクトで、中国語/英語バイリンガルのREADMEを持ち、もともとはChatGLMモデルファミリーを中心に構築され、現在はプラグイン可能なバックエンド経由でQwen、Llamaなどのモデルもサポート

Langchain-Chatchatの開発の歴史とバージョンの節目

Langchain-Chatchatは2023年のChatGLM-6B専用リリースを起点にいくつかのアーキテクチャ変更を経てきましたが、2024年半ば以降リリースペースは大きく鈍化しています。

  1. 1
    v0.1.0 — 2023年4月頃: langchain-ChatGLMとしての最初のリリース
    Why it matters: プロジェクトの出発点: ChatGLM-6Bに特化した単一モデルのローカルナレッジベース質問応答アプリケーション。
  2. 2
    Langchain-Chatchatへ改名 — 2023年8月、v0.2.0でFastChat統合を実装
    Why it matters: ChatGLM専用ツールから、より幅広いマルチモデルバックエンドのフレームワークへの転換を示す節目。
  3. 3
    v0.2.5 — 2023年10月: Agent機能を追加
    Why it matters: 元々のRAG質問応答パイプラインに加え、ツールを使用するエージェント型ワークフローを導入。
  4. 4
    v0.2.8 — 2023年12月1日
    Why it matters: v0.2.x系列の段階的なタグ付きリリース。
  5. 5
    v0.2.9 — 2023年12月31日
    Why it matters: 2023年を締めくくる段階的なタグ付きリリース。
  6. 6
    v0.2.10 — 2024年1月25日
    Why it matters: v0.3.0のアーキテクチャ変更前における、v0.2.x系列最後のリリース。
  7. 7
    v0.3.0 — 2024年6月20日: プロジェクト自身の変更履歴で「新アーキテクチャ」と説明
    Why it matters: アプリケーションアーキテクチャの大きな内部刷新。
  8. 8
    v0.3.1 — 2024年7月12日: 本レビューで確認できた最新のタグ付きGitHubリリース
    Why it matters: 本レビュー時点での最新バージョンタグ — これより新しいタグ付きリリースは確認されていない。

Langchain-Chatchatは実際に何ができるのか?

Langchain-Chatchatの中核機能はローカルナレッジベースのRAGパイプラインです。文書をチャンクに分割し、ベクトル埋め込みに変換し、類似検索で与えられた質問に最も関連するチャンクを取得し、それをLLMに渡して回答を生成します。

  • ローカルナレッジベースのRAGパイプライン: テキスト分割 → ベクトル化 → 類似度マッチング → LLMによる回答生成
  • 特にChatGLM3とQwenモデルに最適化されたAgentサポートで、ツールを使う多段階のワークフローに対応
  • 複数のプラグイン可能なモデルサービングバックエンド: Xinference、Ollama、LocalAI、FastChat、および「One API」統合により、どの推論サーバーでモデルを動かすか選択可能
  • マルチモーダル対応: 画像対話とテキストから画像への生成機能
  • データベース/SQL対話(「データベースとチャットする」)機能により、構造化データを自然言語でクエリ可能
  • Streamlitで構築されたWeb UIで、複数の会話を同時にサポート

使用例: Langchain-Chatchatの3つの使い方

これらは、上記で説明したLangchain-Chatchatの機能から構築された具体的なワークフローであり、仮想的な使用例ではありません。

ローカルナレッジベースを構築してクエリする

Langchain-Chatchatのナレッジベースインターフェースに、文書(PDF、テキストファイルなど)一式をアップロードします。アプリはそれらをチャンクに分割し、ベクトル埋め込みを生成して検索用に保存します。インデックス化が完了すれば、自然言語で質問でき、アプリは最も関連性の高いチャンクを取得したうえで、接続済みのモデルで回答を生成します — クラウド型のドキュメントチャットサービスにファイルをアップロードするのと同等のことを、自前でホストして行うイメージです。

OllamaやXinferenceのようなローカルモデルバックエンドを接続する

クラウドAPIを呼び出す代わりに、Langchain-Chatchatを、ChatGLM、Qwen、LlamaなどをOllamaやXinferenceのようなローカル推論サーバーに向けて設定します。アプリはRAGおよびAgentのリクエストをそのバックエンド経由で処理するため、文書の内容やプロンプトは自分が管理するハードウェア内にとどまります。

SQL/データベースチャット機能を使う

Langchain-Chatchatを構造化データベースに接続し、データベースとチャットする機能を使って、直接SQLを書く代わりに自然言語で質問できます。別のクエリツールに切り替えずにデータセットを探索する際に便利です。

Langchain-Chatchatは無料か?

はい — Langchain-Chatchatは無料・オープンソースであり、本レビューでは独立した有料プランは見つかりませんでした。 リポジトリのLICENSEファイルで確認済みのApache-2.0ライセンスであり、本レビューではベンダーが運営するホスト型/クラウド版のツールは見つかりませんでした — 自分でインストールして運用します。

  • Langchain-Chatchat自体によるサブスクリプション、ライセンス料、利用上限はない
  • 自前ホスト型: 自分のサーバー/ハードウェアを用意し、そのインフラ分の費用のみを負担する。ローカルモデルの代わりにクラウドバックエンドを選ぶ場合は、クラウドモデルAPIの費用が別途かかる
  • Apache-2.0ライセンスは、ライセンスの標準的な表示・通知条件に従うことを条件に、商用利用、改変、再配布を許可している

Langchain-Chatchat と RAGFlow の比較

Langchain-ChatchatとRAGFlowはいずれも自前ホスト型・オープンソースのRAGアプリケーションですが、文書の処理と質問への回答方法に対するアプローチが異なります。

主な焦点

Langchain-Chatchat:
LangChainフレームワーク上に直接構築された、ローカルナレッジベースのRAG・Agentワークフロー
RAGFlow:
ドキュメント理解に重点を置いたRAG — 詳細は専用のRAGFlowレビューを参照

モデルバックエンドの柔軟性

Langchain-Chatchat:
プラグイン可能なバックエンド: Xinference、Ollama、LocalAI、FastChat、One API、またはクラウドAPI
RAGFlow:
独自のバックエンド対応についてはRAGFlowレビューを参照

マルチモーダル対応

Langchain-Chatchat:
画像対話とテキストから画像への生成機能
RAGFlow:
詳細はRAGFlowレビューを参照

SQL/データベースチャット

Langchain-Chatchat:
あり — 専用のデータベースとチャットする機能
RAGFlow:
詳細はRAGFlowレビューを参照

メンテナンスのペース

Langchain-Chatchat:
最新のタグ付きリリースはv0.3.1(2024年7月)、リポジトリへの直近のpushは2025年11月
RAGFlow:
現在のリリースペースはRAGFlowレビューを参照

ライセンス

Langchain-Chatchat:
Apache-2.0
RAGFlow:
ライセンスはRAGFlowレビューを参照

この表はLangchain-Chatchat自身の確認済みの事実を反映したものです。RAGFlowに関する具体的な主張については、この要約だけに頼らず、RAGFlowレビューを直接お読みください。

ディレクトリで比較する

Langchain-Chatchatはどんな人に向いているか?

Langchain-Chatchatが向いているかどうかは、LangChain上に構築された無料の自前ホスト型RAG・Agentフレームワークを求めているか、そして最近鈍化したリリースペースが自分の用途にとって許容できるかによります。

次のような場合はLangchain-Chatchatを使う

  • ホスト型のSaaS製品ではなく、LangChain上に直接構築された無料の自前ホスト型RAG・Agentフレームワークが欲しい
  • 中国語またはバイリンガル(中国語/英語)のコンテンツ向けにナレッジベースQ&Aアプリを構築しており、ChatGLM/Qwenに最適化されたAgentサポートを備えたツールが欲しい
  • 1つに縛られるのではなく、自分でモデルバックエンド(Xinference、Ollama、LocalAI、FastChat、またはクラウドAPI)を選びたい
  • 同一アプリケーション内で、文書RAGに加えてデータベース/SQLチャットが必要
  • 自前ホスト型のPython/Dockerアプリケーションを、依存関係も含めて自分でデプロイ・保守することに抵抗がない

次のような場合は他を検討する

  • 頻繁で最新のリリースペースを持つプロジェクトが欲しい — 本レビューでは、Langchain-Chatchatの最新タグ付きリリース(v0.3.1、2024年7月)と直近のリポジトリpush(2025年11月)の間に約16か月のギャップが見つかった
  • 自分でデプロイする自前ホスト型Webアプリケーションではなく、ダウンロード可能なエンドユーザー向けデスクトップアプリが必要
  • 組み込みのエンタープライズサポート、SLA、ベンダー運営のマネージドクラウド版が欲しい — 本レビューではそのような提供は見つからなかった
  • レイアウトを考慮した深いドキュメント理解に特化したRAGツールが必要 — 比較はRAGFlowレビューを参照

競合とその他の選択肢

Langchain-Chatchatは、自前ホスト型RAG・ドキュメントチャットのセグメントにおいて、RAGFlow、LlamaIndex、Haystack、MaxKBと並ぶ存在です。

RAGFlow

Best known for:
レイアウトを考慮した深いドキュメント理解を備えた自前ホスト型RAG
RAGFlowに関する記事(4件)

その他の言及:

Haystack(deepset)

Best known for:
deepset提供のオープンソースRAG・検索パイプラインフレームワーク

MaxKB

Best known for:
自前ホスト型のナレッジベースQ&Aプラットフォームで、こちらも中国発
MaxKBに関する記事(4件)

このリストは、自前ホスト型RAG/ドキュメントチャットのセグメントでLangchain-Chatchatとよく比較されるツールを反映したもので、PromptQuorum独自のランキングではありません — 全カタログはローカルLLMソフトウェアディレクトリを参照し、選定前に各ツールの現在の機能とライセンスを確認してください。

ディレクトリで比較する

Langchain-Chatchatを評価する際によくある誤解

Langchain-Chatchatに関する誤解の多くは、その名前の変遷、リリースペースに関する思い込み、あるいは構築基盤であるLangChainフレームワークとの関係に起因します。

誤解1: 旧名のまま今もChatGLM専用だと思い込む

このプロジェクトはもともと2023年4月頃にlangchain-ChatGLMという名前でリリースされ、ChatGLM-6Bモデルに特化して構築されていました。2023年8月にLangchain-Chatchatへ改名され、現在ではプラグイン可能なサービング層を通じて、ChatGLM以外にもQwenやLlamaなど複数のモデルバックエンドをサポートしています。

誤解2: 最近も頻繁にリリースされていると思い込む

Langchain-Chatchatの最新のタグ付きGitHubリリースはv0.3.1で、2024年7月12日に公開されました。本レビューでは、リポジトリへの直近のpushが2025年11月10日であることを確認していますが、対応する最近のバージョンタグは伴っていません。リリースペースが速いと想定せず、GitHub上で最新のリリースおよびコミット状況を直接確認してください。

誤解3: 単なるLangChainと混同する

Langchain-ChatchatはLangChainフレームワークの上に構築されていますが、独自のリポジトリ、UI、Agent/RAG機能セットを持つ別個の独立したアプリケーションです — 汎用的なLangChainライブラリそのものと同一のプロジェクトではありません。

誤解4: クラウド専用またはローカル専用だと思い込む

Langchain-Chatchatはハイブリッドです。設定次第で、完全に自前ホストされた推論のためのローカルモデルバックエンド(Xinference、Ollama、LocalAI、FastChat)と、クラウドAPI接続のどちらも利用可能で、どちらのモードもソフトウェア側で強制されるわけではありません。

よくある質問

Langchain-Chatchatとは何ですか?

Langchain-Chatchat (github.com/chatchat-space/Langchain-Chatchat) は、LangChainフレームワーク上に構築された無料・オープンソースの自前ホスト型RAG・Agentアプリケーションで、2023年8月の改名前は langchain-ChatGLM という名前でした。

Langchain-Chatchatは無料ですか?

はい。Apache-2.0ライセンスであり、本レビューでは独立した有料プラン、マネージドクラウド提供、商用サポートプランは見つかりませんでした。

Langchain-Chatchatはどうやってインストールしますか?

pip(pip install langchain-chatchat -U、Xinferenceバックエンドの場合は `pip install "langchain-chatchat[xinference]" -U)またはDocker(docker pull chatimage/chatchat`)でインストールします。プロジェクト自身のドキュメントでは、本番運用にdocker-composeによるデプロイを強く推奨しています。

Langchain-Chatchatはどのライセンスを使用していますか?

Apache-2.0で、GitHubリポジトリのLICENSEファイルで確認済みです。

Langchain-Chatchatはどのモデル・バックエンドをサポートしていますか?

ChatGLM、Qwen、Llamaなどのモデルを、プラグイン可能なバックエンド — Xinference、Ollama、LocalAI、FastChat、「One API」統合 — またはクラウドAPI経由でサポートしています。

Langchain-Chatchatは活発にメンテナンスされていますか?

本レビューでは、最新のタグ付きリリース(v0.3.1、2024年7月12日)と直近のリポジトリpush(2025年11月10日)の間に約16か月のギャップがあることを確認しました。コミット活動は継続していますが、2024年半ば以降リリースペースは大きく鈍化しています — 最新の状況はGitHub上で直接確認してください。

Langchain-ChatchatとLangChain自体の違いは何ですか?

Langchain-ChatchatはLangChainフレームワークの上に構築されていますが、独自のリポジトリ、UI、機能セットを持つ独立したRAG・Agentアプリケーションであり、汎用的なLangChainライブラリそのものではありません。

Langchain-Chatchatは中国語やChatGLMに対応していますか?

はい。このプロジェクトはもともと(旧名langchain-ChatGLMのもとで)ChatGLMモデルファミリーを中心に構築されており、中国語/英語のバイリンガルREADMEを持ち、今も中国発のオープンソースプロジェクトです。

Langchain-ChatchatはSQL/データベースチャットに対応していますか?

はい。構造化データを自然言語でクエリするための、専用のデータベースとチャットする機能を備えています。

Langchain-Chatchatは誰がメンテナンスしていますか?

chatchat-space GitHub組織が、プロジェクトの正規リポジトリをメンテナンスしています。

出典

← ローカルLLM活用 に戻る

MCP