MLC Chat レビュー(2026):MLC LLM上に構築されたモバイルアプリを正直に評価する

**MLC ChatはMLC LLMの上に構築されている**。このプロジェクト自身のリポジトリでは、プラットフォーム横断でAIモデルを開発・最適化・展開できる「ML コンパイルを備えたユニバーサルLLMデプロイメントエンジン」と説明されている。MLC LLMリポジトリ自身のドキュメントは、その技術的系譜としてApache TVM(2018年)や関連するコンパイラ研究(TensorIR、MetaSchedule)を挙げている——TVMは、MLCプロジェクトが機械学習コンパイル技術を構築する基盤となるディープラーニングコンパイラスタックだ。

「MLC LLM」と「MLC Chat」の区別は重要であり、しばしば混同される。 MLC LLMは基盤となるコンパイラおよびランタイムエンジンであり——PromptQuorumがMLC LLM解説で詳しく扱っているものだ。MLC Chatはその上に構築された一般ユーザー向けアプリケーションで、特にiOSとAndroid向けにパッケージ化されており、技術に詳しくないユーザーでもコンパイラに直接触れることなくモデルをダウンロードしてチャットを始められる。

MLC ChatはMLC LLMプロジェクト自体を保守しているのと同じMLC AIチーム(GitHub組織mlc-ai)によって保守されており、基盤となるMLC LLMリポジトリと同じApache-2.0ライセンスの下でライセンスされている。

ほとんどのローカルLLMチャットアプリは、実行時に見つかったハードウェア上でモデルファイルを解釈する、単一の汎用推論ランタイム(llama.cppなど)に依存している。MLC Chatの基盤となるMLC LLMエンジンは異なるアプローチを取る:機械学習コンパイル技術を用いて特定のハードウェアターゲット向けにモデルを事前にコンパイルし、その後、コンパイル済みの成果物をターゲットデバイス上で実行するために配布する。

MLC LLM自身のプロジェクトドキュメントによれば、このコンパイルアプローチはプラットフォームに応じて幅広いGPUバックエンドを対象とする:Apple SiliconおよびAppleのモバイルGPU向けのMetal、AndroidのGPU(AdrenoおよびMali)向けのOpenCL、そしてデスクトップのLinuxおよびWindows向けのVulkan、CUDA、またはROCmだ。プロジェクトはまた、ブラウザ内でモデルを実行するためのWebGPUおよびWebAssemblyサポートも文書化しており、ランタイムコンポーネントであるMLCEngineは、REST、Python、JavaScript、iOS、Androidの各インターフェースを通じてOpenAI互換のAPIを提供する。

MLC Chatに特有の実務的な結果:基盤となるコンパイルがハードウェアターゲット固有であるため、より汎用的なランタイムでは十分に活用できないかもしれないモバイルチップ上でのGPUアクセラレーションを、このアプリは実現できる——ただしその代償として、どこでも動く単一のユニバーサルバイナリではなく、特定のハードウェア/モデルの組み合わせごとにコンパイルされたビルドが必要になる。

以下の手順は、PromptQuorumが直接確認した内容——App StoreにおけるMLC Chatの実際の存在、Android APK配布経路、そしてデスクトップ利用向けのMLC LLMの文書化されたクイックスタート経路——を反映している。

ライセンス:Apache-2.0。 MLC ChatアプリとMLC LLMリポジトリの両方がApache-2.0ライセンスの下で公開されていることは、mlc-ai/mlc-llm GitHubリポジトリで直接確認できる。

モデル対応は単一のクイックスタート例より広い。 MLC LLM自身のクイックスタートドキュメントはLlama-3-8B-Instruct-q4f16_1-MLCを使ってワークフローを実演しているが、プロジェクトのモデルライブラリは、対応するハードウェアターゲット向けにコンパイルされた他のオープンウェイトモデルファミリーにも広がっている——PromptQuorumは、単一のキャッシュされたリストに頼るのではなく、コンパイル済みモデルの提供状況は新しいリリースとともに変わるため、MLC LLM自身のモデルリストを直接確認することを推奨する。

ビジョン言語モデルの公式サポートはなし。 本レビュー時点で、MLC LLMはビジョン言語モデル(画像入力)を公式にはサポートしておらず——チャットアプリ内で画像とテキストの入力を一緒に処理するための組み込みモジュールを提供していない。ビジョン言語モデルのコードをMLC LLMのコンパイルパイプラインに適応させるコミュニティプロジェクトは存在するが、これらはMLC AIチームによって公式に保守・サポートされているものではなく、PromptQuorumはその現在の信頼性を検証していない。

MLC Chatは本当に有用なクロスプラットフォームのオンデバイスチャットアプリだが、以下の状況には向いていない。

MLC Chatは、本当に際立った前提を実現している:単一のランタイムに頼るのではなく機械学習コンパイルによって実現される、クロスプラットフォームでGPUアクセラレーテッドなオンデバイスLLMチャットであり、実際のiOS App Storeでの提供と直接ダウンロード可能なAndroid APKを備え、すべて寛容なApache-2.0ライセンスの下にある。しかし、デスクトップユーザーにとって最も便利な選択肢ではない——そのワークフローはパッケージ化されたアプリではなく、Pythonパッケージとレスト/CLIインターフェースを意味する——そして現時点でビジョン言語モデルには公式には全く対応していない。ハードウェアターゲット固有のコンパイルアプローチが効果を発揮するモバイルのオンデバイスチャットには特にMLC Chatを選び、最もシンプルなデスクトップ体験にはOllamaやLM Studioを選び、ビジョン対応のローカルモデルには代わりにPromptQuorumのLLaVAまたはIdeficsレビューを選んでほしい。MLC Chatの背後にあるコンパイラのより深い技術的全体像については、PromptQuorumのMLC LLM解説を参照してほしい。本レビューは、PromptQuorumの全11記事からなるローカルAIツールシリーズを締めくくるものだ——音声認識(Whisper.cpp、faster-whisper)と音声合成(Piper、Coqui TTS、XTTS v2、Bark、StyleTTS 2)から、ビジョン言語モデル(LLaVA、Ollamaビジョンモデル、Idefics)を経て、クロスプラットフォームのオンデバイスコンパイルに関するこの最終回に至るまでを扱ってきた。