メインコンテンツへスキップ
PromptQuorum人のために設計。 AI向けに構造化。
ホーム/ローカルLLM活用
Mobile & Edge LLMs

2026年のAndroidローカルAI：できること、できないこと、対応アプリ

·45分で読める 著 · PromptQuorum創設者 · オープンウェイト／オープンソースAIの発見エンジン

はい。最近のAndroidスマホなら、実用的なローカルAIをオフラインで動かせますが、動かせるのは小型モデルだけです。 目安は、RAM 6〜8 GBで1〜4Bパラメータ、RAM 12〜16 GBで低ビット量子化の7〜8Bです。チャット、カメラへの質問、音声入力、文書への質問、翻訳は動作します。最先端モデル並みの品質、長いコンテキスト、持続的な速度、常時待機のバックグラウンドアシスタントは実現できません。Androidには、iPhoneより幅広い、あるいは手軽な選択肢もあります。ストアの外からのアプリのインストール、Termux、スマホをローカルAPIサーバーとして動かす方法です。

重要なポイント

  • AndroidのローカルAIは実在し、オフラインでも使えますが、小型モデルのAIです。 RAM 6〜8 GBのスマホは1〜4Bパラメータのモデルを扱え、RAM 12〜16 GBのスマホは低ビット量子化の7〜8Bを保持できます。クラウド級の回答、長い文書、長い返答の高速生成には手が届きません。
  • 何が収まるかはRAMで決まり、速さはメモリ帯域、発熱、チップで決まります。 モデルはAndroid本体と並んで空きRAMに収まる必要があり、生成速度は、トークンごとにスマホがモデルをメモリからどれだけ速く読めるかで上限が決まります。
  • ほぼすべてのアプリの裏には4つのエンジンがあります。 llama.cpp（GGUFファイル、CPU、場合によってはGPU）、Google LiteRT-LM（Gemmaなどのモデル、GPUと、次第にNPU）、MLC（コンパイル済みモデル、OpenCL GPU）、Gemini Nanoを使うGoogle AICore（システムモデル、対応スマホのみ、アプリはML Kit経由で呼び出し）です。
  • NPUは、スマホの中で最も使いにくい部分です。 Google、Qualcomm、MediaTekはLiteRTとQualcomm GenieX経由のNPU経路を公開していますが、チップごとにコンパイルしたモデルが必要です。サイドロードした汎用のGGUFアプリは、通常CPUかGPUで動きます。
  • Androidには、iPhoneより自由度が高い点がいくつかあります。 Google Play以外からアプリをインストールでき、TermuxでスマホにLinuxターミナルを持て、スマホがOpenAI互換APIをノートPCに提供でき、GGUFモデルのインポートも一般的な機能です。代償は断片化で、結果はブランド、チップ、バッテリー設定によって変わります。
  • 当ディレクトリのAndroidアプリの多くは、このガイドの中で用途に割り当てられています。 チャット、画像、音声、文書、翻訳、画像生成、写真、ノート、スマートホームとエージェント、開発者ツール、自分のサーバー向けのリモートクライアントです。
  • 「テレメトリーゼロ」は主張であり、保証ではありません。 オンデバイス推論はプロンプトをサーバーに送りませんが、アプリが分析、広告、クラッシュレポートを送ることはありえます。データセーフティのカードとプライバシーポリシーを併せて読んでください。両者は想像以上に食い違うことがあります。
  • 現時点で不可能なこと： オフラインでの最先端モデル並みの品質、70Bパラメータのモデル、100万トークン級のコンテキスト、Androidに終了させられない常時待機のバックグラウンドアシスタント、あらゆるスマホのあらゆるアプリからのGemini Nanoの利用。
言語を選択:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

2026年のAndroidスマホは、ローカルAIをオフラインで動かせます。チャット、カメラへの質問、音声入力、文書への質問、翻訳は、およそ1〜4Bパラメータのモデルで動作し、RAM 12〜16 GBの機種では7〜8Bも扱えます。このガイドでは、主な機能、越えられない限界、チップとRAMの実情を整理し、当ディレクトリのAndroidアプリを得意な用途ごとに紹介します。

2026年のAndroidローカルAI：できること、できないこと、対応アプリ

ここから始める：インストールする3つのアプリ

時間がない方へ：次の3つのうち1つをインストールし、スマホのRAMに合うモデルをダウンロードして、機内モードで一度試してください。 この3つは、このガイドの各章とレビューに基づく選定で、ベンチマークに基づくものではありません。各選択の理由はガイドの残りの部分で説明します。

ほかにもおすすめの出発点があります： AICoreがGemini Nanoに対応している端末（Pixel 9や10など）では、ダウンロード不要でGoogleのシステムモデルを使うPAIOSを試せます。カメラへの質問やGemmaモデルにはGoogle AI Edge Galleryを使います。より大きなモデルをスマホから動かすには、LocalMindで自分のパソコン上のOllamaまたはLM Studioに接続します。

📍 一文で説明

初心者はPocketPal AI、上級者はMaidと大きめのGGUFモデル、開発者はML Kit Prompt APIまたはLiteRT-LMから始められます。いずれの場合も、モデルサイズはスマホのRAMに合わせます。

💬 簡潔に説明

アプリ1つ、RAMに合うモデル1つ、機内モードでのテスト1回。

初心者

インストールするもの:
PocketPal AI
最初のモデル:
4〜6 GBのRAMなら1〜2B、8 GBなら3〜4B
この選択の理由:
無料でMITライセンス、アカウント不要です。モデルは自分で選び、大きすぎるモデルは読み込めないだけなので、その場合は一段小さいものにしてください。

上級者

インストールするもの:
Maid
最初のモデル:
12 GBなら4〜8B、16 GBなら7〜8B（コンテキストは短め）
この選択の理由:
スマホが保持できる最大のモデルを動かすGGUFランナーです。スマホの動作が遅く熱くなることを見込み、コンテキストは短く保ってください。

開発者

インストールするもの:
ML Kit Prompt API または LiteRT-LM
最初のモデル:
Googleのシステムモデル、または自分のモデル
この選択の理由:
Prompt APIはシステムモデルによる小さなテキスト処理向け、LiteRT-LMは自分のモデル向けです。ほかの経路は「開発者向けの経路」の章で比較しています。

インストール前の6つの簡易回答

読者が最初に尋ねる6つの質問です。各回答は、詳しく説明する章を示します。

📍 一文で説明

モデルサイズはRAMで決まり、3〜6 GBの空きストレージに最初のモデルを保存でき、機内モードでのテストでアプリがオフラインで動くかどうかを確認できます。

💬 簡潔に説明

RAMがモデルを決め、ストレージが保持し、機内モードが確かめます。

  • どのモデルをダウンロードすればよいですか？ RAMに合わせます。4〜6 GBなら1〜2B、8 GBなら3〜4B、12〜16 GBなら4〜8Bで、7〜8Bは短いコンテキストでのみ収まります。迷ったら小さいほうを選んでください。下の「RAMの区分」を参照してください。
  • ストレージはどれくらい必要ですか？ 最初のモデル用に3〜6 GBの空きを確保してください。モデルファイルはギガバイト単位だからです。「15分で最初の実行」を参照してください。
  • どれくらいの速さで動きますか？ PromptQuorumは、このガイドのために新しい速度テストを実施していません。速度はメモリ帯域幅で制限されるため、小さいモデルほど速く応答します。最初のプロンプトで言葉が表示される速さを控えておき、それを基準にしてください。「チップ」の章を参照してください。
  • プライベートなアプリはどれですか？ プライベートだと決めつけられるアプリはありません。オンデバイス推論はプロンプトをベンダーの推論サーバーに送りませんが、アプリが分析データを送信する可能性は残ります。Data safetyの表示、プライバシーポリシー、権限を確認し、機内モードのテストを行ってください。PocketPal AIのようなオープンソースのアプリは監査できますが、クローズドソースの主張は信頼に頼ることになります。「プライバシーとテレメトリーの実情」を参照してください。
  • インターネットなしで何ができますか？ このガイドの機能マップによると、チャット、カメラへの質問、音声入力、ドキュメントへの質問、翻訳は、ダウンロード後に適したモデルを使えばオフラインで動作する場合があります。画像生成と大きなモデルは遅いか、サーバーが必要です。「機能マップ」を参照してください。
  • 次に何を読めばよいですか？ 「15分で最初の実行」に従い、「まとめ：スマホの区分、アプリ、モデルサイズ」を1表のチートシートとして使い、特定の用途がある場合は「判断の道筋」を開いてください。

重要な事実

  • 現実的なモデルサイズ： RAM 4〜6 GBで1〜2Bパラメータ、8 GBで3〜4B、12〜16 GBで低ビット量子化の7〜8B。これらはファイルサイズの計算から導いた目安であり、ベンチマークの結果ではありません。
  • ML Kit GenAI経由のGemini Nano： Prompt APIはテキストと最大10枚の画像を受け付け、入力は約4,000トークン未満で、呼び出し元のアプリがフォアグラウンドにある間だけ動作します（Google）。
  • Gemma 4 E2BとE4B： GoogleはこれらをGemini Nano 4の基盤と位置づけ、E2BはE4Bの最大3倍高速としています。AICore Developer Previewは2026年4月2日に公開されました（Android Developers Blog）。
  • NPUの経路： LiteRTにはQualcommとMediaTekのNPUアクセラレーターがあります。GoogleはDimensity 9500のNPU（Vivo X300 Pro、Googleの数値、4Kコンテキスト）で、Gemma 3n E2Bがプリフィル1,600トークン/秒超、デコード28トークン/秒と報告しています。
  • 開発者向けのPixel TPU： Tensor SDKは2026年5月19日にベータとなり、Pixel 10、10 Pro、10 Pro XL、10 Pro Foldが対象に挙げられています。
  • Androidのバージョン： Google AI Edge GalleryはAndroid 12以降が必要です。LiteRTのNPUドキュメントはAPIレベル31以降を要求し、AppFunctionsはAndroid 16以降が必要です。
  • Termux： F-DroidまたはGitHubからインストールしてください。Google Play版はTermuxのメンテナーが実験的と位置づけており、入手元を混ぜると更新ができなくなります。
  • 対象アプリ： 公開情報をもとに当方がレビューした、PromptQuorumディレクトリのAndroidアプリです。それぞれ、当てはまる箇所で自身のレビューに1回リンクしています。全一覧はディレクトリをご覧ください。
  • iPhoneをお使いですか？ 姉妹ガイドのiPhoneのローカルAIをご覧ください。

機能マップ：動くもの、一部動くもの、動かないもの

日常的なAIの用途の多くは、Androidスマホで接続なしに動きます。規模や常時のバックグラウンド動作が必要な用途は動きません。 表は機能ごとの判定、最初に試すアプリ1つ、越えられない限界を示します。以降の各章で、その用途に対応する当方のアプリを挙げます。

「可能」は、小型のオンデバイスモデルが現時点で許容できる水準でこなせることを指します。「一部」は、サーバーを併用する、1つのアプリに限られる、または品質に明確な限界があることを意味します。「不可」は、限界が物理的なもの、またはプラットフォームの規則であり、アプリが足りないわけではないことを意味します。

📍 一文で説明

2026年のAndroidでは、チャット、カメラへの質問、音声入力、翻訳、短い文書への質問は小型モデルでオフラインで動きますが、大型モデル、長いコンテキスト、常時待機のアシスタントは動きません。

💬 簡潔に説明

オンデバイスモデルは、小さな机で働く優秀なインターンのようなものです。速くて、プライベートで、オフラインでも使えますが、図書館丸ごとを抱えたり、難しい質問でクラウドモデルに並んだりはできません。

機能
スマホ単体で？
まず試す
越えられない限界
オフラインチャット可能PocketPal AI小型モデルのみ
カメラと画像への質問可能Google AI Edge Gallery画像対応モデルが必要
音声入力（音声からテキスト）可能Private Mind精度は言語によって異なる
返答の読み上げ可能ToolNeuron音声の品質はアプリごとに異なる
オフライン音声アシスタント一部Home Assistant AssistAndroidがバックグラウンドの待機処理を終了することがある
文書とPDFへの質問可能AnythingLLM Mobile小型モデルのコンテキストウィンドウ
翻訳可能LLM Hubまれな言語では精度が落ちる
画像生成一部TokForgeデスクトップGPUより遅い
写真検索一部Ente Photosサーバーやデスクトップで動くことが多い
ノートとブックマークのAI一部KarakeepAIは通常、自分のサーバーで動く
スマートホームハブ一部Scryptedスマホはクライアントであり、頭脳ではない
スマホを操作するエージェント初期段階Kai 9000システム連携はまだプレビュー段階
スマホを薄いクライアントにする可能LocalMind自分のサーバーの電源が入っている必要がある
自作アプリにAIを組み込む可能RunAnywhereNPUはチップごとのビルドが必要
70Bパラメータのモデル不可代わりにサーバーを使うRAM
クラウド級の回答のオフライン実行不可代わりにサーバーを使うモデルサイズ

💡ヒント: 用途が「一部」の場合、通常の解決策はリモートの形です。スマホは画面とマイクの役割を担い、より大きなモデルはコンピューターや自宅サーバーで動かします。リモートモードの章をご覧ください。

このガイドの作り方

これは机上調査によるマップであり、ベンチマークレポートではありません。 Hans Kuepperが、2026年11月に読んだGoogle、Qualcomm、MediaTek、Termuxのドキュメントと、各章でリンクしたPromptQuorum個別のレビューをもとに執筆しました。PromptQuorumは、このガイドのために新たな速度テストを実施していません。

リンク先のレビューの多くは、ストアの掲載情報、プライバシーポリシー、開発元のドキュメントに基づいており、PromptQuorumがそのアプリを実際には動かしていないと明記しています。主張が開発元やGoogleによるものである場合は、本文にそう書いています。一次情報で確認できなかった点は、本文で「不確か」と書くか、記載していません。

速度の数値は、出典が明示されたものだけを、機種名を添えて掲載しています。モデルサイズ、RAMの区分、「毎秒トークン数の上限」は計算によるもので、その旨を明記しています。

📍 一文で説明

このガイドは、公式のプラットフォームドキュメントとPromptQuorumのアプリレビューを組み合わせたもので、新たなベンチマークは実施していないため、すべての数値は出典付きか、計算によるものとして明記されています。

💬 簡潔に説明

速度、機種、出典が書かれている文は、その出典が公表したものです。出典がない場合は経験則です。

RAMの区分：スマホが保持できるモデルサイズ

RAMは最初のふるいです。モデルは、Androidや他のアプリと並んで空きメモリに収まる必要があります。 4ビット量子化のモデルは、重みだけで10億パラメータあたりおよそ0.5〜0.6 GBが必要で、コンテキスト長に応じて増える作業用メモリも加わります。Android、ランチャー、バックグラウンドサービスは通常スマホのRAMの数GBを占めるため、RAM 12 GBのスマホでもアプリに12 GBが割り当てられるわけではありません。

速度はメモリ帯域に従います。1トークンを生成するには、モデルの大半をメモリから読み出す必要があるため、上限はおおよそ帯域をモデルサイズで割った値です。当方のGalaxy S26オンデバイスAIガイドがこれを応用しています。85.6 GB/sを3.5 GBの4ビットモデルで割ると、理論上の上限は毎秒約24トークンです。実際のアプリはこの上限を下回り、熱を持ったスマホはさらに下がります。

表は出発点として扱ってください。レビューしたアプリのいくつかは固定のRAM下限を公表せず、必要量は読み込むモデルによるとしており、独自の制限を設けているものもあります。EnsuはRAMが4 GB未満のスマホではチャットを無効にし、Private MindのGoogle Play掲載では、大きなモデルには4 GB以上のスマホを推奨しています。

📍 一文で説明

RAM 6〜8 GBのスマホには、4ビット量子化でおよそ1〜4Bパラメータのモデルが収まり、RAM 12〜16 GBのスマホは7〜8Bを保持できます。

💬 簡潔に説明

量子化は、各重みをより少ないビットで保存してモデルを小さくする手法です。4ビットのモデルは16ビットのものの約4分の1の大きさで、品質の低下はわずかです。

スマホのRAM
モデルサイズ（4ビット）
モデル例
期待できること
4 GB0.5〜1BQwen3 0.6B、Gemma 3 1B短い回答、単純なタスク
6 GB1〜2BQwen3 1.7B、SmolLM2 1.7B使えるチャット、基本的な要約
8 GB3〜4BPhi-4 Mini、Qwen3 4B多くのスマホで最もバランスが良い
12 GB4〜8B（ぎりぎり）Gemma 4 E4B、Llama 3.2 3B7〜8Bは小さなコンテキストでのみ
16 GB以上7〜8B7〜8Bのinstructモデル遅く、熱く、待ち時間が長い

⚠️注意: 当方が読んだ資料では、Google自身のページはGemma 4 E2BとE4BのRAM下限を公表していません。RAMの必要量は不確かなものとして扱い、お使いのスマホ上でアプリのモデル一覧を確認してください。

💡ヒント: モデルが読み込めない場合、原因は総RAMではなく空きRAMであることが多いです。アプリのせいにする前に、他のアプリを閉じ、スマホを再起動し、ひとつ小さいモデルを選んでください。

チップ：Snapdragon、Tensor、Dimensity、Exynos

現行のフラッグシップチップにはNPUが搭載されていますが、サイドロードしたチャットアプリがそれを使えることはまれです。 存在するNPUの経路はチップメーカーとGoogleが公開しているもので、そのチップ向けに準備したモデルが必要です。汎用のllama.cppビルドで作られたアプリは、大半がCPUで、場合によってはGPUで動きます。

Snapdragon。 QualcommのGenieXは、Snapdragon 8 EliteとSnapdragon 8 Elite Gen 5上のAndroidに対応し、Hexagonバックエンドでllama.cpp経由のGGUFモデルを動かし、NPU経路にはQ4_0量子化を推奨しています。ただしこのページはリリース状況を明記していません。GoogleのLiteRT Qualcommアクセラレーターは、Snapdragon 8 Elite Gen 5のNPUでFastVLM-0.5Bが最初のトークンまで0.12秒、デコード毎秒100トークン超と報告しています（Xiaomi 17 Pro Max、Googleの数値）。これらは現時点では開発者向けの経路であり、チャットアプリのボタンではありません。

Google Tensor。 Pixel 9はAICoreとML Kit経由でGemini Nanoを動かし、Tensor G5を搭載するPixel 10はGemini Nano 4対応として挙げられています。独自のモデルについては、GoogleのTensor SDKがPixel 10ファミリー向けに2026年5月19日にベータとなり、LiteRT経由でTPU上でモデルを動かします。個々のサードパーティ製チャットアプリがすでにこれを使っているかどうかは、アプリごとに確認が必要です。

MediaTek Dimensity。 GoogleとMediaTekは、コンパイル済みモデル（Qwen3 0.6B、Gemma 3 270M、Gemma 3 1B、Gemma 3n E2B、EmbeddingGemma 300M）を備えたLiteRT NeuroPilotアクセラレーターを公開しました。ベンチマークのチップはVivo X300 ProのDimensity 9500で、GoogleはGemma 3n E2Bがプリフィル毎秒1,600トークン超、デコード毎秒28トークン（4Kコンテキスト）と報告しています。独自のGemmaモデルをMediaTek NPU向けに変換する機能は「近日対応」とされていました。

Samsung Exynos。 当方のGalaxy S26の記事によると、S26とS26+は、欧州、韓国、その他の多くの市場でExynos 2600を、米国、中国、日本ではSnapdragonを使い、S26 UltraはどこでもSnapdragon 8 Elite Gen 5を使います。Exynosで、サードパーティの言語モデルアプリ向けにNPUが公開されている経路を示す一次資料は見つかりませんでした。サイドロードしたアプリはCPUかGPUを前提にしてください。SamsungのExynos 2600 NPU上の独自の画像生成EdgeFusionは、SamsungとNota AIのパイプラインであり、汎用アプリが自動的に使えるものではありません。

📍 一文で説明

Snapdragon、Tensor、DimensityにはいずれもLiteRTまたはベンダーSDK経由で公開されたNPUまたはTPUの経路がありますが、サイドロードした汎用のGGUFアプリは通常CPUかGPUで動き、Exynosにはサードパーティの言語モデル向けに文書化された公開経路がありません。

💬 簡潔に説明

NPUは、チップごとにモデルを作り直す必要がある高速レーンです。1つの汎用モデルファイルを配布するアプリは、これを使えません。

チップ
NPU・TPUの公開経路
記載されている場所
状況
Snapdragon 8 Elite / Gen 5あり（チップごとのビルド）LiteRT、Qualcomm GenieX開発者向けの経路
Tensor G5（Pixel 10）あり（Tensor SDK経由）Google Developers Blogベータ（2026年5月）
Tensor G4（Pixel 9）ML Kit経由のGemini NanoML Kit GenAI対応機種
Dimensity 9500あり（NeuroPilot）Google Developers Blogコンパイル済みモデル
Exynos 2600LLM向けは文書化されていない見つからずCPUまたはGPUを前提に
旧世代・ミドルレンジのチップまれまちまちCPU、小型モデル

⚠️注意: ローカルAI向けのスマホを、NPUの「TOPS」の数値で選ばないでください。NPUのピーク性能は、NPUをまったく使わないチャットアプリについて、ほとんど何も語りません。実際の結果の大半は、RAMサイズ、メモリ帯域、冷却で決まります。

AndroidのAIアプリを支える4つの主要エンジン

このガイドのほぼすべてのアプリは、4つのエンジンのいずれかのフロントエンドです。そしてエンジンは、アプリの宣伝文句よりも、そのアプリの強みと限界をよく説明します。 エンジンがわかれば、どのモデルファイルが使えるか、NPUが使えるか、データがどこへ行くかがわかります。

📍 一文で説明

AndroidのオンデバイスAIアプリの多くは、GGUFファイル向けのllama.cpp、Gemma級モデル向けのLiteRT-LM、コンパイル済みモデル向けのMLC、システムのGemini Nanoモデル向けのGoogle AICoreという、4つの主要エンジンのいずれかで動きます。

💬 簡潔に説明

エンジンは、どのモデルファイルを読み込めるか、チップをどれだけ使えるかを決めます。使い心地を決めるのはアプリです。

llama.cpp

動作対象:
Hugging FaceのGGUFファイル。モデルの選択肢が最も広く、多くのアプリが自分のファイルのインポートに対応。
アクセラレーション:
デフォルトはCPU。GPUを追加するアプリもある。Qualcomm GenieXにはHexagonバックエンドがある。
アプリ例:
PocketPal AI、Maid、LM Playground、KernelAI
llama.cppに関する記事（9件）

さらに180件（非表示）

LiteRT-LM

動作対象:
Gemmaなどのモデルを.litertlm形式で動かすGoogleのエッジ向けランタイム。画像・音声入力と関数呼び出しに対応。GoogleはGemma 4、Gemma 3n、Llama、Phi-4、Qwenの各ファミリーを挙げている。
アクセラレーション:
GPUとNPUの経路。Python、Kotlin、C++のAPIは安定版とされている。
アプリ例:
Google AI Edge Gallery、OlliteRT、MemoryAI

MLC LLM

動作対象:
1つのターゲット向けに事前コンパイルしたモデル。任意のファイルではなく、用意されたライブラリから選ぶ。
アクセラレーション:
AndroidではOpenCL GPU。対応はスマホによってばらつきがあると報告されている（MLC Chatのレビューを参照）。
アプリ例:
MLC Chat、MLC LLM
MLC LLMに関する記事（7件）

その他の言及:

Gemini Nano搭載のAICore

動作対象:
Androidが管理・更新するGoogleのシステムモデル。アプリはML Kit GenAI経由で利用するため、アプリ内でダウンロードするものはない。
アクセラレーション:
対応スマホが提供するもの次第。アプリはハードウェアを選べない。
アプリ例:
PAIOS

💡ヒント: 他のエンジンもあります。Private MindはReact Native ExecuTorchライブラリ上で動き、EnsuとAtomic Chatは独自のスタックを持っています。上の4つで、インストールするものの大半をカバーできます。

AndroidがiPhoneより自由度が高い点

Androidは、アプリが自前のモデルとエンジンを読み込めるという意味で、ローカルAIにより開かれたプラットフォームです。ストアの外からアプリをインストールでき、Linuxのユーザーランドを動かせ、スマホをサーバーにもできます。 代償は断片化です。Galaxyのフラッグシップで動くレシピが、他ブランドのミドルレンジのスマホでは失敗することがあり、当方が調べた限り、ベンダー中立の単一の互換性リストは存在しません。

以下の比較におけるAppleの側については、iPhoneのローカルAIをお読みください。2つの大きなエコシステムを並べて見るには、GalaxyとiPhoneのオンデバイスAI比較をご覧ください。

📍 一文で説明

AndroidはiOSより自由に、サイドロードしたAPK、Termux、F-Droid、スマホ上のAPIサーバーを使えますが、その代わりブランドやチップによって結果にばらつきがあります。

💬 簡潔に説明

Androidではより深く手を加えられます。iPhoneは、少ない機種でより予測しやすい結果を返します。

  • サイドロードと代替ストア。 MLC Chatは開発元のGitHubリリースからAPKとして配布され、Google AI Edge Galleryは、Google Playを使わない人向けにAPKも提供しています。同じアプリが複数の場所に存在しうるため、アプリごとに入手元は1つに絞ってください。
  • Termux。 F-DroidまたはGitHubからインストールできる、スマホ上の本物のターミナルです。rootなしでllama.cppをビルドして実行できます。Androidのバックグラウンド制限が最も厳しく効く場面でもあります（バッテリーの章を参照）。
  • サーバーとしてのスマホ。 OlliteRT、Mobile LM Server、Ollama Local AI、ToolNeuronは、OpenAI形式のエンドポイントを公開し、ネットワーク上の他の端末がスマホのモデルを使えるようにします。
  • モデルの選択。 AndroidアプリではGGUFのインポートが一般的な機能なので、用意された一覧に限らず、開発者が公開するほぼあらゆる小型のオープンウェイトモデルを読み込めます。
  • ハードウェアの多様性。 RAM 16 GB以上で能動冷却を備えたゲーミングスマホは、当方が比較対象としたiPhoneより余裕を持てることがあります。裏を返せば、RAM 4 GBの安価なスマホも多く、ローカルAIにはあまり向きません。
  • iPhoneのほうが簡単な点。 ベンダーが1社で、モデルクラスごとのメモリ予算が1つ、バッテリー最適化による驚きも少ないため、iPhoneのほうが結果を予測しやすくなります。柔軟性より予測可能性を重視するなら、姉妹ガイドのほうが合うかもしれません。

当ディレクトリのチャットアシスタント（種類別）

オフラインチャットは、当ディレクトリのAndroidで最も広く対応している用途であり、アプリ選びはほぼトレードオフの選択です。オープンソースかクローズドか、任意のGGUFファイルか用意された一覧か、無料か有料か、といった点です。 以下の各行は、アプリができることと、正直な限界を述べています。より特定の用途に合うアプリは、その用途の章にも再登場します。

最も知られたアプリの速度とセットアップの比較は、Android向けローカルLLMアプリをお読みください。モデルの選択は、モバイルLLMモデル：Phi-4、Gemma、SmolLMと、モバイルのローカルLLMの概要をご覧ください。タブレットをお使いの方は、タブレットでAIを動かすも併せてお読みください。

📍 一文で説明

スマホ上でチャットモデルを動かすAndroidアプリは数十あります。オープンソースのGGUFランナーはモデルの選択肢が最も広く、クローズドソースのアプリはガイド付きのダウンロードを提供し、Google AI Edge GalleryはGemma級モデル向けのGoogle自身のフロントエンドです。

💬 簡潔に説明

モデルを自分で選びたいならオープンソースのランナー、5分で動かしたいならガイド付きのアプリを選びましょう。

オープンソースおよび開発元製のランナー（まずはここから）

  • PocketPal AI：AndroidとiPhone向けの無料でMITライセンスのGGUFランナー。アカウント不要で、任意のコミュニティマーケットプレイスでは有料のプリセットが販売されています。限界：モデルは自分で選びます。アプリには固定のRAM下限がないため、大きすぎるモデルは単に読み込みに失敗します。
  • Google AI Edge Gallery：LiteRT上のオンデバイスモデル向けGoogleの無料ショーケースで、チャット、画像への質問、音声の文字起こし、プロンプトのテストができます。Android 12以降が必要で、Google PlayまたはAPKからインストールします。限界：Googleはこのアプリを実験的なベータ版としています。そのApp Storeのプライバシーラベルには一部のデバイス診断情報が記載されています（当方のiPhone版レビューによる）。テレメトリーゼロと見なす前に、AndroidのデータセーフティのカードをGoogle Playで確認してください。
  • Maid：MITライセンス。llama.cpp経由でGGUFモデルを動かすか、自分のキーでリモートプロバイダーに接続します。バージョン3.0.0でコードベースがReact Nativeで書き直され、現在はAndroid専用アプリとして配布されています。限界：旧版のiOS版とデスクトップ版は終了しているため、古いチュートリアルは当てはまりません。
  • Off Grid AI：無料、MITライセンス、アカウント不要で、Android、iOS、macOS、Windowsに対応。限界：開発元サイトのダウンロード数は自己申告であり、アプリストアの数字と照合できませんでした。
  • Private Mind：MITライセンスで、Software Mansion製。React Native ExecuTorch経由でモデルを動かし、文書への質問、Whisperによる音声入力、組み込みの速度ベンチマークを備えます。限界：バージョン1.3.0以降、任意のWebトグルがインターネットからページを取得するため、厳密なオフライン利用ではオフにしてください。
  • Atomic Chat：Apache-2.0。Hugging Faceの1,000超のモデルを閲覧でき、ローカルのOpenAI互換APIを公開し、エージェントに対応します。限界：任意のクラウドプロバイダーが組み込まれているため、オフラインのみで使いたい場合は、どれもオンになっていないことを確認してください。
  • Ensu：AGPL-3.0、Ente Labsのチーム製で、画像入力、ローカルの音声入力に対応し、アカウントは不要です。限界：RAMが4 GB未満のスマホではチャットが無効になります。また、PromptQuorumは実機での検証を行っていません。
  • Llamatik：MITライセンスのオフラインチャットボットで、開発者のKotlin Multiplatform SDKのショーケースを兼ねます。Android版は2025年11月にGoogle Playに登場しました。限界：個人の開発者1名で、アプリもまだ新しい段階です。
  • LM Playground：MITライセンスのGGUFランナーで、文書への質問、画像対応モデル向けの写真入力、推論の表示、任意のツールを備えます。限界：個人の開発者による製品で、レビューはストアの掲載情報、Webサイト、リポジトリに基づいています。
  • MLC Chat：MLCコンパイラ上のApache-2.0のアプリで、GPUアクセラレーションによる推論を行います。Google Playの掲載ではなく、開発元のGitHubリリースからのAPKです。限界：用意されたモデルライブラリ、スマホによってばらつきのあるOpenCL対応、そして最終更新からの長い空白期間です（更新が止まったアプリの章を参照）。

無料のコンシューマー向けアプリ（クローズドソース）

  • KernelAI：オープンモデルをダウンロードし（開発元によると53個、112 MB〜3.11 GB）、llama.cpp経由で動かします。文書と画像にも対応します。限界：単一の公開元によるクローズドソースのため、主張はそのアプリ自身のページに依拠しています。
  • MemoryAI：llama.cppとGoogle LiteRT経由でモデルを動かし、文書への質問、編集可能なAgent Memory、ハンズフリーの音声、PINロック付きのキッズモードを備えます。限界：クローズドソースで、個人の開発者1名です。
  • Loci AI：モデルごとにllama.cppまたはMLXを選び、スマホの温度を管理し、チャット間でメモリを同期します。より大きなモデルのためにデスクトップとリンクすることもできます。限界：クローズドソースで、「プライベート」という約束は、初期設定後にアプリがオフラインのままであることに左右される場合があります。
  • On Device LLM：GGUFのインポートと、任意のローカルOpenAI互換APIを備えた無料のオフラインチャット。限界：新しいアプリでクローズドソースです。Google Playでは「Local LLM」という名称で、似た名前のiPhoneアプリとは別物です。
  • LocalAI: Offline AI Chat LLM：任意のプレミアム層、文書チャット、画像入力、構造化出力を備えたllama.cppのチャット。限界：クローズドソースで、公開リポジトリは見つかりませんでした。
  • Chatty-mini：個人開発者によるポートレート中心のGGUFチャット。限界：公開ドキュメントが乏しく、ライセンスも未確認です。
  • Caelum：スマホ上で動作するとされる無料のチャットと文書アシスタントで、Braveによる任意のWeb検索を備えます。限界：2025年8月以降更新がありません。更新が止まったアプリの章を参照してください。

コンパニオン、有料アプリ、企業製のアプリ

  • Layla：ペルソナとロールプレイのコンパニオンをローカルで動かすことを軸にした有料アプリ（買い切りに加えてアプリ内の課金層）。限界：クローズドソースで価格が必要です。ユーティリティというより、まずコンパニオンのアプリです。
  • Laria：ダウンロード可能なオンデバイスモデル、カスタムAIアイデンティティ、画像ツール、任意のクラウドプロバイダーを備えた有料のAndroidアシスタント。限界：クローズドソースで、当方のレビューによると、開発者のページには露骨なサンプルコンテンツが表示されます。先に年齢区分の注記をお読みください。
  • Secret AI：カスタムキャラクター、スキル、MCPツールを備え、GGUF、MNN、MLXのモデルを動かします。限界：クローズドソースで、同じ名前の他の製品もあるため、インストール前に公開元を確認してください。
  • CompactifAI APP：Multiverse Computing製で、オフライン用の圧縮モデルと、開発元のクラウドAPI経由のより大きなモデルを提供します。限界：クラウド経由の使い方が製品の一部であり、オフラインは自分で選ぶオプションです。
  • Liquid Apollo：Liquid AIの小型LFM2モデルを端末上で動かすアプリで、OpenRouterとカスタムバックエンドにも対応します。限界：ローカル専用ではありません。クラウドモードとカスタムサーバーモードでは、プロンプトがスマホの外へ送られます。
  • TokForge：ロールプレイのキャラクター、画像生成、音声、文書への質問に加え、公開リーダーボードに投稿できる速度ベンチマークを備えます。限界：プロプライエタリで、iPhone版は公開ベータです。

システムモデル：AICore経由のGemini Nano

  • PAIOS：Gemini Nano向けの無料でオープンソースのチャットフロントエンドで、AICore経由で動作し、アプリ内でのモデルのダウンロードはありません。限界：AICoreがGemini Nanoに対応するスマホでのみ動作し（名前の挙がる例はPixel 9と10）、プロジェクト自身がアルファ版としています。

💡ヒント: 入れるのは10個ではなく2つにしましょう。選択肢の広さのためのオープンソースのGGUFランナー（PocketPal AIまたはMaid）と、Gemmaファミリーのモデル向けのGoogle AI Edge Galleryです。他のアプリは、そのアプリのほうが得意な用途がある場合にだけ追加してください。

⚠️注意: 上のアプリのいくつかは新しく、クローズドソースで、掲載情報だけをもとにレビューしています。機能一覧は開発元の主張です。どれを実機で検証していないかは、PromptQuorumのレビューに明記されています。

画像とカメラへの質問

カメラを何かに向けて質問する使い方は、いまやオンデバイスで動作しますが、画像対応のモデルが必要です。 テキスト専用のモデルは、画像を黙って無視するか、拒否します。以下のアプリは、画像対応のモデル、または画像入力を受け付けるモデルを読み込みます。品質を決めるのはアプリではなくモデルです。

GoogleのML Kitには、システムレベルの選択肢もあります。Prompt APIはテキストと最大10枚の画像を受け付け、専用のImage Description APIは画像の短いキャプションを生成します。どちらも、対応スマホのGemini Nano上で動きます。GoogleはGemma 4がグラフの読み取りや手書き文字の認識といったOCR系のタスクを改善するとも述べていますが、独立した精度の数値は見つからなかったため、ご自身の文書で試してください。

📍 一文で説明

Androidのカメラへの質問は、Google AI Edge Gallery、LM Playground、Private Mindなどのアプリの画像対応モデルによって、また対応スマホではGemini Nano経由で、オフラインで動作します。

💬 簡潔に説明

画像対応のモデルは写真そのものを読みますが、テキスト専用のモデルは写真を見ることがありません。そのため、アプリよりも選ぶモデルのほうが重要です。

  • Google AI Edge Gallery：Ask Image機能は、カメラまたはギャラリーの画像から、物体の識別、視覚パズルの解答、画像の説明を行います。限界：画像対応のGemmaモデルが必要で、READMEに精度の数値は記載されていません。
  • LM Playground：GGUF形式の画像対応モデル向けの写真入力。限界：画像対応のGGUFとそのプロジェクターファイルは自分で探してダウンロードする必要があり、アプリはそれをしてくれません。
  • Private Mind：テキストモデルと並べて、画像対応のモデルを一覧に載せています。限界：大きな画像対応モデルは、掲載が大きなモデル向けに推奨する4 GBより多くのRAMを必要とすることがあります。
  • LocalAI: Offline AI Chat LLM：Google Playの掲載情報によると、画像対応のモデルに対応しています。限界：クローズドソースで、PromptQuorumのレビューはストアの掲載情報に基づいています。
  • KernelAI：機能の1つとして画像対応を挙げています。限界：その主張は開発者のページに依拠しています。
  • Ensu：チャットで画像入力を受け付けます。限界：画像の対応は、選ぶモデルによって決まります。

⚠️注意: 読み間違いが問題になる用途には、オンデバイスの画像対応モデルを使わないでください。薬のラベル、法的な文書、安全標識などです。小型の画像対応モデルは文字や数字を読み間違えることがあり、頼れる検証済みの精度の数値もありません。

音声：音声入力、文字起こし、読み上げ、アシスタント

オフラインの音声入力と文字起こしは、Androidで最も成熟した音声の用途です。常時待機するオフラインアシスタントは、最も未成熟です。 前の2つはWhisperのような音声モデルをスマホ上で動かし、ユーザーが起動します。最後の1つは、Androidが自由に終了できるバックグラウンドサービスを必要とします。

GoogleのML Kitの音声認識には、ドキュメントによればAPIレベル31以降のほとんどのAndroid端末で使える基本モードと、Pixel 10スマホで使える高度なモードがあり、対応端末は開発中とされています。ML Kitには音声翻訳と音声合成も挙げられていますが、概要ページにはそれらの端末要件が記載されていないため、機能ごとのページをご確認ください。

オフライン音声の全体像は、モバイルのオフライン音声アシスタント、ローカルWhisper音声認識の比較、ローカル音声・オーディオツールの比較、ローカル音声アシスタントの作り方をご覧ください。

📍 一文で説明

オフラインの音声入力と録音の文字起こしは、Private Mind、Ensu、LLM HubなどのアプリのWhisper級モデルによってAndroidで動きますが、オフラインの常時待機型音声アシスタントは、Androidのバックグラウンドの規則によって制約されたままです。

💬 簡潔に説明

タップして始める音声はオフラインで動きます。一日中待機し続けなければならない音声は、バッテリーの制限とアプリ終了機能にぶつかります。

Private Mind

音声の用途:
スマホ上でWhisperによる音声入力
正直な限界:
言語と精度は、読み込むWhisperモデルによって異なります。
Private Mindに関する記事（3件）

その他の言及:

さらに11件（非表示）

Ensu

音声の用途:
チャットへのローカルの音声入力
正直な限界:
PromptQuorumは実機で検証しておらず、精度のデータもありません。
Ensuに関する記事（2件）

その他の言及:

LM Playground

音声の用途:
音声入力
正直な限界:
音声入力のみで、音声での返答は挙げられていません。
LM Playgroundに関する記事（1件）

LLM Hub

音声の用途:
チャット、画像、翻訳と並ぶWhisperの文字起こし
正直な限界:
非商用ライセンスのソース公開。Premium層は有料です。
LLM Hubに関する記事（2件）

その他の言及:

MemoryAI

音声の用途:
ハンズフリーの音声会話
正直な限界:
クローズドソース。認識がオンデバイスかどうかは、プライバシーポリシーで確認してください。
MemoryAIに関する記事（4件）

ToolNeuron

音声の用途:
音声入力と音声出力、および暗号化ストア
正直な限界:
3か月を超えて更新がありません。更新が止まったアプリをご覧ください。
ToolNeuronに関する記事（4件）

その他の言及:

TokForge

音声の用途:
音声クローンによる音声合成
正直な限界:
プロプライエタリ。音声クローンには、同意となりすましの問題があります。
TokForgeに関する記事（2件）

RunAnywhere

音声の用途:
自作アプリで音声認識、音声合成、音声区間検出を行うSDK
正直な限界:
開発者向けのライブラリでありアプリではありません。商用条件が適用されます。
RunAnywhereに関する記事（1件）

その他の言及:

Home Assistant Assist

音声の用途:
自分のハードウェア上のWhisperとPiperで家を音声操作
正直な限界:
音声モデルはスマホではなく、自宅サーバーで動きます。
Home Assistant Assistに関する記事（2件）

AquaVoice

音声の用途:
アクティブなアプリに入力する高速な音声入力
正直な限界:
クラウドサービスです。ローカルと取り違えないよう、ここに載せています。
AquaVoiceに関する記事（2件）

その他の言及:

⚠️注意: 音声クローンと常時録音は、機能であるだけでなく、プライバシーと同意の問題です。クローンにするのは自分自身の声、または使用の書面による許可を得た声だけにし、録音するときは相手に知らせてください。

文書、PDF、RAG

Androidでの文書への質問は、ファイルをチャンクに分割し、関連するものを見つけ、それだけを小型モデルに渡すことで動作します。 これが検索拡張生成（RAG）です。PDF全体を小型モデルに貼り付けるよりも優れており、後者はコンテキストウィンドウが短すぎて収まりません。

Gemini NanoのPrompt APIは入力を約4,000トークン未満に制限しており、これは英語でおよそ3,000語にあたるため、システムレベルの文書への質問でもチャンク化が必要です。手法の詳細は、PDFでローカルRAGを一歩ずつとベストなローカルRAGツールをお読みください。

📍 一文で説明

AnythingLLM Mobile、Private Mind、LM Playground、Honey LLMなどのAndroidアプリは、関連するチャンクを検索して小型モデルに渡すことで、スマホ上で自分のファイルに関する質問に答えます。

💬 簡潔に説明

アプリが文書から適切な段落を探し、それだけをモデルに渡すため、小型モデルでも長いファイルについての質問に答えられます。

  • AnythingLLM Mobile：MITライセンスで、Android専用。スタンドアロンモードでは、小型モデルとローカルのベクターデータベースをスマホ上で動かします。接続モードでは、QRコードでAnythingLLM DesktopまたはCloudとペアリングし、全機能を利用できます。限界：スタンドアロンの品質は小型モデルのものです。より多くを得る方法はペアリングです。
  • Private Mind：出典の引用付きのオンデバイス文書Q&A。限界：引用は回答がどこから来たかを示すものであり、正しいことを示すものではありません。
  • LM Playground：無料のMITアプリでのオンデバイス文書Q&A。限界：個人の開発者による製品です。頼る前に、対応するファイル形式をレビューで確認してください。
  • Honey LLM：PDF、DOCX、TXT、Markdownのファイルに関する質問に答え、暗号化されたローカルの保管庫を保持します。限界：2026年3月からGoogle Playにある新しいアプリで、当方のレビューは掲載情報に基づいています。
  • LocalAI: Offline AI Chat LLM：オンデバイスのベクトル検索を使った、PDF、Word、Excel、CSVの文書チャット。限界：クローズドソースで、レビューは掲載情報に基づいています。
  • ToolNeuron：暗号化ストレージ、音声、ローカルHTTPサーバー、プラグインを備えた文書RAG。限界：3か月を超えて更新がありません。
  • MemoryAI：文書Q&Aと、編集できるAgent Memory。限界：クローズドソースです。
  • Caelum：任意のWeb検索付きの文書への質問。限界：2025年8月以降更新がなく、Web検索オプションはクエリをオンラインに送信します。

💡ヒント: 大きなアーカイブは、スマホ上でインデックス化しないでください。リモートモードの章で述べるように、インデックスはコンピューターまたはサーバーで実行し、スマホはクライアントとして使いましょう。

翻訳

Androidでのオフライン翻訳は、一般的な言語ペアなら小型モデルで動作しますが、まれな言語や長い文章では品質が落ちます。 Googleは、Gemma 4が140を超える言語にネイティブ対応していると述べ、ML Kit GenAI APIの1つとして音声翻訳を挙げています。どちらの主張にも、当方が検証できた精度の数値は付いていないため、頼る前にご自身の言語ペアで試してください。

📍 一文で説明

LLM HubやGoogle AI Edge GalleryなどのAndroidアプリは、テキストと録音をスマホ上で翻訳し、ML Kitは対応端末で音声翻訳を加えます。

💬 簡潔に説明

小型モデルは日常的な文はよく訳せますが、まれな言語、慣用句、法律用語は苦手です。

  • LLM Hub：チャット、MCPサーバー付きのエージェント、画像・音楽の生成、Whisperの文字起こしと並ぶオンデバイス翻訳。限界：非商用ライセンスのソース公開で、有料のPremium層があります。
  • Google AI Edge Gallery：Audio Scribe機能が、音声の録音をオンデバイスで文字起こしし、翻訳します。限界：実験的なベータ版です。
  • Local AI Mail：オンデバイスモデルでメールを要約し、翻訳し、返信を下書きするAndroidのメールクライアントで、自分のキーを使ってGeminiに切り替えることもできます。限界：非常に初期のリリースです。任意のGeminiモードは、メールのテキストをGoogleに送信します。

⚠️注意: 契約書、医療文書、誤訳が結果を伴うものについて、小型のローカルモデルに頼らないでください。概要や下書きに使い、その後に確認しましょう。

画像生成と編集

スマホでの画像生成は可能ですが、デスクトップGPUに比べると遅く、チップ固有のチューニングが最も効く用途です。 SamsungとNota AIは、Exynos 2600のNPU上で512×512の画像を1秒未満で生成するStable Diffusionの派生版EdgeFusionを説明しています（Samsungとパートナーによる主張、当方のGalaxy S26ガイドに引用）。これはベンダーがチューニングしたパイプラインです。以下のサイドロードしたアプリについては、検証済みの速度が見つからなかったため、数値は挙げません。

クラウドとローカルのトレードオフ全般については、ローカルAI画像生成とクラウドの比較をご覧ください。インペインティングなどの編集ツールは、スマホではテキストから画像への生成よりもまれです。

📍 一文で説明

TokForge、Local AI by GeetMark、Laria、LLM HubなどのAndroidアプリはオンデバイスモデルで画像を生成しますが、当方が調べた限り、それらの検証済みの生成時間を公表している情報源はありません。

💬 簡潔に説明

スマホはインターネットなしで絵を描けますが、グラフィックスカードを積んだコンピューターよりずっと長く待つことになります。

  • Local AI: Offline Chat and Image：無料。20以上のモデルでのチャット、Stable Diffusionの画像、15のプロンプトツールキットを備えます。限界：広告を含み、ソースコードとライセンスは公開されていません。
  • TokForge：オンデバイスの画像生成、音声、文書Q&Aを備えたロールプレイのキャラクター。限界：プロプライエタリです。速度の結果は公開リーダーボードに投稿できるため、ベンチマークが何を共有するかを確認してください。
  • Laria：ローカルとクラウドのチャットと並ぶ画像ツール。限界：有料です。一部の画像ツールはクラウドプロバイダーを使う可能性があるため、ツールごとに確認してください。
  • LLM Hub：チャットや翻訳と同じアプリでの、画像・音楽の生成。限界：非商用のソース公開ライセンスです。

💡ヒント: 実用上の限界は熱です。数枚続けて生成するだけで、スマホが遅くなるほど温まることがあります。短いバッチで生成し、冷ましてください。

ノート、ナレッジ、ブックマーク

ノートとブックマークのアプリは、自分のサーバーやプレーンファイルにあるナレッジのモバイルクライアントとなり、AI機能は指し示した場所で動きます。 以下のアプリで、Androidアプリ自体の中で言語モデルを動かすものはありません。いずれも自分で選んだAIプロバイダーに接続し、それはネットワーク上のローカルのOllamaサーバーでも、クラウドサービスでも構いません。つまり、保存についてはローカルファーストですが、推論についてはそうとは限りません。

📍 一文で説明

Karakeep、Linkwarden、Blinko、Logseq、SiYuan、HillnoteのAndroidクライアントは、ノートとブックマークを自分の管理下に置き、AI機能は設定したサーバーまたはプロバイダーで動きます。

💬 簡潔に説明

これらのアプリは知識をローカルに保存します。タグ付けや要約を行うAIモデルもローカルにできますが、そのように設定した場合に限ります。

  • Karakeep：AGPL-3.0で、Dockerでセルフホストし、リンク、ノート、画像、PDFを保存して、AIでタグ付け、要約、インデックス化します。AndroidとiOSのアプリ、ブラウザ拡張機能があります。限界：AIによるタグ付けには、自分で設定するモデルのエンドポイントが必要です。
  • Linkwarden：AGPL-3.0のブックマークマネージャーで、各ページのコピーを保存し、ローカルのOllamaモデルまたはクラウドプロバイダーでリンクにタグを付けられます。限界：Cloud版は有料で、セルフホストは自己責任です。
  • Blinko：GPL-3.0のセルフホスト型ノートアプリで、自分のノートに対するRAGによる自然言語検索を備え、Dockerコンテナとして動かします。限界：RAG検索は、自分で接続するAIプロバイダーを使います。
  • Logseq：AGPL-3.0で、AndroidとiOSのアプリを持つローカルファーストのアウトライナー。組み込みモデルはなく、データベース版のベータでは、外部のAIクライアントがグラフを読み書きできる任意のMCPサーバーが追加されます。限界：AIは持ち込み式で、MCPサーバーはベータです。
  • SiYuan：AGPL-3.0のブロック単位のナレッジワークスペースで、AndroidとiOSのアプリと、組み込みのAIエージェント連携を備えます。限界：暗号化されたクラウド同期は有料のアドオンです。AI機能がローカルだと考える前に、それがどこで動くかを確認してください。
  • Hillnote：Mac、Windows、iPhone、iPad、Android向けのMarkdownノートのワークスペースで、ファイルを自分のディスクに保存します。そのオンデバイスAIはOllamaとApple Intelligenceとして挙げられており、どちらもAndroidスマホでは動きません。購入前に、Android版が実際にどのAI機能を提供するかを確認してください。

💡ヒント: よい組み合わせ方：ノートアプリと小型のOllamaモデルを自宅サーバーでセルフホストし、Androidアプリは、取り込みと検索のクライアントにします。

スマートホームとエージェント

スマートホームでは、スマホはリモコンでありマイクです。エージェントでは、スマホはエージェントを動かす場所であり、次第にエージェントが操作する対象にもなっています。 スマートホームのAIは自宅サーバーに置くのが適切です。スマホは眠り、動き回り、アプリが終了させられるからです。Androidのエージェントは3つの系統に分かれます。ツールを使うアシスタント、サーバー上で動いてスマホをクライアントとして使うエージェント、スマホ自体を操作するエージェントです。

スマートホーム側の詳細は、PromptQuorumのスマートホームのクラスターをご覧ください。この章では、スマホが担う部分を扱います。

📍 一文で説明

Androidスマホは、スマートホームAI（Home Assistant Assist、Scrypted、EverShelf、LocalGhost）のクライアントとして動作し、ツールを使うエージェント（Kai 9000、PicoClaw、Aori）も動かせますが、他のアプリのシステムレベルでの制御は、まだプレビュー段階です。

💬 簡潔に説明

頭脳は自宅サーバーに任せ、スマホはリモコンとマイクにしましょう。

スマートホームのクライアントとしてのスマホ

  • Home Assistant Assist：Home Assistant内の音声アシスタント。認識にWhisperまたはSpeech-to-Phrase、音声合成にPiperをWyomingプロトコルで使い、自分のハードウェア上で完全に動かせます。また、Ollamaが提供するようなLLMにリクエストを渡すこともできます。Androidアプリは、マイクと画面です。限界：音声モデルと言語モデルは、スマホ上ではなく自宅サーバー上で動きます。
  • Scrypted：AndroidとiOSのビューアーアプリを持つオープンソースのカメラ・NVRプラットフォームで、サーバー上のllama.cpp経由の、任意のローカルLLMによる要約も備えます。限界：NVRコンポーネントは有料で、AIはScryptedが動く場所で動きます。
  • EverShelf：バーコードスキャン、期限の追跡、買い物リストを備えたセルフホスト型のパントリー管理。AI機能は任意で、Gemini、OpenAI、または自分のLlamaサーバーを使います。限界：チャットやLLMのアプリではなく、任意のクラウドプロバイダーは送信した内容を見ます。
  • LocalGhost：自分が所有するDebianマシン上のMITライセンスの個人用AIシステムで、唯一のクライアントであるAndroidアプリが、ローカルモデルで写真、ノート、音声メモ、健康データを読み取ります。限界：非常に初期の段階で（レビューしたリリースはv0.0.7）、健康データは機微なものであるため、実験として扱ってください。

ツールを使うエージェント

  • Kai 9000：Android、iOS、デスクトップ、Webで永続メモリとツールを備えたApache-2.0のアシスタント。デフォルトではクラウドプロバイダーと通信し、任意でGemma 4を含むダウンロードしたモデルをデバイス上で動かせます。限界：デフォルトはクラウドのため、意識的にオンデバイスに切り替えてください。
  • PicoClaw：Sipeed製のMITライセンスのエージェントで、小型ボード、Androidスマホ、デスクトップ向けの単一のGoプログラムです。設定したモデル（クラウドプロバイダー、または自分のOllamaやvLLMのサーバー）にリクエストを転送します。限界：モデルはスマホ上にありません。
  • Aori：永続メモリ、ペルソナ、スケジュール実行のルーチンを備えた、デスクトップとAndroid向けの無料ベータの個人用エージェント。限界：Androidアプリは、接続したプロバイダーにプロンプトを送信し、3か月を超えて更新がありません（更新が止まったアプリを参照）。
  • Atomic Bot：オープンソースのOpenClawエージェントスタックを、ローカルまたは開発元の有料クラウドで、ワンクリックでパッケージ化したもの。限界：ディレクトリはモバイルと記載していますが、当方のレビューでは開発元のサイトにAndroidビルドの記載が見つからなかったため、計画に組み込む前に確認してください。

スマホを操作するエージェント

  • Android AppFunctionsは、アプリがGeminiなどのエージェントから呼び出せる関数を公開できるようにします。GoogleはこれをAndroid 16以降向けのJetpackライブラリ付きのプラットフォームAPIとして文書化しています。当方が読んだ資料は、限定プレビューか非公開プレビューかで食い違っているため、一般提供されていないものとして扱ってください。これはMCPツールのオンデバイス版にあたり、アプリの開発者が対応することが必要です。
  • ML Kit AgentRunnerは、Gemini NanoのPrompt APIの上に、開発者向けの複数ステップのツール呼び出しループを提供し、アプリが小型のエージェントをスマホ上だけで動かせるようにします。Prompt APIと同じ制限があります。フォアグラウンドのみ、対応スマホのみです。
  • Open-AutoGLMは、Zhipuチームによるオープンソースのスマホエージェントのフレームワーク（zai-org/Open-AutoGLM）で、コンピューター上で動作し、画面を読む画像言語モデルを使って、ADB経由でAndroidスマホを操作します。モデルはリモートAPIでもローカルで提供するモデルでもよく、エージェント自体はスマホ上にありません。ライセンスとモデルカードはご自身で確認してください。当方が調べた情報源は食い違っていました。

⚠️注意: タップし、入力し、画面を読めるエージェントは、見たものを漏らすこともできます。スマホを操作するエージェントは、テスト用のスマホまたは仕事用プロファイルで動かし、銀行アプリが入っているスマホでは決して動かさないでください。

開発者向けの経路

Androidには、オンデバイスAIへの経路が数多くあり、どれを選ぶかは、システム統合、モデルの選択、NPUのどれが必要かで決まります。 表で経路を比較し、その後の注記で、最も時間を取られやすい注意点を挙げます。

📍 一文で説明

開発者がAndroidを対象にする経路は、Google ML Kit GenAIとGemini Nano、LiteRTとLiteRT-LM、TermuxまたはNDK経由のllama.cpp、MLC LLM、ExecuTorch、Qualcomm GenieX、あるいはRunAnywhereやLlamatikなどのSDKです。

💬 簡潔に説明

Googleのシステムモデルで足りるならそれを使い、NPUが必要ならGoogleやQualcommのランタイム、任意のGGUFモデルを使いたいならllama.cppを使います。

レビュー済みの開発者向けツール

  • RunAnywhere：iOS、Android、Flutter、React Nativeのアプリ向けの、デバイス上で動くLLM、音声認識、音声合成、音声区間検出、画像言語モデル、埋め込みのSDK。限界：Apache-2.0をベースとしたライセンスに、商用条件が付きます。
  • Llamatik：同名のオフラインチャットボットの裏にあるKotlin Multiplatform SDK。限界：個人の開発者1名です。
  • Foundry Local：C#、JavaScript、Rust、PythonのSDKを持つ、Microsoftのオンデバイス向けランタイム。限界：レビューが記載しているのはデスクトップ向けSDKで、Androidビルドの記載はありません。
  • MLC LLM：MLC Chatの裏にあるコンパイラとランタイムで、iPhone、Android、ブラウザ（WebGPU）、デスクトップGPUを対象にします。限界：モデルとターゲットごとにコンパイルの手順が必要です。
  • OlliteRT：GoogleのLiteRT-LM上で、AndroidスマホをOpenAI互換サーバーにするもので、独自のチャット画面はありません。限界：GGUFではなく.litertlmのモデルファイルが必要です。
  • Mobile LM Server：GGUFとLiteRT-LMのモデルを動かし、OpenAI互換とOllama互換のエンドポイントで提供します。限界：広告とアプリ内課金を含み、当方のレビューは掲載情報に基づいており、その掲載情報のレビューでは、プライバシーポリシーとデータセーフティのカードが位置情報について食い違っていると指摘しています。
  • Ollama Local AI：組み込みのllama.cppエンジンでGGUFモデルを動かし、Wi-Fi上にOpenAI互換のAPIを公開するため、Cursorなどのツールがスマホを使えます。限界：Ollamaプロジェクトのアプリではなく、無料でアプリ内課金があります。

ML Kit GenAIとGemini Nano（AICore）

向いている用途:
自動で更新されるシステムモデル上での、要約、書き換え、画像の説明、Prompt API。AgentRunnerとEmbedding APIを含む。Prompt APIの入力は約4,000トークン未満。
主な制限:
フォアグラウンドでのみ利用可。アプリごとのクォータあり。対応スマホのみ。ブートローダーのロック解除済みでは非対応（Prompt API）。

Gemma 4搭載のAICore Developer Preview

向いている用途:
ML KitのPrompt API経由でGemma 4 E2BとE4Bを試す。いま書いたコードは、Gemini Nano 4搭載端末に引き継げることを意図している。
主な制限:
プレビュー版。Googleは、ツール呼び出し、構造化出力、システムプロンプト、思考モードがまだ追加中だとしていた。

LiteRTとLiteRT-LM

向いている用途:
Gemma、Llama、Phi-4、Qwenの各ファミリーを使う自作アプリ、GPUとNPUのアクセラレーション、画像・音声入力、関数呼び出し。
主な制限:
NPUにはチップごとのコンパイル済みモデルが必要。SwiftとJavaScriptは初期のプレビュー。

Qualcomm AI HubとGenieX

向いている用途:
Snapdragon 8 EliteとSnapdragon 8 Elite Gen 5。Hexagonバックエンドでのllama.cpp経由のGGUF、またはAI Engine Direct経由のコンパイル済みAI Hubバンドル。
主な制限:
Snapdragonのみ。AI Hubの経路では、AndroidランタイムがデフォルトでないGPUレイヤー設定とコンテキスト設定を拒否する。

LiteRT経由のMediaTek NeuroPilot

向いている用途:
コンパイル済みのGemmaとQwen3モデルを使うDimensityのNPU。
主な制限:
MediaTek向けのカスタムGemma変換はまだ利用できなかった。

Google Tensor SDK

向いている用途:
LiteRT経由のPixel 10のTPU。100以上のモデルを収めたModel Gardenつき。
主な制限:
ベータ版。Pixel 10ファミリーのみ。

TermuxまたはNDKでのllama.cpp

向いている用途:
CPU上の任意のGGUFモデル。rootは不要。単発のプロトタイプやCLI。
主な制限:
Androidのプロセス制限と発熱。コンテキストは4096付近から始めないと、ターミナルが終了させられることがある。

MLC LLM

向いている用途:
GPUアクセラレーションを使い、1つのターゲット向けにモデルをコンパイルする。
主な制限:
コンパイルのツールチェーン。OpenCLの対応はスマホによって異なる。
MLC LLMに関する記事（7件）

その他の言及:

ExecuTorch

向いている用途:
AndroidへのPyTorchのエクスポート。LLMとCPU、GPU、NPU、DSPのバックエンドを対象とすると記載されている。
主な制限:
概要ページからは、バックエンドの正確な一覧と状況を確認できなかった。

SDK：RunAnywhere、Llamatik、Foundry Local

向いている用途:
自作アプリでの音声、画像、LLMの機能（RunAnywhere）。Kotlin Multiplatform（Llamatik）。C#、JavaScript、Rust、PythonのSDKを持つMicrosoftのランタイム（Foundry Local）。
主な制限:
Foundry Localはディレクトリ上でAndroid対応として挙げられているが、そのレビューにAndroidビルドの記載はない。使う前に確認すること。

💡ヒント: 開発元のページをお読みください。ML Kit GenAIの概要、Gemini NanoとAICore、LiteRT-LM、Qualcomm AI Hub、Termux、llama.cppのAndroidガイドです。

リモートモード：スマホを薄いクライアントにする

「AndroidのローカルAI」として最も高性能な構成は、スマホが自分のコンピューター上のモデルと通信する形であることが少なくありません。 モデルはOllamaまたはLM Studioのマシンで動き、スマホはインターフェースです。通信は自分のネットワーク（またはVPN）の中にとどまるためプライバシーを保て、スマホのRAMに頼らず、7B〜70B級のモデルを使えます。

注意点が3つあります。第一に、サーバーの電源が入っていて到達可能である必要があるため、WireGuardやTailscaleなどのVPNを加えない限り、外出先では動きません。第二に、Ollamaはデフォルトではローカルマシンのみで待ち受けます。ホストアドレスを設定するなどしてネットワークに公開すると、内蔵のログインがないため、そのネットワーク上の誰でもアクセスできます。認証付きのリバースプロキシまたはVPNを使ってください。第三に、同じアプリ内のクラウドAPIキーは別のデータ経路となるため、ローカルとクラウドのプロファイルははっきり分けておいてください。

📍 一文で説明

LocalMind、PocketLLM Lite、AnythingLLM Mobile、AnyLLM、RikkaHubなどのAndroidアプリは、スマホを、ネットワーク上の自分のOllamaまたはLM Studioサーバーのクライアントとして動かします。

💬 簡潔に説明

スマホは画面とキーボードで、重い思考は自宅のコンピューターで行われます。

  • LocalMind：AndroidとiPhone向けの無料でMITライセンスのチャットアプリで、プロンプトをスマホ上のモデル、またはOllama、LM Studio、OpenRouter、任意のOpenAI互換エンドポイントに送り、MCPツールにも対応します。限界：個人の開発者による製品で、リモート経路は選んだエンドポイントにテキストを送信します。
  • PocketLLM Lite：Cactus形式のモデルをスマホ上で動かすか、自分のOllamaまたはOpenAI互換サーバーに接続するMITライセンスのAndroidアプリ。限界：開発者名の記載がなく、PromptQuorumはインストールしていません。
  • AnythingLLM Mobile：接続モードでは、ローカルネットワーク経由でQRコードによりAnythingLLM DesktopまたはCloudとペアリングします。限界：Android専用です。
  • AnyLLM：自分のAPIキー（OpenAI、Anthropic、Google、Groq）向けのAndroidクライアントで、Ollamaサーバーにも接続でき、MCPツールとAI同士のディベートを備えます。限界：クローズドソースで、クラウドのキーを使うとプロンプトが自分のネットワークの外へ出ます。
  • RikkaHub：クラウドプロバイダー向けのオープンソースのAndroidクライアントで、カスタムエンドポイントの欄から、セルフホストのOllamaまたはLM Studioのサーバーに接続できます。限界：スマホ上でモデルを動かさないため、それだけではオフラインのアプリではありません。
  • Chapper：洗練されたOllamaとLM Studioのクライアントですが、Apple専用（iPhone、iPad、Mac）です。限界：Android版はないため、Androidユーザーは上のアプリのいずれかを使ってください。

💡ヒント: スマホをサーバーにすることもできます。OlliteRT、Mobile LM Server、Ollama Local AIは、Wi-Fi上の他の端末にモデルを提供します。テストや簡単なスクリプトには便利ですが、本物のサーバーの代わりにはなりません。

プライバシーとテレメトリーの実情

オンデバイス推論は、プロンプトをベンダーの推論サーバーに送らないようにしますが、それだけでは、アプリが他の場所にデータを送るのを防げません。 「テレメトリーゼロ」は、分析SDKなし、クラッシュレポートなし、広告なし、モデルのダウンロード後のネットワーク通信なしを意味することもあれば、その一部だけを意味することもあります。アプリによって異なり、確認しない限り、その主張は開発元のものです。

確認すべき場所は3つあります。Google Playのデータセーフティのカードには、開発者が収集または共有すると述べている内容が載っており、開発者の自己申告です。プライバシーポリシーには、企業がデータをどう扱うかが書かれています。掲載情報に基づくMobile LM Serverのレビューは、ポリシーとカードが位置情報について食い違っていると指摘しました。そしてネットワークの挙動そのものです。モデルのダウンロード後の通信を示すファイアウォールやネットワークモニターが、最も直接的なテストです。

GoogleのAICoreの設計は、参考になる基準点です。Googleは、AICoreが直接のインターネットアクセスを持たないこと、モデルのダウンロードはオープンソースのPrivate Compute Services経由で行われること、処理後に入力と出力を保存しないことを文書化しています。これはGoogleによる自社システムの説明であり、独立した監査ではありません。他のエンジン上のアプリは、それぞれ独自の約束をしています。たとえばToolNeuronはREADMEで「テレメトリーなし」を設計目標として掲げていますが、Google AI Edge GalleryのiPhone版のレビューでは、プライバシーラベルに診断情報が見つかっています。

📍 一文で説明

オフライン推論はプロンプトをスマホ上にとどめますが、「テレメトリーゼロ」は、データセーフティのカード、プライバシーポリシー、アプリの実際のネットワーク通信で確認する必要があります。

💬 簡潔に説明

スマホ上でモデルを動かすことは入力した内容を守りますが、アプリがインターネットと通信しないことを約束するものではありません。

データセーフティのカード

確認場所:
Google Playの掲載ページ
わかること:
開発者が申告したデータの収集と共有。不完全だったり古かったりする場合があります。

プライバシーポリシー

確認場所:
開発者のWebサイト
わかること:
保持期間、第三者、管轄、そしてポリシーがカードと一致しているか。

権限

確認場所:
Androidの設定、アプリ情報
わかること:
純粋にローカルなアプリには不要なはずのマイク、カメラ、ストレージ、ネットワークへのアクセス。

任意のクラウド機能

確認場所:
アプリの設定
わかること:
データ経路をひそかに広げるWeb検索、クラウドプロバイダー、同期のトグル。

ネットワーク通信

確認場所:
機内モードのテストまたはファイアウォールアプリ
わかること:
ダウンロード後、すべてのネットワークアクセスを遮断してもチャットが動くかどうか。

ソースコード

確認場所:
GitHubまたはF-Droid
わかること:
主張を検証できるかどうか。クローズドソースの主張は信頼に頼ることになります。

💡ヒント: 機内モードのテストは、簡単で正直な方法です。Wi-Fiでモデルをダウンロードし、機内モードをオンにしてからチャットします。アプリが動作を拒否するなら、ネットワークを必要としています。動いたとしても、それ以前にデータを送っていた可能性があるため、権限とポリシーの確認と組み合わせてください。

⚠️注意: ObscurifyはAndroidで提供され、プライバシーを売りにしていますが、クラウドサービスです。ランダムなアカウント番号の背後で200以上のクラウドモデルに接続し、ブラウザでGGUFモデルを動かす任意のローカルモードがあります。匿名のクラウドはローカルAIではなく、AquaVoiceはクラウドの音声入力です。各ツールがどちら側にあるかを把握してください。

バッテリー、発熱、バックグラウンド終了

スマホのローカルAIは、モデルより先に、3つのものに制約されます。発熱、バッテリー、そしてバックグラウンドの処理を終了させるAndroidの癖です。 3つとも、モデルが大きく、セッションが長いほど悪化し、どれも仕様書には現れません。

📍 一文で説明

Androidでは、持続的なローカル推論はスマホを熱くしてバッテリーを消耗させ、除外設定をしない限り、システムやブランドのバッテリー管理機能が、回答の途中でアプリを終了させることがあります。

💬 簡潔に説明

モデルを動かすのはゲームを動かすのに似ています。スマホは温まり、自分を守るために速度を落とし、電力の無駄だと判断すればアプリを閉じることがあります。

  • 発熱。 スマホはピーク速度を長く保てません。冷えた状態を保つために自ら速度を落とすため、最初の回答は通常、10回目より速くなります。出典のあるスロットリングの数値はなく、掲載もしません。ご自身のスマホで、10分間の実行で試してください。ケースを外し、生成中は充電を避け、長いセッションでは小さなモデルを選びましょう。
  • バッテリー。 生成はCPU、GPU、NPUを忙しくし続けるため、はっきりした消耗を見込んでください。Googleは、AICore上のGemma 4は従来のバージョンより消費電力が最大60%少なく、最大4倍高速に動作するとしています（自社のモデルとスマホについてのGoogleの主張）。これらの数値は、サイドロードしたGGUFアプリには当てはまりません。
  • Googleのシステムモデルのフォアグラウンドの規則。 Googleは、ML Kit GenAIの推論は呼び出し元のアプリが最前面のフォアグラウンドアプリである場合にのみ許可され、バックグラウンドでの使用ではエラーとなり、短時間の連続利用や長時間の利用にはアプリごとのクォータがあると文書化しています。Gemini Nanoを使うアプリは、バックグラウンドで要約できません。
  • プロセスの制限。 Android 12では、バックグラウンドの子プロセスに制限が導入されたため、Termuxで「signal 9」が出て停止することがあります。Termuxのメンテナーは、Android 12以降では不安定になる可能性があると警告しています。最近のバージョンについては、デベロッパー オプションの「Disable child process restrictions」というスイッチや、Android 12〜13ではADBの設定を説明するガイドがありますが、詳細はブランドとバージョンによって異なるため、頼る前にお使いのスマホで確認してください。
  • ブランドのバッテリー管理機能。 Samsung、Xiaomi、OnePlusなどは、独自のスリープアプリの一覧を追加しています。AIアプリをバッテリー最適化の対象から除外し、最近使ったアプリの画面でロックし、長い回答の間は画面をつけたままにしてください。
  • ストレージ。 モデルは大きなファイルです。アプリが想定する場所に保存し、数GBの空きを確保し、使わなくなったモデルは削除しましょう。
  • コンテキストサイズ。 コンテキストウィンドウが大きいほど、メモリを多く使います。llama.cppのAndroidガイドは、大きな値ではメモリが急増してターミナルが終了することがあるため、4096付近から始めることを勧めています。

⚠️注意: 画像や長い回答を生成中のスマホを、枕の下や暑い車内に置かないでください。熱はバッテリーの寿命を縮め、スロットリングされたスマホは遅いスマホです。

不可能、またはまだ不可能なこと

これらは、現時点ではどのアプリでも解決できない限界で、理由ごとにまとめています。 これらを知っておけば、効果のない設定を何時間も試す手間が省けます。

📍 一文で説明

AndroidのローカルAIは、難しいタスクではクラウドモデルに並べず、70Bパラメータのモデルや非常に長いコンテキストは保持できず、Androidに終了させられない常時待機のアシスタントとしても動作できません。

💬 簡潔に説明

スマホにはメモリが少なく、バッテリーが小さく、密閉されて熱がこもるケースがあります。この3つの事実が上限を決めます。

オフラインでの最先端モデル並みの品質

理由:
スマホのモデルは1〜8Bパラメータで、クラウドのフラッグシップははるかに大きい。小型モデルは、難しい推論や、長く正確な回答が苦手。
代わりの方法:
プライベートな用途、単純な用途、オフラインの用途にはローカルを、難しい用途にはサーバーかクラウドを使う。

70Bパラメータのモデル

理由:
4ビットでも重みだけで数十GBが必要で、多くのスマホの総RAMは8〜16 GB。
代わりの方法:
コンピューターで動かし、リモートモードを使う。

非常に長い文書を一度に扱うこと

理由:
コンテキストウィンドウは小さく、メモリはコンテキストとともに増える。Gemini NanoのPrompt APIは約4,000トークン未満にとどまる。
代わりの方法:
RAGでチャンク化する。サーバーでインデックス化する。

長い出力の高速な返答

理由:
速度はメモリ帯域で決まり、持続的な実行は熱で抑えられる。
代わりの方法:
小さなモデルを選ぶ。短い回答を求める。

信頼できる常時待機のバックグラウンドアシスタント

理由:
Androidはバックグラウンドの処理を制限し、ブランドのバッテリー管理機能がアプリを終了させる。Googleのシステムモデルはフォアグラウンド専用。
代わりの方法:
アシスタントは自宅サーバーに置き、スマホはクライアントにする。

サイドロードしたあらゆるモデルでのNPUの速度

理由:
NPUの経路にはチップごとにコンパイルしたモデルが必要で、対応する演算も一部のみ。残りはCPUかGPUにフォールバックする。
代わりの方法:
LiteRT、GenieX、NeuroPilot対応のモデルを使うか、CPUとGPUの速度を受け入れる。

あらゆるスマホのあらゆるアプリでのGemini Nano

理由:
利用はAICore、端末とチップセットの対応、Prompt APIではロックされたブートローダーに左右される。
代わりの方法:
llama.cppやLiteRT-LMなど、自分で制御できるエンジンを使う。

スマホ上での学習やファインチューニング

理由:
メモリ、演算、熱の予算が、ごく小さな実験を超えるものには小さすぎる。
代わりの方法:
コンピューターでファインチューニングし、結果を読み込む。

小型の画像・OCRモデルの検証済みの精度

理由:
これらのアプリが動かすモデルについて、独立した精度の数値は見つからなかった。
代わりの方法:
自分のサンプルで試す。盲信しない。

テレメトリーゼロの保証

理由:
アプリはローカルで動いても、分析を収集しうる。その主張は開発元のもの。
代わりの方法:
データセーフティのカード、ポリシー、権限、通信を確認する。

あらゆるAndroidスマホで動く単一の構成

理由:
チップ、RAM、OSのバージョン、バッテリー管理機能は、ブランドと機種で異なる。
代わりの方法:
まず小さなモデルを1つ試し、それから拡大する。

💡ヒント: これらの限界のいくつかは動いています。Gemini Nano 4上のGemma 4、LiteRTのNPU対応の拡大、AppFunctionsは、いずれも当方が読んだ資料ではプレビューまたはベータの段階です。今日の限界が恒久的だと決めつけず、次の更新で再確認してください。

頼る前に確認したい更新が止まったアプリ

ディレクトリのアプリの中には、3か月を超えて上流の更新がないものがあります。 これはプロジェクトが終了した、あるいは安全でないという意味ではありません。アプリを日課に組み込む前に、開発元のページ、ストアの掲載、課題トラッカーを確認するきっかけとしてください。日付はディレクトリの項目に由来し、一次情報から読み取った最新のリリースまたは直近の実質的なコミットを記録しています。

📍 一文で説明

MLC Chat、Caelum、ToolNeuron、PAIOS、Aori、Atomic Botを含む、ディレクトリのAndroid対応アプリのいくつかは、執筆時点で3か月を超えて上流の更新がありませんでした。

💬 簡潔に説明

更新が止まったアプリもまだ動くかもしれませんが、バグやセキュリティの問題がすぐに直される保証はありません。

  • MLC Chat：ディレクトリが記録している最終更新は2024年9月です。新しいビルドがないか、開発元のGitHubリリースを確認してください。MLC LLMのランタイム自体は更新が続いているため（MLC LLM）、現在の用途では、ランタイムからビルドしてください。
  • Caelum：2025年8月以降更新がなく、1年以上です。
  • ToolNeuron：数か月の更新の空白期間があります。相性のよいアプリですが（MITライセンス、暗号化ストレージ）、最近の活動を確認してください。
  • PAIOS：レビューしたリリースは2026年春のもので、プロジェクト自身がアルファ版としています。お使いのスマホがAICoreに引き続き対応しているか確認してください。
  • Aori：最近のリリースがない無料ベータで、Androidアプリは接続したクラウドプロバイダーにプロンプトを送信します。
  • Atomic Bot：最近のリリースがなく、当方のレビューではAndroidビルドの記載もありません。

判断の道筋：この機種でこれをしたい

アプリの人気ではなく、RAMと目的から始めましょう。 自分のスマホに当てはまる行を見つけ、次に目的を選び、リンクをたどってください。

📍 一文で説明

スマホのRAMとチップをモデルサイズに合わせ、次に目的を章に合わせます。チャットならPocketPal AI、カメラとGemmaならGoogle AI Edge Gallery、文書ならAnythingLLM Mobile、重いモデルならリモートクライアント経由のサーバーです。

💬 簡潔に説明

小さなスマホには小さなモデル、大きな仕事には大きなサーバーを。

  • RAM 4〜6 GBで、手軽なプライベートチャットがしたい： 1〜2Bパラメータのモデルを使うPocketPal AI、または4 GB以上あるならEnsu。
  • RAM 8 GBで、日常使いに最もバランスのよいものがしたい： 3〜4Bパラメータのモデルを使うPocketPal AIまたはGoogle AI Edge Gallery。
  • RAM 12〜16 GBで、収まる最大のモデルを使いたい： MaidなどのGGUFランナーで、短いコンテキストの低ビット量子化の7〜8Bパラメータのモデル。
  • Pixel 9またはPixel 10： PAIOSでGoogleのシステムモデルを試し、Gemmaモデルには Google AI Edge Galleryを使います。
  • Galaxy S25またはS26： Galaxy AIはハイブリッドで、チップはモデルと地域によって異なるため、まずGalaxy S26オンデバイスAIをお読みください。
  • Snapdragon 8 Eliteのフラッグシップで、最大の速度がほしい： 開発者はLiteRTとGenieXを使えます。ユーザーなら、Google AI Edge Galleryから始め、llama.cppのアプリと比べてください。
  • 自分のファイルについて質問したい： スマホ上ではAnythingLLM MobileまたはPrivate Mind、大きなアーカイブには自宅サーバー。
  • オフラインで翻訳や音声入力がしたい： ご自身の言語で試したうえで、LLM Hub、Private Mind、Ensu。
  • 画像を描きたい： Local AI by GeetMarkまたはTokForgeを、根気と冷えたスマホで。
  • 自宅で使いたい： 自宅サーバーと組み合わせたHome Assistant Assistで、スマホはリモコンにします。
  • GPU付きのコンピューターを持っている： そこでOllamaまたはLM Studioを動かし、LocalMindまたはAnythingLLM Mobileをスマホのクライアントとして使います。
  • 開発者： 開発者向けの経路の表から選びます。小さなテキストのタスクだけが必要ならML KitのPrompt APIから、自分のモデルが必要ならLiteRT-LMから始めてください。

15分で最初の実行

約15分で、動作するオフラインアシスタントを用意でき、その時間の大半はモデルのダウンロードです。 この手順ではPocketPal AIを例にしますが、手順はどのGGUFランナーでも同じです。ダウンロードにはWi-Fiと充電器を使ってください。

📍 一文で説明

アプリを1つインストールし、Wi-FiでRAMに合ったサイズのモデルをダウンロードし、プロンプトを実行してから、機内モードで再度試し、回答がオフラインで動くことを確認します。

💬 簡潔に説明

インターネットがある状態で一度ダウンロードし、インターネットを切って、それでも答えてくれるかを確かめましょう。

  1. 1
    ストレージとRAMを確認する（1分）
    Why it matters: モデルはギガバイト単位です。最初のモデルには3〜6 GBの空きストレージがあれば足り、サイズはRAMで決まります。設定の「デバイス情報」をご確認ください。
  2. 2
    アプリを1つインストールする（2分）
    Why it matters: Google Playから[PocketPal AI](/ja/power-local-llm/pocketpal-ai-review)または[Google AI Edge Gallery](/ja/power-local-llm/google-ai-edge-gallery-review)を使います。アプリを1つずつにすると、結果を比較しやすくなります。
  3. 3
    Wi-Fiに接続し、充電器につなぐ（1分）
    Why it matters: ダウンロードは大きく、充電中の発熱は許容できます。モバイルデータは遅く、費用がかかる場合があります。
  4. 4
    RAMでモデルを選ぶ（1分）
    Why it matters: 4〜6 GB：1〜2B。8 GB：3〜4B。12〜16 GB：4〜8B。迷ったら、小さいほうを選びましょう。
  5. 5
    モデルをダウンロードして読み込む（5〜7分）
    Why it matters: 時間は回線とファイルサイズによります。終わるまで画面をつけたままにしてください。
  6. 6
    最初のプロンプトを送る（1分）
    Why it matters: 簡単なことを尋ねます。言葉が表示される速さをメモしてください。これが基準になります。
  7. 7
    機内モードでテストする（1分）
    Why it matters: 機内モードをオンにして、もう一度尋ねます。答えるなら、このモデルとこのアプリでは推論がローカルです。
  8. 8
    アプリをバッテリー最適化の対象から除外する（1分）
    Why it matters: バッテリー管理が積極的なブランドで、回答の途中でアプリが終了させられる事態を減らせます。
  9. 9
    このガイドの用途を1つ試す（好きなだけ）
    Why it matters: 音声入力、文書への質問、画像への質問のどれかを試せば、そのスマホが向いているかどうかがすぐにわかります。

💡ヒント: 最初のモデルが遅く感じる、またはクラッシュする場合は、アプリを変える前に、ひとつ小さいサイズにしてください。物足りなく感じるなら、ひとつ大きくするか、リモートモードを使いましょう。

まとめ：スマホの区分、アプリ、モデルサイズ

スクリーンショットに残したい表が1つあります。 これらは、上のRAMの計算と、各アプリが文書化している内容に基づく出発点であり、ベンチマークの結果ではありません。

📍 一文で説明

RAM 4〜6 GBのスマホでは1〜2Bパラメータのモデル、8 GBでは3〜4B、12〜16 GBでは7〜8Bを使い、それより大きいものにはサーバーを使います。

💬 簡潔に説明

まずモデルをRAMに合わせ、それから用途に合わせてアプリを選びます。

スマホの区分
最初のアプリ
モデルサイズ
向いている用途
RAM 4〜6 GB、エントリーPocketPal AI1〜2B短いチャット、簡単な書き換え
RAM 8 GB、ミドルレンジGoogle AI Edge Gallery3〜4B日常のチャット、カメラへの質問
RAM 12 GB、フラッグシップMaid4〜8Bより良い回答、短いコンテキスト
RAM 16 GB、ゲーミングスマホLM Playground7〜8Bより大きなローカルモデル
Pixel 9または10PAIOSGemini Nanoシステムモデル、ダウンロード不要
任意のスマホ＋自宅サーバーLocalMindサーバー上で7〜70B重いモデル、自宅でのプライバシー
任意の区分での文書AnythingLLM Mobile小型モデル＋RAG自分のファイルについての質問

よくある間違い

最初の試みが失敗する原因の大半は、ごく限られた同じ間違いです。

  • 空きRAMに対して大きすぎるモデルを選ぶ。 アプリがクラッシュするか、スマホがフリーズします。ひとつ小さいサイズにしてください。
  • NPUが使われていると思い込む。 サイドロードしたアプリの多くはCPUまたはGPUで動くため、「50 TOPS」のチップでも速くなりません。
  • 「オフライン」を「プライベート」と同一視する。 オフライン推論は1つの層にすぎません。分析、広告、クラウドのトグルは別の層です。データセーフティのカードとポリシーを確認してください。
  • Termuxを複数の入手元からインストールする。 Google Play、F-Droid、GitHubのビルドを混ぜると、署名と更新が壊れます。1つを選んで、それを使い続けてください。
  • 画像にテキスト専用のモデルを使う。 画像には画像対応のモデルが必要で、アプリによっては追加のプロジェクターファイルも必要です。
  • バックグラウンドアシスタントを期待する。 Androidとブランドのバッテリー管理機能は、待機中のアプリを終了させます。常時の処理はサーバーに置いてください。
  • 最初の回答でモデルを判断する。 冷えたスマホが最速です。決める前に、10分間のテストを行ってください。
  • Apple専用のアプリをインストールする。 ChapperにはAndroid版がありません。代わりにAndroidのクライアントを使ってください。
  • 小型モデルに重要度の高いテキストを任せる。 翻訳、OCR、要約は間違うことがあります。行動する前に確認してください。

ソース

プラットフォームとチップに関する事実は、2026年11月に読んだ以下の開発元のページに基づいています。製品に関する事実は、リンク先のPromptQuorumのレビューとディレクトリの項目に基づいており、それぞれが独自の一次情報を引用しています。

よくある質問

インターネットなしでAndroidでローカルAIを動かせますか？

はい。PocketPal AIやGoogle AI Edge Galleryのようなオンデバイスアプリと、1〜4BパラメータのモデルをWi-Fiでダウンロードし、機内モードで使います。最初のダウンロードには接続が必要ですが、その後はチャット、音声入力、翻訳、文書への質問をオフラインで使える場合があり、品質はクラウドAIを下回ります。

AndroidスマホでLLMを動かすには、どれくらいのRAMが必要ですか？

目安として、4〜6 GBなら1〜2Bパラメータのモデル、8 GBなら3〜4B、12〜16 GBなら低ビット量子化の7〜8Bを保持できます。Androidと他のアプリが数GBを使うため、箱に書かれた数字よりも空きRAMのほうが重要です。アプリが独自の下限を設けている場合もあります。

AndroidアプリはローカルLLMにNPUを使いますか？

通常は使いません。汎用のGGUFアプリはCPUで、場合によってはGPUで動きます。NPUの経路はGoogle LiteRT、Qualcomm GenieX、MediaTek NeuroPilot経由で存在しますが、特定のチップ向けに準備したモデルが必要です。Googleは、Dimensity 9500のNPU上のGemma 3n E2Bなど、自社の例で大きな高速化を報告していますが、それらは開発者向けの経路です。

Gemini Nanoとは何ですか。どのアプリでも使えますか？

Gemini NanoはGoogleのオンデバイスモデルで、AndroidのAICoreサービスが管理します。アプリは、Pixel 9と10、最近のGalaxyやXiaomiのモデルなどの対応スマホで、ML Kit GenAI経由で利用します。Googleは、アプリがフォアグラウンドにある間だけ動作し、Prompt APIはブートローダーのロック解除済みでは非対応だと述べています。

Android向けの最良のローカルAIアプリは何ですか？

唯一の最良はありません。PocketPal AIはモデルの選択肢が広い無料のオープンソースのGGUFランナー、Google AI Edge GalleryはGemmaファミリーのモデル向けのGoogle自身のアプリ、AnythingLLM Mobileは文書への質問に向き、LocalMindは自分のサーバーと通信するスマホに向いています。当方のAndroidまとめ記事で、最も知られた選択肢を比較しています。

AndroidのローカルAIは本当にプライベートですか？

アプリがスマホ上でモデルを動かす場合、その処理ではプロンプトがAIベンダーの推論サーバーに送られません。ただし、アプリが分析を収集したり、クラウド機能を使ったりすることはありえます。データセーフティのカード、プライバシーポリシー、権限、そしてモデルのダウンロード後に機内モードでアプリが動くかどうかを確認してください。

AndroidスマホでOllamaを動かせますか？

Android向けの公式Ollamaアプリはありません。コミュニティの方法として、TermuxでCPU上で動かす、Termuxでllama.cppを直接動かす、あるいはMobile LM ServerやOllama Local AI（Ollamaプロジェクト製ではありません）のように、Ollama互換APIを模倣するAndroidアプリを使う方法があります。多くの人は、コンピューターでOllamaを動かし、スマホのクライアントを使うほうが良い結果を得られます。

AndroidはバックグラウンドでのローカルAIを許可しますか？

一部のみです。Androidはバックグラウンドのプロセスを制限し、ブランドのバッテリー管理機能が独自の制限を加え、GoogleのGemini Nano APIはフォアグラウンドでのみ動作します。アプリをバッテリー最適化の対象から除外し、長い回答の間は画面をつけたままにしてください。常時待機のアシスタントは自宅サーバーに置きましょう。

スマホで70Bパラメータのモデルを動かせますか？

現実的には無理です。4ビットでも重みだけで数十GBが必要ですが、スマホの総RAMは通常8〜16 GBです。そのようなモデルはコンピューターで動かし、LocalMindやAnythingLLM Mobileなどのアプリ経由で、スマホをクライアントとして使ってください。

AndroidでローカルAIを使ってオフラインでテキストを翻訳するには？

LLM Hubなど翻訳機能を備えたアプリ、または録音にはGoogle AI Edge GalleryのAudio Scribeを使います。小型モデルは一般的な言語ペアなら妥当に扱えますが、まれな言語や法律用語は苦手なので、ご自身の言語ペアで試し、重要なテキストは確認してください。

文書やラベルにオンデバイスの画像対応モデルを使っても安全ですか？

重要度の高い読み取りには安全ではありません。小型の画像対応モデルは文字や数字を読み間違えることがあり、これらのアプリが動かすモデルについて、独立した精度の数値は見つかりませんでした。概要をつかむ用途に使い、その後、原本と照らして確認してください。

iPhoneとは何が違いますか？

どちらも高性能ですが、得失が異なります。iPhoneはベンダーが1社で機種のバリエーションが少ないため、結果が予測しやすい傾向があります。Androidは、ストアの外からアプリをインストールしたり、Androidアプリである Termux を使ったりする自由度が高くなっています。Appleのアプリストア外からのインストールに関する規則は、地域によって異なり、時間とともに変わるため、お住まいの国での最新のAppleの方針を確認してください。姉妹ガイドの「iPhoneのローカルAI」がApple側を扱い、「GalaxyとiPhoneのオンデバイスAI比較」が2つのエコシステムを比べています。

← ローカルLLM活用 に戻る

MCP