重要なポイント
- llama.cpp(GGUF)とMLXという2つのローカルエンジンで、200以上のダウンロード可能なオープンウェイトモデルを実行
- 無料ダウンロード、任意のアプリ内課金(3.99ドル~99.99ドル)と、自分のAPIキーを使う任意のクラウドプロバイダーあり
- 追加機能:話者識別付き音声文字起こし、ドキュメント/RSSのナレッジライブラリ、マルチエージェントチーム、オンデバイス音声合成、Siriショートカットによる自動化、Vision Proのネイティブ対応
- iPhone 14以降、iPad mini(第7世代)以降、Apple SiliconMac、またはApple Vision Proが必要
- 開発者:Zijie Deng、独立系開発者——公開された規模や資金調達のある企業ではない
- 開発者Eduardo Dominguez Menendezによる別の有料アプリ「AI on Device」とは異なる製品——名称の違いに関する説明を参照
- 本レビューは、ローカルLLMソフトウェアディレクトリにあるOn Device AIの項目を補足する記事です
📍 一文で説明
On Device AIは開発者Zijie DengによるiPhone・iPad・Apple SiliconMac・Apple Vision Pro向けの無料アプリで、llama.cpp(GGUF)とMLXを使って200以上のダウンロード可能なオープンウェイトAIモデルを完全に端末上で実行し、音声文字起こし、ドキュメントライブラリ、マルチエージェントワークフロー、任意のクラウドプロバイダー接続も備えています。
💬 簡潔に説明
固定の1つのAIモデルが入っているのではなく、On Device AIはローカルモデル向けのアプリストアのような仕組みです。200以上のオープンモデルのライブラリから選び、自分の端末に合うものをダウンロードして、リモートサーバーではなく端末自体のチップでチャットします。音声の録音を文字起こしし、ドキュメントやRSSフィードを読み上げ、複数のAIエージェントからなる小さなチームを協働させることもできます——モデルをダウンロードすれば、すべてインターネット接続なしで動作します。
📌補足: 本レビューは、On Device AIがondevice-ai.appとApp Store掲載情報で自社について述べている内容を紹介するものです。PromptQuorumは、対応する200以上のモデル全体でのオンデバイス推論速度を独自にベンチマークしておらず、ローカル処理中のデータ非収集の主張も独自に検証していません——これらは開発者が述べている設計方針であり、第三者が監査した保証ではありません。
On Device AIとは
On Device AIは、会話をクラウドサーバーに送るのではなく、AIモデルを端末上で直接実行するiPhone・iPad・Apple SiliconMac・Apple Vision Pro向けアプリです。1つのモデルを内蔵するのではなく、閲覧してダウンロードできる200以上のオープンウェイトモデルのライブラリを提供しているため、実行するモデルは開発者が固定した決定ではなく、端末のストレージとメモリに基づく自分自身の選択になります。
- モデル選択:Llama 3、Gemma 3、Qwen 3、DeepSeek、Phi-4、Mistralの各ファミリーを含む、閲覧・ダウンロード可能な200以上のオープンウェイトモデル
- オンデバイス実行:モデルはクラウドAPI呼び出しではなく、llama.cppまたはMLXを介して端末自体の演算能力で動作
- カスタムモデル:内蔵ライブラリに加え、Hugging Faceから互換性のあるGGUFモデルをインポート可能
- 対応プラットフォームの範囲:iPhone・iPad・Apple SiliconMac・Apple Vision Pro——Apple専用アプリで、AndroidやWindows版はなし
- 開発者:Zijie Deng、独立系開発者であり、公開された規模や資金調達のある企業ではない
「AI on Device」との混同に注意
On Device AI(本レビューの対象、ondevice-ai.app)とAI on Device(別途レビューしている別アプリ)は、紛らわしいほど似た名前を持つ2つの異なる製品です。どちらもApple端末上でモデルをローカル実行しますが、開発者が異なり、モデル選択と料金体系で正反対のアプローチを取っています。
項目 | On Device AI(本レビュー) | AI on Device(別アプリ) |
|---|---|---|
| 開発者 | Zijie Deng | Eduardo Dominguez Menendez |
| モデル選択 | ダウンロード可能な200以上のモデル(GGUF+MLX) | 固定の3Bモデル1つ(2ビット) |
| 料金 | 無料+任意のアプリ内課金(3.99ドル~99.99ドル) | 一括4.99ドル |
| ハードウェア要件 | iPhone 14+/iPad mini 7+/Apple SiliconMac/Vision Pro | Apple Intelligence対応端末のみ(iOS/macOS 26+) |
| App Store ID | id6497060890 | id6753206463 |
リンクや検索結果、App Store内検索から別アプリを探していてここにたどり着いた場合は、代わりに独立したAI on Deviceレビューをお読みください——2つのアプリに関連性はなく、本レビューは固定モデルでApple Intelligence限定のアプリを扱っていません。
ローカル推論の仕組み:llama.cppとMLX
On Device AIは、モデル形式に応じて選ばれる2つの別々のローカル推論エンジンでモデルを実行します:GGUF形式のモデル用のllama.cppと、Apple Silicon向けに最適化されたモデル用のMLXです。どちらのエンジンもリモートサーバーではなく端末自体のチップでモデルを実行するため、モデルをダウンロードすれば、リクエストが端末の外に出る必要はありません。
- ステップ1:モデルライブラリ(200以上の選択肢)を閲覧し、端末のストレージとメモリに合ったものを選ぶ
- ステップ2:モデルファイルを端末にダウンロードする(このステップのみインターネット接続が必要)
- ステップ3:ダウンロードしたモデルでチャット、文字起こし、エージェントワークフローを実行する——この時点からローカル処理にインターネット接続は不要
- ステップ4:内蔵ライブラリで特定のニーズが満たせない場合、Hugging Faceからカスタムのggufモデルを任意でインポートする
On Device AIのその他の機能
On Device AIは、チャット用に選んだローカルモデルの実行に加えて、音声文字起こし、ドキュメントやRSSの取り込み、マルチエージェントワークフロー、オンデバイス音声合成、自動化フックを同じアプリにまとめています。これらの機能により、単なるモデルチャットのクライアントから、より幅広いオンデバイス生産性ワークスペースへと拡張されています。
- 話者識別付き音声文字起こし:音声を録音し、誰が何を話したかを識別
- ナレッジライブラリ:PDF、メモ、文字起こし、画像、Webキャプチャを取り込んでAIによるドキュメント分析を実行
- Listen LibraryとRSSフィード:ドキュメントとRSSフィードを、再生コントロール付きの読み上げ/リスニングキューに変換
- マルチエージェントチーム:専門化されたAIエージェント(例:リサーチャー、アナリスト、ライターの役割)を配置し、1つのタスクに協働させる
- オンデバイス音声合成:Apple Voices、Kokoro、PocketTTSを含む3つのエンジン
- AI検索とツール呼び出し:引用元付きのWeb検索と、対応モデル向けのツール呼び出し
- 自動化:Siriショートカット、ウィジェット、カレンダー、リマインダーとの連携
- 空間コンピューティング統合を備えたApple Vision Proのネイティブ対応
- Mac専用の追加機能:メニューバーからのアクセス、グローバルホットキー、インスタントメッセージ連携(Discord、Slack、Telegram)、リモート推論サーバー機能
On Device AIの入手方法:動作要件とダウンロード
On Device AIはApple App Storeのみで配布されており、直接ダウンロード、Android版、Windows版はありません。端末要件はハードウェアの種類ごとに異なるため、ダウンロード前に下表を自分の端末と照らし合わせて確認してください。
端末 | 最小要件 |
|---|---|
| iPhone | iPhone 14以降、iOS 18以降——App Storeで入手 |
| iPad | iPad mini(第7世代)、iPad Air(第5世代)、iPad Pro(第3世代)、iPad(第11世代)以降、iPadOS 18以降——App Storeで入手 |
| Mac | Apple Siliconのみ、macOS 15以降——App Storeで入手 |
| Vision Pro | visionOS 2.0以降——App Storeで入手 |
On Device AI自身の掲載情報では、最適なパフォーマンスのために端末メモリ6GB以上を推奨しています。AndroidやWindows版はありません——複数プラットフォームに対応する選択肢が必要な場合は、ローカルLLMソフトウェアディレクトリで該当プラットフォームをカバーするローカルモデルアプリを確認してください。
On Device AIの料金:無料・Pro・クラウドプロバイダー
On Device AIは、中心となるローカルワークフローについては無料でダウンロード・利用でき、その上に任意のアプリ内課金と任意のクラウドプロバイダー接続が用意されています。App Store掲載情報では、Pro機能向けに3.99ドルから99.99ドルのアプリ内課金の範囲が示されていますが、各価格帯ごとの正確な機能制限は、本レビューで参照した情報源には明記されていませんでした。
- 無料プラン:中心となるローカルモデルのチャットとワークフロー、アカウント不要
- Pro機能:任意のアプリ内課金で、App Store掲載情報によれば3.99ドルから99.99ドル——プランごとの具体的な機能制限は、本レビューが参照した情報源には公開されていません
- クラウドプロバイダー:任意で、OpenAI、Anthropic、Google Gemini、Groq、OpenRouter、Nvidia、LM Studio、Ollamaなどのプロバイダーの自分のアカウント/APIキーが必要——無料プランやProプランには含まれず、利用コストはOn Device AIではなく、そのプロバイダーから直接請求されます
- 配布:Apple App Storeのみ
On Device AIのプライバシーは実際どうか
On Device AIは、ローカルAI処理にはアカウント・分析・テレメトリーが伴わず、その処理中は会話・ドキュメント・録音が端末外に出ないと述べています。これはアプリの設計に関する主張であり、独立して検証されたコンプライアンス認証ではありません——第三者が監査した保証ではなく、開発者が述べているプライバシー方針として扱ってください。
- ローカル利用でアカウント登録が不要な点は、利用状況をアイデンティティに紐づける一般的な手段の1つを排除している
- ローカルモデルのオンデバイス処理は、設計上、応答を生成するために会話内容が端末外に出る必要がないことを意味する
- 本レビューは、ローカル処理中のデータ非収集の主張を確認するために、ネットワークトラフィックの独自テストやOn Device AIのコード監査を行っていません
- 任意のクラウドプロバイダーの接続は別個の任意ステップであり、On Device AIのローカル処理に関する主張とは無関係に、そのプロバイダー独自の条件でデータを送信します
On Device AIはどんな人におすすめか
On Device AIが合うかどうかは、単純な1つのチャットアプリではなく、幅広いローカルモデルの選択肢とより広い生産性ツールセットを求めているかどうかによります。
競合とその他の選択肢
On Device AIは、Apple端末上でオープンウェイトモデルをローカル実行する少数のアプリと競合しています。最も近い選択肢との比較は以下のとおりです——完全なカタログはローカルLLMソフトウェアディレクトリをご覧ください。
- Enclave AI — 別の独立系開発者による無料のiPhone/iPad/Macアプリで、数百のダウンロード可能なオープンソースモデルに加え、パーソナライズされたアシスタント、ドキュメント連携、Siri/ショートカット自動化を提供。下記の固定モデルアプリよりも、機能面ではOn Device AIに近い存在です。
- Noema — Appleプラットフォーム向けの別のオンデバイスモデルチャットアプリ。具体的なモデルライブラリと機能セットは専用レビューをご覧ください。
- Solair AI — 別途レビューしているもう1つのオンデバイスAIアプリ。モデル選択肢と料金を、On Device AIの3.99ドル~99.99ドルのアプリ内課金範囲と比較してみてください。
- 「AI on Device」 — 名前はほぼ同一ですが、本レビューの対象とは同じアプリではありません。別の開発者(Eduardo Dominguez Menendez)による一括4.99ドルのアプリで、200以上のモデルライブラリを提供する代わりに、2ビット量子化された固定の30億パラメータモデル1つを実行し、Apple Intelligence対応端末を必要とします。
On Device AI評価でよくある誤解
On Device AIに関する混乱の多くは、名前の似た「AI on Device」というアプリと混同すること、または任意のクラウド機能がローカル処理のプライバシーに関する主張を変えると誤解することから生じます。
よくある質問
On Device AIとは何ですか。
On Device AI(ondevice-ai.app)は、開発者Zijie DengによるiPhone・iPad・Apple SiliconMac・Apple Vision Pro向けの無料アプリで、GGUFモデル用のllama.cppとApple Silicon向けのMLXを使い、200以上のダウンロード可能なオープンウェイトAIモデルをローカルで実行します。
On Device AIは「AI on Device」と同じアプリですか。
いいえ。On Device AI(本レビューの対象)とAI on Deviceは、異なる開発者による2つの別々のアプリです。On Device AIは200以上のモデルを無料でダウンロードでき、任意のアプリ内課金があります。AI on Deviceは開発者Eduardo Dominguez Menendezによる一括4.99ドルのアプリで、固定の3Bモデル1つをバンドルし、Apple Intelligence対応端末を必要とします。そちらのアプリをお探しの場合は、独立したAI on Deviceレビューをご覧ください。
On Device AIは何個のモデルに対応していますか。
Llama 3、Gemma 3、Qwen 3、DeepSeek、Phi-4、Mistralの各ファミリーを含む200以上のダウンロード可能なオープンウェイトモデルが、GGUF形式のモデル用のllama.cppとApple Silicon向けに最適化されたモデル用のMLXという2つのローカルエンジンで動作します。
On Device AIは無料ですか。
On Device AIはApp Storeから無料でダウンロードでき、中心となるローカルモデルのワークフローに無料でアクセスできます。Pro機能向けに3.99ドルから99.99ドルの任意のアプリ内課金があり、自分のAPIキーが必要な任意のクラウドプロバイダー接続も用意されています。
On Device AIはどの端末に対応していますか。
iPhone 14以降(iOS 18+)、iPad mini(第7世代)以降を含む最近のiPad(iPadOS 18+)、任意のApple SiliconMac(macOS 15+)、Apple Vision Pro(visionOS 2.0+)です。Android、Windows、Intel Macには対応していません。
On Device AIはインターネット接続なしで動作しますか。
モデルをダウンロードすれば、ローカルチャットやその他のオンデバイス処理はインターネット接続なしで動作します。モデルのダウンロードと、任意のクラウドプロバイダー接続の利用には、それぞれインターネットアクセスが必要です。
On Device AIは私のデータを収集しますか。
On Device AI自身のサイトによると、ローカルAI処理にはアカウント・分析・テレメトリーが伴わず、その処理中は会話・ドキュメント・録音が端末外に出ません。本レビューはこの主張を独自に監査していません——これは開発者が述べている設計方針であり、第三者が検証した保証ではありません。
On Device AIはカスタムモデルをインポートできますか。
はい。内蔵の200以上のモデルライブラリに加えて、On Device AIはHugging Faceから互換性のあるGGUFモデルをインポートすることに対応しています。
On Device AIは音声機能に対応していますか。
はい。話者識別付きの音声文字起こしと、Apple Voices、Kokoro、PocketTTSを含む3つのエンジンによるオンデバイス音声合成を備えています。
On Device AIは誰が開発していますか。
App Store掲載情報によると、On Device AIは独立系開発者のZijie Dengが開発しており、公開された規模や資金調達のある企業ではありません。
On Device AIはApple Vision Proに対応していますか。
はい。On Device AIは空間コンピューティング対応のネイティブvisionOS統合を備えており、visionOS 2.0以降が必要です。