Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
主页/本地LLM进阶/Ollama Local AI 评测:Android 端 LLM 运行器与局域网 API 代理
Mobile & Edge LLMs

Ollama Local AI 评测:Android 端 LLM 运行器与局域网 API 代理

·阅读约8分钟·Hans Kuepper 作者 · PromptQuorum创始人,多模型AI调度工具 · PromptQuorum

Ollama Local AI 是一款独立的第三方 Android 应用(Google Play 包名 com.llmproxy,开发者列为 FreeRouter Team),通过 llama.cpp 在设备上运行 GGUF 模型,并向你 Wi-Fi 中的其他设备提供与 OpenAI 兼容的 API。 它还可以把请求转发到你自托管的 Ollama 服务器、llama.cpp 服务器,或 OpenAI、Anthropic 等云端 API,但连接 Ollama 服务器并不会使它成为 Ollama 的一部分:页面本身就说明该应用与 Ollama 项目没有关联。页面信息中既没有公布许可证、源代码,也没有公布版本号,因此在开发者另行说明之前,应将其视为一款未经审计的工具。

Ollama Local AI 是一款独立的第三方 Android 应用,可在手机上运行本地 AI 模型,并能连接 Ollama 服务器。它不是 Ollama 软件,也不是由 Ollama 项目开发的。Google Play 将 FreeRouter Team 列为开发者。该应用承担两项功能:一是通过内嵌的 llama.cpp 引擎在手机上运行 GGUF 语言模型;二是在你的 Wi-Fi 网络中提供与 OpenAI 兼容的 API,让 Cursor、VS Code 扩展和 Windsurf 等工具可以把手机当作模型端点来使用。该应用可免费安装,含应用内购买。本评测仅基于该应用的 Google Play 页面信息(核实于 2026 年 10 月 2 日),因为从该页面信息中没有发现公开的源代码仓库、开发者网站或详细的开发者文档,且 PromptQuorum 并未对该应用进行实测。

Ollama Local AI 评测:Android 端 LLM 运行器与局域网 API 代理

关键要点

  • 开发者:Google Play 将 FreeRouter Team 标明为开发者(分类为"效率"),并提供了开发者联系方式;从页面信息中没有发现公开的源代码仓库、开发者网站或详细的开发者文档。
  • 价格:可免费安装,含应用内购买,其具体内容未作说明。
  • 设备端模型:GGUF 文件通过内嵌的 llama.cpp 引擎运行;页面信息列举了 Llama 3、Mistral、Phi、Gemma 和 Qwen 作为示例。
  • 局域网网关:向 Wi-Fi 中的其他设备提供 OpenAI 风格的端点,并可路由到本地模型、自托管的 Ollama、llama.cpp 服务器、OpenAI、Anthropic、NVIDIA NIM 和 Hugging Face。
  • 据 2026 年 10 月 2 日核实的商店信号:下载量 10K+,评分 4.2 星(267 条评价),页面最近更新于 2026 年 10 月 1 日。

📍 简单一句话

Ollama Local AI 是 FreeRouter Team 开发的一款 Android 应用,通过 llama.cpp 在设备上运行 GGUF 模型,并在本地网络中提供与 OpenAI 兼容的 API;它与 Ollama 项目没有关联。

💬 简单来说

你把它安装到 Android 手机上,加载一个模型或添加你的云端 API 密钥,点击 Start Server,然后让 Cursor 或 VS Code 等工具指向手机的本地地址,而不是指向 OpenAI——这样就由手机来完成工作或转发请求,而不是你的电脑。

📌注: 实体提示:尽管产品名称中使用了“Ollama”,Ollama Local AI 是一款独立的第三方 Android 应用。它并非由 Ollama 项目开发,也与其没有关联,未获得其赞助或认可。该应用可以连接 Ollama 服务器,但 Ollama Local AI 本身不是 Ollama 软件。

📌注: 本评测仅基于 Google Play 页面信息,核实于 2026 年 10 月 2 日。PromptQuorum 没有发现公开的源代码仓库、已声明的许可证、版本号或详细的开发者文档,也未对该应用进行实测或基准测试。

Ollama Local AI 是什么?

Ollama Local AI 是一款 Android 应用,将设备端模型运行器与本地网络 API 网关结合在一起。 根据其 Google Play 页面,它通过内嵌的 llama.cpp 引擎,直接在手机的 CPU 或 GPU 上运行量化后的 GGUF 模型,同时还可以充当路由器,把请求转发到你配置的其他后端。

名称是造成困惑的主要原因。该页面末尾的免责声明称,该应用是独立开发者的工具,与 Ollama、OpenAI、Anthropic 或任何提及的服务商均无关联,也未获得它们的赞助或认可。该应用可以连接你在别处托管的 Ollama 服务器,但连接 Ollama 服务器并不意味着存在任何关联,而且据页面信息,该应用运行的是自带的内嵌 llama.cpp 引擎,而不是 Ollama。搜索结果与 Play 包名(com.llmproxy)指向的是同一个应用。

本评测对三个术语严格区分:Ollama 是独立的开源项目及其软件;Ollama Local AI 是本文评测的这款独立 Android 应用;Ollama 服务器是你自己运行的 Ollama 安装实例,该应用可以连接它。

获取方式

页面信息指向的唯一下载渠道是 Google Play;页面中没有链接任何 iOS 版本、桌面版本、APK 镜像或 GitHub 发布页。

平台
获取渠道
AndroidGoogle Play
iOS / 桌面端据页面信息,未提供

本页是该应用在本地 LLM 软件目录中条目的配套资料。PromptQuorum 能读取到的页面文字中没有显示版本号,因此本文不作说明;请在 Play 页面查看你阅读本文时可获取的版本。

如何通过 Wi-Fi 连接你的 IDE

页面自带的快速入门共有四个步骤,全部在手机和同一个私有网络上完成。 PromptQuorum 并未实际执行过这些步骤。

  1. 1
    启动服务器
    Why it matters: 打开应用,选择一个本地 GGUF 模型或输入云端服务商的密钥,然后点击"Start Server"。
  2. 2
    记下端点地址
    Why it matters: 应用会显示手机的本地 IP 和端口,例如页面自带示例中的 http://192.168.1.50:8080/v1。
  3. 3
    让你的工具指向它
    Why it matters: 在 Cursor 中,填入任意占位符作为 OpenAI 密钥,并覆盖基础 URL。在 Continue、Cline 或 Roo Code 等 VS Code 扩展中,将服务商类型设为 openai,并把 apiBase 或 baseUrl 设为手机的地址。在 Windsurf 中,把自定义 OpenAI 模型端点指向它。
  4. 4
    开始编码
    Why it matters: 随后,桌面工具发出的请求和智能体循环就由手机处理,要么由设备端模型完成,要么由它所路由到的服务商完成。

页面信息已确认的功能

以下每一项都来自开发者自己的 Play 描述;均未经过独立测试。

  • OpenAI 风格的端点。 /v1/chat/completions、/v1/models 和 /health,同一 Wi-Fi 或局域网子网内的任何机器都可访问。
  • 多服务商路由。 可在设备端模型、自托管的 Ollama 实例、llama.cpp 服务器以及云端 API 直连(OpenAI、Anthropic Claude、NVIDIA NIM、Hugging Face)之间切换。
  • 代理控制。 请求池、服务商超时、限流、自动故障转移和轮询分发。
  • 局域网 Master/Worker 集群。 将同一网络中的多台 Android 设备配对,把内存和算力汇集成一个推理集群。
  • 跨设备 WebUI。 在同一网络中的电脑或平板浏览器上即可访问的聊天界面和服务器管理控制台。
  • WebX Live Canvas。 在聊天中生成并预览 HTML、Tailwind CSS 和 JavaScript。
  • Traffic Observatory。 以代理诊断的形式显示令牌生成速度、延迟指标和请求负载。
  • 列出的兼容客户端。 Cursor、VS Code、Windsurf、JetBrains、LangChain、LlamaIndex、LiteLLM、AutoGen、CrewAI、Continue.dev、Cline、Roo Code、Aider 和 Open WebUI。

隐私与数据安全

该应用的 Google Play"数据安全"部分声明未收集任何数据,也未与第三方共享任何数据。 这是开发者的自我声明,而非审计结果,PromptQuorum 并未检查该应用的网络流量或代码。

描述中还补充了一些具体说法:服务商凭据通过 AES-256 EncryptedSharedPreferences 存储在设备上,发往自定义云端端点的请求则直接从手机发送给服务商,中间没有任何中转服务器。隐私状况还取决于路由方式:发送给 OpenAI、Anthropic 或其他云端服务商的请求会离开你的网络,并受该服务商条款的约束,无论该应用自身如何声明。只有由设备端模型应答的请求才会留在手机上。

📌注: 没有发现该应用的公开源代码,因此上述说法无法对照代码进行核查。处理受监管或机密数据的用户,在依赖这些说法之前应自行验证其行为。

权衡:优点与局限

手机充当 API 端点

实际使用中的含义:
桌面编程工具无需另外搭建服务器,即可使用手机上的模型或路由。
局限 / 提醒:
速度受限于手机硬件,页面信息未给出任何基准数据。

设备端 GGUF 模型

实际使用中的含义:
据页面信息,与本地模型聊天无需联网。
局限 / 提醒:
可用的模型大小取决于手机内存;页面信息未说明最低要求。

一个网关,多个后端

实际使用中的含义:
本地模型、Ollama、llama.cpp 服务器和云端 API 都位于同一个地址之后。
局限 / 提醒:
路由到云端的请求会离开你的网络,并遵循服务商的数据条款。

可免费安装

实际使用中的含义:
无需先付费即可体验核心流程。
局限 / 提醒:
存在应用内购买,页面信息未说明其具体内容。

适合谁使用

  • 手头有闲置 Android 手机的开发者。 Cursor、VS Code 和 Windsurf 的快速入门是该应用的核心使用场景,手机可以分担主力电脑的工作。
  • 希望在多个后端前面放一个 OpenAI 风格地址的用户。 路由、故障转移和限流控制正是面向这种配置。
  • 愿意在私有网络中试用未经审计工具的家庭实验室用户。 免费安装让试用成本很低。

我们无法验证的内容

  • 许可证与源代码。 许可证:Google Play 页面信息中未说明,也没有发现公开的源代码仓库。独立的 Ollama 项目的任何许可证都不能说明这款应用的情况。需要可审计代码的读者,应从下方的替代方案中选择开源应用。
  • 版本号。 PromptQuorum 能读取到的页面文字中没有显示版本,因此本文无法将各项说法对应到某个具体版本。
  • 应用内购买。 页面信息称存在应用内购买,但没有说明它们解锁了什么,也没有说明价格。
  • 硬件门槛与性能。 未公布最低内存、Android 版本或速度数据。
  • 开发者身份与可验证性。 Google Play 将 FreeRouter Team 标明为开发者,并提供了开发者联系方式。但是,从页面信息中没有发现开发者网站、公开的源代码仓库或详细的开发者文档,因此除页面信息所述内容之外,无法核查该应用的行为。
  • 不适合 iOS 或桌面端用户。 该应用仅支持 Android。

竞品与替代方案

PocketPal AI

平台:
Android, iOS
价格 / 许可证:
免费 / MIT
主要区别:
开源的设备端聊天客户端

Maid

平台:
Android
价格 / 许可证:
免费 / MIT
主要区别:
面向本地 GGUF 或远程服务商的开源聊天应用

RikkaHub

平台:
Android
价格 / 许可证:
免费 / 开源
主要区别:
多服务商聊天客户端

Layla

平台:
Android, iOS
价格 / 许可证:
付费 / 闭源
主要区别:
主打伴侣与角色扮演,并提供可选的云端模式

竞品的详细信息经常变化;请在各应用自己的页面上确认其当前价格和许可证。

常见问题

Ollama Local AI 是 Ollama 团队开发的吗?

不是。该页面的免责声明称,该应用是独立的,与 Ollama 没有关联,也未获得其认可。它可以连接你自己运行的 Ollama 服务器,但自带 llama.cpp 引擎。

Ollama Local AI 是谁开发的?开发者有网站吗?

Google Play 将 FreeRouter Team 标明为开发者,并提供了开发者联系方式。从页面信息中没有发现开发者网站、公开的源代码仓库或详细的开发者文档,而且该开发者并未被表述为 Ollama 的开发者。

Google Play 包名是什么?

包名 ID 是 com.llmproxy,所以尽管它在商店中的名称是 Ollama Local AI,在搜索"LLM Proxy"时也会出现这款应用。

它能在 iPhone 或桌面端使用吗?

据页面信息,不能:Google Play 是它链接的唯一渠道,也没有提到任何 iOS 或桌面版本。

它能在手机上运行哪些模型?

通过 llama.cpp 运行 GGUF 格式的模型。页面信息列举了 Llama 3、Mistral、Phi、Gemma 和 Qwen 作为示例;能容纳多大的模型取决于你手机的内存,而页面信息并未说明这一点。

我可以把它和 Cursor 或 VS Code 一起使用吗?

页面信息描述的正是这种用法:在手机上启动服务器,然后把工具的 OpenAI 基础 URL 设为手机的本地地址。PromptQuorum 并未测试过这些步骤。

我的数据会留在手机上吗?

仅限由设备端模型应答的请求。路由到 OpenAI、Anthropic、NVIDIA NIM 或 Hugging Face 的请求会发送给这些服务商,而开发者"未收集数据"的声明未经审计。

它是开源的吗?

许可证:Google Play 页面信息中未说明,也没有发现公开的源代码仓库,因此 PromptQuorum 无法确认该应用是开源的。如果开发者日后公布许可证或源代码,本评测会随之更新。

应用内购买解锁了什么?

页面信息没有说明。购买前请先在应用内查看,如果结果不符合预期,可使用 Google Play 的退款期限。

结论

Ollama Local AI 满足的是一个狭窄但真实的需求:把 Android 手机用作桌面编程工具的 OpenAI 兼容端点,同时在设备上运行 GGUF 模型。Play 页面描述的功能集超出了单纯的设备端聊天——局域网服务、多服务商路由、故障转移、集群和流量诊断——截至 2026 年 10 月 2 日的商店信号(10K+ 的下载量、4.2 的评分)也表明确实有人在使用。但另一方面,这是一款未经审计的工具:Google Play 将 FreeRouter Team 标明为开发者并提供了联系方式,但没有发现开发者网站或公开的源代码仓库,其版本、许可证、硬件门槛和购买范围在页面信息中均未说明,而且它的名称容易让人与独立的 Ollama 项目混淆,但它与该项目没有关联。它适合想在私有网络中尝试"手机即网关"配置的开发者;需要可审计代码或 iOS 支持的读者,应先从 PocketPal AI 或 Maid 入手。

资料来源

  • Google Play 上的 Ollama Local AI — 描述、开发者名称与联系方式、数据安全声明、下载量、评分和最近更新日期,核实于 2026 年 10 月 2 日。

← 返回 本地LLM进阶