Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
主页/本地LLM进阶/MLXHub评测:适用于iPhone和iPad的设备端MLX聊天与局域网服务器
Mobile & Edge LLMs

MLXHub评测:适用于iPhone和iPad的设备端MLX聊天与局域网服务器

·8分钟阅读·Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

MLXHub是一款免费增值、闭源的iOS和iPadOS应用,可在Apple silicon上离线运行开源语言模型和视觉模型,能在您的Wi-Fi上作为兼容OpenAI的服务器对外提供服务,还能把您的多台设备组合起来,加载任何单台设备都装不下的模型。 据其App Store页面,它需要iOS或iPadOS 26.0或更高版本,下载免费,MLXHub Plus以应用内购买的方式销售。本评测对应版本2.2.0,依据公开的应用页面和官方网站撰写,并未实际测试。

MLXHub是一款iPhone和iPad应用,利用苹果的MLX框架在设备上运行开源模型,可以向您网络中的其他应用提供服务,还能把一个大模型拆分到您自己的多台设备上运行。本评测介绍它的App Store页面和官方网站记载了什么、哪些地方不明确,以及它与其他iOS本地AI应用的对比。

MLXHub评测:适用于iPhone和iPad的设备端MLX聊天与局域网服务器

关键要点

  • 评测版本:2.2.0,见App Store页面。
  • 价格:免费下载;MLXHub Plus列为每月$6.99、每年$44.99和$229.99买断。
  • 平台:iOS和iPadOS 26.0或更高版本;官方网站要求Apple silicon和6 GB或以上内存。
  • 突出功能:局域网服务器、多设备模型拆分、工具与技能、Hugging Face镜像。
  • 开放性:闭源;没有找到公开的代码仓库。

📍 简单一句话

MLXHub由开发者Juan Colilla打造,是一款免费增值的iPhone和iPad应用,基于苹果的MLX框架离线运行开源模型,可向您的网络提供服务,并能把一个模型拆分到您的多台设备上。

💬 简单来说

可以把它看作装在口袋里的模型运行器:模型下载完成后,聊天无需联网;同一台设备还能充当小型私有AI服务器,供家中的其他应用使用。

获取MLXHub

MLXHub通过Apple App Store发布。 下载大小为73 MB,应用免费下载,含应用内购买。

本评测是PromptQuorum本地LLM软件目录的配套文章,该目录将MLXHub与其他移动端和桌面端本地AI工具一并列出。

渠道
获取方式
Apple App StoreApp Store上的MLXHub: Local AI & LLM Server
官方网站mlxhub.app
隐私政策MLXHub隐私政策

没有找到公开的源代码仓库。没有Android版本;应用页面只涵盖Apple平台。

MLXHub概览

属性
MLXHub
平台iOS、iPadOS(26.0+)
价格免费,含应用内购买
许可证闭源
完全离线运行是,模型下载完成后
应用内下载模型是,来自Hugging Face
图像输入是,视觉语言模型
本地API服务器是,局域网内兼容OpenAI
语音输入/输出应用页面未说明

各属性沿用本地LLM软件目录中使用的移动端聊天对比项。它们来自App Store页面和官方网站,而这些来源并未涵盖所有功能。

MLXHub是什么

MLXHub首先是设备端模型运行器,其次才是聊天客户端。 应用页面的宣传语是英文原文“private offline chat & tools”(私密离线聊天与工具),并称可让您“run supported larger models and serve chat and embeddings across your local network”(运行受支持的较大模型,并在本地网络中提供聊天和嵌入服务)。以上两句均引自英文页面。官方网站称它以Swift原生构建,基于mlx-swift,即苹果面向Apple silicon的MLX框架。

它由Juan Colilla发布,版权声明为“DreamFoundries EU”。请不要把它与mlxhub.ai混淆,后者是另一位开发者推出的仅限macOS的应用,只是名称相同。

本评测仅依据App Store页面和官方网站撰写,不包含实际测试,因此这里不对速度、稳定性和回答质量进行评价。

如何开始使用

设置过程就是先从App Store安装,再从Hugging Face下载模型。 应用页面没有记载首次运行的流程,因此以下步骤依据页面和网站所述内容整理。

  1. 1
    确认设备和系统版本
    Why it matters: 应用页面要求iOS或iPadOS 26.0或更高版本,官方网站要求Apple silicon设备且内存6 GB或以上。
  2. 2
    安装MLXHub
    Why it matters: 可从[App Store](https://apps.apple.com/us/app/mlxhub-local-ai-llm-server/id6766485144)获取;下载大小为73 MB。
  3. 3
    下载模型
    Why it matters: 从应用内的Hugging Face目录中选择一个开源模型。应用会提示它是否装得下,但Hugging Face的元数据有时并不一致。
  4. 4
    开始聊天,再按需开启局域网服务器
    Why it matters: 模型下载完成后,聊天无需联网。局域网服务器是可选的,可让您Wi-Fi上的其他应用使用已加载的模型。

功能

MLXHub的卖点是围绕模型运行器提供了广泛的配套功能。 以下内容均来自App Store页面和官方网站。

  • 模型。 从Hugging Face下载开源文本模型和视觉语言模型;页面点名了Qwen3.6 35B-A3B、Bonsai 2 27B和Gemma系列模型。纯文本聊天只在需要时才加载视觉组件,以节省内存。
  • 记忆与技能。 记忆系统会保存对话中的事实,您还可以创建可复用的自定义技能。
  • 原生工具。 预置工具可调用日历、提醒事项、健康、照片和音乐资料库等Apple框架;页面没有说明每个工具具体能做什么。
  • 速度与适配。 KV缓存可加快多轮聊天,加载模型之前,内存压力测试会评估您设备的内存余量。
  • 模型切换与镜像。 可在对话中途在文本模型和视觉模型之间切换;当Hugging Face无法访问时,可使用社区提供的Hugging Face镜像。
  • 大模型流式加载。 页面提到了面向Qwen3.6 35B-A3B等较大模型的NAND专家流式加载,但没有给出更多细节。
  • 语言。 界面提供英语以及另外11种语言。

局域网服务器与分布式推理

局域网服务器可把您的设备变成一个小型的OpenAI兼容端点。 页面点名了/v1/chat/completions和/v1/embeddings路由。据官方网站所述,它还提供一个轻量的聊天网页,同一Wi-Fi下的任何人都可以在浏览器中打开并与已加载的模型对话;它只绑定本地接口,不做端口转发。

分布式推理可把您自己的多台设备组合在一起。 一台设备作为主机,其他设备加入,各自承担模型的一部分层,因此单台设备都装不下的模型也能加载。网站称设备之间需要配对且流量经过加密,数据不会离开该网络。Wi-Fi下的吞吐量没有公布,因此请预期它会比一台能完整装下该模型的单设备更慢。

设备要求

MLXHub需要iOS或iPadOS 26.0或更高版本、Apple silicon设备以及6 GB或以上内存。 官方网站建议使用A17 Pro或M1及更新的芯片。App Store页面还显示同一应用提供macOS 26.0(Apple M1或更新芯片)和visionOS 26.0版本,但没有描述单独的桌面版。

内存才是真正的上限。苹果对iPhone上应用的内存限制比iPad更严格,因此较大的模型在iPad上更常能装下。网站警告说,装不下的模型有时仍可能被下载下来,应用会在iOS强制关闭应用之前设法阻止其加载,但不作保证。

定价与隐私

MLXHub免费下载,MLXHub Plus列为每月$6.99、每年$44.99和$229.99买断。 应用页面和网站都没有说明Plus解锁了哪些功能,因此在依赖某项功能之前,请先在应用内查看付费墙。模型从Hugging Face免费下载,没有按token计费。

官方网站称推理完全在设备上进行,没有账号,也没有任何能识别您身份的信息。它同时说明,自2.0.0版本起,应用会发送匿名的分析和诊断数据,内容涵盖您使用了哪些功能、设备类别以及模型是否加载成功,您可以在“设置”中将其关闭。

该应用是闭源的,本评测没有检查网络流量,因此隐私方面的说法来自开发者自己。如果您启用局域网服务器,其中数据的私密程度取决于您的Wi-Fi网络。

权衡:优点与局限

离线MLX推理

实际使用中的意义:
无需联网,借助苹果自家框架与开源模型聊天。
局限/注意事项:
需要iOS 26和6 GB内存;iPhone的内存限制决定了模型大小上限。

局域网服务器

实际使用中的意义:
Wi-Fi上的其他应用和浏览器可使用已加载的模型。
局限/注意事项:
设备必须保持唤醒并在线;没有公布吞吐量数据。

多设备拆分

实际使用中的意义:
加载您任何单台设备都装不下的模型。
局限/注意事项:
Wi-Fi下的速度没有记载,且需要多台兼容设备。

工具、记忆和技能

实际使用中的意义:
在聊天中调用日历、提醒事项和健康。
局限/注意事项:
页面没有说明每个工具具体能做什么。

可免费开始

实际使用中的意义:
没有按token计费;模型可从Hugging Face免费获取。
局限/注意事项:
Plus买断最高$229.99,且没有说明它解锁了什么。

MLXHub与替代方案对比

MLXHub

平台:
iOS、iPadOS
价格与许可证:
免费增值,闭源
模型来源:
Hugging Face(MLX)
主要区别:
局域网服务器和多设备模型拆分;不是开源

Locally AI

平台:
iOS、Mac
价格与许可证:
免费增值,闭源
模型来源:
应用内模型目录
主要区别:
设备端聊天更简单;未列出局域网服务器
关于Locally AI的文章(4篇)

其他提及:

Private Mind

平台:
iOS、Android
价格与许可证:
免费,MIT
模型来源:
Hugging Face下载
主要区别:
开源,也支持Android;未列出局域网服务器
关于Private Mind的文章(1篇)

其他提及:

Oscilla

平台:
iOS
价格与许可证:
免费,闭源
模型来源:
40多个应用内模型
主要区别:
固定目录更大;未说明所用运行时
关于Oscilla的文章(1篇)

PocketPal AI

平台:
iOS、Android
价格与许可证:
免费,MIT
模型来源:
GGUF模型
主要区别:
开源,基于llama.cpp,跨平台
关于PocketPal AI的文章(10篇)

另有20篇未显示

第三方应用的平台、价格和功能细节经常变化。做决定前,请在各应用自己的页面上核实最新信息。

在目录中比较

谁适合使用MLXHub

  • 希望运行设备所能容纳的最大模型的iPad和较新iPhone用户。 MLX、流式加载和设备组合针对的都是这一上限。
  • 想要一台口袋AI服务器的折腾爱好者。 兼容OpenAI的局域网端点可让您网络中的脚本和其他应用使用这台设备。
  • 拥有多台Apple设备的用户。 多设备拆分是大多数替代方案没有列出的功能。

谁不适合使用MLXHub

  • 需要开源的用户。 代码并未公开;Private Mind和PocketPal AI都是开源的。
  • Android用户。 只列出了Apple平台;PocketPal AI和Private Mind都支持Android。
  • 系统低于iOS 26或内存不足6 GB的设备。 应用页面和网站设定了这些门槛。
  • 想要付费版明确功能清单的用户。 MLXHub Plus解锁了什么没有记载;请先试用免费版。

常见问题

MLXHub免费吗?

可免费下载,含应用内购买:MLXHub Plus为每月$6.99、每年$44.99,或$229.99买断,见App Store页面。

MLXHub是谁开发的?

Juan Colilla,版权声明为“DreamFoundries EU”。mlxhub.ai应用是另一款仅限macOS的不同产品。

MLXHub会把我的聊天内容发送到别处吗?

网站称推理完全在设备上进行。自2.0.0版本起会发送匿名的使用和诊断数据,可在“设置”中关闭。

MLXHub能在Android上使用吗?

不能。应用页面只涵盖iPhone、iPad,以及商店中标注的搭载Apple M1的Mac和Apple Vision Pro兼容性。

我可以运行哪些模型?

来自Hugging Face的开源MLX格式文本模型和视觉模型。页面点名了Qwen3.6 35B-A3B、Bonsai 2 27B和Gemma系列模型。

结论

从纸面上看,对于拥有较新iPad或iPhone、想要离线MLX聊天,并希望可以把设备用作本地端点,或组合多台设备来运行更大模型的用户,MLXHub很合适。

需要注意的是透明度和成熟度:它是闭源的,Plus功能没有记载,多设备拆分的速度没有公布,评测时应用页面只有七条评分。

如果您想要开源方案,请先从Private Mind开始。如果您想要局域网服务器或多设备拆分,可以先试用MLXHub的免费版。

来源

← 返回 本地LLM进阶