关键要点
- 免费开源;GitHub 仓库报告为 Apache-2.0 许可证,本评测也没有在 README 中找到单独的定价页面链接
- 三种使用方式:Unsloth Desktop(面向 Windows/macOS/Linux 的原生应用,项目自身推荐使用)、Unsloth Studio(自托管 Web UI,也可通过 Docker 运行)、Unsloth Core(初代 Python 库,
pip install unsloth) - 既能训练也能运行 LLM、扩散(图像/视频)模型、文本转语音模型和嵌入模型——根据项目自身的功能列表,这超出了纯文本微调的范围
- 支持 LoRA、QLoRA、全量微调、预训练、强化学习(GRPO、DPO)以及 FP8 训练方法
- 支持 NVIDIA、AMD 和 Intel GPU 的多 GPU 配置,以及通过 Vulkan 后端实现的纯 CPU 运行,覆盖 Windows、Linux、WSL 和 macOS
- 可以通过一条
unsloth start命令,将训练好或下载的模型连接到编码智能体(Claude Code、Codex 等),并公开一个兼容 OpenAI/Anthropic 的 API - 由 Unsloth AI 开发,根据其 GitHub 资料显示为美国注册的组织;仓库创建于 2023 年 11 月,
unslothPyPI 包自 2024 年 8 月首次发布以来已发布 241 个版本
📍 简单一句话
Unsloth 是一款免费开源(Apache-2.0)的工具,可以在你自己的硬件上训练和运行 LLM、扩散(图像/视频)、文本转语音以及嵌入模型,提供原生桌面应用、自托管 Web UI 或 Python 库三种形态。
💬 简单来说
如果你想用自己的数据——文本、图像或语音——训练一个 AI 模型,而不是使用通用的预训练模型,Unsloth 就是在你自己的电脑或 GPU 上免费完成这项训练的工具。它最初只是面向开发者的 Python 库,现在也有一个可以点击操作的桌面应用。
📌注: 本评测是本地 LLM 软件目录中 Unsloth 条目的深度解读——如需查看 Unsloth 与其他数十款本地 AI 工具的对比,请参阅该页面。
Unsloth 是什么?
Unsloth 是一款在你自己掌控的硬件上微调和运行 AI 模型的工具,而不是通过云端训练 API。其GitHub README开篇就将其称为"首款支持运行和训练模型的桌面应用",这反映了一个真实的转变:该项目始于 2023 年,最初是一个用于加速 LLM 微调的 Python 库,此后发展为包含原生桌面应用、自托管 Web UI 以及作为两者底层基础的初代库这三部分的产品。
- 核心功能:使用 LoRA、QLoRA 等技术,用自己的数据(文本、图像、音频或嵌入数据)微调基础模型,然后运行或导出结果
- 不局限于文本:根据 README 的功能列表,Unsloth 明确支持扩散(图像和视频)模型、文本转语音模型和嵌入模型,与 LLM 并列
- 一个项目下的三款产品:Unsloth Desktop(原生应用)、Unsloth Studio(Web UI,可自托管或通过 Docker 运行)、Unsloth Core(
unslothPython 包) - 开发方:Unsloth AI,在其 GitHub 资料上列为美国注册的组织,简介为"Run and train AI models locally"
- 规范仓库:github.com/unslothai/unsloth,根据 GitHub 自身的仓库元数据,创建于 2023 年 11 月
Unsloth 的发布历史
Unsloth 并没有像一些桌面应用那样发布单一的、带日期的更新日志,因此以下可核实的历史来自两个官方信息源:GitHub 自身的仓库元数据,以及unsloth包在Python Package Index(PyPI)上的发布历史。
- 根据 GitHub 的仓库元数据,GitHub 仓库创建于2023年11月29日
- 根据PyPI 的官方发布历史,
unsloth包在 PyPI 上的首次发布上传于2024年8月4日(版本2024.8) - 截至本评测撰写时,PyPI 显示
unsloth包累计发布了241个版本,最新版本(2026.9.4)上传于2026年9月9日——在该包的整个生命周期中,发布频率大约为每隔几天一次 - 这段时间里,项目的范围大幅扩展:最初它是一个用于加速文本 LLM 微调的库,而根据其当前的 README,现在还涵盖扩散、文本转语音和嵌入模型,并新增了原生桌面应用和自托管 Web UI——这些在项目早期纯库形态时并不存在
用 Unsloth 能做什么?
Unsloth 的功能集横跨训练(用自己的数据微调模型)和运行(使用已训练或已下载的模型)两方面,覆盖四种模型类型。以下根据 Unsloth 自身的GitHub README,说明各部分实际的作用。
- 跨四种模型类型的微调 — 使用 LoRA、QLoRA、全量微调或预训练,对 LLM、扩散(图像/视频)模型、文本转语音模型和嵌入模型进行微调
- 强化学习 — GRPO 和 DPO 都支持用于基于强化学习的微调,与更常见的监督微调方法并存
- 运行与提供模型服务 — 除了训练之外,Unsloth 还可以直接运行 GGUF、MLX 和扩散模型,并通过兼容 OpenAI 的本地 API 服务器公开它们
- 智能体集成 —
unsloth start命令可以将本地模型一键连接到编码智能体,包括 Claude Code、OpenAI Codex 等(根据 README 自身的列表) - 远程与局域网访问 — Unsloth Studio 可以通过家庭网络公开,或者通过 Cloudflare 隧道,从网络外部(包括手机)安全访问
- 数据集构建 — "Data Recipes"功能可以直接从 PDF、CSV 和 DOCX 文件构建训练数据集,而不需要预先格式化好的数据集
- 导出与部署 — 训练好的模型可以导出为 GGUF、NVFP4、FP8 等格式,供其他本地 AI 工具使用
- 免费训练笔记本 — Unsloth 发布了免费的 Google Colab 笔记本,涵盖特定模型和技术(Llama、Qwen、gpt-oss、GRPO、TTS、嵌入以及视觉微调)
使用示例:三种使用 Unsloth 的方式
以下是基于上文中 Unsloth 已记录功能构建的具体工作流——而不是假设性的用例。
安装 Unsloth:Desktop、Studio 与 Core
根据其自身的GitHub README,Unsloth 有三种使用方式——Desktop 应用是项目自身向大多数人推荐的方式。以下链接是 GitHub 发布版本的直接 URL 和官方安装脚本;由于发布链接可能随版本变化,请始终以 README 本身为准直接核实。
安装方式 | 命令或链接 |
|---|---|
| Unsloth Desktop — Windows | Unsloth-Desktop-Windows.exe |
| Unsloth Desktop — macOS | Unsloth-Desktop-MacOS.dmg |
| Unsloth Desktop — Linux(.deb) | Unsloth-Desktop-Ubuntu.deb |
| Unsloth Desktop — Linux(AppImage) | Unsloth-Desktop-Linux.AppImage |
| Unsloth Studio — macOS/Linux/WSL | 先运行curl -fsSL https://unsloth.ai/install.sh | sh,再运行unsloth studio |
| Unsloth Studio — Windows | 先运行irm https://unsloth.ai/install.ps1 | iex,再运行unsloth studio |
| Unsloth Studio — Docker | docker run -d --gpus all --ipc=host -p 8000:8000 unsloth/unsloth — 标签请参见Docker Hub |
| Unsloth Core — Linux/WSL(通过 uv 使用 pip) | uv pip install unsloth --torch-backend=auto |
AMD 和 Intel GPU 用户在默认安装之外还需要额外的设置步骤——请参见 Unsloth 自己的AMD 指南和Intel 指南。专用的 Docker Hub 标签unsloth/unsloth:core可以在不包含 Studio Web UI 的情况下安装 Unsloth Core(Jupyter 笔记本)——当前的标签列表请参见Docker Hub。
Unsloth 的定价:真的免费吗?
就本评测所能核实的范围而言,是的——Unsloth 没有付费层级。GitHub 仓库通过 GitHub 自身的 API 报告整个代码库采用 Apache-2.0 许可证,项目的 README 也没有链接到定价页面或描述任何付费功能。PromptQuorum 在本次评测中未能直接打开unsloth.ai(该网站对自动化请求返回了拒绝访问的响应)——如果某个具体的定价决策对你很重要,请自行核实官方网站,不要仅依赖本评测。
- GitHub 仓库及其 README 中没有记录任何订阅或付费层级
- 下载 Unsloth Desktop 或安装 Unsloth Core 都不需要账号或注册
- 提供免费的 Google Colab 笔记本,让你无需拥有 GPU 即可进行训练,但受限于 Colab 自身的免费层级 GPU 限制(由 Google 而非 Unsloth 设定)
- Apache-2.0 许可证适用于源代码本身;它本身并不能保证与之相关的每一项服务(例如未来可能推出的托管服务)永远免费——请直接在unsloth.ai上核实当前条款
Unsloth vs. Axolotl vs. MLX-LM
Unsloth、Axolotl 和 MLX-LM 是 PromptQuorum 自己的微调框架对比深入介绍的三款本地微调工具——本节为从本评测过来的读者总结其中的关键差异。
方面 | Unsloth | Axolotl | MLX-LM |
|---|---|---|---|
| 许可证 | Apache-2.0 | Apache-2.0 | MIT |
| 界面 | 桌面应用、Web UI 或 Python 库 | 由 YAML 配置驱动,没有桌面应用 | Python 库/CLI,没有桌面应用 |
| 模型类型 | LLM、扩散、TTS、嵌入 | 以 LLM 为主 | 以 LLM 为主 |
| 硬件 | NVIDIA、AMD、Intel、CPU、Vulkan | 以 NVIDIA 为中心的 CUDA 技术栈 | 仅限 Apple Silicon |
| 多节点训练 | README 中未记录 | 支持——通过 Torchrun 和 Ray | 通过mx.distributed |
| 最适合 | 单机场景下最全面的选择,也涵盖非文本模型 | 扩展到单机之外 | 在 Mac 上进行精简的原生 Apple 开发 |
如果你的训练任务需要不止一台机器,或者你特别需要尽可能广泛的 DPO/ORPO/KTO/GRPO/奖励建模方法覆盖,请参阅完整对比文章,了解为什么 Axolotl 在这方面更合适。如果你只使用 Apple Silicon,并希望使用最精简的原生方案,而不是 Unsloth 更宽泛(但更重)的桌面应用,请参阅专门的MLX-LM 评测。
谁适合使用 Unsloth?
Unsloth 是否适合你,取决于你是想用一款免费工具同时覆盖文本、图像和音频的训练与运行,还是更倾向于用途更单一的专用工具。
Unsloth 与其他微调工具对比
Unsloth 是众多在自有硬件上微调模型的工具之一。以下是它在这一领域中相对于其他选项的定位——完整目录请参见本地 LLM 软件目录,最接近的一对一对比请参见上文的Unsloth vs. Axolotl vs. MLX-LM 对比。
- Axolotl — 一款 Apache-2.0 许可的微调框架,其文档记录的优势在于多节点训练,以及三者中最广泛的对齐方法覆盖;请参见上文的专门对比部分,以及 PromptQuorum 的完整微调框架对比。
- MLX-LM — Apple 自己的 MIT 许可、Apple Silicon 原生库,用于运行和微调 LLM;详细介绍请参见MLX-LM 评测。
- Together.ai 和 Fireworks.ai — 按训练 token 计费的云端微调 API,而不要求你自己拥有 GPU;PromptQuorum 的微调框架对比直接介绍了 Together.ai 的定价。
- Ollama 和 LM Studio — 用于*运行*模型而非训练模型的本地推理工具;一种常见模式是先用 Unsloth 微调,导出为 GGUF,再在 Ollama 或 LM Studio 中运行结果。请参见Ollama 评测和LM Studio 评测。
评估 Unsloth 时的常见误区
关于 Unsloth 的大多数误解,都源于把它当作一个纯文本 Python 库的过时印象,或者认为它自己的速度/显存说法已经过独立验证。
常见问题
Unsloth 是什么?
Unsloth(unsloth.ai,源代码位于github.com/unslothai/unsloth)是一款免费、开源(Apache-2.0)的工具,可以在你自己的硬件上微调和运行 LLM、扩散(图像/视频)、文本转语音以及嵌入模型,提供桌面应用、自托管 Web UI 或 Python 库三种形态。
Unsloth 免费吗?
就本评测能从 GitHub 仓库元数据和项目 README 中核实的范围而言,是的——没有发现任何有记录的付费层级。PromptQuorum 在本次评测中未能直接打开 unsloth.ai(该网站拦截了自动化请求),因此如果某项决策依赖于此,请在官方网站上核实当前定价。
Unsloth 能微调图像而不只是文本吗?
可以。Unsloth 自己的 GitHub README 将扩散(图像和视频)模型与 LLM、文本转语音模型和嵌入模型并列,列为训练和推理均支持的模型类型。
Unsloth 使用什么许可证?
Apache-2.0,根据 GitHub 自身的仓库元数据(本评测通过 GitHub API 核实)。
使用 Unsloth 需要懂 Python 吗?
不一定需要。Unsloth Desktop 是一款面向 Windows、macOS 和 Linux 的原生点击式应用。最初的 Python 库 Unsloth Core 仍然可用,供希望获得脚本级控制的开发者使用。
Unsloth 支持哪些硬件?
根据其 GitHub README:支持多 GPU 配置、NVIDIA、AMD 和 Intel GPU,以及通过 Vulkan 后端实现的纯 CPU 运行,覆盖 Windows、Linux、WSL 和 macOS。
Unsloth Studio 和 Unsloth Desktop 是同一个东西吗?
不是。Unsloth Desktop 是一款原生安装的应用。Unsloth Studio 是一款自托管的 Web UI,你通过安装脚本或 Docker 运行它,并通过浏览器访问——两者都建立在同一个 Unsloth Core 引擎之上。
Unsloth 能连接 Claude Code 或其他编码智能体吗?
可以,通过unsloth start命令,根据项目 README,它可以通过 Unsloth 兼容 OpenAI/Anthropic 的 API,将本地模型连接到 Claude Code、OpenAI Codex 等智能体。
Unsloth 与 Axolotl 相比如何?
Unsloth 覆盖更多模型类型(LLM、扩散、TTS、嵌入)和更多硬件后端(包括 AMD 和 Intel),而 Axolotl 记录了多节点训练和更广泛的对齐方法覆盖。请参见上文的专门对比部分,以及 PromptQuorum 的完整微调框架对比。
谁开发了 Unsloth?
Unsloth AI,在其 GitHub 资料中列为美国注册的组织。GitHub 仓库创建于 2023 年 11 月。
