关键要点
- Ollama免费且开源；官方GitHub许可证文件为MIT许可证
- 通过内置的基于llama.cpp的引擎运行本地模型——无需单独编译或配置服务器
- 在macOS/Linux上可通过一条命令（
curl -fsSL https://ollama.com/install.sh | sh）安装，在Windows上可通过一条命令（irm https://ollama.com/install.ps1 | iex）安装，此外还有签名安装程序、Docker镜像以及多种包管理器（Homebrew、Pacman、Nix等）的构建版本 - 自定义模型通过Modelfile使用FROM、PARAMETER、TEMPLATE、SYSTEM、ADAPTER、LICENSE和MESSAGE指令定义
- 既提供原生REST API（
/api/chat、/api/generate），也在http://localhost:11434/v1提供OpenAI兼容API（/v1/chat/completions、/v1/completions、/v1/models、/v1/embeddings） - 模型库位于ollama.com/library，当前官方文档中出现的模型名称包括
llama3.2、gemma4、qwen3.5和gpt-oss ollama launch可将本地模型直接接入Claude Code、Codex、VS Code、OpenCode和Droid等编码工具- 由Ollama Inc.开发，这是一家位于加利福尼亚州帕洛阿尔托、由Jeffrey Morgan和Michael Chiang于2023年创立的公司
- 可在macOS、Windows和Linux上使用，此外还提供Docker Hub镜像（
ollama/ollama）以及Homebrew、Pacman、Nix、Guix等包管理器版本
📍 简单一句话
Ollama是一款免费、开源（MIT许可证）的命令行工具和本地API，通过基于llama.cpp的引擎在您自己的电脑上下载并运行开放权重AI模型，并提供可选的付费云端层级用于托管推理。
💬 简单来说
与其手动编译推理引擎并围绕它编写服务器，Ollama给您两条命令——拉取一个模型，然后运行它——其余的都由它处理。它的运作方式就像面向AI模型的Docker：一条命令下载模型，另一条命令运行它，一个本地网址让其他程序像访问OpenAI的API一样与它对话。
📌注: 本评测是本地AI软件目录中Ollama条目的深度配套文章——如需一目了然地了解Ollama与数十种其他本地AI工具的对比，请参阅该页面。
Ollama是什么
Ollama是一款命令行工具、一个本地API服务器，并且自2025年7月起还是一款桌面应用，用于在您自己的硬件上运行开放权重AI模型。 其GitHub仓库将其描述为可以让您在本地"快速上手大语言模型"的软件。其设计有意仿照Docker的工作流——两位联合创始人此前曾打造过Docker的GUI工具Kitematic，该工具于2015年被Docker收购——因此ollama pull和ollama run的运作方式与docker pull和docker run非常相似。
- 核心功能：下载开放权重模型，并通过内置推理引擎在本地运行，其CLI、本地API和桌面聊天界面都与同一个后台服务通信
- 本地推理引擎：根据Ollama自己的文档，构建在llama.cpp和GGML之上，运行来自Ollama自有库或从导入的GGUF/Safetensors文件中打包为GGUF格式的模型
- 接口：终端CLI（
ollama run <模型>）、支持拖放文件和图片的macOS/Windows官方桌面应用，以及用于程序化调用的REST API - 开发方：Ollama Inc.，一家位于加利福尼亚州帕洛阿尔托的公司；托管代码的GitHub组织名为ollama
- 规范仓库：github.com/ollama/ollama，根据仓库的LICENSE文件采用MIT许可证
Ollama的公司背景与里程碑
Ollama由Jeffrey Morgan和Michael Chiang于2023年创立，两人相识于滑铁卢大学，此前曾打造过开源的Docker图形界面工具Kitematic，该工具于2015年被Docker收购（后来并入Docker Desktop）。Ollama Inc.总部位于加利福尼亚州帕洛阿尔托，据公开的创业融资追踪网站显示，其已从Benchmark和Theory Ventures等投资方获得风险投资；PromptQuorum未能从一手信息来源独立核实确切的融资总额，建议查阅Ollama自己的公告以获取最新数字。
- 12023年 — 项目启动
Why it matters: Ollama的GitHub仓库及其最初的公开发布确立了`pull`/`run`的CLI工作流，至今仍是其核心交互模式。 - 22025年7月 — 官方桌面应用发布
Why it matters: 为macOS和Windows新增了原生GUI，支持模型下载、聊天、拖放文件/图片输入以及可调节的上下文长度——此前CLI和Open WebUI等第三方GUI是仅有的界面选择。 - 32025–2026年 — OpenAI兼容API扩展
Why it matters: Ollama在`/v1`新增并扩展了OpenAI兼容端点，涵盖聊天补全、补全、嵌入和模型列表，使其成为已基于OpenAI SDK构建的工具的即插即用后端。 - 42026年 —
ollama launch集成功能
Why it matters: 根据[官方CLI参考文档](https://docs.ollama.com)，新增了一条命令即可配置Claude Code、Codex、VS Code、OpenCode和Droid等编码工具指向本地运行模型的功能。 - 52026年 — 推出云端层级
Why it matters: Ollama Inc.开始在其自有基础设施上提供付费托管推理服务（根据[ollama.com](https://ollama.com)，地区包括美国、欧洲和新加坡），作为免费本地软件之外的选项，供希望运行超出自身硬件能力的更大模型的用户使用。
Ollama能做什么
Ollama的功能集专注于让本地模型推理感觉像使用包管理器，而不是一个研究项目。以下是根据Ollama官方文档和GitHub README，各部分实际的功能。
- 模型库 — 通过单一命令
ollama pull <模型>从ollama.com/library拉取可直接使用的模型；当前文档给出的示例包括Llama、Gemma、Qwen、gpt-oss、DeepSeek，以及nomic-embed-text和embeddinggemma等专用嵌入模型 - Modelfile自定义 — 使用Modelfile中的
FROM（基础模型，必填）、PARAMETER（如温度和上下文长度等运行时设置）、TEMPLATE（提示词格式）、SYSTEM（系统提示词）、ADAPTER（LoRA适配器）、LICENSE和MESSAGE（预设对话历史）等指令定义自定义模型配置，然后用ollama create <名称> -f Modelfile构建它 - 本地REST API — 位于
http://localhost:11434的原生API，端点包括/api/generate、/api/chat、/api/embeddings、/api/pull和/api/create，记录在官方API参考文档中 - OpenAI兼容API — 位于
http://localhost:11434/v1的第二个端点实现了/v1/chat/completions、/v1/completions、/v1/models和/v1/embeddings，使基于OpenAI SDK编写的应用程序只需更改基础URL即可指向Ollama - 编码工具集成（
ollama launch） — 一条交互式命令，可将外部工具（当前CLI文档中提及Claude Code、Codex、VS Code、OpenCode和Droid）配置为使用本地运行的Ollama模型作为后端 - 多模态与嵌入支持 —
ollama run可为多模态模型接受图像输入（CLI文档以llava为例），也可运行专用嵌入模型用于检索/RAG流程 - 桌面应用 — 除CLI外，还提供原生GUI（macOS和Windows，2025年7月发布），无需终端即可下载模型并聊天
- 可选云端层级 — Ollama Inc.将其自有服务器上的托管推理作为独立的付费选项出售，用于运行超出本地硬件处理能力的更大模型；这一功能对上述任何本地功能都不是必需的
使用示例：三种使用Ollama的方式
以下是基于上述Ollama已记录命令和API构建的具体工作流——并非假设性的用例。
在macOS、Windows和Linux上安装Ollama
Ollama可在macOS、Windows和Linux上使用，可通过一行安装脚本、签名安装程序、Docker以及多种包管理器安装。以下命令和链接来自官方下载页面和GitHub README——由于安装脚本和要求可能随版本变化，请务必直接查阅这些页面进行核实。
macOS
- 安装方式:
- Ollama.dmg（需要macOS 14 Sonoma或更高版本）或
curl -fsSL https://ollama.com/install.sh \| sh
Windows
- 安装方式:
- 签名安装程序或在PowerShell中运行
irm https://ollama.com/install.ps1 \| iex
Linux
- 安装方式:
curl -fsSL https://ollama.com/install.sh \| sh，或按照官方Linux指南手动安装
Docker
- 安装方式:
docker pull ollama/ollama— Docker Hub上的官方镜像
包管理器
- 安装方式:
- Homebrew、Pacman、Nix、Guix、Gentoo、Flox，以及适用于Kubernetes的Helm chart——确切的包名请参阅GitHub README
除了能运行其支持的操作系统外，Ollama本身没有固定的最低硬件要求——实际限制取决于您加载的模型，因为更大的模型需要更多RAM（若使用GPU加速则是VRAM）才能达到可用的速度。如果硬件资源有限，请在下载前于ollama.com/library查看模型大小。
Ollama的价格：免费软件，可选付费云端
Ollama软件——CLI、本地API和桌面应用——是免费且开源的。 GitHub LICENSE文件是标准的MIT许可证，没有任何功能被锁在付费墙后面。此外，Ollama Inc.在ollama.com上单独出售托管式云端服务，可在其自有服务器上运行更大的模型，而非占用您的本地机器。
本地软件
- 价格:
- 免费
- 包含内容:
- CLI、本地REST/OpenAI兼容API、桌面应用、Modelfile自定义以及完整模型库——完全在您自己的硬件上运行
云端（免费）
- 价格:
- 免费
- 包含内容:
- 根据ollama.com当前的价格页面，提供对云端模型的有限托管访问
云端Pro
- 价格:
- 起价每月20美元
- 包含内容:
- 在Ollama自有服务器上（根据Ollama自己网站的说明，地区包括美国、欧洲和新加坡）获得托管推理额度和更高的使用上限——这是与免费本地软件相互独立的付费产品
价格和云端层级的细节可能会变化；在做出购买决定前，请直接查阅ollama.com的价格页面。安装和使用Ollama免费的本地软件完全不需要任何付费云端层级——云端服务的存在是为了运行那些对某台机器的RAM/VRAM来说过大的模型。
Ollama vs. LM Studio
Ollama和LM Studio是运行本地AI模型最常被推荐的两款工具，两者经常被拿来比较，因为它们都将基于llama.cpp的推理封装在更简单的界面之下。最明显的区别在于命令行优先与图形界面优先之分，以及开源与闭源之分。
主要界面
- Ollama:
- 最初以命令行为主，2025年7月新增了官方桌面GUI
- LM Studio:
- 首先是图形化桌面应用；没有以命令行为主的工作流
许可证
- Ollama:
- MIT（完全开源）
- LM Studio:
- 专有软件——根据其自身的服务条款，个人和商业使用均免费，但并非开源
本地API
- Ollama:
- 原生REST API，外加
:11434/v1处的OpenAI兼容端点 - LM Studio:
- OpenAI兼容REST端点，外加一个独立的测试版LM Studio REST API
模型格式
- Ollama:
- 通过自有模型库和Modelfile系统的GGUF
- LM Studio:
- GGUF（通过llama.cpp）和MLX（Apple Silicon）
内置文档聊天（RAG）
- Ollama:
- 并非内置功能——需搭配Open WebUI或AnythingLLM等客户端使用
- LM Studio:
- 内置"Chat with Documents"功能
可选云端层级
- Ollama:
- 有，托管推理起价每月20美元
- LM Studio:
- 有，"Bionic+"起价每月20美元，"Pro"起价每月100美元，提供托管模型和更高的使用上限
如果您想要一个可脚本化、以终端为主、供其他应用调用作为后端的工具，Ollama的工作流更直接契合。如果您想要一个功能完善、内置模型浏览器和文档聊天功能、完全无需使用终端的图形界面，可以直接在lmstudio.ai评估LM Studio——详情请参阅完整的LM Studio评测。两者的核心本地功能都是免费的；做决定前请在各自项目的官方网站上核实最新功能。
谁适合使用Ollama
Ollama是否适合您，取决于您是否习惯以终端为主的工作流，以及是否需要一个其他工具可以调用的可脚本化后端。
Ollama与其他本地运行时的对比
Ollama是将本地模型推理封装在更简单界面之下的多款工具之一。以下是它与该领域其他选项的对比——完整目录请参阅本地AI软件目录，最接近的正面对比请参阅上方专门的Ollama vs. LM Studio对比。
- LM Studio — 一款图形界面优先的桌面应用，覆盖类似领域（本地推理、OpenAI兼容API），并内置模型浏览器和文档聊天功能；直接对比请参阅LM Studio评测和上方的对比部分。
- llama.cpp — Ollama本身构建于其上的开源推理引擎；直接使用它可获得更底层的控制（自定义编译标志、直接加载GGUF），但代价是失去Ollama类似包管理器的便利性。参阅llama.cpp解析。
- KoboldCpp — 另一款基于llama.cpp的运行时，历来在创意写作和角色扮演用例中广受欢迎，并内置Web界面；参阅KoboldCpp评测。
- LocalAI — 一款开源、兼容OpenAI API的运行时，在单一服务器中支持超出llama.cpp范围的更广泛模型后端（包括图像和音频模型）；参阅LocalAI解析。
评估Ollama时的常见误解
关于Ollama的大多数困惑，源于将免费的本地软件与独立的付费云端产品混为一谈，或是期待其具备一些设计上本就未包含的功能（如内置RAG）。
常见问题
Ollama是什么？
Ollama（ollama.com，源代码见github.com/ollama/ollama）是一款免费、开源的命令行工具、本地API和桌面应用，通过内置的基于llama.cpp的引擎在您自己的电脑上下载并运行开放权重AI模型。
Ollama免费吗？
是的。核心软件——CLI、本地API和桌面应用——采用MIT许可证且免费，没有任何功能被锁在付费墙后面。Ollama Inc.另外单独出售一个可选的付费云端层级（起价每月20美元），用于在其自有服务器上进行托管推理；使用免费的本地软件并不需要该云端产品。
Ollama是开源的吗？它使用什么许可证？
是的。Ollama的GitHub LICENSE文件是标准的MIT许可证，这是最宽松的开源许可证之一，没有任何著佐权（copyleft）义务。
Ollama支持哪些平台？
根据官方下载页面，支持macOS（14 Sonoma或更高版本）、Windows和Linux。它还以Docker镜像（ollama/ollama）形式分发，并可通过Homebrew、Pacman、Nix和Guix等包管理器获取。
Ollama有图形界面，还是仅限命令行？
两者都有。Ollama最初是一款命令行工具，至今仍以CLI为核心，但Ollama Inc.于2025年7月发布了适用于macOS和Windows的官方桌面应用，在终端工作流之外新增了图形化聊天界面。
Ollama有OpenAI兼容API吗？
有。除了位于http://localhost:11434的原生REST API外，Ollama还在http://localhost:11434/v1提供OpenAI兼容端点，涵盖/v1/chat/completions、/v1/completions、/v1/models和/v1/embeddings。
什么是Modelfile？
Modelfile是用于构建自定义Ollama模型的文本配置文件。它支持FROM（基础模型，必填）、PARAMETER、TEMPLATE、SYSTEM、ADAPTER、LICENSE和MESSAGE等指令，并通过ollama create <名称> -f Modelfile构建为可运行的模型。
Ollama有多少GitHub星标？
根据GitHub API的直接验证，截至2026年9月12日，Ollama的仓库（github.com/ollama/ollama）显示有180,722个星标。由于该数字每天都在变化，请直接查阅该仓库以获取最新数字。
谁开发了Ollama？
Ollama Inc.，一家总部位于加利福尼亚州帕洛阿尔托的公司，由Jeffrey Morgan和Michael Chiang于2023年创立。两人此前曾打造过Kitematic，这是一款于2015年被Docker收购的Docker图形界面工具。
Ollama是否包含检索增强生成（RAG）或文档聊天功能？
并非内置功能。Ollama提供推理引擎和API；文档聊天和RAG功能通常来自在其之上构建的独立客户端层，例如Open WebUI或AnythingLLM，二者都可以连接到Ollama的API。