Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
主页/本地LLM进阶/Strata 评测：在游戏电脑上运行 125B 参数开源模型
Overview & Reference

Strata 评测：在游戏电脑上运行 125B 参数开源模型

·阅读约9分钟·Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎
选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

Strata（0.2.2 版，2026 年 10 月 21 日发布）是一款免费、采用 MIT 许可的应用和终端工具，据其 README 介绍，它能在普通游戏电脑上运行一个 1250 亿参数的开源模型，并通过本地 API 提供给你的其他程序。 本评测中所有关于速度、质量和隐私的说法都来自项目方；PromptQuorum 未安装或测试该应用。

Strata 是一款采用 MIT 许可的引擎、桌面应用和终端工具，据其 README 介绍，它通过在显存、内存和 SSD 之间分担运算，让游戏电脑运行 1250 亿参数的开源模型 Qwen3.8-Flash-Next。本评测依据 2026 年 10 月 23 日核对的项目 README、安全说明和 v0.2.2 发布页面。

Strata 评测：在游戏电脑上运行 125B 参数开源模型

关键要点

  • 维护情况：代码仓库创建于 2026 年 9 月 24 日，0.2.0-beta、0.2.1 和 0.2.2 三个版本于 2026 年 10 月 19 日至 21 日陆续发布，因此更新活跃，但项目只有一个月历史；不适用停止维护警告。
  • 许可证：Strata 本身采用 MIT；每个模型文件各有自己的许可证。
  • 费用：免费，无需账号；支持项目属自愿。
  • 安装程序：据 README，Windows 安装程序尚未代码签名。
  • 依据：2026 年 10 月 23 日阅读的 README、安全说明和发布页面，未做实际测试。

📍 简单一句话

Strata 是一款采用 MIT 许可的引擎和桌面应用，可在游戏电脑上运行一个 1250 亿参数的开源模型。

💬 简单来说

它把模型分摊到你的显卡、内存和 SSD 上，然后通过聊天窗口或其他工具可调用的本地 API 作答。

📌注: PromptQuorum 未安装、测试或评测 Strata。下文关于速度、质量和隐私的说法均来自项目方。

Strata 是什么？

Strata 是围绕单一模型 Qwen3.8-Flash-Next 构建的推理引擎、桌面应用和终端客户端；README 称该模型为 1250 亿参数，通常需要服务器才能运行。 该模型由 Qwen 团队发布在 Hugging Face 上；Strata 由 GitHub 账号 Niko1221 发布，让它能在消费级硬件上运行。

README 用图书馆来比喻其原理：该模型由 24,576 位小专家（“experts”）组成，每个词只需调用其中 10 位。显卡存放最常用的专家，内存存放全部专家，SSD 则存放一份 29 GB 的查找表。另有一个小型辅助模型会预测接下来的几个词，由大模型一次性校验；项目方称这样能以 1.6 至 1.8 倍的速度得到相同的答案。该引擎使用了 llama.cpp 的部分代码，源码位于 Niko1221/Strata。

获取方式

Strata 从 GitHub 的 Releases 页面下载，每种系统和显卡对应一个安装程序。

系统与显卡
下载
Windows，NVIDIA（驱动 580+）windows-cuda13.exe
Windows，较旧的 NVIDIA 或驱动windows-cuda12.exe
Windows，AMD RX 9000 / R9700windows-hip.exe
Windows，AMD RX 7000 / Strix Halowindows-hip-rdna3.exe
Linux，NVIDIA（驱动 580+）linux-nvidia-cuda13.AppImage
Linux，较旧的 NVIDIA 或驱动linux-nvidia-cuda12.AppImage
Linux，AMD RX 9000 / R9700linux-amd-rx9070.AppImage
Linux，AMD RX 7000linux-amd-rx7900.AppImage
Linux，Strix Halolinux-amd-strixhalo.AppImage
Mac，Apple Silicon（macOS 15+）mac.dmg
终端，Linux 和 Macinstall.sh（README 中的单行命令）
终端，Windowsinstall.ps1（README 中的单行命令）
源代码github.com/Niko1221/Strata
安全与隐私说明docs/SAFETY.md

评测版本：0.2.2（引擎 0.1.47），据 GitHub 发布页面于 2026 年 10 月 21 日发布，是核对时的最新上游更新。未找到独立的产品官网：代码仓库的主页字段和维护者的个人资料链接均为空，网络搜索也只找到代码仓库和第三方文章。README 称 Windows 安装程序未经代码签名，因此 Windows 可能显示“Windows 已保护你的电脑”，Linux 的 AppImage 需要 FUSE 2。RX 6000 显卡没有专用安装程序，README 称该引擎尚未在真实的 RX 6000 显卡上测试。

配置要求

Strata 要求内存与显存（VRAM）合计至少 32 GB，约 80 GB 可用磁盘空间，较新的显卡驱动，以及 Windows 10/11、Linux 或 macOS 15 及以上版本。 在 Mac 或 Ryzen AI Max 上，统一内存同时计入两者。

电脑
README 中的支持情况
NVIDIAGeForce RTX 20、30、40、50 系列，12 GB 或以上
AMDRadeon RX 6800 及更新型号、Radeon AI PRO R9700，12 GB 或以上
IntelArc 显卡；仅在 Arc A750（Linux）上测试过最小的模型
Apple SiliconM1 或更新、macOS 15 或更新；Intel Mac 无法运行
Ryzen AI Max（Strix Halo）统一内存系统，Windows 和 Linux 各有专用安装程序

据 README 介绍，同一品牌的两三张显卡可共同承载一个模型；Strata 绝不会把一个模型拆分到 NVIDIA 和 AMD 显卡上。较旧的显卡和处理器在代码仓库中有单独的实验性页面。

定价

Strata 免费：README 称其采用 MIT 许可，无需账号，也无需云端。

项目
费用（USD）
应用、终端和引擎$0（MIT 许可）
模型文件未列出价格；适用各自的许可证
支持项目可选，通过 Buy Me a Coffee

读取自 2026 年 10 月 23 日的 README。README 还邀请赞助商通过维护者的 GitHub 个人主页联系。真正的成本是模型下载：据 README 约为 40 至 70 GB。

上手步骤

以下步骤依照 README 的“方案 A：Strata 应用”；PromptQuorum 未实际执行。

  1. 1
    对照配置要求检查你的电脑
    Why it matters: 下载前，先对照上表核对内存、可用磁盘空间和显卡。
  2. 2
    下载适合你的系统和显卡的安装程序
    Why it matters: 从“获取方式”表中选择对应的文件。终端用户可改为运行单行脚本，然后用 `strata launch` 启动 Strata。
  3. 3
    安装，并让应用读取你的电脑配置
    Why it matters: 第一个界面会推荐适合的模型，点击安装即可。模型下载量很大，中断后会从断点继续。
  4. 4
    等待首次加载完成
    Why it matters: README 称，模型加载到内存期间，电脑可能变慢或停止响应 1 到 3 分钟，首次最久。请不要关闭窗口。
  5. 5
    开始聊天，或连接你的其他工具
    Why it matters: 使用应用的聊天页面，或运行 `strata connect`，为 OpenCode、Codex CLI、Claude Code 等工具打印设置。

来源已证实的功能

以下每一项都来自 README 或项目文档。

  • 本地 API。 服务器提供兼容 OpenAI 的 API、同一端口上的 Anthropic 风格 API，以及供 Codex CLI 使用的 OpenAI Responses API；strata connect 会为 OpenCode、Codex CLI、Claude Code、oh-my-pi、pi、Hermes Agent 和 OpenClaw 打印设置。
  • 图片。 对能读取图片的模型，图片输入默认开启；显卡显存低于 24 GB 时，读取器在处理器上运行。
  • 聊天应用。 应用包含聊天、显示模型、GPU、CPU 和内存的监控页、模型页和设置；在手动模式下，聊天在修改文件或运行命令前会先询问。
  • 多张显卡。 每张显卡可设为 Main、Helper 或 Off，每次聊天还可选择思考级别（关闭、低、中或高）。
  • MCP。 AI 工具可通过其 MCP 服务器安装、启动和停止 Strata。
  • 终端。 strata launch 会逐个询问模型、上下文、图片和访问权限；通过参数，脚本和 AI 智能体可无需提示直接运行。

按内存选择模型大小

Strata 提供同一个模型的多种压缩规格；README 称较小的规格更快，较大的规格略聪明一些。

内存（RAM + VRAM）
README 建议的规格
32 GBGyro-S，写代码可选 Coder
40 GBSwift 1.5 IQ2_XS，或 Gyro-M
48 GBIQ3_XXS：较慢，较好
64 GBIQ3_S：最慢，最好
96 GB 或以上Unsloth UD-IQ4_XS 至 Q8_0

README 的算法是内存加显存，再减去系统保留的 5 GB。Gyro-S 需要其中 27.6 GB 的内存，下载量为 58.5 GB，据 README，其质量低于 IQ2_XS；Gyro-M 需要 35 GB，下载量为 92 GB。README 称 IQ3_S 在已公布的测试中与完整模型相当；PromptQuorum 未核对这些测试。

速度：项目方公布的数字

README 报告称，在 RTX 5070 上最快规格为每秒 94 个 token，IQ3_S 为 53 个；PromptQuorum 未复现任何数字。 一个 token 约相当于四分之三个英文单词。

规格与显卡
回答（tok/s）
提示词（tok/s）
Q2_0，RTX 5070（12 GB）942,650
IQ3_S，RTX 5070（12 GB）531,620
Coder，RTX 5070（12 GB）552,180
Q2_0，RX 9070 XT（16 GB）601,160

来源：README 中“How fast is it?”的表格，由项目方在 Ryzen 5 7600 搭配 64 GB 内存（RTX 5070）和 Ryzen 9 3900X 搭配 47 GB 内存（RX 9070 XT）上测得。README 还称，Strata 会完整读取一次聊天的第一条消息，速度约为每 30,000 个 token 一分钟，之后的消息几秒内即可开始。

隐私与网络使用

Strata 的安全说明称，聊天、提示词、文件、图片和模型都保留在你的电脑上，没有遥测，没有账号，启动或运行模型时绝不会下载任何内容。 说明还称，模型下载完成后，Strata 无需联网即可运行；除非你用 API 密钥向其他设备开放访问，否则服务器只监听你自己的电脑。

同一份说明称，只有在你提出要求时才会使用互联网：从 Hugging Face 和 GitHub Releases 下载模型、引擎和应用更新，智能体的网页搜索（DuckDuckGo，Bing 为第二来源）和网页访问，你自行添加的外部模型服务，以及你开启后的 Cloudflare 隧道。网页搜索会把搜索词发送到你的电脑之外。

📌注: 说明称内容来自对该版本代码的阅读，但这些都是维护者的说法。PromptQuorum 未审计代码或网络流量。

适合哪些人

  • 拥有较新游戏电脑或大内存 Mac 的用户，想使用一个超大的开源模型，又不想租用服务器。
  • 使用 Claude Code、Codex CLI 或 OpenCode 的开发者，想要本地的 OpenAI 或 Anthropic 风格端点。
  • 希望聊天内容留在自己电脑上的人，依据项目方的安全说明。

我们未能核实的内容

  • 实际质量与速度。 PromptQuorum 未运行 Strata，因此回答质量、速度数字以及与完整模型相当的说法均来自项目方。
  • 隐私与下载核查。 无遥测、可离线和更新签名的说法，未与代码或网络流量对照核实。
  • 成熟度。 代码仓库始于 2026 年 9 月 24 日，2026 年 10 月 23 日显示有 697 个未解决的 issue；Mac 和 Intel Arc 的支持路径是 0.2.2 新增的，项目方列出的已测试机器很少。
  • 模型选择。 所查页面介绍的是同一个模型的多种规格，外加几个点名的替代模型，而不是通用的模型库。

竞品与替代方案

Ollama

平台:
Windows、macOS、Linux
价格 / 许可证:
免费 / MIT
主要区别:
一条命令即可安装，模型库庞大，不局限于单一模型
关于Ollama的文章（10篇）

另有293篇未显示

llama.cpp

平台:
Windows、macOS、Linux
价格 / 许可证:
免费 / MIT
主要区别:
众多工具背后的 C++ 引擎，Strata 也使用了其中部分代码；以命令行为主
关于llama.cpp的文章（9篇）

另有158篇未显示

Lucebox

平台:
Linux
价格 / 许可证:
免费 / Apache-2.0
主要区别:
针对特定消费级 GPU 手工调优的内核和推测解码
关于Lucebox的文章（2篇）

竞品信息变化较快；请在各应用自己的页面上确认当前价格、许可证和平台。

在目录中比较

常见问题

Strata 没有显卡能用吗？

README 称，CUDA、HIP 和 SYCL 引擎需要显卡才能启动，因此电脑必须配备受支持的显卡。Mac 引擎无需单独的显卡即可运行。

能在 Claude Code 中使用 Strata 吗？

据 README，可以：通过 Anthropic 风格的 API，把 ANTHROPIC_BASE_URL 设置为本地地址即可。作答的模型是 Qwen3.8-Flash-Next，而不是 Claude 模型。

能从手机或另一台电脑访问吗？

README 提到了 strata launch --access lan，默认会创建 API 密钥；--no-api-key 会跳过密钥并打印警告。

Windows 安装程序运行起来安全吗？

README 称该安装程序尚未代码签名，并称终端安装程序会校验 SHA-256 哈希值。PromptQuorum 未核实这两项说法。

结论

据其 README，Strata 是一款免费、采用 MIT 许可的应用和终端工具，让游戏电脑也能使用 1250 亿参数的开源模型，并通过 OpenAI 和 Anthropic 风格的 API 对外提供；本次核对前一周内发布了三个版本，在 Windows、Linux 和 Apple Silicon Mac 上可双击安装。不足之处是：所有关于速度、质量和隐私的说法都来自项目方，代码仓库只有大约一个月历史，Windows 安装程序未经代码签名，而且它围绕单一模型构建，而非一个模型库。它适合内存合计足够、想把该模型用于聊天或编程智能体的人；更看重多种模型和更长运行记录的读者，可对比 Ollama 或 llama.cpp。

来源

← 返回 本地LLM进阶

MCP