跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Overview & Reference

RAMen 评测：llama.cpp 的本地会话记忆层，含免费方案

·阅读约6分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

RAMen（1.0.0 版，2026 年 11 月 6 日发布）是基于 llama.cpp 的专有本地层，会把每次聊天保存到磁盘，据厂商称几秒内即可重新打开，提供免费方案和付费档位。关键提醒是：所有速度数据都来自厂商自己的测试，PromptQuorum 没有运行过该软件。

关键要点

  • 维护情况：1.0.0 版发布于 2026 年 11 月 6 日，即本评测当天，因此不适用停止维护警告，且该产品尚无长期记录。
  • 费用：免费方案的记忆有限，另有付费订阅和限时终身优惠。
  • 安装：所有系统都通过终端一行命令安装；没有双击安装包，也没有应用商店上架。
  • 数据：据厂商称，除安装、模型下载和付费方案的许可证检查外，没有任何内容离开你的机器。

📍 简单一句话

RAMen 是基于 llama.cpp 的专有命令行层，把本地 AI 聊天保存到磁盘，并据厂商称可加快长对话，含免费方案。

💬 简单来说

你只需安装一条命令、启动它，再让编码智能体或聊天应用指向它；RAMen 会记住每次对话，因此重启后无需等待模型重新读取。

📌注: 本评测基于 getramenai.com、其隐私政策和许可协议、安装脚本以及 GitHub 发布数据，核查于 2026 年 11 月 6 日。PromptQuorum 没有安装、运行或基准测试 RAMen，因此不评估速度、稳定性和回答质量。

选择语言:
🇺🇸en🇩🇪de🇫🇷fr🇯🇵ja🇨🇳zh🇪🇸es🇧🇷pt🇸🇦ar🇰🇷ko

创始人已审核。 RAMen的创始人已核实此条目的技术规格和描述的准确性。点评本身仍为PromptQuorum独立的编辑内容。

RAMen 是 NEOTECH Inc. 推出的专有命令行层：它通过自带的 llama.cpp 构建运行本地模型，把每次聊天和智能体会话保存到磁盘，重启后几秒内即可重新打开，并称能让长对话保持流畅。它可在 Apple silicon Mac、Windows 10 和 11 以及 Linux 上运行，提供兼容 OpenAI 的 API，并有免费方案。本评测说明安装什么、费用多少、数据流向哪里，以及哪些说法仅来自厂商自己的测量。

RAMen 评测：llama.cpp 的本地会话记忆层，含免费方案

RAMen 是什么？

RAMen 是 NEOTECH Inc. 推出的本地 AI 会话管理器，位于 llama.cpp（大多数本地模型工具所依赖的开源引擎）之前。它自带一个 llama.cpp 构建（MIT 许可证），并增加了两项功能：把每次对话的模型工作记忆（KV cache）保存到磁盘，并在对话继续时恢复；以及对每个新生成的词，只读取长对话中真正相关的部分。

厂商的原理页面指出，llama.cpp 本身已有槽位保存与恢复功能，也有小工具可将其自动化；RAMen 的主张是对每个会话自动完成这一过程，并检查已保存的缓存是否与模型和设置匹配。该软件是闭源的，适用专有许可协议；公开的 GitHub 仓库只托管下载包。

获取方式

RAMen 在每个系统上都通过终端一条命令安装；安装包托管在 GitHub Releases 上，没有图形安装程序。

选项
获取方式
Mac（Apple silicon）终端：curl -fsSL https://getramenai.com/install.sh | bash
Linux（x64）同一条命令；当 nvidia-smi 可用时选择 NVIDIA 版本，否则选择 CPU 版本
Windows 10/11（x64）PowerShell：irm https://getramenai.com/install.ps1 | iex
手动下载GitHub 上的 RAMen 发布页，.tar.gz 或 .zip，附 .sha256 校验和
手机未提及 iPhone 或 Android 应用
官网getramenai.com
隐私政策RAMen 隐私政策；许可协议

核查的版本：1.0.0（2026 年 11 月 6 日）。需要使用终端：安装后，如果你没有模型，ramen start 会下载一个模型并在后台启动 RAMen。安装程序会把 ~/.ramen/bin 添加到你的 shell PATH，并将已保存的聊天保存在 ~/.context-engine；rm -rf ~/.ramen 可删除该程序。

系统要求

厂商没有给出最低内存、磁盘或操作系统版本的数字；页面只说你需要一台能运行 llama.cpp 的电脑。

Mac

资料所述:
仅支持 Apple silicon（M1 或更新）；安装程序会拒绝 Intel Mac

Windows

资料所述:
Windows 10 和 11，64 位；CPU 版本，检测到 NVIDIA GPU 时使用 NVIDIA 版本

Linux

资料所述:
仅支持 x64，CPU 或 NVIDIA 版本；安装程序目前会拒绝 ARM Linux

长对话提速

资料所述:
需要 NVIDIA RTX 20 系列或更新的显卡，或 Apple silicon Mac；未声称适用于仅有 CPU 的机器

模型

资料所述:
任意 GGUF 模型，或 RAMen 选择并下载的模型；模型许可证由各模型厂商自己规定

账户

资料所述:
免费方案无需账户；付费方案使用来自 Polar 商店的许可证密钥

如何上手

以下步骤依据厂商的页面；PromptQuorum 没有运行过这些步骤。

  1. 1
    运行安装程序
    Why it matters: 使用适合你系统的一行命令；脚本会下载安装包，并在安装前校验其 SHA-256 校验和。
  2. 2
    启动 RAMen
    Why it matters: `ramen start` 会找到适合你电脑的模型，从 Hugging Face 下载并在后台运行，你也可以让它指向你已有的 GGUF 文件。
  3. 3
    连接你的应用
    Why it matters: `ramen connect cline`（或 continue、aider、opencode、open-webui）会配置对应工具；任何兼容 OpenAI API 的工具都可以使用本地端点。
  4. 4
    只在需要时才激活付费方案
    Why it matters: `ramen activate YOUR-KEY` 会解锁付费功能；`ramen deactivate` 可释放一个密钥上占用的一台电脑名额。

资料证实的功能

以下每一项都是厂商的描述；速度和质量数据是厂商自己的测量，不是独立测试。

  • 会话记忆。每次对话的 KV cache 会随进行过程保存到磁盘，并在对话继续时恢复，即使重启之后也一样；许多聊天和智能体共用少数几个活跃 GPU 槽位，其余的在磁盘上等待。厂商报告称，在 Mac mini M2 Pro 上用 Qwen3 4B 处理 70,082 个 token 的聊天时，重新打开只需 3.7 秒，而不是重新读取所需的 12 分 47 秒。
  • 选择性读取。RAMen 不会为每个新生成的词读取全部记忆，而是为每个数据块保留摘要，只读取约 8,000 个 token 的内容，外加对话的开头和最新部分，厂商称这建立在关于查询感知稀疏注意力的研究（Quest，2024 年）之上。只有当长度超过在你的机器上更快的阈值（介于 16K 和约 43K token 之间）时，它才会自动启用。
  • 厂商基准测试。在 NVIDIA RTX A6000 上使用 Qwen3 32B 和 87K token 的对话，厂商测得每秒 20.4 个 token，而普通 llama.cpp 为 8.4；在 NVIDIA L4 上使用 Qwen3 4B 处理 128K token 时为 42.2 对 9.1；在高速 NVIDIA 显卡上，长度低于约 30K 至 40K token 时提升很小。
  • 多个智能体，一块 GPU。在智能体之间切换时，每个智能体都从停下的地方继续；厂商称，三个智能体共用一块 GPU 时，每个智能体的历史有 99.7% 被复用。
  • 厂商自己说明的限制。选择性读取加快的是生成，而不是对新的长提示词的首次读取；它目前还不能与草稿模型（推测解码）叠加使用；滑动窗口模型的速度提升很小。

方案与价格

RAMen 有免费方案，以及通过 Polar 商店销售的付费订阅；每次安装都先提供 14 天全部功能，无需银行卡。

免费

价格:
$0，无截止日期
包含内容:
记住最近 3 次聊天，一次一个聊天；可配合你的应用使用

Pro

价格:
每月 $3.99 或每年 $29
包含内容:
记住每次聊天和智能体会话，多个智能体共用一块 GPU，长对话保持流畅，最多 3 台电脑

Team

价格:
每人每月 $9.99，3 人起
包含内容:
团队每位成员都享有 Pro，席位可转移，优先邮件支持

Server

价格:
每台服务器每月 $149
包含内容:
一台 GPU 机器为团队提供服务，每人一个密钥，按人统计用量，Prometheus 指标

Enterprise

价格:
按需报价
包含内容:
适用于无法联网的机器的离线许可证、发票、采购订单、支持协议

该网站还宣传了一项限时优惠：前 1,000 位买家可一次性支付 $19.99 获得终身 Pro。价格以美元计，销售税在结账时处理；购买前请在厂商网站上确认。许可协议称，付费许可证到期后，RAMen 会继续以免费方案运行。

数据流向与隐私

隐私政策（2026 年 11 月 6 日生效）称，RAMen 在你的电脑上运行，你的提示词、文件、对话和模型都留在本机。它列出了 RAMen 会发送的内容：在付费方案上，启动时向支付服务商 Polar 发送许可证密钥、商店标识符和一个匿名机器标签（平台加上由机器派生的短代码，绝不是机器名称）；以及当 ramen start 下载模型时，连接 Hugging Face，后者会看到你的互联网地址和所请求的文件。该政策称，软件中没有分析、崩溃报告或跟踪功能。

网站使用 Cloudflare Web Analytics 统计访问量，不使用 Cookie，并托管在 GitHub Pages 上。购买通过 Polar 完成，Polar 会向厂商提供你的姓名、电子邮件地址、国家或地区以及所购买的内容。网站上的发布提醒表单会把你的电子邮件地址存储在 Cloudflare。首页称，软件在两次许可证检查之间可离线继续运行，Enterprise 方案还提供离线许可证。

📌注: 这些是厂商的说法，不是审计结果，PromptQuorum 也没有检查过网络流量。该软件是闭源的，因此无法对照代码核实这些说法。

适合谁使用

  • 编码智能体用户：用 Cline、Continue、Aider 或 OpenCode 配合本地模型，并因长会话在重启后需要重新读取而浪费时间的人。
  • 拥有 NVIDIA RTX 或 Apple silicon 机器的用户：经常进行超长对话，据厂商报告提升最大的场景。
  • 谨慎的买家：想在付费之前先试用免费方案和 14 天试用期的人。

我们无法核实的内容

  • 速度与质量。所有基准测试数据以及回答完全一致的说法都来自厂商；PromptQuorum 没有运行任何测试，也没有找到独立的测量结果。
  • 成熟度。1.0.0 版是首个公开版本，该产品在 Product Hunt 上的发布定于 2026 年 11 月 8 日，因此尚无关于稳定性和支持的长期记录。
  • 源代码与审计。RAMen 没有公开源代码，也没有第三方审计；许可协议禁止逆向工程，但法律允许的情形除外。
  • 系统要求。没有公布最低内存、磁盘或操作系统版本，也不支持 Intel Mac、ARM Linux 或手机。
  • 许可细节。付费方案的许可证检查有描述，但其具体流量未经检查。

竞品与替代方案

llama.cpp

平台:
Mac、Windows、Linux
价格 / 许可证:
免费 / MIT
主要区别:
RAMen 所基于的开源引擎；槽位保存与恢复需手动操作
关于llama.cpp的文章（9篇）

另有176篇未显示

Ollama

平台:
Mac、Windows、Linux
价格 / 许可证:
免费 / MIT
主要区别:
开源模型运行器，带模型库和本地 API
关于Ollama的文章（10篇）

另有333篇未显示

选择之前，请在各应用自己的页面确认其当前价格、许可证和支持平台。

在目录中比较

常见问题

选择性读取会改变模型给出的回答吗？

厂商称，当所选内容覆盖整个对话时，RAMen 写出的文本与普通注意力完全相同，并称在 16K 至 64K token 的 54 次长文档测试中，54 次给出的回答都与完整注意力相同。这些是厂商自己的测试，未经独立核实。

如果我停止付费，已保存的聊天会怎样？

RAMen 会继续以免费方案运行：该方案保留最近使用的 3 个已保存聊天，并在保存新聊天时从磁盘清除更早的保存副本（厂商已于 2026 年 11 月 6 日向 PromptQuorum 确认）。对话本身仍保留在你的应用中，因为 RAMen 保存的是模型的工作内存，而不是聊天文本；因此较早的聊天仍可使用，只是会像普通 llama.cpp 一样从头重新读取。

RAMen 可以离线使用吗？

厂商称，模型存放在磁盘上之后即可离线使用，付费方案在两次许可证检查之间也可继续运行。首次安装和任何模型下载都需要联网。

RAMen 是 llama.cpp 团队做的吗？

不是。RAMen 由 NEOTECH Inc. 制作，并称其基于 llama.cpp，后者附带 MIT 许可证；llama.cpp 项目本身是一个独立的开源项目。

结论

RAMen 提供了一个可免费试用、基于 llama.cpp 的专有层：它把聊天保存到磁盘，几秒内恢复智能体会话，并且据厂商的测量，能在 NVIDIA RTX 和 Apple silicon 机器上加快超长对话。另一方面，它是首个版本，没有长期记录，只能通过终端安装，是闭源的，付费方案在启动时会联系许可证服务器，而且每一项性能数据都来自厂商自己。它适合经常进行长时间本地对话或运行编码智能体、并愿意先用免费方案测试的人；需要经过审计的隐私保障或经过验证的速度说法的人，应等待独立结果。

资料来源

  • RAMen 网站 — 功能、平台、方案和安装命令，核查于 2026 年 11 月 6 日。
  • RAMen 工作原理 — 会话记忆、选择性读取、基准测试和限制，核查于 2026 年 11 月 6 日。
  • RAMen 隐私政策 — 发送的数据，2026 年 11 月 6 日生效，核查于 2026 年 11 月 6 日。
  • RAMen 许可协议 — 许可条款和方案限制，核查于 2026 年 11 月 6 日。
  • GitHub 上的 RAMen 发布页 — 1.0.0 版安装包和发布日期，核查于 2026 年 11 月 6 日。

← 返回 本地LLM进阶

MCP