Skip to main content
PromptQuorumBuilt for humans. Structured for AI.
主页/本地LLM进阶/HilbertRaum评测:面向聊天与文档问答的可移动离线AI工作空间
Easiest Desktop Apps

HilbertRaum评测:面向聊天与文档问答的可移动离线AI工作空间

·阅读约10分钟·Hans Kuepper 作者 · PromptQuorum创始人,多模型AI调度工具 · PromptQuorum

创始人已审核。 HilbertRaum的创始人已核实此条目的技术规格和描述的准确性。评测本身仍为PromptQuorum独立的编辑内容。

HilbertRaum是一款免费、开源的桌面应用(hilbertraum.ai,源代码见github.com/HilbertraumAI/HilbertRaum),完全在你自己的电脑上运行AI聊天和文档问答,无需安装程序,也不会把数据发送到云端。其GitHub LICENSE文件为GPL-3.0-or-later,hilbertraum.ai没有定价页面。HilbertRaum可在Windows、macOS(Apple Silicon)和Linux上运行,可作为加密的可移动工作空间安装到U盘或外接硬盘,并包含硬件检测功能,根据检测到的RAM和VRAM推荐合适的模型大小。

HilbertRaum(hilbertraum.ai,源代码见github.com/HilbertraumAI/HilbertRaum)是一款免费、开源的桌面应用,用于与AI模型聊天并对自己的文档提问,完全在你自己的电脑上运行。它以可移动包的形式发布,无需安装程序即可从U盘或外接硬盘运行,内置自己的本地推理引擎(llama.cpp和whisper.cpp作为sidecar进程),而不依赖单独的后端,并包含硬件检测功能,可为运行所在的机器推荐合适的模型大小。本评测介绍HilbertRaum实际能做什么、如何下载和运行、其定价与许可证,以及它与其他本地优先聊天应用相比处于什么位置。

HilbertRaum评测:面向聊天与文档问答的可移动离线AI工作空间

关键要点

  • HilbertRaum免费且开源;官方GitHub LICENSE为GPL-3.0-or-later,hilbertraum.ai没有定价页面
  • 通过内置的llama.cpp和whisper.cpp引擎运行本地模型——无需先安装单独的后端
  • 设计上即为可移动:应用、模型以及采用AES-256-GCM加密的工作空间都可以放在U盘或外接硬盘上,在不同机器间移动
  • 使用混合检索和重排序技术,对你自己的PDF、Word文件和文本文档提问并给出带引用来源的答案
  • 检测机器上可用的RAM和VRAM,推荐合适的模型大小,大致从8GB RAM起步
  • 还提供可选的离线维基百科档案(Kiwix/ZIM格式)、图像理解、听写(通过Whisper实现语音转文字)、扫描文档OCR,以及支持51种语言的文档翻译
  • 适用于Windows、macOS(Apple Silicon)和Linux
  • 由HilbertraumAI开发,依据托管代码的GitHub组织信息

📍 简单一句话

HilbertRaum是一款免费、开源、可移动的桌面应用,可完全离线运行AI聊天和文档问答,无需安装程序,也不依赖云端。

💬 简单来说

你无需安装软件并把问题发送到某家公司的服务器,只需把HilbertRaum应用复制到U盘,插入任意电脑,即可立即开始聊天或询问自己的PDF——没有任何内容离开这台机器,也无需通常意义上的“安装”。

📌注: 本评测是本地AI软件目录中HilbertRaum条目的深度补充文章——请查看该页面,一览HilbertRaum与其他数十款本地AI工具的对比情况。

HilbertRaum是什么?

HilbertRaum是一款桌面应用,用于与AI模型聊天并对自己的文档提问,完全在你自己的电脑上运行。其GitHub README将其描述为一个私密的离线AI工作空间:你与本地模型聊天,对自己的文档以及可选的离线维基百科提问,所有内容都留在你正在使用的机器上。根据仓库记录的技术栈,该应用使用Electron、React和TypeScript构建,运行自带的推理引擎,而不需要预先安装Ollama之类的独立程序。

  • 核心功能:聊天界面加文档问答功能,两者都通过本地内置的推理引擎运行
  • 本地推理:聊天模型使用llama.cpp,音频转录使用whisper.cpp,以原生sidecar进程运行,而非需要预先安装的独立应用
  • 离线优先架构:据README所述,该应用默认阻止云端回退、网络搜索和遥测,并在断网运行期间记录任何连接尝试
  • 支持的聊天模型:来自Qwen、Gemma、Ministral和Granite系列的精选开放权重模型,由应用单独下载(模型权重不随软件一起提供)
  • 开发者:HilbertraumAI,即在github.com/HilbertraumAI/HilbertRaum托管该项目源代码、发布版本和issue追踪的GitHub组织

主要功能

HilbertRaum的功能集中在三点:完全离线运行、无需安装即可使用,以及帮助你选择真正适合自己硬件的模型。以下是根据官方GitHub README和hilbertraum.ai,各项功能的具体说明。

  • 可移动、无需安装模式 — 从GitHub下载便携版,复制到U盘或外接硬盘,然后从那里启动:直接在应用内选择一个模型,确认后HilbertRaum会自行下载对应的引擎和模型文件。另外还提供一条命令的安装脚本(Windows上为prepare-drive.ps1,macOS/Linux上为prepare-drive.sh),可提前用加密工作空间和所选模型预装U盘,但该脚本只是提前准备U盘的可选捷径,并非使用HilbertRaum的常规方式
  • 带引用来源的文档问答 — 导入PDF、Word文件或纯文本并对其提问;答案使用混合检索和重排序模型(BGE v2 M3),并可转换为带有冻结原文片段的可核查记录,便于验证
  • 基于硬件检测的模型建议 — HilbertRaum会对检测到的RAM和VRAM进行基准测试,推荐适合该机器的聊天模型,从约8GB RAM(小型Qwen模型)到32GB以上(更大的量化模型),而不是让用户自己猜测
  • 离线维基百科(Knowledge Packs) — 可选加载Kiwix格式(ZIM)的维基百科档案,据项目文档介绍覆盖约100种语言,可在无网络连接的情况下与你自己的文档一起检索
  • 多模态支持 — 通过内置视觉模型实现图像理解、通过Whisper实现听写(语音转文字),以及针对扫描文档的OCR
  • 文档翻译 — 通过可选的翻译模型(TranslateGemma)实现的内置翻译功能,支持51种语言
  • 文档技能 — 摘要、比较和结构化提取(例如从发票、银行对账单或合同中提取信息)
  • 本地API — 一个可选的、与OpenAI兼容的本地回环端点,让其他本地应用可以把HilbertRaum正在运行的模型当作后端使用

使用示例:三种使用HilbertRaum的方式

以下是根据上述HilbertRaum已记录功能整理的具体工作流程——并非假设性的用例。

从U盘运行HilbertRaum

从GitHub发布页面下载适合你平台的便携版,复制到U盘或外接硬盘,然后从那里启动——主机上不会运行任何安装程序。首次启动时,直接在应用内选择一个模型;确认后HilbertRaum会自行下载对应的引擎和模型文件。如果想提前用加密工作空间和一个模型预装U盘,例如要把一个现成的U盘交给别人使用,可改为运行对应平台的安装脚本(例如在macOS/Linux上运行scripts/prepare-drive.sh --target /Volumes/HILBERTRAUM --with-assets --accept-license)——该脚本只是一个可选的捷径,并非必需步骤。

对自己的PDF提问并获得引用来源

将一批PDF、Word文件或文本文档导入HilbertRaum,然后用自然语言提出问题。应用会使用混合检索和重排序在你的文档中搜索,并返回带有具体出处引用的答案,这些引用可以作为冻结片段进行核查,而不必全盘相信。

让HilbertRaum根据你的硬件选择模型

首次运行时,HilbertRaum会对机器上可用的RAM和VRAM进行基准测试,并建议一个模型档位——例如在8~11GB RAM的笔记本电脑上使用较小的Qwen模型,或在32GB以上的工作站上使用更大的量化模型——而不需要你自己去研究模型大小和量化格式。

HilbertRaum实例:要求它列出租房合同中的所有截止日期和通知期限,回答中为每一项都引用了确切的条款和页码。
HilbertRaum实例:要求它列出租房合同中的所有截止日期和通知期限,回答中为每一项都引用了确切的条款和页码。

HilbertRaum的定价与许可证

HilbertRaum没有任何付费层级。hilbertraum.ai没有定价页面,应用的GitHub LICENSE文件为GPL-3.0-or-later,适用于整个应用程序,而非仅适用于部分“免费”功能。

  • 没有订阅、没有付费层级,也没有HilbertRaum自身施加的使用限制
  • 使用该应用无需账号或注册
  • 应用许可证为GPL-3.0-or-later,一种著佐权(copyleft)许可证——这与MIT或Apache 2.0等宽松许可证不同;如果你的组织对再分发或修改GPL许可软件有特定要求,请自行阅读完整许可证文本
  • 内置的原生组件各自拥有独立许可证:据README介绍,llama.cpp和whisper.cpp为MIT/Apache-2.0,可选的kiwix-tools组件为GPL-3.0-or-later,OCR语言数据为Apache-2.0
  • 聊天模型的权重单独下载,不受HilbertRaum自身许可证约束——README表示这些权重主要采用Apache-2.0许可证,但在任何商业使用前,请核实具体模型的许可证
  • README中说明“HilbertRaum”及其徽标为商标,并注明分支项目(fork)必须使用独立的品牌标识

来自开发者

PromptQuorum邀请HilbertRaum的开发者用自己的话描述这款应用的设计目标。以下是他本人的原话,仅在格式上做了调整。

“我们希望让本地AI尽可能简单易用。随着AI使用的增加,保护个人数据和文档变得越来越重要。这正是我们打造HilbertRaum的原因:面向所有人的离线AI,无需处理运行时、量化或模型文件。”

“理想情况下,只需插入一个USB闪存盘就能开始使用。我们目前正在准备的正是这样一个开箱即用、预装了经过验证模型的闪存盘。”

“如果不想等待,或者技术水平较高,也可以免费下载应用,直接从自己的电脑或外部驱动器运行,无需安装。应用会检测硬件并推荐合适的模型,这些模型都是我们事先自行筛选和基准测试过的。软件现在是、并将永远是免费和开源的。如果更喜欢现成的闪存盘,可以在hilbertraum.ai加入等候名单。”

— Vladimir Tosovic,HilbertraumAI

谁适合使用HilbertRaum?

HilbertRaum是否适合你,取决于相较于庞大的现有用户社区或成熟的插件生态系统,你是否更看重可移动性以及有引导的硬件与模型匹配。

在以下情况下使用HilbertRaum

  • 你希望在自己的硬件上完全离线运行AI聊天和文档问答,无需账号或订阅
  • 你希望能把整套配置——应用、模型和工作空间——装进U盘或外接硬盘,在不同机器间携带
  • 你不想自己研究模型大小和量化方式,更希望应用根据检测到的硬件推荐模型
  • 你希望对自己的PDF、Word文件或文本文档提问,并获得指向出处的引用
  • 你重视底层应用是开源的(GPL-3.0-or-later),而不是闭源二进制文件

在以下情况下应再观望,或考虑其他选择

  • 你想要拥有庞大、成熟用户社区和插件生态系统的聊天客户端——截至本评测发布时,HilbertRaum的GitHub仓库约有80颗星,仅是Jan或GPT4All等更成熟工具的一小部分
  • 你需要在同一应用中内置云端模型连接(例如自己的OpenAI或Anthropic API密钥)——本评测未发现相关功能的文档;HilbertRaum的离线保护机制正是专为阻止云端回退而设计
  • 你需要Intel Mac构建版本——当前版本仅提供Apple Silicon(arm64)的macOS构建
  • 你需要专用的移动应用——HilbertRaum仅是面向Windows、macOS和Linux的桌面应用
  • 你需要官方支持保障,而非社区/issue追踪器式的支持——HilbertRaum的支持渠道是GitHub Issues,这是年轻开源项目的典型做法,而非拥有SLA的商业供应商

HilbertRaum与其他本地聊天应用对比

HilbertRaum与其他同样支持文档问答的本地优先、离线桌面聊天客户端属于同一大类。以下是它与最接近的几款替代产品的对比——完整目录请查看本地AI软件目录。

  • Jan — 一款围绕llama.cpp构建的免费开源桌面应用,除本地模型外还支持可选的云端提供商连接(OpenAI、Anthropic等);云端集成比HilbertRaum更广泛,但没有内置的USB可移动模式或离线维基百科。参见Jan评测。
  • GPT4All — Nomic AI推出的、拥有庞大现有用户社区的成熟开源本地优先聊天客户端;项目更成熟,但没有HilbertRaum的硬件检测模型建议功能,也没有可移动工作空间设计。参见GPT4All评测。
  • AnythingLLM — 一款专注于文档聊天和RAG的应用,也支持本地模型;在文档问答功能上与HilbertRaum更为接近,如果在自己文件中检索是你的主要需求,值得直接对比。参见AnythingLLM评测。
  • Locally Uncensored — 一款免费开源的桌面应用,将聊天、编程、图像、视频和LoRA训练整合在一个安装包中,并支持文档聊天;多模态范围比HilbertRaum更广,但并非围绕可移动USB工作流设计。参见Locally Uncensored评测。

评估HilbertRaum时的常见误区

关于HilbertRaum的大多数误解,源于其可移动/无需安装的设计、GPU可选的硬件要求,或项目所处的成熟阶段。

误区1:认为HilbertRaum需要传统安装程序

HilbertRaum以便携式可执行文件(Windows)、应用程序包(macOS)或AppImage(Linux)形式分发,这些形式都不需要传统的安装向导。“可移动”设计正是其核心所在:应用、模型和工作空间可以放在U盘上,而不是写入系统目录。

误区2:认为必须要有GPU

GPU是可选的。HilbertRaum的README将纯CPU运行记录为完全受支持,并列出最低8GB RAM的要求;GPU可以加速推理,但并非硬性要求。

误区3:期望有庞大的现有社区或长期的业绩记录

截至本评测发布之日,HilbertRaum的GitHub仓库约有80颗星和5个fork——相比Jan或GPT4All等该类别中更成熟的工具,这是一个年轻的项目。这并不意味着该软件不好用,但确实意味着第三方文档更少、社区排障讨论更少,可供评估的业绩记录也更短。

误区4:认为HilbertRaum能像Jan一样连接云端模型

HilbertRaum在设计上仅支持本地运行,而不是带云端选项的本地优先。其README描述了一套离线保护机制,明确阻止云端回退、网络搜索集成和遥测——这与Jan等允许在同一界面中添加自己的OpenAI或Anthropic API密钥的应用,是不同的设计选择。

常见问题

HilbertRaum是什么?

HilbertRaum(hilbertraum.ai,源代码见github.com/HilbertraumAI/HilbertRaum)是一款免费、开源、可移动的桌面应用,能在你自己的电脑上完全离线运行AI聊天和文档问答。

HilbertRaum免费吗?

是的。hilbertraum.ai没有定价页面,GitHub LICENSE文件(GPL-3.0-or-later)适用于整个应用程序,本评测未发现任何付费层级。

HilbertRaum使用什么许可证?

据官方LICENSE文件,为GPL-3.0-or-later。这是一种著佐权(copyleft)许可证,与MIT或Apache 2.0等宽松许可证不同——如果你的组织对再分发GPL许可软件有特定要求,请阅读完整文本。

HilbertRaum真的能无需安装、直接从U盘运行吗?

是的,据官方README介绍。针对U盘或外接硬盘运行项目自带的prepare-drive安装脚本,会在该驱动器上放置应用、一个模型和一个采用AES-256-GCM加密的工作空间,之后可以在受支持的机器之间移动,而无需在每台机器上单独进行安装。

HilbertRaum能回答关于我自己文档的问题吗?

可以。HilbertRaum可以导入PDF、Word文件和纯文本,然后使用混合检索和重排序回答关于这些内容的问题,并附带指向具体出处段落的引用。

HilbertRaum需要GPU吗?

不需要。GPU是可选的。HilbertRaum的README将纯CPU运行记录为完全受支持,并列出最低8GB RAM的要求;GPU可以加速推理,但不是必需的。

HilbertRaum支持哪些平台?

据官方GitHub Releases页面,支持Windows、macOS(仅Apple Silicon——当前版本资产中未发现Intel Mac构建)和Linux。

HilbertRaum会向云端发送任何数据吗?

不会,这是设计使然。项目的README描述了一套离线保护机制,阻止云端回退、网络搜索集成和遥测,并在应用离线运行期间记录任何连接尝试。

离线维基百科(Knowledge Packs)功能是什么?

HilbertRaum可以选择性地加载Kiwix格式(ZIM)的维基百科档案,据项目文档介绍覆盖约100种语言,并可在无网络连接的情况下与你自己的文档一起检索。

HilbertRaum目前的版本是多少?

据官方GitHub Releases页面,版本为0.1.61,已于2026年9月25日核实。本评测发布日期之后发布的任何内容,请直接查看该页面。

有没有可以直接购买的即插即用HilbertRaum U盘?

截至本评测,尚未推出。开发者正在准备一款单独销售的即插即用U盘,预装了经过验证的模型,面向不想自行设置的用户——等候名单链接见上文的HilbertRaum的定价与许可证部分。无论如何,免费下载版都是同一款开源应用。

资料来源

← 返回 本地LLM进阶