跳转到主要内容
PromptQuorum为人类设计。 为AI结构化。
主页/本地LLM进阶
Voice, Speech & Multimodal

dograh评测:自托管开源语音AI智能体平台

·阅读约10分钟Hans Kuepper 作者 · PromptQuorum创始人 · 开放权重与开源AI发现引擎

dograh是一个免费、开源(BSD-2-Clause许可)的平台,用于构建和运行语音AI智能体——通过Docker自托管的电话或Web对话机器人。其开发者将其定位为Vapi、Retell等托管语音智能体平台的本地部署替代方案。 它提供用于设计对话流程的可视化工作流构建器、内置的电话集成(Twilio、Vonage、Telnyx、Plivo等),以及针对LLM、语音识别(STT)和语音合成(TTS)的"自带提供商"架构——不仅限于云端API密钥,也包括本地自托管选项。自托管永久免费;app.dograh.com上独立的托管云版本按每分钟0.01美元加上所连接LLM/STT/TTS提供商的使用费收费。

关键要点

  • 通过Docker自托管,永久免费;根据仓库自身的LICENSE文件,采用BSD-2-Clause许可,版权归Zansat Technologies Private Limited所有
  • 基于节点的可视化工作流构建器,用于设计语音智能体在对话每一轮说什么、做什么
  • 根据dograh自身文档,内置电话集成:Twilio、Vonage、Telnyx、Plivo、Cloudonix、Exotel和Vobiz
  • 根据dograh自身LLM配置文档,可通过任意OpenAI兼容端点实现本地LLM推理,明确包括Ollama和vLLM
  • 通过Speaches实现本地自托管的STT和TTS——dograh在其语音和转录文档中直接提到了这个OpenAI API兼容服务器;根据Speaches自身项目页面,Speaches底层使用faster-whisper做转录、Piper/Kokoro做语音生成
  • 也可连接数十个云端提供商,使用自己的API密钥——OpenAI、Deepgram、ElevenLabs、Cartesia、AssemblyAI等,适合偏好托管模型而非自托管模型的团队
  • 通过GitHub API于2026年9月12日核实:GitHub上5,636个星标、1,398个fork;最新标记版本为v1.46.0,日期为2026年9月3日
  • app.dograh.com上独立的托管云选项按每分钟0.01美元加上所连接LLM/STT/TTS提供商的使用费收费

📍 简单一句话

dograh是一个免费、开源(BSD-2-Clause)平台,用于构建通过Docker自托管的语音AI智能体,支持通过Ollama/vLLM实现本地LLM推理,通过Speaches实现本地语音识别/语音合成,同时也支持数十个可自带密钥的云端提供商。

💬 简单来说

与其按分钟向Vapi或Retell这类托管厂商付费购买一个电话AI机器人,不如用dograh在自己的服务器上运行整套系统——工作流构建器、电话功能,以及所连接的AI模型——如果不希望任何对话数据离开自己的基础设施,还可以使用完全本地的语音和语言模型。

📌注: 本评测是本地LLM软件目录中dograh条目的深入版本——该页面可让你一眼看出dograh与其他数十种本地AI工具相比处于什么位置。

dograh(dograh.com,源代码见github.com/dograh-hq/dograh)是一个用于构建"语音智能体"(voice agent)的开源平台——这类机器人能接听电话、聆听、推理并实时语音回应——你通过Docker自行部署,而不是向封闭的托管厂商租用。根据其GitHub自述,dograh将自己定位为Vapi和Retell等托管语音智能体平台的"本地部署、自带密钥"替代方案。本评测是本地LLM软件目录中dograh条目的深入版本,涵盖dograh究竟是什么、如何自托管、本地模型支持情况、许可证,以及它与Voxa、Jarvis for Mac等其他语音工具的对比。

dograh评测:自托管开源语音AI智能体平台

dograh是什么?

dograh是一个用于构建"语音智能体"的平台——这类AI系统能接听或拨打电话(或处理基于Web的语音会话),聆听来电者说的话,决定该做什么,并实时以语音回应。 其GitHub仓库自述将其描述为Vapi、Retell等平台的开源自托管替代方案,面向那些希望使用同类产品、但不想默认将通话音频和文本交给第三方厂商的团队。

  • 核心功能:可视化工作流构建器,用于设计多轮语音对话逻辑,一端连接电话提供商,另一端连接LLM/STT/TTS提供商
  • 部署模式:由你自己运行的Docker Compose技术栈——开发时可在笔记本电脑上运行,生产环境则需要服务器(dograh自身文档指出远程部署至少需要8GB内存和4个vCPU)
  • 提供商架构:"自带"LLM、STT和TTS——按工作流配置云端API密钥、本地OpenAI兼容端点,或dograh自有的托管模型
  • 开发方:GitHub上的dograh-hq;仓库的LICENSE文件将Zansat Technologies Private Limited列为版权所有者
  • 规范仓库:github.com/dograh-hq/dograh,根据GitHub自身元数据,创建于2025年9月

安装dograh:自托管Docker部署

根据dograh自身的部署文档,dograh使用一行安装脚本通过Docker Compose部署。 没有可下载的打包桌面安装程序——自托管意味着在自己的机器或服务器上运行这个脚本。

  • 根据dograh自身文档,容器启动完成后,本地/开发安装会在http://localhost:3010打开应用
  • 根据同一文档页面,Windows使用以同样方式获取的对应PowerShell脚本(start_docker.ps1)
  • 另一个setup_remote.sh脚本面向生产服务器部署,需要root/sudo权限,以及已经安装好的Docker和Docker Compose
  • dograh自身文档指出,远程服务器部署需要至少8GB内存和4个vCPU,以及入站TCP端口80、443、3478和5349,还有用于电话(WebRTC/SIP)流量的UDP端口3478、5349和49152–49200
  • 在nginx后运行多个FastAPI worker以提高吞吐量的方法,在dograh的扩展指南中另有说明

本地安装(macOS/Linux)

在一个空目录中,于终端运行:

bash
curl -o docker-compose.yaml https://raw.githubusercontent.com/dograh-hq/dograh/main/docker-compose.yaml && curl -o start_docker.sh https://raw.githubusercontent.com/dograh-hq/dograh/main/scripts/start_docker.sh && chmod +x start_docker.sh && ./start_docker.sh

本地模型支持:LLM、STT和TTS

dograh不要求使用任何云端AI提供商——自托管部署可以完全在自己的硬件上运行其LLM、语音识别和语音合成,只是这比直接填入一个托管API密钥需要多一点设置工作。 dograh自身的文档对其工作原理有明确说明,PromptQuorum未发现超出以下文档范围之外的本地支持说法——这不是一个"开箱即支持一切"的平台。

本地LLM:Ollama和vLLM

dograh的LLM配置文档指出,除了云端提供商(OpenAI、Google AI Studio、Google Vertex AI、Azure OpenAI、AWS Bedrock、Groq、OpenRouter、Hugging Face等)之外,dograh"支持诸如Ollama和vLLM之类的OpenAI兼容端点"——这意味着,只要能通过这两个项目之一在自己的硬件上以OpenAI兼容API形式提供服务的模型,都可以作为dograh智能体的推理模型。

本地STT和TTS:Speaches

dograh自身的语音和转录文档为语音识别和语音合成都指定了一个具体的本地自托管选项:Speaches,dograh文档将其描述为用于流式转录和语音生成的"OpenAI API兼容服务器"。根据Speaches自身的项目页面,Speaches底层使用faster-whisper做转录,使用Piper和Kokoro做语音生成——因此,连接到自托管Speaches实例的dograh部署,其底层运行的其实是Whisper系转录和Kokoro/Piper语音合成,没有任何请求会离开你的基础设施。

dograh文档中没有提到的内容

dograh自身文档没有列出具体的本地LLM检查点(这一选择留给你在Ollama或vLLM背后运行的模型),也没有直接提到Coqui TTS或XTTS——这些都不是有文档支持的dograh集成。如果你是为了某个特定的本地模型来评估dograh,应在做出决定前先到docs.dograh.com确认当前的支持情况,因为自托管AI工具的文档会随版本变化。

用dograh能构建什么?

dograh的功能集中在语音智能体端到端所需的整条流程上:来电接入,语音被转录,LLM决定该说什么,语音被合成,通话被转接或结束——中间的逻辑由可视化构建器来设计。以下内容基于dograh自身的GitHub README和文档。

  • 可视化工作流构建器 — 设计多轮对话逻辑(智能体问什么、如何根据回答分支),无需手写完整的状态机
  • 电话集成 — 根据dograh的集成文档,内置Twilio、Vonage、Telnyx、Plivo、Cloudonix、Exotel、Vobiz和Asterisk ARI连接器
  • 自带LLM/STT/TTS — 按工作流配置提供商,按需混合云端与本地/自托管组件
  • 语音到语音模式 — 根据dograh的配置文档,在底层提供商支持的情况下,可跳过独立的STT/LLM/TTS步骤,改用单一的语音到语音模型
  • 通话处理结果追踪 — 自v1.46.0版本起,dograh可以直接从对话中推断出结构化的通话处理结果(如"已解决""已转接""无应答")
  • 转接给人工客服 — 在对话过程中将通话转接给人工客服,转接成功后可配置处理结果
  • 原生MCP工具调用 — 根据dograh自身仓库的说明,可在通话过程中让智能体连接外部工具
  • 自托管认证与自定义域名 — dograh自身的部署文档涵盖了为自托管实例配置登录和SSL,这与托管云产品是分开的

dograh定价:免费自托管 vs. 托管云

通过Docker自托管dograh在BSD-2-Clause许可下是免费的,PromptQuorum在开源仓库中未发现任何功能锁定。 app.dograh.com上还提供一个独立的托管云产品,适合希望使用同一套软件、但不想运行自己服务器的团队。

方案
费用
包含内容
自托管(Docker)免费完整开源平台;BSD-2-Clause;服务器及所需的提供商API密钥/本地模型由你自行提供
托管云(app.dograh.com)$0.01/分钟 + 提供商使用费托管基础设施;LLM/STT/TTS/电话的使用费仍单独计费

每分钟0.01美元的数字以及"自托管永久免费"的定位,来自dograh自身的目录列表和公开资料——由于按使用量计费的产品在早期阶段可能会调整价格,在做预算前请直接到app.dograh.com确认当前的托管云价格。除非使用Ollama/vLLM和Speaches实现完全本地化的模型,否则两种方案都会产生单独计费的提供商费用(云端LLM、STT、TTS或电话提供商)。

使用示例

以下工作流均基于dograh上述已有文档的功能构建,而非假设性用例。

运行一个完全本地的语音智能体用于测试

使用Docker快速启动脚本部署dograh,将LLM配置指向通过Ollama在本地提供的模型,并将语音和转录设置配置为使用自托管的Speaches实例来完成TTS/STT。开发过程中不需要任何对话音频或转录内容到达第三方AI提供商。

为支持热线替换托管语音智能体厂商

将Twilio号码连接到自托管的dograh部署,在可视化工作流构建器中构建通话处理逻辑,并为机器人无法解决的通话配置转接给人工客服,利用v1.46.0新增的通话处理结果追踪功能来安排后续跟进。

使用dograh的托管云以避免运维基础设施

对于希望使用dograh的工作流构建器和电话集成、但不想在生产环境中运维Docker的团队来说,app.dograh.com按分钟计费的方式可以在保留同一套底层开源平台的同时避免自托管。

谁适合使用dograh?

dograh是否适合你,取决于你是否特别需要一个可自托管的语音智能体平台,以及你的团队是否愿意运维Docker部署。

以下情况适合使用dograh

  • 你希望在自己的基础设施上运行一个语音智能体平台(电话应答机器人、IVR替代方案等),而不是使用封闭的托管厂商
  • 你希望能够通过Ollama/vLLM和Speaches将LLM、STT和TTS组件完全本地化运行,用于那些绝不应离开自己服务器的对话
  • 你希望在自托管路径上使用宽松的开源许可证(BSD-2-Clause),不受厂商锁定
  • 你能够运维和维护一套Docker Compose技术栈,包括开放其文档所要求的电话端口(WebRTC/SIP)
  • 你希望有内置的电话集成(Twilio、Vonage、Telnyx等),而不是从零开始自行搭建

以下情况建议观望或考虑其他方案

  • 你想要的是一个可下载的桌面语音助手,而不是一个用于构建电话智能体的平台——请参见Voxa或Jarvis for Mac
  • 你只需要单独的语音识别或语音合成,而不需要完整的智能体/电话平台——请参见faster-whisper或Whisper.cpp的专门评测
  • 你需要从第一天起就完全托管、零运维的产品,甚至不想评估自托管方案——dograh的托管云正是为此而设,但它仍是一个按使用量计费的年轻产品,而非成熟的企业级SLA厂商
  • 你需要产品背后有长期建立的大型支持组织——dograh是一个年轻的项目(其GitHub仓库创建于2025年9月),自托管层级的支持依赖GitHub Issues和社区渠道

dograh与其他语音智能体和语音工具对比

dograh属于实时语音智能体这一细分领域,与那些专注于语音输入/输出、而非完整通话处理平台的工具相邻。以下是它与PromptQuorum报道过的其他选项的对比——完整目录请参见本地LLM软件目录。

  • Voxa — 一款专注于个人/桌面使用而非电话通话处理的实时语音助手;如果你想要的是对话式语音助手而不是电话智能体构建器,请参见Voxa评测。
  • Jarvis for Mac — 一款macOS原生语音助手;如果你想要一个桌面优先的替代方案,而不是dograh这种服务器部署、面向电话的平台,请参见Jarvis评测。
  • faster-whisper — Speaches(dograh文档中提到的本地STT/TTS选项)自身所依赖的转录引擎;如果你只需要本地语音识别,而不需要完整的智能体平台,请参见faster-whisper评测。
  • Whisper.cpp — 另一款本地自托管语音识别引擎;如果你想要比部署完整dograh技术栈更轻量的纯转录方案,请参见Whisper.cpp评测。

在目录中比较

评估dograh时的常见误区

关于dograh的大多数误解都源于把它当作一个可下载的应用程序,或者假设它无需任何配置就能完全离线运行。

误区1:寻找桌面安装程序

dograh是通过Docker Compose部署的自托管平台,而不是可供最终用户下载的应用程序。没有可点击安装的macOS/Windows/Linux安装程序——安装方式就是上文介绍的Docker快速启动脚本。

误区2:假设自托管就自动等于完全本地/离线

自托管的dograh部署仍然需要配置LLM、STT和TTS提供商——默认情况下,这可能是一个云端API密钥。要实现完全本地化运行,需要按照dograh自身文档,明确将LLM配置为Ollama/vLLM,将STT/TTS配置为Speaches。

误区3:混淆自托管与托管云两种方案的价格

通过Docker自托管dograh在BSD-2-Clause许可下是免费的。每分钟0.01美元的费用仅适用于app.dograh.com上独立的托管云产品,除非使用完全本地化的模型,否则两种方案下提供商使用费(LLM/STT/TTS/电话)都会单独计费。

误区4:假设任何本地LLM检查点都被文档标注为受支持

dograh自身文档支持通过Ollama和vLLM这两个服务层实现本地推理,而不是通过一份固定的模型名称列表。某个特定的本地模型能否胜任实时语音智能体的推理引擎,与dograh在技术上能否连接到它,是两个不同的问题。

常见问题

dograh是什么?

dograh(dograh.com,源代码见github.com/dograh-hq/dograh)是一个用于构建语音AI智能体(电话或基于Web的对话机器人)的开源自托管平台,定位为Vapi、Retell等托管平台的替代方案。

dograh是免费的吗?

通过Docker自托管dograh在BSD-2-Clause许可下是免费的。app.dograh.com上独立的托管云产品按每分钟0.01美元加上所连接LLM/STT/TTS提供商的使用费收费。

dograh是开源的吗?使用什么许可证?

是的。仓库自身的LICENSE文件是"BSD 2-Clause Simplified"许可证,版权归Zansat Technologies Private Limited所有。

dograh支持本地、离线运行的AI模型吗?

是的,就LLM组件而言,根据dograh自身文档,它可以连接任意本地OpenAI兼容端点,明确包括Ollama和vLLM。对于本地语音识别和语音合成,dograh与Speaches集成,后者是一个开源本地服务器,底层使用faster-whisper做转录、Piper/Kokoro做语音生成。

如何安装dograh?

在终端中运行官方的一行Docker Compose安装脚本:curl -o docker-compose.yaml https://raw.githubusercontent.com/dograh-hq/dograh/main/docker-compose.yaml && curl -o start_docker.sh https://raw.githubusercontent.com/dograh-hq/dograh/main/scripts/start_docker.sh && chmod +x start_docker.sh && ./start_docker.sh。本地部署会在http://localhost:3010打开。

dograh支持哪些电话提供商?

根据dograh自身的集成文档,内置集成包括Twilio、Vonage、Telnyx、Plivo、Cloudonix、Exotel、Vobiz和Asterisk ARI。

dograh在GitHub上有多少星标?

截至2026年9月12日,经GitHub API核实,dograh拥有5,636个星标和1,398个fork。由于星标数会持续变化,请查看实时仓库获取当前数字。

dograh最新版本是什么?

截至2026年9月12日,GitHub上最新的标记版本是v1.46.0,发布于2026年9月3日,新增了从对话内容推断通话处理结果、Cartesia的Sonic-3.6 TTS模型等功能——如需当前版本,请查看GitHub Releases。

自托管dograh的最低服务器要求是什么?

dograh自身的部署文档指出,远程服务器部署至少需要8GB内存和4个vCPU,以及入站TCP端口80、443、3478和5349,还有用于电话流量的UDP端口3478、5349和49152–49200。

谁开发了dograh?

dograh由GitHub上的dograh-hq开发;仓库的LICENSE文件将Zansat Technologies Private Limited列为版权所有者。根据GitHub自身元数据,该仓库创建于2025年9月。

来源

← 返回 本地LLM进阶

MCP