dograh 리뷰: 셀프 호스팅 오픈소스 음성 AI 에이전트 플랫폼

로컬 설치(macOS/Linux)

빈 디렉터리에서 터미널로 다음을 실행합니다.

로컬 LLM: Ollama와 vLLM

dograh의 LLM 설정 문서는 클라우드 제공자(OpenAI, Google AI Studio, Google Vertex AI, Azure OpenAI, AWS Bedrock, Groq, OpenRouter, Hugging Face 등) 외에도 dograh가 "Ollama와 vLLM 같은 OpenAI 호환 엔드포인트를 지원한다"고 명시합니다 — 즉 이 두 프로젝트 중 하나를 통해 자체 하드웨어에서 OpenAI 호환 API 뒤에 제공할 수 있는 모델이라면 dograh 에이전트의 추론 모델로 작동할 수 있습니다.

로컬 STT와 TTS: Speaches

dograh 자체 음성 및 전사 문서는 음성 인식과 음성 합성 모두를 위한 구체적인 로컬·셀프 호스팅 옵션 하나를 명시합니다: Speaches로, dograh 문서에서는 스트리밍 전사와 음성 생성을 위한 "OpenAI API 호환 서버"로 설명됩니다. Speaches 자체 프로젝트 페이지에 따르면 Speaches는 전사에 faster-whisper를, 음성 생성에 Piper와 Kokoro를 사용합니다 — 즉 셀프 호스팅된 Speaches 인스턴스에 연결된 dograh 배포는 내부적으로 Whisper 계열 전사와 Kokoro/Piper 음성 합성을 실행하며, 어떤 요청도 인프라 밖으로 나가지 않습니다.

dograh 문서가 명시하지 않는 것

dograh 자체 문서는 구체적인 로컬 LLM 체크포인트를 나열하지 않으며(그 선택은 Ollama나 vLLM 뒤에서 무엇을 실행하는지에 맡깁니다), Coqui TTS나 XTTS를 직접 언급하지도 않습니다 — 이들은 문서화된 dograh 통합이 아닙니다. 특정 로컬 모델을 목적으로 dograh를 평가하는 사람은, 셀프 호스팅 AI 도구 문서가 릴리스마다 바뀌므로 결정을 내리기 전에 docs.dograh.com에서 현재 지원 여부를 확인해야 합니다.

테스트용으로 완전히 로컬인 음성 에이전트 실행하기

Docker 빠른 시작으로 dograh를 배포하고, LLM 설정을 Ollama를 통해 로컬로 제공되는 모델로 지정하고, 음성 및 전사 설정을 셀프 호스팅된 Speaches 인스턴스로 TTS/STT를 처리하도록 구성합니다. 개발 중에는 어떤 대화 오디오나 전사도 제3자 AI 제공자에 도달할 필요가 없습니다.

지원 라인의 호스팅 음성 에이전트 제공자 대체하기

Twilio 번호를 셀프 호스팅된 dograh 배포에 연결하고, 비주얼 워크플로 빌더에서 통화 처리 로직을 구축하고, 봇이 해결할 수 없는 통화에 대해 사람 상담원으로의 원활한 전환을 구성하며, v1.46.0에서 추가된 통화 처리 결과 추적을 사용해 후속 작업을 배정합니다.

인프라 운영을 피하기 위해 dograh의 관리형 클라우드 사용하기

프로덕션에서 Docker를 운영하지 않고 dograh의 워크플로 빌더와 텔레포니 연동을 원하는 팀에게, app.dograh.com의 분당 요금제는 동일한 기반 오픈소스 플랫폼을 유지하면서 셀프 호스팅을 피할 수 있게 해줍니다.

다음의 경우 dograh를 사용하세요

• 폐쇄형 호스팅 업체 대신 자체 인프라에서 운영할 수 있는 음성 에이전트 플랫폼(전화 응대 봇, IVR 대체 등)을 원하는 경우
• LLM, STT, TTS 구성 요소를 Ollama/vLLM과 Speaches를 통해 완전히 로컬로 실행할 수 있는 옵션을 원하며, 자체 서버 밖으로 절대 나가서는 안 되는 대화가 있는 경우
• 셀프 호스팅 경로에서 벤더 종속 없이 관대한 오픈소스 라이선스(BSD-2-Clause)를 원하는 경우
• 자체 문서가 명시하는 텔레포니 포트(WebRTC/SIP)를 여는 것을 포함해 Docker Compose 스택을 운영하고 유지하는 데 익숙한 경우
• 처음부터 직접 구축하는 대신 내장된 텔레포니 연동(Twilio, Vonage, Telnyx 등)을 원하는 경우

다음의 경우 기다리거나 다른 곳을 알아보세요

• 전화 에이전트를 구축하는 플랫폼이 아니라 다운로드 가능한 데스크톱 음성 비서를 원하는 경우 — Voxa 또는 Jarvis for Mac 참조
• 완전한 에이전트/텔레포니 플랫폼이 아니라 음성 인식이나 음성 합성만 단독으로 필요한 경우 — faster-whisper 또는 Whisper.cpp 전용 리뷰 참조
• 첫날부터 완전히 관리되는 무운영(zero-ops) 제품이 필요하고 셀프 호스팅 자체를 검토하고 싶지 않은 경우 — dograh의 관리형 클라우드가 이를 위해 존재하지만, 확립된 엔터프라이즈 SLA 업체가 아니라 사용량 기반 요금의 신생 제품입니다
• 제품 뒤에 오랫동안 확립된 대규모 지원 조직이 필요한 경우 — dograh는 신생 프로젝트이며(GitHub 저장소는 2025년 9월 생성), 셀프 호스팅 단계의 지원은 GitHub Issues와 커뮤니티 채널을 통해 이루어집니다

오해 1: 데스크톱 설치 프로그램을 찾는 것

dograh는 Docker Compose로 배포되는 셀프 호스팅 플랫폼이며, 다운로드 가능한 최종 사용자 애플리케이션이 아닙니다. 클릭할 macOS/Windows/Linux 설치 프로그램은 없으며, 설치 경로는 위에서 다룬 Docker 빠른 시작 스크립트입니다.

오해 2: 셀프 호스팅하면 자동으로 완전히 로컬/오프라인이 된다고 가정하는 것

셀프 호스팅된 dograh 배포도 여전히 LLM, STT, TTS 제공자 설정이 필요합니다 — 기본값으로는 클라우드 API 키일 수 있습니다. 완전히 로컬로 운영하려면 dograh 자체 문서에 따라 LLM에는 Ollama/vLLM을, STT/TTS에는 Speaches를 명시적으로 설정해야 합니다.

오해 3: 셀프 호스팅과 관리형 클라우드 단계의 요금을 혼동하는 것

Docker로 dograh를 셀프 호스팅하는 것은 BSD-2-Clause 라이선스 하에 무료입니다. 분당 $0.01 요금은 app.dograh.com의 별도 관리형 클라우드 제품에만 적용되며, 완전히 로컬인 모델을 사용하지 않는 한 제공자 사용료(LLM/STT/TTS/텔레포니)는 두 방식 모두에서 별도로 청구됩니다.

오해 4: 어떤 로컬 LLM 체크포인트든 지원되는 것으로 문서화되어 있다고 가정하는 것

dograh 자체 문서는 고정된 모델 이름 목록이 아니라 Ollama와 vLLM 서빙 계층을 통한 로컬 추론을 지원합니다. 특정 로컬 모델이 실시간 음성 에이전트의 추론 엔진으로서 잘 작동하는지는 dograh가 기술적으로 그것에 연결할 수 있는지와는 별개의 문제입니다.