구매/건너뛰기 가이드
빠른 판단 가이드입니다. PromptQuorum 평가: 비용 중심의 실험에는 잘 맞고, Secure Cloud가 아닌 호스트에서의 기밀 또는 프로덕션 핵심 워크로드에는 맞지 않습니다.
- Vast.ai에서 대여해야 하는 경우:
- RTX 3060부터 B200까지 다양한 GPU 모델 중에서 고르고 싶습니다(Vast.ai는 68종 이상의 GPU를 안내합니다)
- 작업이 중단을 견딥니다(배치 추론, 체크포인트가 있는 파인튜닝, 실험)
- Docker 이미지와 SSH에 익숙합니다
- 올림 없는 초 단위 과금을 원합니다
- Vast.ai를 건너뛰어야 하는 경우:
- 개인정보, 규제 대상, 기밀 데이터를 처리해야 하는데 Secure Cloud 등급을 쓸 수 없습니다
- 균일한 환경에서 고정되어 예측 가능한 시간당 요금을 원합니다
- 호스트를 먼저 테스트하지 않고도 프로덕션 엔드포인트에 보장된 용량이 필요합니다
Vast.ai 평가 점수표
PromptQuorum 평가이며, Vast.ai의 공식 문서와 공개 설명을 근거로 합니다. 직접 실험실에서 테스트한 결과가 아니며 가동률이나 속도는 측정하지 않았습니다. 점수는 로컬 방식의 오픈 웨이트 모델을 실행하기 위해 GPU를 대여하는 용도에 대한 적합도를 반영합니다.
가격
- 점수:
- 9/10
- 근거:
- 마켓플레이스와 인터럽터블 등급이 낮은 가격대를 겨냥
안정성
- 점수:
- 6/10
- 근거:
- 호스트마다 다르며 인터럽터블 인스턴스는 일시 중지될 수 있음
설정 용이성
- 점수:
- 7/10
- 근거:
- Docker, SSH, 호스트 검색 필요, 관리형 Pod보다 단계가 많음
GPU 선택폭
- 점수:
- 9.5/10
- 근거:
- Vast.ai 기준 RTX 3060부터 B200까지 68종 이상
지원 및 문서
- 점수:
- 7.5/10
- 근거:
- 상세한 문서, 과금 및 보안 FAQ 페이지 존재
데이터 신뢰
- 점수:
- 6.5/10
- 근거:
- SOC 2 Type 2 주장, 호스트는 등급별로 다름
종합
- 점수:
- 7.6/10
- 근거:
- 마켓플레이스 가격이 낮고 GPU 선택폭이 넓음. 균일성은 약함
PromptQuorum 평가이며, Vast.ai 공식 페이지에서 도출했습니다("평가 방법" 참조). PromptQuorum이 Vast.ai에서 워크로드를 실행한 결과가 아닙니다.
결론: 여기서 대여해야 하는 사람
균일성보다 가격과 GPU 선택폭이 중요하고, 중단되거나 느린 호스트로 인한 손해가 작다면 Vast.ai에서 대여하십시오. 체크포인트가 있는 파인튜닝, 배치 작업, 벤치마킹, 카드를 사기 전 모델을 시험해 보는 용도에 맞습니다. 대여와 소유 중 고민한다면 로컬 LLM 비용 계산기에서 손익분기점을 볼 수 있습니다.
저렴한 마켓플레이스 호스트를 사설 환경으로 취급하지 마십시오. Vast.ai의 보안 FAQ도 개별 호스트는 공식적인 보안 조치가 덜 갖춰져 있을 수 있다고 밝힙니다. 민감한 데이터라면 Secure Cloud로 필터링하거나 운영 주체가 하나인 제공업체를 선택하십시오.
관리형 대안과 나란히 비교하려면 RunPod 리뷰와 RunPod vs Vast.ai 가격 비교를 읽어 보십시오.
마켓플레이스 작동 방식
Vast.ai는 여러 제공자의 GPU 머신을 등록해 두고, 사용자는 오퍼를 검색해 하나를 고른 뒤 그 위에서 Docker 컨테이너를 실행합니다. 호스트마다 하드웨어, 위치, 대역폭 가격, 신뢰 등급이 다르므로, 운영 주체가 하나인 클라우드보다 검색 필터가 더 중요합니다.
- 오퍼: GPU 모델, VRAM, 가격, 안정성, 위치로 필터링합니다(Vast.ai CLI 페이지에 이 필터들이 설명되어 있습니다).
- 인스턴스 유형: 온디맨드는 "고정 가격, 보장된 리소스(높은 우선순위)", 인터럽터블은 "최저 비용, 일시 중지될 수 있음(낮은 우선순위)", 예약은 "선불 시 할인 요금"입니다(Vast.ai 가격 문서).
- 호스트 등급: Secure Cloud는 검증된 데이터 센터를 활용하고, 검증 호스트는 "안정성과 성능에 대해 수동으로 테스트"되며 Docker 수준의 테넌트 격리를 사용합니다(Vast.ai 규정 준수 페이지).
- 런타임: Vast.ai에 따르면 각 워크로드는 다른 테넌트와 격리된 권한 없는 Docker 컨테이너에서 실행됩니다.
- 접근: 문서화된 접속 방법은 SSH, Jupyter, API/CLI입니다.
가격과 과금
과금은 실제 사용량에 대해 초 단위로 이루어지며, 인스턴스를 시작하기 전에 크레딧을 먼저 충전해야 합니다. 2026-11-22에 확인했습니다. GPU별 시간당 요금은 호스트에 따라 변하는 실시간 마켓플레이스 값이며 이 리뷰에서 확인하지 않았으므로 GPU별 수치는 기재하지 않았습니다.
- $0.14/hr와 $0.50/hr는 특정 GPU의 가격이 아니라 Vast.ai CLI 페이지(2026-11-22 확인)에 안내된 "부터" 최저가입니다.
- 출처: Vast.ai 가격, 인스턴스 가격 문서, 과금 문서.
- 과금 문서에 나온 결제 수단: Stripe를 통한 주요 신용카드, BitPay와 Crypto.com을 통한 암호화폐. 자동 결제는 저장된 카드로만 가능합니다. 이 페이지의 가격은 USD로 표기했습니다. 카드가 USD 카드가 아니라면 카드 발급사가 해외 결제 수수료를 부과할 수 있습니다.
- 잔액이 0이 되면 인스턴스가 중지됩니다. 저장된 카드가 있으면 잔액이 청구되고, 없으면 인스턴스와 데이터가 삭제됩니다.
- 현재 GPU별 요금은 클라우드 GPU 시간당 비용 페이지와 Vast.ai 실시간 검색을 참고하십시오.
과금 단위
- Vast.ai 명시 내용:
- 초 단위, "최소 이용 시간 없음, 올림 없음"
온디맨드
- Vast.ai 명시 내용:
- 고정 가격, 보장된 리소스
인터럽터블
- Vast.ai 명시 내용:
- 온디맨드보다 "50% 이상 저렴", 일시 중지될 수 있음
예약
- Vast.ai 명시 내용:
- 최대 50% 할인, 1·3·6개월 약정
안내된 최저가
- Vast.ai 명시 내용:
- 스팟 $0.14/hr부터, 온디맨드 $0.50/hr부터(CLI 페이지)
스토리지
- Vast.ai 명시 내용:
- 인스턴스가 존재하는 동안 과금, 중지돼도 동일
대역폭
- Vast.ai 명시 내용:
- 호스트마다 다름, 업로드·다운로드 바이트당
최소 충전액
- Vast.ai 명시 내용:
- 검토한 문서에는 명시되지 않음
어떤 오픈 웨이트 모델이 맞는가
먼저 VRAM으로 GPU를 고르십시오. 아래 수치는 DeepSeek-R1 distill VRAM 치트시트의 Q4_K_M VRAM 추정값입니다. 산정 방법은 로컬 LLM에 필요한 VRAM을 참고하십시오. Vast.ai에서 측정한 값이 아니며 초당 토큰 수치도 주장하지 않습니다.
- Docker 이미지에서 모델을 서빙할 때는 Ollama나 vLLM을 사용할 수 있으며, 둘 다 컨테이너에서 실행됩니다.
- 마켓플레이스에서 특정 GPU의 가용성은 시간마다 바뀌므로, 실행하기 전에 오퍼와 VRAM을 확인하십시오.
7B
- 필요 VRAM:
- ~5.5 GB
- 일반적인 카드 등급:
- 12 GB 카드
14B
- 필요 VRAM:
- ~9.5 GB
- 일반적인 카드 등급:
- 16 GB 카드
32B
- 필요 VRAM:
- ~20.5 GB
- 일반적인 카드 등급:
- 24 GB 카드 (빠듯함)
70B
- 필요 VRAM:
- ~44 GB
- 일반적인 카드 등급:
- 48 GB 또는 멀티 GPU
활용 사례
비용이 중요하고 중단의 부담이 작은 워크로드가 가장 잘 맞습니다.
- 적합: 정기적으로 체크포인트를 저장하는 파인튜닝, 배치 추론, 하드웨어를 사기 전 모델 벤치마킹, 이미지·영상 생성 실험.
- 조건부 적합: 멀티 GPU 오퍼가 필요한 70B급 모델. 오퍼가 필요한 GPU 수를 제공하는지 확인하십시오.
- 부적합: Secure Cloud가 아닌 호스트에서의 기밀 또는 규제 대상 데이터, 이중화가 없는 상시 가동 프로덕션 엔드포인트.
- 카드를 대여할지 구매할지 고민된다면 RTX 3090: 구매 vs 대여와 70B 모델을 가장 저렴하게 실행하는 방법을 참고하십시오.
위험과 신뢰
Vast.ai는 마켓플레이스이므로 하드웨어를 운영하는 주체는 선택한 오퍼에 따라 달라집니다. 아래 설명은 2026-11-22에 확인한 Vast.ai 자체 페이지에서 가져왔습니다.
- 호스트 보안은 제각각입니다: 보안 FAQ는 "개별 호스트는 공식적인 보안 조치가 덜 갖춰져 있을 수 있다"고 밝히고, 민감한 데이터를 암호화하며 인스턴스에 자격 증명을 저장하지 말라고 권고합니다.
- 호스트가 데이터를 읽을 수 있는지는 문서에 없습니다: 문서는 클라이언트가 자신의 데이터에만 접근하며 컨테이너로 격리된다고 밝히지만 호스트의 접근은 다루지 않으므로, Secure Cloud가 아닌 호스트는 신뢰할 수 없는 것으로 취급하십시오.
- 파트너 인증에 관한 표현이 페이지마다 다릅니다: 규정 준수 페이지는 Secure Cloud 파트너에게 ISO 27001 또는 SOC 2를 권장하지만 필수는 아니라고 하는 반면, 보안 FAQ는 Secure Cloud 제공자에게 ISO 27001을 명시합니다. 어느 쪽이든 의존하기 전에 현재 요건을 확인하십시오.
- 과금: 컴퓨팅은 초 단위로 과금되고, 스토리지는 중지된 동안에도 계속되며, 저장된 카드 없이 잔액이 마이너스가 되면 인스턴스와 데이터가 삭제됩니다. 출처: 과금 문서.
- Vast.ai의 SOC 2 Type 2 설명은 회사의 통제에 관한 것이며 개별 호스트에 대한 보증이 아닙니다. 이는 법률 또는 규정 준수 자문이 아닙니다.
하드웨어 출처
- Vast.ai 명시 내용:
- 독립 호스트와 검증된 데이터 센터(Secure Cloud)
Secure Cloud
- Vast.ai 명시 내용:
- 규제 및 기업 요구용, 파트너가 DPA에 서명
검증 호스트
- Vast.ai 명시 내용:
- 수동 테스트, Docker 격리, 비규제 작업용
SOC 2
- Vast.ai 명시 내용:
- "SOC 2 Type 2 인증 완료", 보고서는 NDA 하에 제공
데이터 삭제
- Vast.ai 명시 내용:
- 인스턴스를 삭제하면 즉시 파기
전송 암호화
- Vast.ai 명시 내용:
- API 및 콘솔 트래픽에 TLS 1.2 이상
환불
- Vast.ai 명시 내용:
- 사용한 크레딧: 불가. 미사용분: 보통 채팅으로 가능
장점과 단점
한쪽에는 낮은 가격의 유연성, 다른 쪽에는 호스트 편차가 있습니다.
- 장점
- 올림 없는 초 단위 과금
- 온디맨드보다 50% 이상 저렴하다고 설명된 인터럽터블 가격
- RTX 3060부터 B200까지 68종 이상의 GPU
- 민감한 워크로드용으로 내세우는 Secure Cloud 등급
- 명시된 SOC 2 Type 2 인증
- 단점
- 품질과 보안이 호스트마다 다름
- 인터럽터블 인스턴스는 일시 중지될 수 있음
- 인스턴스가 중지된 동안에도 스토리지에 요금이 부과됨
- 사용한 크레딧은 환불되지 않음
- GPU별 가격이 계속 변하므로 예산을 잡으려면 실시간 확인이 필요함
가입처
계정을 만들고 크레딧을 충전한 다음, 실행하기 전에 오퍼를 필터링하십시오.
- 1Vast.ai 사이트에서 계정을 만들고 크레딧을 충전합니다(인스턴스를 시작하기 전에 필수)
- 2GPU 모델, VRAM, 안정성, 가격으로 오퍼를 검색하고, 데이터가 민감하면 Secure Cloud 필터를 켭니다
- 3보장된 리소스가 필요하면 온디맨드를, 최저 비용이 필요하면 인터럽터블을 고릅니다
- 4Docker 이미지(Ollama 또는 vLLM)를 실행하고 SSH로 접속합니다
- 5작업이 끝나면 스토리지 요금을 멈추기 위해 인스턴스를 삭제합니다
고려할 대안
마켓플레이스의 편차가 문제라면 운영 주체가 하나인 클라우드가 일반적인 다음 단계입니다.
- Secure/Community 구분이 있는 관리형 Pod: RunPod 리뷰.
- 또 다른 커뮤니티 GPU 마켓플레이스: 암호화폐로 결제하는 Clore.ai 리뷰.
- 하드웨어 소유: 대여를 결정하기 전에 비용 계산기로 구매와 비교하십시오.
- Lambda와 CoreWeave 같은 대형 제공업체는 운영 주체가 하나인 클라우드입니다. 이 리뷰에서는 이들의 가격을 확인하지 않았습니다.
평가 방법
이 리뷰는 PromptQuorum이 직접 테스트한 것이 아닙니다. 2026-11-22에 가져온 Vast.ai의 공식 페이지를 근거로 작성했습니다.
- 제공업체 명시 정보: 과금 단위, 인스턴스 유형, 호스트 등급, SOC 2 설명, 환불 및 스토리지 규정은 vast.ai와 docs.vast.ai에서 가져왔습니다.
- 확인하지 못한 항목: GPU별 시간당 가격, 최소 충전액, 가동률과 속도.
- PromptQuorum 평가: 점수표, 구매/건너뛰기 안내, 모델 적합 메모는 측정값이 아니라 편집상의 판단입니다.
자주 묻는 질문
Vast.ai란 무엇입니까?
Vast.ai는 독립 호스트와 검증된 데이터 센터가 머신을 등록하고 초 단위로 과금하는 GPU 대여 마켓플레이스입니다. 가격 페이지에 따르면 온디맨드, 인터럽터블, 예약 가격을 제공합니다.
Vast.ai 과금은 어떻게 작동합니까?
컴퓨팅은 실제 사용량에 대해 초 단위로 과금되며, 인스턴스를 시작하기 전에 크레딧을 충전해야 합니다. 스토리지는 인스턴스가 존재하는 동안 중지된 상태에서도 과금됩니다(2026-11-22 확인).
온디맨드와 인터럽터블은 어떻게 다릅니까?
온디맨드는 고정 가격에 리소스가 보장됩니다. 인터럽터블은 비용이 가장 낮지만 일시 중지될 수 있으며, Vast.ai는 온디맨드보다 50% 이상 저렴한 경우가 많다고 설명합니다.
예약 인스턴스란 무엇입니까?
예약 인스턴스는 선불로 할인을 받는 방식입니다. Vast.ai는 가격 페이지에 최대 50% 할인과 1·3·6개월 약정을 안내합니다.
Vast.ai는 안전합니까?
Vast.ai는 SOC 2 Type 2 인증을 완료했다고 밝히며, 각 워크로드는 권한 없는 Docker 컨테이너에서 실행됩니다. 자체 문서는 개별 호스트가 공식적인 보안 조치가 덜 갖춰져 있을 수 있다고도 밝힙니다. Vast.ai는 Secure Cloud를 민감한 데이터용으로 내세우고 있으니, 본인의 경우에 해당하는 DPA와 인증을 확인하십시오.
Secure Cloud 등급이란 무엇입니까?
Secure Cloud는 규제 및 기업 요구를 겨냥한 검증된 데이터 센터 파트너 등급입니다. 규정 준수 페이지에 따르면 파트너는 Vast.ai와 데이터 처리 계약(DPA)에 서명합니다.
검증 호스트란 무엇입니까?
검증 호스트는 안정성과 성능에 대해 수동으로 테스트되며 Docker 수준의 테넌트 격리를 사용합니다. Vast.ai는 이를 비규제 워크로드용으로 안내합니다.
Vast.ai에서 환불받을 수 있습니까?
과금 문서에 따르면 사용한 크레딧은 환불되지 않으며, 사용하지 않은 크레딧은 보통 웹사이트 채팅으로 지원팀에 문의해 환불받을 수 있습니다. 예전 Coinbase Commerce 크레딧은 환불할 수 없습니다.
잔액이 떨어지면 어떻게 됩니까?
잔액이 0이 되면 인스턴스가 자동으로 중지됩니다. 저장된 카드가 있으면 부족분이 청구되고, 저장된 카드가 없으면 인스턴스와 저장된 데이터가 삭제됩니다.
최소 충전액이 있습니까?
검토한 과금 및 가격 문서에는 최소 금액이 명시되어 있지 않습니다. 인스턴스를 시작하기 전에 크레딧을 충전해야 한다는 내용만 있습니다.
Vast.ai는 어떤 결제 수단을 받습니까?
과금 문서에는 Stripe를 통한 주요 신용카드와 BitPay, Crypto.com을 통한 암호화폐가 나와 있습니다. 자동 결제는 신용카드만 가능합니다.
Vast.ai에서 70B 모델을 실행할 수 있습니까?
PromptQuorum 치트시트 기준 Q4_K_M 70B 모델은 VRAM이 약 44 GB 필요하므로 48 GB 카드나 멀티 GPU 오퍼가 필요합니다. 실행하기 전에 오퍼의 GPU 수와 VRAM을 확인하십시오.
