Key Takeaways
- RTX 4090은 2026년에 단종(EOL)되어 시장에 나온 모든 카드는 중고이며, 가격은 약 $2,000~2,600으로 연초의 약 $999~1,299에서 크게 상승했습니다.
- RTX 5090은 여전히 생산 중이지만, 2026년 GDDR7 메모리 부족으로 실거래가가 정가 $1,999의 두 배가 넘는 $4,300~$5,000+까지 올랐습니다.
- RTX 5090은 대형 모델(70B Q4)의 로컬 LLM 추론에서 RTX 4090보다 약 30~50% 빠릅니다. 7B~13B 모델에서는 차이가 더 작습니다(약 20%).
- RTX 5090은 32GB GDDR7을 탑재해 RTX 4090의 24GB GDDR6X보다 8GB 더 많습니다 — 이 차이는 34B Q8과 대형 컨텍스트 70B Q4 실행에서 중요합니다.
- 중고 RTX 4090(100만 토큰당 약 $56~72)은 현재 실거래가의 신품 RTX 5090(100만 토큰당 약 $83~96)보다 토큰당 여전히 저렴합니다.
- 7B~13B 모델의 경우: 가격에 관계없이 4090도 과스펙입니다. GPU를 최대로 활용하기 전에 CPU·냉각 한계에 먼저 부딪힙니다.
- 70B 모델의 경우: 5090이 빛을 발합니다. 소형 70B 모델 2~3개를 병렬 실행하거나 단일 70B 모델을 더 큰 배치 크기로 실행할 수 있습니다.
- RTX 5080은 듀얼 GPU 셋업이 필요한 경우가 아니라면 로컬 LLM 기준으로 5090보다 가성비가 더 좋은 경우가 많지만, 이 역시 부족 현상으로 인한 가격 상승의 영향을 받습니다.
RTX 4090는 단종되어 중고 시장에서만 구할 수 있고, RTX 5090은 여전히 생산 중이지만 GDDR7 메모리 부족으로 정가의 두 배 이상으로 가격이 올랐습니다. RTX 5090은 대형 모델에서 30~50% 더 빠르며 32GB VRAM(4090의 24GB 대비)을 갖췄지만, 중고 4090이 여전히 달러당 토큰 생성 비용이 더 저렴합니다.
이미 RTX 4090을 가지고 있다면 지금 업그레이드할 이유가 거의 없습니다 -- 5090의 가격 프리미엄은 대부분의 로컬 LLM 용도에서 속도 향상을 정당화하지 못합니다. 새로 구매하며 70B급 카드가 필요하다면, 단종 프리미엄에도 불구하고 중고 4090이 여전히 더 나은 가성비를 제공합니다. 5090 자체의 가격도 메모리 부족으로 인해 상승했기 때문입니다.
실제 속도 차이는?
RTX 5090: 21,760 CUDA 코어, 1,457 TFLOPS, 메모리 대역폭 약 1,792 GB/sec, 32GB GDDR7. 정가 $1,999이지만, GDDR7 부족으로 2026년 8월 기준 실거래가는 $4,300~$5,000+입니다.
RTX 4090: 16,384 CUDA 코어, 826 TFLOPS, 메모리 대역폭 약 1,008 GB/sec, 24GB GDDR6X. 단종(EOL) — NVIDIA는 생산을 중단했습니다. 판매되는 모든 제품은 중고이며, 가격은 약 $2,000~2,600입니다.
실제 LLM 추론(Llama 3.3 70B, Q4, batch=1): RTX 5090은 약 50-55 tokens/sec, RTX 4090은 약 36 tokens/sec. 70B 모델에서 40-50% 빠릅니다. 카드별 이 속도 자체는 가격 변동과 무관합니다 — 변한 것은 이 성능을 얻는 데 드는 비용뿐입니다.
7B 모델의 경우: RTX 5090은 약 90 tokens/sec, RTX 4090은 약 75 tokens/sec. ~20% 빠릅니다. 소형 모델에서는 차이가 줄어듭니다.
4090과 5090의 VRAM 차이가 중요한가?
RTX 5090은 32GB GDDR7을, RTX 4090은 24GB GDDR6X를 탑재합니다. 8GB 차이는 특정 모델 크기에서 중요합니다 — 이 VRAM 계산은 4090의 단종이나 두 카드 중 어느 쪽의 현재 가격과도 무관합니다.
5090의 VRAM 우위는 실질적입니다: 34B Q8(약 28GB 필요)은 32GB에 여유 있게 들어가지만 24GB에서는 빠듯합니다. 70B Q4(약 38~40GB 필요)는 어느 카드 하나로도 수용할 수 없습니다 — 듀얼 GPU 또는 Apple Silicon이 필요합니다. 7B~13B 모델에는 24GB로 충분합니다.
토큰당 비용: 실제로 어느 쪽이 저렴한가?
- 중고 RTX 4090: 약 $2,000~2,600(EOL로 중고 시장에서만 구매 가능, 2026년 초의 약 $999~1,299에서 상승). Llama 70B에서 36 tokens/sec 달성. 토큰당 비용: 100만 토큰당 약 $56~72.
- RTX 5090 신품: 실거래가 $4,300~5,000+(정가 $1,999, 2026년 GDDR7 부족으로 상승). Llama 3.3 70B Q4에서 약 52 tokens/sec 달성. 토큰당 비용: 100만 토큰당 약 $83~96.
- 결론: 4090은 단종으로 인한 가격 상승 이후에도 생성 토큰당 비용이 여전히 더 저렴합니다. 5090의 부족 프리미엄이 4090보다 더 빠르게 커졌기 때문입니다.
4090에서 5090으로 실제로 언제 업그레이드해야 하는가?
7B~13B 추론을 위해서는 절대 업그레이드하지 마십시오. 가격에 관계없이 이 크기에서는 4090도 이미 과스펙입니다. 어차피 CPU 바운드 또는 냉각 한계에 먼저 도달하게 됩니다.
이미 4090을 보유하고 있다면: 계속 사용하세요. 5090의 실거래가가 $4,300~5,000+인 지금, 업그레이드의 비용 대비 효과는 그 어느 때보다 나쁩니다. 70B에서 40 tok/sec 이상이 필요하거나 34B Q8을 위해 32GB가 필요하고 비용이 문제가 되지 않을 때만 이전하세요.
둘 다 보유하지 않았고 70B를 실행할 카드가 필요하다면: 현재 매물을 비교하세요. 중고 4090(약 $2,000~2,600, EOL/중고만)은 30~50% 낮은 처리량을 대가로, 신품 5090(약 $4,300~5,000+)보다 토큰당 비용에서 여전히 우세합니다.
듀얼 GPU 대안도 달라졌습니다: 중고 RTX 4090 두 장을 합치면 이제 총 약 $4,000~5,200 — 단일 5090의 실거래가에 근접한 수준 — 으로 70B Q4에서 합산 약 65~72 tokens/sec(단일 5090과 비슷하거나 더 나음)를 얻을 수 있습니다. 트레이드오프는 중고로만 조달해야 한다는 점(보증 없음, EOL 공급)과 더 복잡한 구성(텐서 병렬화)입니다.
5090에 대한 흔한 오해
- RTX 4090이 여전히 신품으로 판매된다고 생각하는 것 — 그렇지 않습니다. NVIDIA는 2026년에 RTX 40 시리즈 생산을 중단했습니다. 시장에 있는 모든 4090은 중고이며, 연초보다 훨씬 높은 가격입니다.
- RTX 5090의 정가 $1,999를 실제로 지불할 금액이라고 생각하는 것 — 2026년 8월 기준, GDDR7 부족으로 실거래가는 $4,300~$5,000+입니다.
- 5090이 4090보다 2배 빠르다고 생각하는 것 — 실제로는 70B에서 40~50%, 7B 모델에서는 약 20%밖에 빠르지 않습니다.
- 두 카드의 VRAM이 같다고 가정하는 것 — 그렇지 않습니다. 5090은 32GB, 4090은 24GB입니다. 8GB 차이는 34B Q8 모델에서 중요합니다.
- 70B 모델을 실행하려면 5090이 필요하다고 믿는 것 — 4090은 36 tokens/sec로 70B 모델을 충분히 실행하며, 이는 대부분의 사용자에게 "충분한" 성능입니다. 단종으로 인한 가격 상승 이후에도 여전히 토큰당 가장 저렴한 카드입니다.
자주 묻는 질문
RTX 4090은 2026년에도 신품으로 판매되나요?
아니요. NVIDIA는 2026년에 RTX 40 시리즈 생산을 중단했습니다. 현재 판매되는 모든 RTX 4090은 중고이며, EOL로 인한 희소성과 RTX 50 시리즈 자체의 GDDR7 부족에 따른 수요까지 겹쳐 가격이 약 $2,000~2,600까지 올랐습니다.
Llama 3.3 70B 실행을 위해 RTX 5090이 가치 있나요?
그 어느 때보다 가격에 좌우됩니다. 4090은 중고 약 $2,000~2,600에 약 36 tok/sec를 제공합니다. 5090은 약 52 tok/sec를 제공하지만 2026년 8월 기준 실거래가는 $4,300~$5,000+입니다. 70B를 지속적으로 사용한다면 가치가 있고, 그렇지 않다면 중고 4090이 현실적인 선택입니다.
RTX 5090 하나와 RTX 4090 두 장 중 어느 것이 더 나은가요?
중고 4090 두 장(총 약 $4,000~5,200)은 단일 5090(실거래가 약 $4,300~5,000+)을 70B 원속도 기준(합산 약 72 tok/sec 대 약 52)에서 앞섭니다. 하지만 듀얼 GPU 구성은 텐서 병렬화 등 복잡성이 추가되고, 중고 카드에는 보증이 없습니다. 5090은 더 간단하고 여전히 생산 중이며, 34B Q8 용도로 32GB 통합 VRAM을 제공합니다.
RTX 5090이 4090보다 VRAM이 더 많은가요?
네. RTX 5090은 32GB GDDR7을, RTX 4090은 24GB GDDR6X를 탑재합니다. 추가된 8GB 덕분에 34B Q8 모델(약 28GB 필요)을 여유 있게 실행할 수 있습니다. 두 카드 모두 여러 GPU로 분할하지 않으면 70B Q4(약 38~40GB 필요)를 수용할 수 없습니다. 이 VRAM 차이는 4090의 단종과는 무관합니다.
14B 모델에 RTX 5090은 과스펙인가요?
대부분의 경우 그렇습니다. 14B Q4 모델은 약 9GB의 VRAM이 필요하며 4090에서 이미 빠른 약 55~65 tok/sec로 실행됩니다. 5090이라면 약 65~75 tok/sec를 제공하겠지만 개선폭은 미미합니다. 중고 4090(또는 3090)이 14B 추론에 훨씬 더 경제적이며, 특히 현재 5090 가격을 고려하면 더욱 그렇습니다.
RTX 5090 노트북 GPU도 32GB VRAM을 탑재하나요?
아니요. RTX 5090 Laptop GPU는 전력 및 발열 제약으로 인해 데스크톱 버전의 32GB에서 줄어든 24GB GDDR7을 탑재합니다. 데스크톱 5090보다 훨씬 느리지만 동일한 작업에서 4090보다는 여전히 빠릅니다.
5090 가격이 정가 $1,999까지 내려갈까요?
2026년 GDDR7 메모리 부족이 완화되어야 가능하며, 정해진 시점은 없습니다. 현재 실거래가는 $4,300~$5,000+로 정가의 두 배를 넘습니다. 4090의 가격 추이를 보면 중고 시장이 항상 하락하는 것은 아님을 알 수 있습니다. 2022년 출시 당시 $1,499에서 중고 최저 약 $999까지 떨어졌다가, 2026년 단종 이후 다시 약 $2,000~2,600까지 반등했습니다.
RTX 5090을 750W 파워 서플라이와 함께 사용할 수 있나요?
간신히 가능합니다. RTX 5090 단독으로 575W를 소모합니다. 부하 시 전압 강하를 방지하려면 850W 또는 1000W PSU를 사용하십시오.
RTX 5080이 5090보다 가성비가 더 좋은가요?
대부분의 경우 그렇습니다. 5080은 5090 속도의 약 80%를 상당히 낮은 가격에 제공하지만, 이 역시 2026년 GDDR7 부족으로 인한 가격 상승의 영향을 받습니다. 로컬 LLM 기준으로 5080이 보통 최적의 선택입니다.
Qwen-VL 70B 같은 멀티모달 모델에서 5090은 얼마나 더 빠른가요?
유사하게 20~25% 향상됩니다. 멀티모달 연산도 여전히 메모리 바운드이므로 5090의 대역폭 우위가 도움이 되지만, 극적인 차이는 아닙니다.
출처
- NVIDIA RTX 5090 및 4090 공식 사양: CUDA 코어, TFLOPS, 메모리 대역폭
- MLCommons MLPerf 추론 벤치마크: LLaMA 70B 및 Mistral 모델의 토큰 생성 속도
- TechPowerUp GPU 데이터베이스: RTX 5090 vs. 4090 전력 소비 및 메모리 대역폭 비교