关键要点
- 云GPU：按GPU型号和提供商，0.35–2.50美元/小时
- 本地RTX 4090工作站：总成本约3,200美元（约23,000元人民币）
- 损益平衡点：按平均0.50美元/小时计，累计1,800小时后本地更划算
- Mac Mini M4 Pro 48GB：约2,000美元入手，约1,200小时回本
- 国内电费（0.6元/度）：RTX 4090系统约0.27元/小时
- 偶发性或实验性负载选云端
- 日常稳定推理、隐私数据处理、微调任务选本地
自建本地LLM工作站何时比云GPU划算？
RTX 4090工作站（总成本约3,200美元）相比0.50美元/小时的云GPU，累计约6,400小时后回本——日均8小时约2.2年，日均16小时（团队共享）约13个月。
运行70B模型本地需要多少成本？
70B Q4_K_M模型需要48GB显存/统一内存。可选方案：双RTX 3090（约14,000元）或Mac Mini M4 Pro 48GB（约14,000元）。国内电费按日均8小时计，约每年200–400元。同等云端方案（RunPod A40 spot）每年约9,000元。