Key Takeaways
- Densidade de GPU: os quatro fornecedores têm uma plataforma principal de 8 GPUs SXM5 (Dell XE9680, HPE Cray XD670, Supermicro SYS-821GE-TNHR); Lenovo e HPE também vendem plataformas PCIe de menor densidade e custo mais baixo.
- Faixa de preço: um servidor 8x H100/H200 SXM5 custa cerca de US$ 200.000-400.000+ dependendo da memória da GPU (80GB H100 vs. 141GB H200) e do nível de suporte.
- A refrigeração é a real limitação. Dois ou três servidores de 8 GPUs SXM5 já ultrapassam o teto prático de ~20-40kW por rack da refrigeração a ar — acima dessa densidade, refrigeração líquida deixa de ser opcional.
- Rede importa mais para treinamento, menos para inferência. Clusters de treinamento multi-nó precisam de InfiniBand NDR ou rede Ethernet RoCE v2; inferência de nó único não.
- Escolha a GPU pela carga de trabalho, não só pelo orçamento. A L40S (48GB, PCIe, refrigerada a ar) serve para inferência; a H100/H200 (80-141GB, SXM5, NVLink) serve para treinamento e atendimento de alto volume.
- Compradores que precisam de apenas uma ou duas GPUs de capacidade de inferência não deveriam comprar um servidor em rack — uma workstation é o porte certo para essa escala.
Compradores de servidores GPU corporativos devem escolher o fornecedor pela carga de trabalho — Dell PowerEdge XE9680, HPE Cray XD670 e Supermicro SYS-821GE-TNHR competem diretamente nas plataformas de treinamento 8x H100/H200 SXM5 na faixa de US$ 200.000-400.000+, enquanto HPE ProLiant DL380a Gen11 e Lenovo ThinkSystem SR675 V3 com GPUs PCIe L40S atendem orçamentos de inferência pura por cerca de um terço a metade do preço.
Comprar um servidor de IA para uma empresa não é como montar um PC gamer turbinado. Essas máquinas custam o preço de uma casa, precisam de um plano de refrigeração e energia elétrica antes mesmo de chegar, e vêm com um contrato de suporte de vários anos. Este guia compara as quatro empresas que realmente vendem esses servidores de IA em rack — Dell, Lenovo, HPE e Supermicro — para que o comprador escolha o tamanho e o fornecedor certos para a necessidade real (rodar modelos de IA para funcionários vs. treinar modelos novos do zero), não apenas a ficha técnica maior.
Fatos rápidos
- Dell PowerEdge XE9680: 6U, até 8x H100/H200 SXM5, dois Intel Xeon Platinum, até 4TB de DDR5.
- Lenovo ThinkSystem SR675 V3: 3U, até 8 GPUs (mix H100/H200/L40S), dois AMD EPYC 9004/9005, até 6TB de DDR5, refrigeração líquida Neptune opcional.
- HPE Cray XD670: 5U, até 8x H100/H200 SXM5, dois Intel Xeon de 4ª geração, opções de rede InfiniBand NDR / Slingshot 11 / Ethernet.
- HPE ProLiant DL380a Gen11: 2U, até 4 GPUs de largura dupla ou 8 de largura simples (L40S/H100 PCIe), dois Intel Xeon com até 64 núcleos.
- Supermicro SYS-821GE-TNHR: 8U, até 8x H100/H200 SXM5, dois Intel Xeon de 4ª/5ª geração, até 8TB de DDR5.
- VRAM de GPU: H100 = 80GB HBM3; H200 = 141GB HBM3e; L40S = 48GB GDDR6.
- Consumo do rack: um único nó 8x H100/H200 SXM5 consome cerca de 10-12kW em carga máxima — dois deles já ultrapassam o teto prático de refrigeração a ar de um rack.
Qual servidor GPU comprar para o seu caso de uso?
O fornecedor certo depende da carga de trabalho e da prontidão do data center, não de preferência de marca. Clusters de treinamento, implantações de inferência pura e data centers prontos para líquido apontam cada um para uma plataforma diferente.
- Melhor para treinamento multi-nó em larga escala: Dell PowerEdge XE9680 — a maior rede de vendas corporativas e integradores de sistemas para montar um cluster multi-rack conectado por InfiniBand.
- Melhor para um data center pronto para refrigeração líquida: Lenovo ThinkSystem SR675 V3 — a refrigeração líquida direta ao chip Neptune reduz de forma relevante o custo de refrigeração em uso sustentado de GPU, com opção de CPU AMD EPYC.
- Melhor para inferência pura ou uma primeira compra menor: HPE ProLiant DL380a Gen11 — 2U, refrigerado a ar, GPUs PCIe, cerca de um terço a metade do custo de uma máquina de treinamento 8x SXM5.
- Melhor para flexibilidade de configuração e competitividade de preço: Supermicro SYS-821GE-TNHR — as opções de configuração sob medida mais amplas via canal de integradores, muitas vezes o caminho mais competitivo em preço para uma configuração 8x H100/H200 SXM5.
- Evite servidores em rack completamente se: sua necessidade real é 1-2 GPUs de capacidade de inferência para uma equipe pequena — uma workstation para LLM local custa uma fração do preço e não exige plano de refrigeração de data center.
Como os quatro fornecedores se comparam em especificações e preço?
Dell, Lenovo, HPE e Supermicro têm cada um pelo menos uma plataforma de 8 GPUs SXM5, mas divergem bastante em fator de forma, opções de refrigeração e canal de venda.
| Fornecedor / Modelo | Fator de forma | GPUs máx. | Opções de GPU | Refrigeração | Faixa de preço |
|---|---|---|---|---|---|
| Dell PowerEdge XE9680 | 6U | 8 (SXM5, NVLink) | H100 80GB / H200 141GB | Ar padrão, líquida opcional | ~US$ 200-375K (8x GPU) |
| Lenovo SR675 V3 | 3U | 8 (PCIe ou SXM) | H100 / H200 / L40S | Ar, ou líquida Neptune | Muito variável por config. |
| HPE Cray XD670 | 5U | 8 (SXM5, NVLink) | H100 80GB / H200 141GB | Ar padrão | Só sob cotação |
| HPE ProLiant DL380a Gen11 | 2U | 4 dupla / 8 simples largura | L40S / H100 PCIe | Só ar | Menor — só cotação |
| Supermicro SYS-821GE-TNHR | 8U | 8 (SXM5, NVLink) | H100 80GB / H200 141GB | Ar padrão | ~US$ 200-320K (8x GPU) |
O que o Dell PowerEdge XE9680 oferece?
O Dell PowerEdge XE9680 é um servidor em rack de 6U com 8 GPUs NVIDIA HGX H100 ou H200 SXM5 conectadas via NVLink, construído especificamente para treinamento e inferência de modelos grandes. Ele combina as GPUs com dois processadores Intel Xeon Scalable de 4ª ou 5ª geração (até 56 núcleos cada), até 32 slots DIMM DDR5 (4TB máx., 4800 MT/s) e 10 slots PCIe Gen5 x16 para rede e expansão de armazenamento.
Sai de fábrica com refrigeração a ar; a Dell oferece opções de refrigeração líquida para data centers acima de aproximadamente 20-30kW por rack, faixa em que o ar deixa de ser prático.
O preço não é publicado — cotações de revendedores e integradores para uma unidade 8x H100/H200 totalmente configurada giraram em torno de US$ 200.000-375.000, dependendo do nível de memória da GPU, RAM, armazenamento e nível de suporte. Peça uma cotação formal em Dell.com antes de orçar.
O que o Lenovo ThinkSystem SR675 V3 oferece?
O Lenovo ThinkSystem SR675 V3 é um servidor em rack de 3U que suporta até 8 GPUs de largura dupla ou simples — incluindo NVIDIA H100, H200 e L40S — combinado com dois processadores AMD EPYC 9004/9005 de 5ª geração e até 6TB de memória DDR5-4800 em 24 slots DIMM.
O diferencial é o Lenovo Neptune, um sistema de refrigeração direta ao chip e híbrida líquido-ar disponível como opção de configuração — relevante para compradores cuja instalação já opera circuitos de refrigeração líquida ou planeja adicionar um, já que reduz de forma relevante o custo de refrigeração em cargas de GPU com alta utilização sustentada em comparação com o ar sozinho.
O SR675 V3 também suporta configurações mistas de GPU (builds H200 4-GPU com NVLink, ou L40S para implantações voltadas a inferência), tornando-o a plataforma mais flexível em configuração desta comparação para quem quer uma única família de chassi cobrindo treinamento e inferência. Configure em Lenovo.com.
O que o HPE Cray XD670 e o ProLiant DL380a Gen11 oferecem?
A HPE vende dois níveis distintos de servidores GPU: o Cray XD670 para treinamento em larga escala, e o ProLiant DL380a Gen11 para inferência e implantações menores.
O Cray XD670 é um chassi 5U com 8x GPUs NVIDIA H100 ou H200 SXM5 e dois processadores Intel Xeon de 4ª geração. Seu diferencial é a escolha de rede: 8 slots PCIe Gen5 de meia altura com suporte a HPE Slingshot 11, InfiniBand NDR ou Ethernet padrão — relevante para compradores já padronizados em Slingshot por um parque HPE Cray existente.
O ProLiant DL380a Gen11 é um servidor 2U que suporta 4 GPUs de largura dupla ou 8 de largura simples (L40S ou H100 PCIe), até 3TB de DDR5 e PCIe 5.0 — a opção refrigerada a ar e de menor densidade para cargas de inferência ou uma primeira compra de GPU que não justifica uma plataforma de 8 GPUs SXM5. Ambos em HPE.com.
O que o Supermicro SYS-821GE-TNHR oferece?
O Supermicro SYS-821GE-TNHR é um servidor em rack de 8U que suporta até 8 GPUs NVIDIA HGX H100 (80GB) ou HGX H200 (141GB), dois processadores Intel Xeon Scalable de 4ª ou 5ª geração e até 8TB de memória DDR5-5600 em 32 slots DIMM — a maior capacidade máxima de RAM entre as quatro plataformas comparadas aqui.
A Supermicro vende principalmente via canal de integradores e revendedores em vez de times de vendas corporativas diretas, o que geralmente significa mais flexibilidade de configuração sob medida (baias de disco, placas de rede, redundância de fonte) e, segundo listagens atuais de revendedores, um preço inicial competitivo para uma configuração 8x H100 — cotações de configuração básica giraram em torno de US$ 200.000-320.000, com configurações completas custando mais.
Armazenamento é um ponto forte: até 19 baias hot-swap de 2,5" NVMe/SATA/SAS mais 2 slots M.2 — útil para quem roda grandes conjuntos de dados locais junto com inferência ou fine-tuning. Veja a configuração base em Supermicro.com.
H100, H200 ou L40S — qual GPU comprar?
A H200 vence em memória e largura de banda, a H100 é a opção SXM5 mais disponível e muitas vezes mais barata, e a L40S é a escolha PCIe refrigerada a ar para inferência pura. As três são GPUs de data center NVIDIA atuais em setembro de 2026; nenhuma está prestes a ser descontinuada, então a escolha é sobre adequação à carga de trabalho, não risco de obsolescência.
- Escolha H200 se: você atende cargas de contexto grande ou treina modelos maiores nos quais 80GB por GPU forçariam um sharding entre GPUs que você preferiria evitar.
- Escolha H100 se: você precisa da maior disponibilidade entre fornecedores e revendedores para um cluster de treinamento multi-nó NVLink/InfiniBand e 80GB por GPU são suficientes para o tamanho do seu modelo.
- Escolha L40S se: a carga de trabalho é só inferência, o data center só tem refrigeração a ar, e 48GB por GPU cobrem o maior modelo no nível de quantização planejado.
| GPU | VRAM | Largura de banda de memória | Melhor para |
|---|---|---|---|
| NVIDIA H100 SXM5 | 80GB HBM3 | 3,35 TB/s | Treinamento multi-nó, maior disponibilidade |
| NVIDIA H200 SXM | 141GB HBM3e | 4,8 TB/s | Serviço de contexto grande, treinamento com lotes maiores |
| NVIDIA L40S | 48GB GDDR6 | 864 GB/s | Inferência PCIe refrigerada a ar, orçamento menor |
Quanta energia e refrigeração um rack denso em GPU precisa?
Um único servidor de 8 GPUs H100/H200 SXM5 consome cerca de 10-12kW em carga máxima — só as 8 GPUs de 700W já somam 5,6kW, antes de CPUs, memória e ventoinhas. Dois ou três desses servidores no mesmo rack já ultrapassam o teto prático da refrigeração a ar.
Números do setor colocam o limite prático da refrigeração a ar em cerca de 20-40kW por rack; acima disso, refrigeração líquida (direta ao chip ou imersão) é necessária e pode suportar 100-200kW+ por rack. Para referência, o sistema em escala de rack GB200 NVL72 da NVIDIA consome no total cerca de 120-130kW — um dado sobre para onde a densidade de racks de IA está indo, não uma especificação de nenhum servidor comparado aqui.
Implicação prática para compradores: se você vai instalar mais de um ou dois servidores de 8 GPUs SXM5 por rack, planeje refrigeração líquida direta ao chip (Lenovo Neptune, ou um circuito líquido em nível de instalação) em vez de presumir que a refrigeração a ar padrão do data center vai dar conta.
Você precisa de InfiniBand ou Ethernet padrão?
Implantações de inferência de nó único não precisam de InfiniBand — Ethernet padrão de 100/200GbE é suficiente. Clusters de treinamento ou fine-tuning multi-nó, em que GPUs de vários servidores precisam sincronizar gradientes constantemente, precisam sim de uma rede dedicada de alta largura de banda e baixa latência.
As duas opções para essa rede são InfiniBand NDR (400Gb/s por link, a escolha HPC tradicional, uma NIC por GPU em plataformas principais) e RoCE v2 (RDMA sobre Ethernet convergido — por exemplo NVIDIA Spectrum-X — que entrega throughput semelhante sobre uma rede Ethernet padrão que seu time de rede talvez já opere).
- Use InfiniBand NDR se: você está montando um cluster de treinamento multi-nó dedicado e quer a rede RDMA mais madura e amplamente implantada nessa escala.
- Use RoCE v2 (Ethernet) se: seu time já opera uma rede Ethernet convergida e quer evitar manter uma rede InfiniBand separada e o conjunto de habilidades que ela exige.
- Evite as duas se: você roda inferência de nó único — rede padrão é suficiente e o custo extra da rede dedicada não se justifica.
Como dimensionar a compra de um servidor GPU pela sua carga de trabalho?
Dimensione a compra pela carga de trabalho, não pela maior configuração disponível. Implantações de inferência pura e de treinamento/fine-tuning têm requisitos fundamentalmente diferentes de GPU, memória e rede.
- 1Classificar a carga de trabalho primeiro
Why it matters: Inferência pura (servir um modelo fixo a usuários) precisa de bem menos memória de GPU e nenhuma rede multi-nó em comparação com treinamento ou fine-tuning, que precisa manter gradientes e estado do otimizador além dos pesos do modelo. - 2Estimar a necessidade de memória de GPU a partir do tamanho do modelo e quantização
Why it matters: Um modelo de 70B parâmetros em FP16 precisa de cerca de 140GB de VRAM antes de overhead — isso sozinho já descarta uma L40S de GPU única (48GB) e aponta para sharding multi-GPU H100/H200 ou um modelo menor/quantizado. - 3Decidir entre nó único e multi-nó
Why it matters: Se a VRAM combinada de um servidor de 8 GPUs cobre o modelo e a meta de concorrência, pule InfiniBand/RoCE inteiramente e economize o custo da rede; se não, orce uma rede dedicada desde o início. - 4Ajustar a refrigeração à densidade do rack antes de encomendar
Why it matters: Confirme com o time de facilities se o rack alvo suporta refrigeração líquida antes de se comprometer com mais de um ou dois servidores de 8 GPUs SXM5 por rack — adaptar a refrigeração depois da entrega é bem mais caro do que planejar com antecedência. - 5Obter cotação formal e confirmar o prazo de entrega
Why it matters: Nenhum desses fornecedores publica preço de tabela para configurações de 8 GPUs, e os prazos de entrega de servidores densos em GPU variaram de várias semanas a alguns meses dependendo da alocação de GPU — orce o cronograma, não só o preço.
Qual nível de garantia e suporte escolher?
Os quatro fornecedores oferecem suporte corporativo em níveis além da garantia básica de hardware, mas os nomes dos níveis, tempos de resposta e serviços incluídos diferem — confirme as condições atuais diretamente com o fornecedor antes da compra, já que os programas mudam.
- Dell vende seus níveis ProSupport (incluindo opções de resposta mais rápida, missão crítica) junto com o XE9680 — pergunte especificamente por suporte qualificado para servidor GPU, não o nível PowerEdge padrão.
- Lenovo vende níveis Premier Support para a linha ThinkSystem, com opções de resposta no local e monitoramento proativo.
- HPE vende suporte via Pointnext Complete Care e oferece HPE GreenLake como alternativa por consumo (pague pelo uso) à compra de capital para quem quer evitar o custo inicial de seis dígitos.
- Supermicro — as condições de suporte variam mais conforme o revendedor/integrador do que nos outros três fornecedores, já que boa parte do volume passa por esse canal em vez de vendas corporativas diretas — obtenha as condições de suporte por escrito do revendedor específico, não só da página de garantia básica da Supermicro.
- Para qualquer fornecedor: pergunte especificamente o que acontece em caso de falha de GPU (SLA de substituição, se é preciso enviar o nó inteiro ou só a bandeja de GPU) — esse é o modo de falha mais provável em um servidor denso em GPU.
Que erros os compradores corporativos cometem?
- Comprar capacidade de 8 GPUs SXM5 para uma carga de trabalho só de inferência. Se você só serve um modelo fixo a usuários, uma plataforma PCIe 2U como o ProLiant DL380a Gen11 cobre isso por uma fração do preço e da complexidade.
- Encomendar antes de confirmar a capacidade de refrigeração do rack. Um segundo ou terceiro servidor de 8 GPUs SXM5 no mesmo rack pode ultrapassar o teto prático da refrigeração a ar — confirme com facilities antes da chegada do hardware, não depois.
- Pular o orçamento de rede para um cluster "talvez a gente escale depois". Adicionar InfiniBand ou RoCE depois em uma frota de nó único já implantada é mais disruptivo do que orçar isso na compra original.
- Tratar o preço de etiqueta como o custo total. Contratos de suporte, rede, atualização de refrigeração e infraestrutura de energia costumam adicionar 15-30% acima da linha de hardware do servidor.
- Presumir que a H200 é sempre o upgrade certo em relação à H100. Se o seu modelo e tamanho de lote cabem confortavelmente em 80GB por GPU, a memória e o custo extra da H200 não trazem vantagem — verifique a necessidade real de VRAM antes de pagar o adicional.
Perguntas frequentes
Quantas GPUs H100 ou H200 eu preciso para inferência corporativa vs. treinamento?
Implantações de inferência pura que servem um modelo fixo a um número moderado de usuários simultâneos muitas vezes cabem em 1-4 GPUs e nem precisam de uma plataforma de 8 GPUs SXM5. Treinamento ou fine-tuning de modelos grandes (70B+ parâmetros) geralmente precisa da configuração completa de 8 GPUs com NVLink para manter modelo, gradientes e estado do otimizador entre as GPUs. Dimensione a compra pela carga de trabalho, não pelo padrão de "comprar a maior plataforma".
Qual é o custo total real de um servidor rack 8-GPU H100?
Cotações de revendedores e integradores para uma unidade 8x H100 totalmente configurada giraram em torno de US$ 200.000-375.000 só pelo hardware, antes de contratos de suporte, rede e qualquer upgrade de refrigeração — esses costumam adicionar outros 15-30%. Nenhum dos quatro fornecedores publica preço de tabela; peça uma cotação formal antes de orçar.
Eu preciso de refrigeração líquida para um rack denso em GPU?
Se você vai instalar mais de um ou dois servidores de 8 GPUs H100/H200 SXM5 por rack, sim — cada um consome cerca de 10-12kW em carga máxima, e o teto prático da refrigeração a ar fica em torno de 20-40kW por rack. Abaixo dessa densidade, a refrigeração a ar padrão ainda pode funcionar; confirme com facilities antes de encomendar.
Devo escolher InfiniBand ou Ethernet (RoCE) para a rede?
Para inferência de nó único, nenhum dos dois — Ethernet padrão é suficiente. Para clusters de treinamento multi-nó, InfiniBand NDR é a rede RDMA de alta largura de banda mais madura e amplamente implantada; RoCE v2 sobre Ethernet é a alternativa se seu time de rede quiser evitar manter uma rede InfiniBand separada.
Dell vs. Lenovo vs. HPE vs. Supermicro — qual fornecedor tem o melhor suporte corporativo?
Dell, Lenovo e HPE vendem suporte corporativo em níveis (ProSupport, Premier Support e Pointnext Complete Care, respectivamente) via times de conta diretos. A Supermicro vende principalmente via integradores e revendedores, então as condições de suporte variam mais conforme o revendedor do que um único nível Supermicro — obtenha as condições por escrito do revendedor específico antes da compra.
H100 vs. H200 vs. L40S — qual GPU comprar?
Escolha H200 (141GB HBM3e) para serviço de contexto grande ou treinamento em que 80GB por GPU forçariam um sharding entre GPUs que você preferiria evitar. Escolha H100 (80GB HBM3) pela maior disponibilidade entre fornecedores e revendedores em um cluster de treinamento multi-nó quando 80GB são suficientes. Escolha L40S (48GB GDDR6, PCIe, refrigerada a ar) para inferência pura com orçamento menor.
Posso misturar modelos de GPU no mesmo rack ou servidor?
Dentro de um único servidor, não — uma plataforma de 8 GPUs SXM5 é construída e conectada por NVLink em torno de um único modelo de GPU (todas H100 ou todas H200), não uma mistura. Dentro de um rack, sim — você pode rodar um servidor configurado com H100/H200 para treinamento ao lado de outro configurado com L40S para inferência, desde que a refrigeração e o consumo de cada servidor sejam contabilizados separadamente.
Que nível de garantia e suporte os compradores corporativos deveriam escolher?
No mínimo, confirme o SLA de substituição do fornecedor especificamente para falha de GPU (não só falha geral de hardware) — falha de GPU é o modo de falha mais provável em um servidor denso em GPU, e a logística de substituição (enviar uma bandeja de GPU vs. o nó inteiro) varia por fornecedor e nível. Ajuste o nível de tempo de resposta a quanto tempo de inatividade a carga de trabalho realmente tolera.
Hardware on-premises é mais barato que aluguel de GPU em nuvem em escala corporativa?
Depende da utilização, não só do preço de etiqueta — hardware on-premises tem custo inicial alto mas custo por hora baixo depois de rodando, enquanto aluguel em nuvem não tem custo inicial mas uma tarifa por hora bem mais alta. O ponto de equilíbrio costuma ser utilização sustentada e quase constante; cargas ocasionais ou intermitentes geralmente custam menos alugando. Veja nosso guia de aluguel de GPU em nuvem para uma comparação de custo detalhada.
Quanto tempo leva a entrega de uma configuração 8x H100 ou H200?
Os prazos de entrega de servidores densos em GPU variaram de várias semanas a alguns meses dependendo da alocação de GPU e da demanda atual — não é um item de estoque para a maioria dos fornecedores em configuração de 8 GPUs. Confirme o prazo como parte da cotação formal e orce o cronograma do projeto de acordo, não só o preço.
Fontes
- Página do produto Dell PowerEdge XE9680 -- dell.com/en-us/shop/ipovw/poweredge-xe9680
- Guia de produto Lenovo ThinkSystem SR675 V3 -- lenovopress.lenovo.com/lp1611-thinksystem-sr675-v3-server
- HPE Cray XD670 QuickSpecs -- hpe.com/us/en/hpe-cray-xd670.html
- Ficha técnica HPE ProLiant DL380a Gen11 -- hpe.com/us/en/compute/hpe-proliant-compute/dl380a-gen11.html
- Ficha técnica Supermicro SYS-821GE-TNHR -- supermicro.com/en/products/system/datasheet/SYS-821GE-TNHR
- Especificações NVIDIA H100/H200 Tensor Core GPU -- nvidia.com