GPU Bare Metal de alto desempenho

Servidor HGX B300 aberto, com 8 GPU NVIDIA B300
Disponível em breve

Um nó NVIDIA HGX B300 completo, em Bare Metal

8 GPU Blackwell Ultra, 2,1 TB de HBM3e e NVLink 5, sem hipervisor e sem recursos partilhados. Acesso root, com escolha do SO e da versão do driver CUDA: controle toda a pilha para treinar, ajustar e servir os seus maiores modelos.

Fale connosco

Compromisso mínimo de 12 meses

Placa NVIDIA HGX B300 com 8 módulos GPU B300 SXM6
NVIDIA

8 GPU Blackwell Ultra: comparação com o B200

Em relação ao B200, o B300 integra quase 50% mais HBM3e, oferece 1,5 vezes mais capacidade de cálculo FP4 denso e processa as camadas de atenção duas vezes mais rápido. Assim, um modelo de um bilião de parâmetros em FP8 cabe num único nó, deixando quase 1 TB para a cache KV, e os modelos de raciocínio de contexto longo apresentam um maior débito de tokens. As 8 GPU formam um único domínio NVLink 5 com 1,8 TB/s por GPU: o paralelismo tensorial e o paralelismo especializado não saem do nó.
2,1 TBde memória HBM3e no nó
108 PFLOPSde capacidade de cálculo FP4 denso no nó
Benchmark

O B300 face às GPU de referência

Escolha uma GPU: cada placa mostra a diferença em relação ao B300.

Comparar o B300 com

Cálculo IAFP8 denso, PFLOPS

B3004,5
H1001,98

Memória GPUGB

B300262
H10080

Largura de banda da memóriaTB/s

B3008
H1003,35
Por servidor HGR-AI-B3008 GPU B300
36 PFLOPS FP8
2,1 TB de HBM3e
64 TB/s de largura de banda

Dados do fabricante NVIDIA, por GPU, desempenho máximo sem esparsidade. H100 e H200 em versão SXM, RTX PRO 6000 Blackwell Server Edition (FP8 denso estimado).

Ficha técnica

O HGR-AI-B300 em detalhe

O HGR-AI-B300 em detalhe
ComponenteCaracterísticaHGR-AI-B300
GPU8 × NVIDIA B300Modelo8 × NVIDIA HGX B300 SXM6Arquitetura Blackwell Ultra
Memória GPU2,1 TB HBM3e262 GB por GPU
Largura de banda da memória64 TB/s8 TB/s por GPU
Cálculo FP4 (denso)108 PFLOPS13,5 PFLOPS por GPU
Cálculo FP8 (denso)36 PFLOPS4,5 PFLOPS por GPU
Cálculo BF16 (denso)18 PFLOPS2,25 PFLOPS por GPU
Interligação GPUNVLink de 5.ª geração1,8 TB/s por GPU, 14,4 TB/s no total
CPU2 × Intel Xeon 6Processadores2 × Intel Xeon 6776PIntel Xeon 6, Granite Rapids
Núcleos / threads128 núcleos / 256 threads2 × 64 núcleos
Frequência2,3 GHz / 3,9 GHzBase / turbo; 3,6 GHz com todos os núcleos, até 4,6 GHz com Priority Core Turbo (8 núcleos)
Cache L3336 MB
TDP350 W por CPUSem limitação térmica
RAM2 TB DDR5Capacidade2 TB DDR5 ECC
Frequência6400 MHz
Armazenamento38,4 TB de dadosSistema3 × 3,84 TB NVMe PCIe 5.0
Dados5 × 7,68 TB NVMe PCIe 5.0Formato E1.S, 38,4 TB no total
Rede e largura de bandaAté 200 Gbps privadosLargura de banda pública10 Gbps garantidos, ilimitadosOpções de 15, 20 ou 25 Gbps
Largura de banda privada100 Gbps garantidos, ilimitados2 interfaces 100GbE NVIDIA ConnectX-6 Dx
Link AggregationAté 200 Gbps privadosOVHcloud Link Aggregation nas 2 interfaces

GPU: dados do fabricante NVIDIA, desempenho máximo sem esparsidade. Configuração de hardware fixa; apenas a largura de banda pública é ajustável.

Fale sobre o HGR-AI-B300 com um especialista

Deixe os seus dados: a nossa equipa entrará em contacto consigo para estudar o seu projeto.

* Campos obrigatórios

Os dados transmitidos através deste formulário são tratados pela OVH SAS durante 36 meses, com o seu consentimento, a fim de lhe propor soluções relativas às infraestruturas, produtos e serviços das entidades do grupo OVH. Para saber mais sobre a proteção dos dados pessoais da OVH SAS e para exercer os seus direitos, clique aqui.

Respostas a questões frequentes

A que utilizações se destina o HGR-AI-B300?
O HGR-AI-B300 destina-se ao treino e à inferência de grandes modelos, em particular modelos de raciocínio e contextos longos. As suas 8 GPU interligadas e os seus 2 TB de memória de sistema foram pensados para cargas de trabalho longas e intensivas. Não se destina à computação científica de dupla precisão: o B300 privilegia o FP4 e o FP8, apresentando um débito FP64 reduzido.
Posso modificar a configuração do servidor?
A configuração de hardware é fixa: 2 TB de DDR5, 8 GPU NVIDIA B300 e o armazenamento NVMe descrito acima. Só a largura de banda pública é ajustável, de 10 Gbps (incluído) a 25 Gbps.
Em que datacenters está disponível o HGR-AI-B300?
O HGR-AI-B300 é implementado nos datacenters da OVHcloud. O seu interlocutor comercial indicará as localizações disponíveis para o seu projeto.
Como funciona o OVHcloud Link Aggregation?
O OVHcloud Link Aggregation agrupa as 2 interfaces privadas 100GbE do servidor numa única ligação lógica. Desta forma, atinge 200 Gbps de largura de banda privada agregada e beneficia de redundância em caso de falha de uma ligação.
Quais são as durações de compromisso?
O HGR-AI-B300 é disponibilizado com um compromisso mínimo de 12 meses. Online, pode optar por um compromisso de 12 ou 24 meses com pagamento inicial. Com um comercial da OVHcloud, também são possíveis compromissos de 12, 24 ou 36 meses com pagamento mensal. Não há taxas de instalação.