Bare Metal GPU haute performance

Carte NVIDIA HGX B300 et ses 8 GPU B300
Bientôt disponible

Un nœud NVIDIA HGX B300 complet, en bare metal

8 GPU Blackwell Ultra, 2,1 To de HBM3e et NVLink 5, sans hyperviseur ni ressource partagée. Accès root, choix de l'OS et de la version du driver CUDA : vous maîtrisez toute la pile pour entraîner, affiner et servir vos plus grands modèles.

Nous contacter

Engagement minimum de 12 mois

Carte NVIDIA HGX B300 et ses 8 modules GPU B300 SXM6
NVIDIA

8 GPU Blackwell Ultra : ce qui change face au B200

Par rapport au B200, le B300 embarque près de 50 % de HBM3e en plus, délivre 1,5 fois plus de calcul FP4 dense et traite les couches d'attention deux fois plus vite. Un modèle de mille milliards de paramètres en FP8 tient ainsi dans un seul nœud en laissant près d'1 To au KV cache, et les modèles de raisonnement à contexte long gagnent en débit de tokens. Les 8 GPU forment un seul domaine NVLink 5 à 1,8 To/s par GPU : tensor et expert parallelism ne quittent pas le nœud.
2,1 Tode mémoire HBM3e sur le nœud
108 PFLOPSde calcul FP4 dense sur le nœud
Benchmark

Le B300 face aux GPU de référence

Choisissez un GPU : chaque carte montre l'écart avec le B300.

Comparer le B300 avec

Calcul IAFP8 dense, PFLOPS

B3004,5
H1001,98

Mémoire GPUGo

B300262
H10080

Bande passante mémoireTo/s

B3008
H1003,35
Par serveur HGR-AI-B3008 GPU B300
36 PFLOPS FP8
2,1 To de HBM3e
64 To/s de bande passante

Données constructeur NVIDIA, par GPU, performances crête sans sparsité. H100 et H200 en version SXM, RTX PRO 6000 Blackwell Server Edition (FP8 dense estimé).

Fiche technique

Le HGR-AI-B300 en détail

Le HGR-AI-B300 en détail
ComposantCaractéristiqueHGR-AI-B300
GPU8× NVIDIA B300Modèle8× NVIDIA HGX B300 SXM6Architecture Blackwell Ultra
Mémoire GPU2,1 To HBM3e262 Go par GPU
Bande passante mémoire64 To/s8 To/s par GPU
Calcul FP4 (dense)108 PFLOPS13,5 PFLOPS par GPU
Calcul FP8 (dense)36 PFLOPS4,5 PFLOPS par GPU
Calcul BF16 (dense)18 PFLOPS2,25 PFLOPS par GPU
Interconnexion GPUNVLink 5e génération1,8 To/s par GPU, 14,4 To/s au total
CPU2× Intel Xeon 6Processeurs2× Intel Xeon 6776PIntel Xeon 6, Granite Rapids
Cœurs / threads128 cœurs / 256 threads2 × 64 cœurs
Fréquence2,3 GHz / 3,9 GHzBase / turbo ; 3,6 GHz tous cœurs, jusqu’à 4,6 GHz avec Priority Core Turbo (8 cœurs)
Cache L3336 Mo
TDP350 W par CPUSans bridage thermique
RAM2 To DDR5Capacité2 To DDR5 ECC
Fréquence6 400 MHz
Stockage38,4 To de donnéesSystème3× 3,84 To NVMe PCIe 5.0
Données5× 7,68 To NVMe PCIe 5.0Format E1.S, 38,4 To au total
Réseau & bande passanteJusqu’à 200 Gbit/s privésBande passante publique10 Gbit/s garantis, illimitésOptions à 15, 20 ou 25 Gbit/s
Bande passante privée100 Gbit/s garantis, illimités2 interfaces 100GbE NVIDIA ConnectX-6 Dx
Link AggregationJusqu’à 200 Gbit/s privésOVHcloud Link Aggregation sur les 2 interfaces

GPU : données constructeur NVIDIA, performances crête sans sparsité. Configuration matérielle fixe ; seule la bande passante publique est ajustable.

Parlez du HGR-AI-B300 avec un expert

Laissez vos coordonnées : notre équipe vous recontacte pour étudier votre projet.

* Champs obligatoires

Les données transmises via ce formulaire sont traitées par OVH SAS pendant 36 mois, avec votre consentement, afin de vous proposer des solutions sur les infrastructures, produits et services des entités du groupe OVH. Pour en savoir plus sur la protection des données personnelles chez OVH SAS et exercer vos droits, cliquez ici.

Les questions que vous vous posez

À quels usages le HGR-AI-B300 est-il destiné ?
Le HGR-AI-B300 s'adresse à l'entraînement et à l'inférence de grands modèles, en particulier aux modèles de raisonnement et aux contextes longs. Ses 8 GPU interconnectés et ses 2 To de mémoire système sont faits pour des charges de travail longues et intensives. Il ne vise pas le calcul scientifique en double précision : le B300 privilégie le FP4 et le FP8, et son débit FP64 est réduit.
Puis-je modifier la configuration du serveur ?
La configuration matérielle est fixe : 2 To de DDR5, 8 GPU NVIDIA B300 et le stockage NVMe décrit ci-dessus. Seule la bande passante publique est ajustable, de 10 Gbit/s (inclus) à 25 Gbit/s.
Dans quels datacentres le HGR-AI-B300 est-il disponible ?
Le HGR-AI-B300 est déployé dans les datacentres OVHcloud. Votre interlocuteur commercial vous indique les localisations disponibles pour votre projet.
Comment fonctionne OVHcloud Link Aggregation ?
OVHcloud Link Aggregation regroupe les 2 interfaces privées 100GbE du serveur en un seul lien logique. Vous atteignez ainsi 200 Gbit/s de bande passante privée agrégée, et bénéficiez d'une redondance en cas de défaillance d'un lien.
Quelles durées d'engagement sont proposées ?
Le HGR-AI-B300 est proposé avec un engagement minimum de 12 mois. En ligne, vous pouvez vous engager sur 12 ou 24 mois avec paiement initial. Avec un commercial OVHcloud, des engagements de 12, 24 ou 36 mois avec paiement mensuel sont également possibles. Les frais d'installation sont offerts.