High-performance Bare Metal GPU

Open HGX B300-server, met 8 NVIDIA B300 GPU's
Binnenkort beschikbaar

Een volledige NVIDIA HGX B300-node, in bare metal

8 Blackwell Ultra GPU's, 2,1 TB HBM3e en NVLink 5, zonder hypervisor of gedeelde resources. Root-access, keuze uit meerdere OS'en en de versie van de CUDA-driver: u heeft de volledige stack in eigen hand om uw grootste modellen te trainen, te verfijnen en te leveren.

Neem contact met ons op

Minimale contractduur van 12 maanden

NVIDIA HGX B300-kaart met 8 B300 SXM6 GPU-modules
NVIDIA

8 Blackwell Ultra GPU's: wat er anders is dan bij de B200

Vergeleken met de B200 bevat de B300 bijna 50 % meer HBM3e, levert 1,5 keer meer dense FP4-rekenkracht en verwerkt aandachtslagen twee keer zo snel. Een model met duizend miljard parameters in FP8 past zo in één node, waarbij bijna 1 TB overblijft voor de KV-cache, en redeneermodellen met een groot contextvenster hebben een hogere token-doorvoersnelheid. De 8 GPU's vormen één NVLink 5-domein met 1,8 TB/s per GPU: tensor- en expert-parallelisme verlaten de node niet.
2,1 TBHBM3e-geheugen op de node
108 PFLOPSaan dense FP4-rekenkracht op de node
Benchmark

De B300 vergeleken met bekende GPU's

Kies een GPU: elke kaart toont het verschil met de B300.

Vergelijk de B300 met

AI-berekeningenFP8 dense, PFLOPS

B3004,5
H1001,98

GPU-geheugenGB

B300262
H10080

Bandbreedte van het geheugenTB/s

B3008
H1003,35
Per HGR-AI-B300-server8 GPU B300
36 PFLOPS FP8
2,1 TB HBM3e
64 TB/s bandbreedte

Fabrikantgegevens van NVIDIA, per GPU, piekprestaties zonder sparsity. H100 en H200 in SXM-versie, RTX PRO 6000 Blackwell Server Edition (FP8 dense, geschat).

Technische specificaties

De HGR-AI-B300 in detail

De HGR-AI-B300 in detail
ComponentKenmerkHGR-AI-B300
GPU8× NVIDIA B300Model8× NVIDIA HGX B300 SXM6Blackwell Ultra-architectuur
GPU-geheugen2,1 TB HBM3e262 GB per GPU
Bandbreedte van het geheugen64 TB/s8 TB/s per GPU
FP4-berekeningen (dense)108 PFLOPS13,5 PFLOPS per GPU
FP8-berekeningen (dense)36 PFLOPS4,5 PFLOPS per GPU
BF16-berekeningen (dense)18 PFLOPS2,25 PFLOPS per GPU
GPU-interconnectNVLink 5e generatie1,8 TB/s per GPU, 14,4 TB/s in totaal
CPU2× Intel Xeon 6Processors2× Intel Xeon 6776PIntel Xeon 6, Granite Rapids
Cores / threads128 cores / 256 threads2 × 64 cores
Frequentie2,3 GHz / 3,9 GHzBasis / turbo; 3,6 GHz alle cores, tot 4,6 GHz met Priority Core Turbo (8 cores)
L3-cache336 MB
TDP350 W per CPUZonder thermische throttle
RAM2 TB DDR5Capaciteit2 TB DDR5 ECC
Frequentie6.400 MHz
Opslagruimte38,4 TB aan gegevensSysteem3× 3,84 TB NVMe PCIe 5.0
Gegevens5× 7,68 TB NVMe PCIe 5.0E1.S-formaat, 38,4 TB in totaal
Netwerk & bandbreedteTot 200 Gbps privéPublieke bandbreedte10 Gbps gegarandeerd, onbeperktOpties van 15, 20 of 25 Gbps
Privé bandbreedte100 Gbps gegarandeerd, onbeperkt2 interfaces 100GbE NVIDIA ConnectX-6 Dx
Link AggregationTot 200 Gbps privéOVHcloud Link Aggregation op de 2 interfaces

GPU: fabrikantgegevens van NVIDIA, piekprestaties zonder sparsity. Vaste hardwareconfiguratie; alleen de publieke bandbreedte is aanpasbaar.

Spreek met een expert over de HGR-AI-B300

Laat uw gegevens achter: ons team neemt contact met u op om uw project te bespreken.

* Verplichte velden

U stemt toe dat de via dit formulier doorgegeven gegevens door OVH SAS gedurende een periode van 36 maanden worden verwerkt om u oplossingen aan te bieden betreffende de infrastructuren, producten en diensten van de entiteiten van de OVH-groep. Voor meer informatie over de bescherming van persoonsgegevens door OVH SAS en om uw rechten uit te oefenen, klikt u hier.

Antwoord op uw vragen

Voor welke toepassingen is de HGR-AI-B300 bedoeld?
De HGR-AI-B300 is bedoeld voor training en inferenties van grote modellen, in het bijzonder voor redeneermodellen en grote contextvensters. De 8 onderling verbonden GPU's en 2 TB systeemgeheugen zijn gemaakt voor lange en intensieve workloads. Het is niet bedoeld voor wetenschappelijke berekeningen in dubbele precisie: de B300 is eerder gericht op FP4 en FP8, en de FP64-doorvoersnelheid is beperkt.
Kan ik de serverconfiguratie wijzigen?
De hardwareconfiguratie staat vast: 2 TB DDR5, 8 NVIDIA B300 GPU's en de hierboven beschreven NVMe-opslag. Alleen de publieke bandbreedte is aanpasbaar, van 10 Gbps (inbegrepen) tot 25 Gbps.
In welke datacenters is de HGR-AI-B300 beschikbaar?
De HGR-AI-B300 wordt geïmplementeerd in de datacenters van OVHcloud. Uw commerciële contactpersoon zal u vertellen welke locaties voor uw project beschikbaar zijn.
Hoe werkt OVHcloud Link Aggregation?
OVHcloud Link Aggregation bundelt de 2 privé 100GbE-interfaces van de server tot één logische link. Zo bereikt u 200 Gbps aan geaggregeerde privé bandbreedte en profiteert u van redundantie bij een uitgevallen link.
Welke contractuele looptijden zijn mogelijk?
De HGR-AI-B300 is verkrijgbaar met een minimale contractuele verplichting van 12 maanden. Online kunt u kiezen voor een contractduur van 12 of 24 maanden met een eenmalige betaling vooraf. Via een verkoopmedewerker van OVHcloud zijn ook contracten van 12, 24 of 36 maanden met maandelijkse betaling mogelijk. De installatiekosten zijn gratis.