Bare Metal GPU o wysokiej wydajności

Otwarty serwer HGX B300, wyposażony w 8 GPU NVIDIA B300
Dostępny wkrótce

Kompletny węzeł NVIDIA HGX B300 w wersji bare metal

8 GPU Blackwell Ultra, 2,1 TB HBM3e i NVLink 5, bez hiperwizora i współdzielonych zasobów. Dostęp root, wybór systemu operacyjnego i wersji sterownika CUDA – pełna kontrola nad całym stosem technologicznym, dzięki czemu możesz trenować, dostrajać i uruchamiać nawet największe modele AI.

Skontaktuj się z nami

Umowa na minimum 12 miesięcy

Karta NVIDIA HGX B300 i 8 modułów GPU B300 SXM6
NVIDIA

8 GPU Blackwell Ultra: co się zmienia w porównaniu z B200

B300 ma niemal 50% więcej pamięci HBM3e niż B200, zapewnia 1,5 raza większą moc obliczeniową FP4 dense i dwukrotnie szybciej przetwarza warstwy attention. Dzięki temu model o bilionie parametrów w formacie FP8 mieści się na jednym węźle, a niemal 1 TB pamięci pozostaje dostępny dla KV cache. Zwiększa się również przepustowość tokenów w modelach rozumujących z długim kontekstem. 8 GPU tworzy jedną domenę NVLink 5 o przepustowości 1,8 TBps per GPU. Tensor i expert parallelism nie wykraczają poza jeden węzeł.
2,1 TBpamięci HBM3e per węzeł
108 PFLOPSmocy obliczeniowej FP4 dense per węzeł
Benchmark

Porównanie B300 z referencyjnymi GPU

Wybierz GPU – każda karta pokazuje różnicę względem B300.

Porównaj B300 z

Obliczenia AIFP8 dense, PFLOPS

B3004,5
H1001,98

Pamięć GPUGB

B300262
H10080

Przepustowość pamięciTBps

B3008
H1003,35
Per serwer HGR-AI-B3008 GPU B300
36 PFLOPS FP8
2,1 TB pamięci HBM3e
64 TBps przepustowości

Dane producenta NVIDIA, per GPU, szczytowa wydajność bez sparsity. H100 i H200 w wersji SXM, RTX PRO 6000 Blackwell Server Edition (szacowana wydajność FP8 dense).

Specyfikacja techniczna

Szczegóły HGR-AI-B300

Szczegóły HGR-AI-B300
KomponentCharakterystykaHGR-AI-B300
GPU8× NVIDIA B300Model8× NVIDIA HGX B300 SXM6Architektura Blackwell Ultra
Pamięć GPU2,1 TB HBM3e262 GB per GPU
Przepustowość pamięci64 TBps8 TBps per GPU
Obliczenia FP4 (dense)108 PFLOPS13,5 PFLOPS per GPU
Obliczenia FP8 (dense)36 PFLOPS4,5 PFLOPS per GPU
Obliczenia BF16 (dense)18 PFLOPS2,25 PFLOPS per GPU
Połączenie między GPUNVLink 5. generacji1,8 TBps per GPU, 14,4 TBps łącznie
CPU2× Intel Xeon 6Procesory2× Intel Xeon 6776PIntel Xeon 6, Granite Rapids
Rdzenie / wątki128 rdzeni / 256 wątków2 × 64 rdzenie
Częstotliwość2,3 GHz / 3,9 GHzBaza / turbo; 3,6 GHz wszystkie rdzenie, do 4,6 GHz z Priority Core Turbo (8 rdzeni)
Cache L3336 MB
TDP350 W per CPUBez thermal throttling
RAM2 TB DDR5Pojemność2 TB DDR5 ECC
Częstotliwość6 400 MHz
Storage38,4 TB danychSystem3× 3,84 TB NVMe PCIe 5.0
Dane5× 7,68 TB NVMe PCIe 5.0Format E1.S, łącznie 38,4 TB
Sieć i przepustowośćDo 200 Gbps do sieci prywatnejPrzepustowość do sieci publicznej10 Gbps gwarant. przepustowości , nielimitowany transferOpcje 15, 20 lub 25 Gbps
Przepustowość do sieci prywatnej100 Gbps gwarant. przepustowości , nielimitowany transfer2 interfejsy 100GbE NVIDIA ConnectX-6 Dx
Link AggregationDo 200 Gbps do sieci prywatnejOVHcloud Link Aggregation dla dwóch interfejsów

GPU: dane producenta NVIDIA, szczytowa wydajność bez sparsity. Konfiguracja sprzętowa jest stała. Możesz zmienić jedynie przepustowość do sieci publicznej.

Porozmawiaj z ekspertem o HGR-AI-B300

Podaj dane kontaktowe: nasz zespół skontaktuje się z Tobą, aby omówić Twój projekt.

* Pola obowiązkowe

Dane przesyłane za pomocą tego formularza są przetwarzane, za Twoją zgodą, przez OVH SAS przez okres 36 miesięcy i mogą być użyte w celu przedstawienia Ci ofert dotyczących infrastruktury, produktów i usług podmiotów z grupy OVH. Aby dowiedzieć się więcej na temat ochrony danych osobowych w OVH SAS i skorzystać z przysługujących Ci praw, kliknij tutaj.

Najczęściej zadawane pytania

Do jakich zastosowań przeznaczony jest HGR-AI-B300?
HGR-AI-B300 jest przeznaczony do trenowania dużych modeli AI i uruchamiania na nich inferencji, szczególnie modeli rozumujących oraz modeli obsługujących długi kontekst. 8 połączonych GPU i 2 TB pamięci systemowej umożliwiają długotrwałą obsługę intensywnych obciążeń. HGR-AI-B300 nie służy do obliczeń naukowych wymagających podwójnej precyzji. Został zoptymalizowany pod kątem formatów FP4 i FP8, a jego wydajność w FP64 jest ograniczona.
Czy mogę zmienić konfigurację serwera?
Konfiguracja sprzętowa jest stała: 2 TB DDR5, 8 GPU NVIDIA B300 oraz storage NVMe opisany powyżej. Możesz zmienić jedynie przepustowość do sieci publicznej – od 10 Gbps (w cenie) do 25 Gbps.
W jakich centrach danych dostępny jest HGR-AI-B300?
Serwer HGR-AI-B300 jest wdrażany w centrach danych OVHcloud. Twój opiekun handlowy wskaże lokalizacje dostępne dla Twojego projektu.
Jak działa OVHcloud Link Aggregation?
OVHcloud Link Aggregation łączy dwa interfejsy 100 GbE sieci prywatnej serwera w jedno łącze logiczne. Dzięki temu zyskujesz łączną przepustowość 200 Gbps do sieci prywatnej oraz redundancję na wypadek awarii jednego z łączy.
Na jaki okres można zawrzeć umowę?
W przypadku serwera HGR-AI-B300 minimalny okres umowy wynosi 12 miesięcy. Przy zamówieniu online możesz wybrać umowę na 12 lub 24 miesiące z płatnością z góry. Jeśli chcesz zawrzeć umowę na 12, 24 lub 36 miesięcy z płatnością miesięczną, skontaktuj się z opiekunem handlowym OVHcloud. Nie pobieramy opłaty instalacyjnej.