custom background image

GPU-instanties H100


Versnel uw AI-projecten met de GPU-instanties H100

Topprestaties voor training, inferentie en de meest veeleisende dataloads — in een Europese, betrouwbare en transparante cloud.

Waarom kiezen voor NVIDIA H100 GPU's?

Krachtig

Tot 4× sneller dan de A100 voor het trainen van complexe AI-modellen en het genereren van inhoud.

Krachtig.

De Transformer Engine FP8 optimaliseert de berekeningen voor LLM en GenAI, wat een significante prestatie- en energiewinst oplevert.

Compatibel

Volledig compatibel met CUDA, PyTorch, TensorFlow en JAX: benut uw bestaande optimalisaties zonder aanpassing.

Soeverein

Beschikbaar in onze Public Cloud, die flexibiliteit, transparantie en Europese naleving garandeert.

Geoptimaliseerd voor uw IA- en Data-werkbelastingen

Training en inferentie van LLM

Versnel uw modellen tot 70B parameters (Llama 2, Mistral, Falcon, enz.) dankzij de kracht van de Transformer Engine en de geheugenbandbreedte van de H100.

Multimodale generatieve IA

Creëer, train en implementeer uw modellen voor het genereren van afbeeldingen, audio en video op grote schaal, soepel en zonder problemen.

Data Science & HPC

Optimaliseer uw intensieve berekeningen: simulaties, wetenschappelijke modellering of massale parallelle verwerking - met constante prestaties en lage latentie.

SPECIFICATIES

Technische kenmerken

GPU

1 tot 4 GPU's per instance

GPU-geheugen

80 GB ultra-snelle HBM3 per GPU

Krachtige opslag

NVMe Passthrough lokaal op de meeste instanties

Publiek & privé netwerk

Tot 25 Gbps inbegrepen

Automatisering

Beheer via uw klantportaal, API, OVHcloud CLI, ...

Beveiligd en privé

Certificeringen ISO27001, SOC, Gezondheidsgegevens, ...

Maximaliseer uw ROI met een flexibele GPU-infrastructuur

Prijsdoorzichtigheid

Betaal alleen voor de middelen die je gebruikt, zonder verborgen kosten. Je houdt de controle over je kosten terwijl je profiteert van optimale prestaties.

Directe schaalbaarheid

Verhoog of verlaag je GPU-middelen op aanvraag, met een paar klikken. Pas je capaciteit eenvoudig aan je AI- en dataverwerkingslasten aan.

Soevereiniteit en naleving

Uw gegevens worden gehost op een gecertificeerde Europese cloud, die veiligheid, transparantie en naleving van de regelgeving (GDPR, ISO, HDS) garandeert.

Toegankelijkheid zonder instapdrempel

Toegankelijke H100 GPU's voor iedereen: van proof of concept tot productie-implementatie, zonder volumeverplichting of hardwarebeperkingen.

Hoe kies je je GPU voor inferentie?

Compacte modellen

Tot 7B parameters, een A100 biedt een uitstekende prijs/prestatieverhouding.

Intermediaire LLM's

Tot 30B, de H100 is de beste balans tussen snelheid, energie-efficiëntie en frameworkcompatibiliteit.

Grote modellen

Van 65B+ of uitgebreide contextvensters, de H200 biedt de benodigde geheugendoorvoer voor stabiele responstijden.

Antwoord op uw vragen

Welke SLA wordt door OVHcloud gegarandeerd voor een GPU-instance?

De maandelijkse beschikbaarheid in het SLA bedraagt 99,99 % voor GPU-instances. Zie de algemene voorwaarden voor meer informatie.

Welke hypervisor wordt gebruikt voor virtualisatie van instances?

Net als andere instances worden de GPU-instances gevirtualiseerd door de KVM-hypervisor uit de Linux-kernel.

Wat is PCI Passthrough?

Kaarten met grafische processors worden aangestuurd via de PCI-bus van de fysieke server. PCI Passthrough is een functie van de hypervisor waarmee een virtuele machine over dedicated hardware beschikt door een directe toegang tot de PCI-bus die niet via virtualisatie loopt.

Kan de grootte van een Cloud GPU-instance veranderd worden?

Ja, Cloud GPU-instances kunnen na een herstart overschakelen naar een hoger model. Ze kunnen echter niet overschakelen naar een lager model.

Beschikken Cloud GPU-instances over een Anti-DDoS bescherming?

Ja, onze Anti-DDoS bescherming is zonder extra kosten inbegrepen bij alle OVHcloud-oplossingen.

Kan een instance die maandelijks gefactureerd wordt, omgezet worden naar een facturering per uur?

Als er reeds per maand gefactureerd wordt, dan kan er niet naar een facturatie per uur worden overgeschakeld. Kies voordat u de instance start zorgvuldig de geschiktste manier van factureren voor uw project.

Wat is een Cloud GPU?

Een Cloud GPU verwijst naar een rekendienst in de cloud die grafische verwerkingseenheden (GPU) levert om taken uit te voeren die veel rekenkracht vereisen. Deze taken kunnen grafische rendering, machinaal leren, gegevensanalyse en wetenschappelijke simulaties omvatten. In tegenstelling tot GPU's op locatie, die aanzienlijke hardware-investeringen vereisen, bieden Cloud GPU's een zekere mate van flexibiliteit en schaalbaarheid. Gebruikers kunnen on demand toegang krijgen tot high-performance computing-resources en alleen betalen voor wat ze gebruiken.

Wat is een H100- en A100-server?

Servers met NVIDIA H100- en A100-GPU's zijn systemen die ontworpen zijn om buitengewone prestaties te leveren op het gebied van High Performance Computing (HPC), artificiële intelligentie (AI) en gegevensanalyse.

Wat is NGC?

NVIDIA Cloud GPU (NGC) is een cloudcomputingplatform van NVIDIA. Het biedt een complete catalogus aan geoptimaliseerde, GPU-versnelde software voor artificiële intelligentie (AI), machine learning (ML) en high-performance computing (HPC). NGC heeft tot doel de implementatie van AI-applicaties en programma’s voor wetenschappelijke berekeningen te vereenvoudigen en te versnellen door containers, reeds getrainde modellen, SDK’s en andere tools te leveren, die allemaal geoptimaliseerd zijn om volop gebruik te maken van NVIDIA GPU’s.

Waarom zou u een Cloud GPU gebruiken?

Het gebruik van een Cloud GPU biedt veel voordelen, vooral voor bedrijven, onderzoekers en ontwikkelaars die actief zijn op veeleisende gebieden, zoals artificiële intelligentie (AI), grafische rendering, machinaal leren (ML) en high-performance computing (HPC).