Illustratie domeinnamen

NVIDIA RTX PRO 6000 Blackwell GPU-instances


NVIDIA RTX Pro 6000 Blackwell

Inference, RAG, agents of afstemming: met de RTX PRO 6000 Blackwell passen uw modellen en hun context op één kaart. Start met 1 of 2 GPU's, schaal op naar 4 of 8 wanneer uw projecten groeien, in een Europese, betrouwbare en transparante cloud.

Het geheugen dat u nodig hebt om een versnelling hoger te schakelen

Voldoende geheugen voor uw modellen, een architectuur van de nieuwste generatie en een assortiment dat met u meegroeit: alles wat u nodig hebt om uw AI-projecten in productie te nemen.
  • 96 GB vRAM

    Uw modellen en hun context passen op één kaart, met ruimte voor uw gebruikers.
  • Blackwell-generatie

    De NVIDIA Blackwell-architectuur ondersteunt het FP4-formaat, zodat er meer model in hetzelfde geheugen past.
  • 1 tot 8 GPU's

    Begin op 1 GPU, schaal op naar 2 of 4 in dezelfde reeks wanneer uw projecten zich ontwikkelen.
  • Houd de controle

    Gehost in onze Europese Public Cloud, met transparante prijzen en zonder verborgen kosten.

Meer ruimte voor uw modellen, en voor uw gebruikers

  • flexible OVHcloud

    Langere contexten

    Het geheugen dat door het model vrij wordt gelaten, biedt ruimte voor langere documenten en meer gelijktijdige gesprekken.
  • AI Notebooks

    Comfortabeler afstemmen

    Verfijn uw modellen met grotere batches, zonder te hoeven jongleren met het beschikbare geheugen.
  • AI-modellen

    Meerdere modellen naast elkaar

    Draai op een instance met 2 of 4 GPU's één model per GPU: een assistent, een inbeddings-model, een visie-model...
  • App Script

    Uw vertrouwde tools

    Recente versies van PyTorch, vLLM en NVIDIA NGC-afbeeldingen ondersteunen Blackwell: u kunt aan de slag zonder iets opnieuw te hoeven leren.

SPECIFICATIES

De technische kenmerken

  • GPU

    GPU

    Van 1 tot 8 NVIDIA RTX PRO 6000 Blackwell GPU's
  • GPU

    GPU-geheugen

    96 GB supersnelle GDDR7 per GPU
  • Architectuur

    NVIDIA Blackwell, 5e generatie Tensor Cores met ondersteuning voor FP4
  • Automatisering

    Beheer via uw control panel, API, OVHcloud CLI…
  • Shield Cloud

    Veiligheid en compliance

    ISO27001, SOC-certificeringen, hosting van gezondheidsgegevens…

Van prototype tot productie, de RTX PRO 6000 Blackwell ondersteunt AI-projecten die geheugen nodig hebben zonder zich te richten op de grootste modellen op de markt.

  • adjustable OVHcloud

    Bedien uw LLM's

    Zet uw open-sourcemodellen in productie, met voldoende marge om gebruikerspieken op te vangen.
  • innovative OVHcloud

    Koppel uw documenten

    Verbind uw modellen met uw interne documentdatabases met RAG: lange contexten, antwoorden met bronvermelding.
  • global OVHcloud

    Implementeer agents

    Laat agents draaien die tools en redeneringen combineren, met het nodige geheugen om lange sessies te volgen.
  • adjustable OVHcloud

    Specialiseer uw modellen

    Verfijn een model op uw bedrijfsdata, op 1 tot 8 GPU's, per uur of met een contractuele verplichting.

Klaar om te beginnen?

Maak een account aan en activeer uw services binnen een minuut

Profiteer van € 200 korting op uw eerste Public Cloud-project

Documentatie

  • Een GPU kiezen voor de inferentie van grote taalmodellen

    Evalueer het geheugen dat nodig is voor het laden van het model, de grootte van de contexten, de numerieke precisie en het verwachte volume aan verzoeken. Deze afbakening helpt u bij het vergelijken van de beschikbare resources zonder uw beslissing te beperken tot alleen de theoretische kracht. Houd ook rekening met de behoeften op het gebied van data, voorbereidende verwerkingen en de schaalbaarheid van uw dienst.
    Meer informatie
  • Een eerste Public Cloud-instance aanmaken en starten

    Bereid uw Public Cloud-project voor, selecteer een regio en kies een instance die geschikt is voor uw workload. De handleiding beschrijft de belangrijkste stappen voor het aanmaken en opstarten om de toegang tot de virtuele machine te verifiëren. U kunt vervolgens uw softwareomgeving installeren, uw data organiseren en uw rekenketen valideren met een reeds beschikbare Cloud GPU-resource.
    Meer informatie
  • Een GPU-applicatie implementeren op Managed Kubernetes Service

    Configureer een GPU-versnelde applicatie in een Managed Kubernetes Service-cluster. De handleiding beschrijft de implementatie via uw beheerinterface en de uitrol met Helm. Deze aanpak helpt u bij het voorbereiden van de containerorkestratie, de toewijzing van GPU-resources en de levenscyclus van de applicatie voordat deze naar een exploitatie-omgeving gaat.
    Meer informatie

Veelgestelde vragen over GPU-instances

Zijn de GPU's van de 2 en 4 GPU-instances verbonden via NVLink?

Nee. De RTX PRO 6000 Blackwell beschikt niet over NVLink: de GPU's communiceren via de PCIe-bus. Deze configuratie is geschikt voor het bedienen van meerdere modellen parallel, één per GPU, of modellen die over enkele GPU's zijn verdeeld. Kies de 8 GPU B300-instance voor een zeer groot model dat over meerdere GPU's is verdeeld.

Welke NVIDIA RTX PRO Blackwell-configuraties kunnen worden gereserveerd?

Reserveringen gelden uitsluitend voor NVIDIA RTX PRO 6000 Blackwell-configuraties met 8 GPU's. Er zijn twee contractuele verplichtingen mogelijk: voor één jaar of voor drie jaar. Abonneren is pas mogelijk bij de lancering van deze nieuwe instances.

Voor welke projecten kies ik de RTX PRO 6000 Blackwell?

Voor inferentie, RAG, agents en afstemmen van modellen tot ongeveer 40 miljard parameters. De 96 GB per GPU biedt ruimte aan het model en de context op één kaart, zonder dat u hoeft over te stappen naar een GPU uit een hogere klasse.

Wat is het verschil met de L40S?

De RTX PRO 6000 Blackwell biedt 96 GB GDDR7-geheugen per GPU, twee keer zoveel als de 48 GB van de L40S. Deze is gebaseerd op de NVIDIA Blackwell-architectuur, die het FP4-formaat ondersteunt. De L40S blijft een uitstekende keuze voor compactere modellen en multimodale GenAI.

Wanneer kiezen voor een H100, een H200 of een B300?

Voor het trainen van modellen op grote schaal of het bedienen van grotere modellen bieden onze H100-, H200- en B300-instances HBM-geheugen met een zeer hoge bandbreedte. De 8 GPU B300-instance verbindt bovendien zijn GPU's via NVLink voor de grootste modellen.

Welk beschikbaarheidsniveau garandeert een GPU-instance?

De service level agreement (SLA) garandeert 99,99% maandelijkse beschikbaarheid op GPU-instances. Deze waarde vormt een referentiepunt voor het ontwerpen van uw bedrijfscontinuïteit en het organiseren van de componenten die bij uw architectuur horen.