
NVIDIA RTX PRO 6000 Blackwell GPU-instances
NVIDIA RTX Pro 6000 Blackwell
Inference, RAG, agents of afstemming: met de RTX PRO 6000 Blackwell passen uw modellen en hun context op één kaart. Start met 1 of 2 GPU's, schaal op naar 4 of 8 wanneer uw projecten groeien, in een Europese, betrouwbare en transparante cloud.
Het geheugen dat u nodig hebt om een versnelling hoger te schakelen
Voldoende geheugen voor uw modellen, een architectuur van de nieuwste generatie en een assortiment dat met u meegroeit: alles wat u nodig hebt om uw AI-projecten in productie te nemen.
96 GB vRAM
Uw modellen en hun context passen op één kaart, met ruimte voor uw gebruikers.Blackwell-generatie
De NVIDIA Blackwell-architectuur ondersteunt het FP4-formaat, zodat er meer model in hetzelfde geheugen past.1 tot 8 GPU's
Begin op 1 GPU, schaal op naar 2 of 4 in dezelfde reeks wanneer uw projecten zich ontwikkelen.Houd de controle
Gehost in onze Europese Public Cloud, met transparante prijzen en zonder verborgen kosten.
Meer ruimte voor uw modellen, en voor uw gebruikers

Langere contexten
Het geheugen dat door het model vrij wordt gelaten, biedt ruimte voor langere documenten en meer gelijktijdige gesprekken.Comfortabeler afstemmen
Verfijn uw modellen met grotere batches, zonder te hoeven jongleren met het beschikbare geheugen.Meerdere modellen naast elkaar
Draai op een instance met 2 of 4 GPU's één model per GPU: een assistent, een inbeddings-model, een visie-model...Uw vertrouwde tools
Recente versies van PyTorch, vLLM en NVIDIA NGC-afbeeldingen ondersteunen Blackwell: u kunt aan de slag zonder iets opnieuw te hoeven leren.
SPECIFICATIES
De technische kenmerken
GPU
Van 1 tot 8 NVIDIA RTX PRO 6000 Blackwell GPU'sGPU-geheugen
96 GB supersnelle GDDR7 per GPU
Architectuur
NVIDIA Blackwell, 5e generatie Tensor Cores met ondersteuning voor FP4Automatisering
Beheer via uw control panel, API, OVHcloud CLI…
Veiligheid en compliance
ISO27001, SOC-certificeringen, hosting van gezondheidsgegevens…
Van prototype tot productie, de RTX PRO 6000 Blackwell ondersteunt AI-projecten die geheugen nodig hebben zonder zich te richten op de grootste modellen op de markt.

Bedien uw LLM's
Zet uw open-sourcemodellen in productie, met voldoende marge om gebruikerspieken op te vangen.
Koppel uw documenten
Verbind uw modellen met uw interne documentdatabases met RAG: lange contexten, antwoorden met bronvermelding.
Implementeer agents
Laat agents draaien die tools en redeneringen combineren, met het nodige geheugen om lange sessies te volgen.
Specialiseer uw modellen
Verfijn een model op uw bedrijfsdata, op 1 tot 8 GPU's, per uur of met een contractuele verplichting.
Klaar om te beginnen?
Maak een account aan en activeer uw services binnen een minuut
Profiteer van € 200 korting op uw eerste Public Cloud-project
Documentatie
- Meer informatie
Een GPU kiezen voor de inferentie van grote taalmodellen
Evalueer het geheugen dat nodig is voor het laden van het model, de grootte van de contexten, de numerieke precisie en het verwachte volume aan verzoeken. Deze afbakening helpt u bij het vergelijken van de beschikbare resources zonder uw beslissing te beperken tot alleen de theoretische kracht. Houd ook rekening met de behoeften op het gebied van data, voorbereidende verwerkingen en de schaalbaarheid van uw dienst. - Meer informatie
Een eerste Public Cloud-instance aanmaken en starten
Bereid uw Public Cloud-project voor, selecteer een regio en kies een instance die geschikt is voor uw workload. De handleiding beschrijft de belangrijkste stappen voor het aanmaken en opstarten om de toegang tot de virtuele machine te verifiëren. U kunt vervolgens uw softwareomgeving installeren, uw data organiseren en uw rekenketen valideren met een reeds beschikbare Cloud GPU-resource. - Meer informatie
Een GPU-applicatie implementeren op Managed Kubernetes Service
Configureer een GPU-versnelde applicatie in een Managed Kubernetes Service-cluster. De handleiding beschrijft de implementatie via uw beheerinterface en de uitrol met Helm. Deze aanpak helpt u bij het voorbereiden van de containerorkestratie, de toewijzing van GPU-resources en de levenscyclus van de applicatie voordat deze naar een exploitatie-omgeving gaat.